Technologická singularita

Technologická singularita

Rudolf Pecinovský Informatika XXIX 2016 Copyright © Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze 1.00.2413, uloženo po 18.1.2016 – 13:43

1 z 44

Obsah Zajímavé starší předpovědi 1/3 Zajímavé starší předpovědi 2/3 Zajímavé starší předpovědi 3/3 Co to je? I. J. Good Moje zkušenost Opozice proti singularitě Stephen Hawking & spol. – The Independent Názor AI × AGI (Artificial General Intelligence) Co stroje umějí a neumějí – příklady NAI Jak vytvořit AGI Postupné budování AGI Lineární × exponenciální růst Seznamovací příklad: šachy Příklad 1: Analýza genomu Graf ceny analýzy genomu

Graf růstu databáze Příklad 2: Vývoj života Moorův zákon Skutečný vývoj probíhá v S-křivkách Zvyšování výkonu počítačů K jeho udržení je třeba změn technologie Nezávislost na měřené oblasti Stabilita změny Odhad – Kurzweil 1/2 Odhad – Kurzweil 2/2 Odhady příchodu singularity Vernor Vinge Vlastní příchod singularity Dlouhodobé predikce – 6 etap Skeptický názor Skeptický názor Otázky?

Copyright © Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze 1.00.2413, uloženo po 18.1.2016 – 13:43

2 z 44

Zajímavé starší předpovědi ►

1/3

Jízda vlakem vysokou rychlostí není možná, protože cestující nebudou moci dýchat a zemřou na udušení

Dr. Dionysys Larder (1793–1859)

►

Fonograf nemá žádnou možnost komerčního využití

►

Rentgenové paprsky jsou jen takový hoax

►

Žádný stroj těžší než vzduch nemůže letět

►

Rádio nemá žádnou budoucnost

Thomas Alva Edison (1880)

Lord Kelvin, prezident královské společnosti (1883)


Lord Kelvin (1895) Lord Kelvin (1897) 3 z 44

Zajímavé starší předpovědi ►

►

2/3

Kdo by ksakru chtěl poslouchat, jak herci mluví?

H. M. Warner, spoluzakladatel Warner Brothers (1927)

Není sebemenšího náznaku, že by se podařilo využít jadernou energii. Muselo by to znamenat rozbití atomu.

Albert Einstein (1932)

►

►

Raketa nikdy nebude schopna opustit atmosféru

New York Times (1936)

Televize se neuchytí, protože lidé nevydrží koukat každý večer na dřevěnou krabici

Darryl Zanuck, 20th Century Fox (1946)

►

Vysavače na jaderný pohon budou realitou do deseti let

Alex Lewyt, prezident společnosti Lewyt vyrábějící vysavače (1955)


4 z 44

Zajímavé starší předpovědi

3/3

►

Světový trh je schopen dohromady využít možná tak pět počítačů.

►

A k čemu je to dobré?

►

Neexistuje důvod, proč by kdokoli chtěl doma počítač

Thomas Watson, IBM (1943)

Robert Lloyd z IBM o mikroprocesoru (1968)


Ken Olson, DEC (1977)

5 z 44

Co to je? ►

►

►

Technologická singularita nebo zkráceně Singularita (s velkým počátečním písmenem, v angličtině The Singularity) je ve futurologii, kybernetice, informatice, moderní mytologii a v literatuře typu science fiction označení zlomového bodu technologického výzkumu Za bod zlomu je považován okamžik, kdy člověkem navržený stroj dokáže samostatně navrhnout a vytvořit stroj, který bude dokonalejší než navrhovatel Termín poprvé použil von Neumann v roce 1958 ●

►

Neustále se zrychlující vývoj technologií musí logicky dojít do okamžiku historické singularity, po němž se lidské bytí radikálně změní

A. C. Clark: Dostatečně pokročilou technologii nelze odlišit od magie Copyright © Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze 1.00.2413, uloženo po 18.1.2016 – 13:43

6 z 44

I. J. Good ►

Definujme ultrainteligentní stroj jako stroj, který daleko předčí intelektuální činnosti sebechytřejšího člověka. Protože vývoj strojů je jednou z těchto intelektuálních činností, ultrainteligentní stroj může vyvíjet ještě lepší stroje; dojde nepochybně k "inteligenční explozi" a lidská inteligence zůstane daleko vzadu. První ultrainteligentní stroj bude proto posledním vynálezem, který člověk udělá, pokud tento stroj bude dostatečně hodný na to, aby nám řekl, jak ho můžeme udržet pod kontrolou.


7 z 44

Moje zkušenost ►

► ►

►

Pro získání kandidátského minima bylo v roce 1980 potřeba napsat odbornou práci z Marxismu-Leninismu Zvolil jsem téma: možnosti a nemožnosti umělé inteligence Při psaní jsem zjistil, že značná část lidí nevěří, že stroj nikdy dosáhne schopností, které se už v dané době testovaly v některé laboratoři Inteligence nemá svoji obecně uznávanou definici; řada lidí považuje za inteligenci to, co stroje ještě nedokáží ●

Oblasti, V nichž se stroje dokáží orientovat a pohybovat (a to často lépe než člověk) nepovažují za ty, které vyžadují uplatnění inteligence


8 z 44

Opozice proti singularitě ► ►

► ►

Dlouhou dobu řada vědců možný příchod Singularity nepřipouštěla Dnes opozice proti singularitě slábne a diskutéři se již nehádají o to zda, ale kdy Odhady se pohybuje mezi lety 2020 a 2045 Hodně velká skupina vědců se shoduje na tom, že singularita je sice pouze jeden z mnoha scénářů budoucího vývoje, ale je to jediný nekatastrofický scénář


9 z 44

Stephen Hawking & spol. – The Independent ►

Mysleli byste si, že čelíc možné budoucnosti singularity s nevypočitatelnými zisky a ztrátami, udělají experti všechno možné proto, aby zabezpečili co nejlepší výsledek? Mýlíte se. Kdyby nám mimozemská civilizace poslala vzkaz: „Přijdeme za několik desetiletí“, odpovíme jen „OK, zavolejte nám, až dorazíte, necháme rozsvíceno“? Pravděpodobně ne, jenomže to je to, co se dnes děje s umělou inteligencí.


10 z 44

Názor ►

Náš genom, tedy kompletní genetická informace o struktuře celého organismu, je v současnosti na 99,5 % shodná s neandrtálcem či dokonce se šimpanzem. Pouhý půlprocentní rozdíl znamená, že jeden druh stále loupá banány v lese a druhý objeví matematiku, fyziku, podrobí si atomy a létá do vesmíru. Naše inteligence tak možná není tak velká, jak se zdá. Možná je dokonce tak titěrná, že je spíše k smíchu. Prostě jsme chytřejší opičky, co si hrají s „atůmky“.


11 z 44

AI × AGI (Artificial General Intelligence) ►

AGI je schopnost dosáhnout komplexních cílů v komplexním prostředí při využití omezených výpočetních zdrojů ● ● ●

►

Převážná většina výzkumů AI spadá do kategorie Narrow AI (NAI) ●

►

Musí být autonomní Musí chápat sebe a jiné Pochopení toho, „co je problém“ je výrazně obtížnější než známý problém za pomoci známých postupů vyřešit

NAI program je (v ideálním případě) schopen kompetentně vyřešit jisté komplexní cíle v jistém prostředí

Historická zkušenost: Úspěchy v řešení NAI většinou nejsou příliš užitečné jako podklady pro řešení problémů AGI


12 z 44

Co stroje umějí a neumějí – příklady NAI ►

Deep Blue: Je schopen porazit mistra světa v šachu, ale prozatím se není schopen naučit hrát novou hru podle zadaných pravidel ●

►

Samořiditelná vozidla: Je schopen kvalitně řídit dané auto v provozu, ale není schopen se operativně přizpůsobit řízení různých typů vozidel (nákladní auta, lodě, motorky, …) ●

►

To už se změnilo – již existují programy, které s vámi začnou hrát hru, o které na počátku vůbec nic nevědí, a na základě svých úspěchů a neúspěchů se časem naučí hrát tak, že je člověk není schopen porazit

Už existují nejenom samořiditelná auta, ale i motorky, letadla a lodě

Google: Umí vyhledat informace na základě požadavků zadaného prostřednictvím definované syntaxe, ale není schopen kvalitně reagovat na obecné dotazy Copyright © Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze 1.00.2413, uloženo po 18.1.2016 – 13:43

13 z 44

Jak vytvořit AGI ►

AGI nemůžeme dosáhnout postupným zobecňováním metod NAI

►

Abychom dosáhli AGI, musíme se vrátit k základům ●

Musíme začít s vytvářením umělých prosťáčků ● ●

● ►

Umělá zvířata Umělé děti

Musíme začít tyto prosťáčky a současně se učit, jak je učit

Teprve pak můžeme začít uvažovat o nasazení v praktických aplikacích


14 z 44

Postupné budování AGI


15 z 44

►

Ben Goertzel tvrdí: Podle současných zkušeností je vše dosažitelné v průběhu příštích deseti let


16 z 44


17 z 44


18 z 44

Lineární × exponenciální růst ►

Lidé jsou zvyklí na lineární aproximace probíhajících dějů ● ● ● ●

►

Pravěký lovec musel umět trefit běžící zvěř Řidič předvídá chování ostatních účastníků provozu Odhadují se doby provedení různých prací, nastudování předmětu apod. …

V okamžiku, kdy je třeba odhadovat nelineárně se měnící děje, lidská schopnost předvídání selhává ●

●

Neumíme odhadnout pohyb padajícího kamene (závislost pozice na čase je kvadratická) jeho trajektorii umíme spočítat, ale neodhadneme V okamžiku, kdy se setkáme s exponenciální závislostí, je náš odhad naprosto vykolejený


19 z 44

Seznamovací příklad: šachy ►

Známá legenda o mudrci, který naučil čínského císaře hrát šachy a za odměnu chtěl hrst obilí vzniklou tak, že se na první políčko šachovnice dalo jedno zrnko a na každé další dvojnásobek toho, co bylo na předchozím ● ● ● ● ● ● ● ●

►

1. řádek = 28 2. řádek = 216 3. řádek = 224 4. řádek = 232 5. řádek = 240 6. řádek = 248 7. řádek = 256 8. řádek = 264

= = = = = = = =

511 zrnek = 0,017 kg 65 535 zrnek = 2 kg 16×106 zrnek = 559 kg 4×1009 zrnek = 143 135 kg 1×1012 zrnek = 37×106 kg 3×1014 zrnek = 9×109 kg 7×1016 zrnek = 2×1012 kg 2×1019 zrnek = 6×1014 kg

= 0,6 t = 143 t = 37 000 t = 9×106 t = 2×109 t = 6×1011 t

V lineárních souřadnicích tvoří graf této závislosti téměř pravý úhel, protože vše před poslední hodnotou je prakticky zanedbatelné Copyright © Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze 1.00.2413, uloženo po 18.1.2016 – 13:43

20 z 44

Příklad 1: Analýza genomu ► ►

►

Projekt odstartován v 90. letech s 15letým horizontem Na počátku měli vyřešenu pouze 1/10 000 a málokdo věřil, že se to za 15 let podaří stihnout V polovině projektu jim říkali: Jste v polovině projektu a dokončili jste jen jedno procento projektu ●

►

Nepočítali s tím, že rychlost se každý rok zdvojnásobuje, takže odkaz na zbylých 7 let měl být 27 krát vyšší – 128 krát

HIV sekvencovali 15 let, SARS 31 dní


21 z 44

Graf ceny analýzy genomu


22 z 44

Graf růstu databáze


23 z 44

Příklad 2: Vývoj života ►

►

►

►

►

Evoluce RNA-DNA trvala 2 miliardy let, vyvinutá technologie byla následně použita Kambrická exploze, doba, kdy se vyvinuly veškeré tělesné části zvířat, trvala pouhých 10 miliónů let – byla 200krát rychlejší Poté evoluce použila tyto tělesné části k rozvoji vyšších kognitivních funkcí Homo sapiens, první živočišný druh tvořící technologie, se vyvíjel stovky tisíc let Poté přišlo další množství interakcí, kterými evoluce docílila toho, že technologie tvořící druh nastolil další etapy ●

Kamenné nástroje – oheň – zemědělství – kolo – písmo – knihtisk – strojová výroba – počítače – atd.


24 z 44


25 z 44


26 z 44


27 z 44

Moorův zákon ►

►

Původní Moorovo tvrzení se týkalo pouze počtu integrovaných tranzistorů na čipu Postupně se ukázalo, že obdobný zákon platí i pro další veličiny: ● ● ● ●

►

►

Velikost paměti Výpočetní výkon procesorů Přenosová rychlost Spotřeba na jednotku výkonu

Podobná pravidla platila pro všechny druhy počítačů od nanopočítačů (vše na čipu) přes osobní mikropočítače až k největším superpočítačům Následující graf zobrazuje nejvýkonnější superpočítače své doby


28 z 44


29 z 44

Skutečný vývoj probíhá v S-křivkách


30 z 44

Zvyšování výkonu počítačů ►

1938: OPS

►

1943: kOPS

►

1961: MFLOPS

►

1984: GFLOPS

►

1997: TFLOPS

►

2008: PFLOPS

►

2018: EFLOPS

►

2029: ZFLOPS

►

2040: YFLOPS Copyright © Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze 1.00.2413, uloženo po 18.1.2016 – 13:43

31 z 44

K jeho udržení je třeba změn technologie


32 z 44

Nezávislost na měřené oblasti ►

►

►

Přesnost dodržení exponenciální křivky je pozoruhodná nezávisle na tom, jakou charakteristiku měříme Stejně, jako roste výkon počítačů, rostou i naše medicínské znalosti => lze vbrzku očekávat dramatický nárůst léčitelných chorob Neustále roste schopnost mapovat události v mozku ● ● ● ●

Rozlišení skenerů mozku se každoročně zdvojnásobuje A poslední generace skenerů konečně umožňuje vidění jednotlivých mezineuronových vláken a také vidí zpracování signálu v reálném čase Očekává se, že v dohledné době budeme umět nahrát kompletní obsah mozku do nějakého zařízení Zvládnutí této technologie zaručuje praktickou nesmrtelnost


33 z 44

Stabilita změny ►

Exponenciální růst prokazuje také národní hospodářství ● ●

►

Ukazuje se, že exponenciální tempo růstu je stabilní ● ●

►

Růst se udává v meziročních procentních přírůstcích, které jsou sice malé, nicméně závislost je exponenciální Růst ekonomiky probíhá v důsledku pomalu, nicméně exponenciálně rostoucí produktivity práce Nezávisí na krizích, válkách a jiných pohromách Je stabilní přestože je výsledkem souhry

Důsledkem exponenciálního růste je očekávání, že během tohoto století se odehraje větší technologický skok, než za posledních 20 000 let


34 z 44

Odhad – Kurzweil ►

2020 ● ●

►

1/2

Osobní počítač bude mít zhruba stejný výpočetní výkon jako lidský mozek Rychlý nástup nanotechnologií. Nanoroboti budou pracovat v lidském těle, budou bránit stárnutí a nemocem. Zejména díky nim budeme moci mluvit o tzv. enhanced human 2.0

2030 ● ●

● ●

Stroj projde Turingovým testem Budeme mít technologie s 225 lepším poměrem ceny a výkonu Počítač za tisíc dolarů bude mnohem výkonnější než lidský mozek (alespoň ve smyslu „surového výkonu“) Zpětné inženýrství lidského mozku bude dokončeno V dalších letech bude možný upload mozku. Nanoroboty operující v lidském těle dramaticky rozšíří schopnosti těla a mozku a umožní člověku lépe komunikovat se strojem i mezi sebou


35 z 44

Odhad – Kurzweil ►

2040 ● ●

►

Human Body ver. 3.0. Různé verze rozšířeného těla. Lidé stráví více času ve virtuální realitě než ve fyzickém světě. Budeme mít plně imerzní virtuální realitu simulovanou z vnitřního nervového systému, nanoroboty vypínající signály přicházející ze skutečných lidských smyslů, nahrazující je signály, které by člověk obdržel v právě simulovaném virtuálním prostředí, takže se bude cítit jako by skutečně byl v daném virtuálním prostředí

2045 ●

►

2/2

Nastane singularita

Armstrong na konferenci 2012 Singularity Summit: ●

Není to plně formalizováno, ale můj současný 80% odhad říká, že nastane během nejbližších 5 až 100 let


36 z 44

Odhady příchodu singularity


37 z 44

Vernor Vinge ►

Když jsem uprostřed 60. let začal psát science fiction, připadalo mi velmi snadné najít nápady, které teprve po desetiletích pronikly do kulturního povědomí; dnes se realizují za nějakých osmnáct měsíců. (Samozřejmě může být na vině ztráta mé představivosti spojená s mým stárnutím, ale tento efekt pozoruji i na ostatních.) Jak nabíráme rychlost přes kritickou hodnotu, Singularita se blíží jako rázová vlna ve stlačitelné kapalině.


38 z 44

Vlastní příchod singularity ►

Pokud k technologické singularitě může dojít, stane se tak ●

►

►

Protože se zakládá na lavinovitém růstu inteligence, proběhne pravděpodobně rychleji než jakákoli dosavadní technická revoluce. Bleskový účinek bude asi neočekávaný – možná i pro vědce, kteří se na něm budou podílet. ●

►

Dokonce, i kdyby všechny vlády světa chápaly "hrozbu" a bály se jí jako čert kříže, vývoj by dále směřoval k tomuto cíli

Budou-li dostatečně rozvinuté sítě (budou zahrnovat i všudypřítomné počítače vestavěné do jiných zařízení), může se zdát, jako by se naše artefakty jako celek náhle probudily

Poté se lidstvo probudí v posthumanitní éře ●

Po příchodu singularity nemusí lidstvu nutně hrozit vyhynutí, ultrainteligentní stroje se mohou chovat k nám obdobně, jako se my chováme ke zvířatům


39 z 44

Dlouhodobé predikce – 6 etap 1. Fyzika + Chemie ●

Sestavování základních součástí hmoty

2. Biologie ●

Vznik živých organismů

3. Mozek ●

Zdokonaluje se zpracování informací nervovou soustavou

4. Technologie ●

Informace se postupně začleňují do HW a SW

5. Sloučení technologie a lidské inteligence ●

Objevené metody biologie se roubují do technologie a naopak

6. Rozšíření inteligence po vesmíru ●

Vesmír se zaplňuje další inteligencí


40 z 44


41 z 44

Skeptický názor ►

Než se v současném přeregulovaném zdravotnictví rozšíří tak převratná technologie, jako jsou nanoroboti do krve, budeme my všichni už dávno mrtví. Možná se za takovou léčbou budou lidé vydávat do Číny či Singapuru. A možná bude technologie dostupná dříve pro psy. To není až taková sci-fi, veterinární medicína je méně regulovaná a už dnes nabízí mnohé prostředky, které pro člověka k dispozici nejsou. Trh je to obrovský a určitě zde existuje prostor i pro překladače štěkotu či čenichové tablety


42 z 44

Skeptický názor ►

K úspěchu je potřeba zásadnější revoluce v softwarovém inženýrství Samotná ekvivalence výkonu lidského mozku totiž ještě neznamená, že dosáhneme i ekvivalentu jeho funkčnosti. Cožpak neusilujeme o vytvoření inteligentních počítačů již po desetiletí? Zdá se, že umělá inteligence spadá spolu s termojadernou fúzí do kategorie technologických problémů, jejichž vyřešení se pokaždé předpokládá v průběhu příštích dvaceti let, splnění prognózy je však pokaždé třeba odložit. Skeptici se tedy domnívají, že pokud nenastane zásadní změna v oblasti softwaru, budou nám milionkrát výkonnější počítače dobré leda ke spouštění ještě nabobtnanějších textových editorů. Copyright © Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze 1.00.2413, uloženo po 18.1.2016 – 13:43

43 z 44

Otázky?


44 z 44

Technologická singularita

Recommend Documents