Když budou počítače inteligentnější než lidé
Jiří Wiedermann Akademie věd ČR Podporováno grantem GA ČR P202/10/1333
Situace, kdy umělá inteligence dosáhne úroveň lidské inteligence, se v odborné literatuře nazývá singularitou. Dle mínění expertů singularita nastane v horizontu dvaceti či třiceti let. Poté lze očekávat explozi inteligence, protože počítače (či roboti) budou schopné svou inteligenci evolučně vylepšovat. Praktické důsledky dosažení singularity jsou jenom stěží představitelné. V přednášce uvedeme argumenty, převážně z oblasti exponenciálního rozvoje technologií a poznání činnosti lidského mozku, které vedou zmíněné experty k takovým závěrům. Jako protiklad uvedeme argumenty z oblasti výpočetní složitosti, které naznačují, že očekávaní ohledně exponenciálního rozvoje inteligence jsou možná přehnaná. Miesto pre Vaše logo
“Within thirty years, we will have the technological means to create superhuman intelligence. Shortly thereafter, the human era will be ended… When greater-than-human intelligence drives progress, that progress will be much more rapid” The Coming Technological Singularity Vernor Vinge (1993)
Miesto pre Vaše logo
Credit: Wikipedia
Singularita: myšlenka, že exponenciálně se zrychlující technologie povedou k vytvoření umělého intelektu s nadlidskými schopnostmi, jež znemožní jakoukoliv předpověď budoucnosti. • Původní myšlenka od V. Vingeho z r. 1993 • rozšiřována Rayem Kurzweilem v několika knihách • název úmyslně evokuje horizont černé díry • jako primární příčiny se citují rozvoj tzv. umělé obecné inteligence (Artificial General Intelligence – AGI), genetiky a nanotechnologií • důsledkem bude asymptotické dosažení hranic inteligence, síly a schopnosti manipulovat realitu • dalším důsledkem bude konec existence lidské společnosti ve stávající podobě • o singularitě se hovoří jak v pesimistické tak i v optimistické podobě • o dosažení singularity málokdo pochybuje • důsledky v oblasti super-inteligence však podléhají limitům výpočetní složitosti Miesto pre Vaše logo
„Napřed sestrojíme prostředky a tyto pak sestrojí nás“ M. McLuhan
Credit : Ray pre Kurzweil Miesto Vaše
logo
Lineární versus logaritmický graf
•Credit: Ray Kurzweil Miesto pre Vaše
logo
•Credit: Ray Kurzweil Miesto pre Vaše
logo
•Credit: Ray Kurzweil Miesto pre Vaše
logo
Další příklady exponenciálního růstu: • cena RAM pamětí • průměrná cena tranzistoru • rychlost mikroprocesorů • cena mikroprocesorů • počet transistorů na mikroprocesoru • Moorův zákon • počet internetových serverů • datový provoz na internetu • čtení DNA • velikost genomické banky
• citace článků z oblasti nanověd • velikost mechanických strojů • počat US patentů v oblasti nanověd
Credit: Kurzweil – The Singularity Miesto pre Vaše logo is Near
• Rezoluce neinvazivního skenování mozku • rychlost obrazové rekonstrukce mozkového skenu
Tři zdroje a tři součásti singularity
Genetika Robotika
Singularita
Nanotechnologie
Miesto pre Vaše logo
Genetika: průsečník informací a biologie Můžeme žít věčně? • RNA interference –“vypínaní“ škodlivých genů, způsobujících např. rakovinu • Buněční terapie – pěstování částí či celých orgánů přímo v těle • Somatická buněční terapie (genetická terapie nereproduktivních buněk) – řízení a změna genetické výbavy člověka • Zvrácení degenerativních změn
• Potlačení srdečních chorob • Překonání rakoviny • Zvrácení stárnutí
Nanobot opravující DNA
• Terapeutické klonování – neinvazivní náhrada „starých“ orgánů a tkání za nové Zdroj: Kurzweil – The Singularity Miesto pre Vaše logois Near
Nanotechnologie - průsečník informací a fyzického světa •Biologický asembler • Upgrade buněčného jádra • nanopočítačem a nanobotem • Nanoboti v krvi
Quorum sensing
•Sender
Emitter
Receptor
• Finte state transducer •Random bit •generator
Miesto pre Vaše logo
•Sender
•Recei•ver
Robotika: „silná“ umělá inteligence (AGI) Nástroje: • expertní systémy • Markovovské modely • neuronové sítě • genetické algoritmy • rekurzivní prohledávání
Miesto pre Vaše logo
Výpočetní paradigmata a technologie: • molekulární výpočty • sebestavování • DNA výpočty • spinové výpočty • počítaní se světlem • kvantové výpočty • nanovýpočty • amorfní výpočty
První cesta k získání softwaru lidské inteligence: reverzní inženýrství mozku („whole brain emulation“)
Credit: University of California, Los Angeles (UCLA), Health Sciences
Miesto pre Vaše logo
Druhá cesta k získání softwaru lidské inteligence: výpočetní modely vtělené kognice
Miesto pre Vaše logo
Impakt: Human Body Ver. 2.0: • jedení pro radost • přestavba digestivního systému • programovatelná krev • nanoboti namísto srdce • nanoboti namísto orgánů, produkující hormony • samo-opravující se kostra • rekonstrukce/opravy mozku
Human Body Ver. 3.0 (po r. 2030): • morfologická rekonfigurace a reinstantizace
Miesto pre Vaše logo
Mozek: • realistická virtuální realita prostřednictvím •nanobotů simulujících všechny smysly • „převtělování“ - jaké je to být….. • projekce zážitků a pocitů • bezdrátová komunikace mozek-mozek a mozek - nebiologická inteligence
Nesmrtelnost: • fyzická, ve standardním smyslu – morfologie těla jako projekce naší inteligence • virtuální (přechod na ne-biologickou existenci) • skenovaní mozku „zevnitř“ pomocí nanobotů • re-instantizace struktury a funkce v ne-biologickém mediu
PRIMO POSTHUMAN By Natasha Vita-More (media artist, futurist, cultural catalyst, proponent of morphological freedom)
Credit:natasha.cc Miesto pre Vaše logo
Ray Kurzweil Datum singularity, která bude představovat hlubokou a skokovou transformaci lidských schopností, jsem odhadl na rok 2045.
Ne-biologická inteligence vytvořená v tomto roce bude miliardkrát výkonnější než dnešní inteligence celého lidstva dohromady.
Immortality Source: Google Miesto pre
Vaše logo
Systém umělé obecné inteligence (AGIS) musí být • interaktivní - aby mohl komunikovat se svým okolím, reflektovat jeho změny, dostávat zpětnou vazbu, apod. • evoluční – aby se mohl vyvíjet přes generace • potenciálně časově neomezený – aby jeho existence neměla pevný konec Rozšířená Church-Turingova teze (van Leeuwen, Wiedermann, 2001): libovolný interaktivní evoluční časově neohraničený výpočet je ekvivalentní výpočtu nějakého interaktivního Turingova stroje s rádcem, resp. nekonečné posloupnosti interaktivních neuniformních konečných automatů. input output
•…
advice
Q1 Q2 Q3 …
Miesto pre Vaše logo
Výpočetní síla AGIS se měří pomocí velikosti množin různých reakcí (resp. chování) které tyto systémy mohou produkovat během jejich potenciálně nekonečných interakcí s okolím
Příklady interaktivních evolučních výpočetních systémů: • internet • dynamické sítě mobilních bezdrátově komunikujících agentů • vývojová větev živých organizmů • rostoucí kolonie bakterií • lidská společnost • vesmír (?)
Miesto pre Vaše logo
Proč jsou AGIS super-Turingovské: • nekonečné výpočty • interaktivita • neuniformní softwarová a hardwarová evoluce během výpočtů podmíněná nepredikovatelnými interakcemi
Výsledky: • výpočetní síla AGIS je větší než výpočetní síla Turingových strojů • existuje nekonečná hierarchie výpočetně stále silnějších AGIS • někde v této hierarchii je bod singularity • výpočetní síla AGIS potřebná na překonání rozdílu mezi “zajímavými“ stupni této hierarchie musí růst rychleji než jakákoliv vypočitatelná funkce
intelligence
Výpočetní meze inteligence 3 2
Human intelligence
Logarithmic scale
level
level
x y F(x,y,w)
•The Singularity
Intelligence of simple organisms Computational power
Logarithmic scale
Výpočetní síla AGIS potřebná na překonání rozdílu mezi jednotlivými stupni aritmetické hierarchie musí růst rychleji než jakákoliv vypočitatelná funkce, tzn., že pravděpodobně se nikdy nedostaneme za singularitu
Miesto pre Vaše logo
„One might think that the singularity would be of great interest to academic philosophers, cognitive scientists, and artificial intelligence researchers. In practice, this has not been the case. ... I think this resistance is a shame, as the singularity idea is clearly an important one. The argument for a singularity is one that we should take seriously. And the questions surrounding the singularity are of enormous practical and philosophical concern.“
Literatura: • Chalmers, D. J.: The Singularity: A Philosophical Analysis, 2009, cf. http://consc.net/papers/singularity.pdf • Kurzweil, R.: The Singularity is Near. Viking Books, 652 pages, 2005
Miesto pre Vaše logo
D. J. Chalmers