SINGULARITA: KDYŽ BUDOU POČÍTAČE INTELIGENTNĚJŠÍ NEŽ LIDÉ
Jiří Wiedermann Akademie věd ČR Podporováno grantem GA ČR P202/10/1333
Situace, kdy umělá inteligence dosáhne úroveň lidské inteligence, se v odborné literatuře nazývá singularitou. Dle mínění expertů singularita nastane v horizontu dvaceti či třiceti let. Poté lze očekávat explozi inteligence, protože počítače (či roboti) budou schopné svou inteligenci evolučně vylepšovat. Praktické důsledky dosažení singularity jsou jenom stěží představitelné. V přednášce uvedeme argumenty, převážně z oblasti exponenciálního rozvoje technologií a poznání činnosti lidského mozku, které vedou zmíněné experty k takovým závěrům. Jako protiklad uvedeme argumenty z oblasti výpočetní složitosti, které naznačují, že očekávaní ohledně exponenciálního rozvoje inteligence jsou možná přehnaná.
1. 2. 3. 4. 5. 6.
Singularita Důvody Tři zdroje a tři součásti singularity Impakt Současný stav: Watson Výpočetní meze inteligence
Rychlá změna
Technologická úroveň
Obsah
Tady jsme Relativně pomalá změna
během lidské historie Čas
Blízká budoucnost
“Within thirty years, we will have the technological means to create superhuman intelligence. Shortly thereafter, the human era will be ended… When greater‐than‐human intelligence drives progress, that progress will be much more rapid”
The Coming Technological Singularity Vernor Vinge (1993)
Credit: Wikipedia
Singularita: myšlenka, že exponenciálně se zrychlující technologie povedou k vytvoření umělého intelektu s nadlidským schopnostmi, jež znemožní jakoukoliv předpověď budoucnosti. • Původní myšlenka od V. Vingeho z r. 1993 • rozšiřována Rayem Kurzweilem v několika knihách • název úmyslně evokuje horizont černé díry • jako primární příčiny se citují rozvoj tzv. umělé obecné inteligence (Artificial General Intelligence – AGI), genetiky a nanotechnologií • důsledkem bude asymptotické dosažení hranic inteligence, síly a schopnosti manipulovat realitu • dalším důsledkem bude konec existence lidské společnosti ve stávající podobě • o singularitě se hovoří jak v pesimistické tak i v optimistické podobě • o dosažení singularity málokdo pochybuje • důsledky v oblasti super‐inteligence však podléhají limitům výpočetní složitosti
„Napřed sestrojíme prostředky a tyto pak sestrojí nás“ M. McLuhan
Credit : Ray Kurzweil
Lineární versus logaritmický graf
Credit: Ray Kurzweil
Credit: Ray Kurzweil
Credit: Ray Kurzweil
Další příklady exponenciálního růstu: • cena RAM pamětí • průměrná cena tranzistoru • rychlost mikroprocesorů • cena mikroprocesorů • počet transistorů na mikroprocesoru • Moorův zákon • počet internetových serverů • datový provoz na internetu • čtení DNA • velikost genomické banky • citace článků z oblasti nanověd • velikost mechanických strojů • počet US patentů v oblasti nanověd
• Rezoluce neinvazivního skenování mozku • rychlost obrazové rekonstrukce mozkového skenu
Zdroj: Kurzweil – The Singularity is Near
Tři zdroje a tři součásti singularity
Nanotechnologie Genetika
Singu‐ larita Robotika
Genetika: průsečník informací a biologie •Můžeme žít věčně? • RNA interference –“vypínaní“ škodlivých genů, způsobujících např. rakovinu • Buněční terapie – pěstování částí či celých orgánů přímo v těle • Somatická buněční terapie (genetická terapie nereproduktivních buněk) – řízení a změna genetické výbavy člověka • Zvrácení degenerativních změn •Potlačení srdečních chorob • Překonání rakoviny • Zvrácení stárnutí
Nanobot opravující DNA
•Terapeutické klonování – neinvazivní náhrada „starých“ orgánů a tkání za nové
Zdroj: Kurzweil – The Singularity is Near
Nanotechnologie ‐ průsečník informací a fyzického světa • Biologický asembler • Upgrade buněčného jádra nanopočítačem a nanobotem •Nanoboti v krvi
Quorum sensing Sender
Emitter Receptor
Sender Finte state transducer Random bit generator
Recei‐ ver
Robotika: „silná“ umělá inteligence (AGI) Nástroje:
Výpočetní paradigmata a technologie:
• expertní systémy • Markovovské modely • neuronové sítě • genetické algoritmy • rekurzivní prohledávání
• molekulární výpočty • sebestavování • DNA výpočty • spinové výpočty • počítaní se světlem • kvantové výpočty • nanovýpočty • amorfní výpočty
První cesta k získání softwaru lidské inteligence: reverzní inženýrství mozku („whole brain emulation“)
Source: University of California, Los Angeles (UCLA), Health Sciences
Druhá cesta k získání softwaru lidské inteligence: výpočetní modely vtělené kognice Control unit G r o u n d i n g
Multimodal
Abstract concepts
Symbolic level
Embodied concepts
Sub‐symbolic level Motor instructions S‐M units
Motor instructions Units of S‐M information
Perception
information Body
Mirror net Environment
Impakt: Human Body Ver. 2.0:
Mozek:
• jedení pro radost • přestavba digestivního systému • programovatelná krev • nanoboti namísto srdce • nanoboti namísto orgánů, produkující hormony • samo‐opravující se kostra • rekonstrukce/opravy mozku
• realistická virtuální realita prostřednictvím nanobotů simulujících všechny smysly • „převtělování“ ‐ jaké je to být….. • projekce zážitků a pocitů • bezdrátová komunikace mozek‐mozek a mozek ‐ ne‐biologická inteligence
Human Body Ver. 3.0 (po r. 2030): • morfologická rekonfigurace a reinstantizace
Nesmrtelnost: • fyzická, ve standardním smyslu – morfologie těla jako projekce naší inteligence • virtuální (přechod na ne‐biologickou existenci) • skenovaní mozku „zevnitř“ pomocí nanobotů • re‐instantizace struktury a funkce v ne‐ biologickém mediu
PRIMO POSTHUMAN By Natasha Vita‐More (media artist, futurist, cultural catalyst, proponent of morphological freedom)
Credit:natasha cc
Watson ‐ systém umělé inteligence schopný odpovídat na úlohy zadané v přirozeném jazyce. Jeopardy! ‐ hra „Riskuj!“ – na základě dané odpovědi je třeba uhodnout otázku. Např.: 5280 (kolik stop má míle?), anebo 79 Wistful Vista (adresa Fibber a Molly McGee) Category: General Science Clue: When hit by electrons, a phosphor gives off electromagnetic energy in this form. Answer: Light (or Photons) Category: Rhyme Time Clue: It’s where Pele stores his ball. Subclue 1: Pele ball (soccer) Subclue 2: where store (cabinet, drawer, locker, and so on) Answer: soccer locker
Category: Lincoln Blogs Clue: Secretary Chase just submitted this to me for the third time; guess what, pal. This time I’m accepting it. Answer: his resignation Category: Head North Clue: They’re the two states you could be reentering if you’re crossing Florida’s northern border. Answer: Georgia and Alabama Zdroj: AI Magazine, Fall 2010
Jak funguje Watson The power of metaknowledge Constraint satisfaction – finding the best fit answer to a problem that does not have an exact mathematical solution Local search in masive data indicating when further searching is unlikely to yield a better result Zdroj: AI Magazine, Fall 2010
Algoritmus: • identifikace klíčových slov v zadání • prohledání paměti za účelem vyhledání klastrů asociovaných s klíčovými slovy a jejich ohodnocení • kontrola „nejslibnějších“ hitů vzhledem ke kontextové informaci , jako je NAZEV KATEGORIE, čas, místo, osoba, pohlaví, žánr, atd. • výběr nejpravděpodobnějších hitů, formulace odpovědi, odpověď
Unstructured Information Management Architecture (Apache UIMA™) • It parses questions well, one of the biggest failings in search and text analytics systems • It gathers evidence for each of its hypotheses, and offers a confidence level, thereby tackling the question of how much to trust a computer‐based answer • It searches and analyzes text in multiple formats from multiple sources, without taxonomies, schemas or controlled vocabularies • It scales • It's blindingly fast • It handles language in all its ambiguity, including puns, metaphors, jokes and sly allusions.
Element
Number Time to answer one of cores Jeopardy question
Single core
1
2 hours
Single IBM Power 750 server
32
<4 min
Single rack (10 servers)
320
<30 seconds
IBM Watson (90 servers)
2 880
<3 seconds
~1 000 000 million lines of code 5 years development (20 men) Memory:20 TB 200 million pages (~1 000 000 books)
Aplikace: systémy pro podporu rozhodování; hledání odpovědí na nezformulovaná zadání
Ray Kurzweil Datum singularity, která bude představovat hlubokou a skokovou transformaci lidských schopností, jsem odhadl na rok 2045.
Ne‐biologická inteligence vytvořená v tomto roce bude miliardkrát výkonnější než dnešní inteligence celého lidstva dohromady.
Immortality Source: Google
Systém umělé obecné inteligence (AGIS) musí být • interaktivní ‐ aby mohl komunikovat se svým okolím, reflektovat jeho změny, dostávat zpětnou vazbu, apod. • evoluční – aby se mohl vyvíjet přes generace • potenciálně časově neomezený – aby délka jeho existence neměla pevný konec
Rozšířená Church‐Turingova teze (van Leeuwen, Wiedermann, 2001): libovolný interaktivní evoluční časově neohraničený výpočet je ekvivalentní výpočtu nějakého interaktivního Turingova stroje s rádcem, resp. nekonečné posloupnosti interaktivních neuniformních konečných automatů.
input output
… advice
Q1⊆Q2⊆Q3⊆…
Výpočetní síla AGIS se měří pomocí velikosti množin různých reakcí (resp. chování) které tyto systémy mohou produkovat během jejich potenciálně nekonečných interakcí s okolím Příklady interaktivních evolučních výpočetních systémů: • internet • dynamické sítě mobilních bezdrátově komunikujících agentů • vývojová větev živých organizmů • rostoucí kolonie bakterií • lidská společnost • vesmír (?)
Proč jsou AGIS super‐Turingovské: • nekonečné výpočty • interaktivita • neuniformní softwarová a hardwarová evoluce během výpočtů podmíněná nepredikovatelnými interakcemi Výsledky: • výpočetní síla AGIS je větší než výpočetní síla Turingových strojů • existuje nekonečná hierarchie výpočetně stále silnějších AGIS • někde v této hierarchii je bod singularity • výpočetní síla AGIS potřebná na překonání rozdílu mezi “zajímavými“ stupni této hierarchie musí růst rychleji než jakákoliv vypočitatelná funkce
intelligence
Výpočetní meze inteligence
Σ3 level Σ2 level Human intelligence
∃x∀y F(x,y,w)
The Singularity
Intelligence of simple organisms Logarithmic scale
Computational power
Logarithmic scale
Výpočetní síla AGIS potřebná na překonání rozdílu mezi jednotlivými stupni aritmetické hierarchie musí růst rychleji než jakákoliv vypočitatelná funkce, tzn., že pravděpodobně se nikdy nedostaneme za singularitu
„One might think that the singularity would be of great interest to academic philosophers, cognitive scientists, and artificial intelligence researchers. In practice, this has not been the case. ... I think this resistance is a shame, as the singularity idea is clearly an important one. The argument for a singularity is one that we should take seriously. And the questions surrounding the singularity are of enormous practical and philosophical concern.“
D. J. Chalmers
Literatura: • Chalmers, D. J.: The Singularity: A Philosophical Analysis, 2009, cf. http://consc.net/papers/singularity.pdf • Kurzweil, R.: The Singularity is Near. Viking Books, 652 pages, 2005 •Ferrucci et al: Building Watson: An Overview DeepQA Project. AI Magazine, Fall 2010
