TECHNICKÁ UNIVERZITA KOŠICE FAKULTA ELEKTROTECHNIKY A INFORMATIKY KATEDRA KYBERNETIKY A UMELEJ INTELIGENCIE
ESEJ Asimonove zákony robotiky
Peter Malenký V. ročník 2002/2003
Asimonove zákony robotiky Môžeme byť tak hlúpi, aby sme riadili svoju vlastnú deštrukciu? KEWIN WARWICK To čo roboty vykonávajú odpovedá im samotným, umožňujú mu to jeho senzory a jeho pohyby. Tým, že sa spojuje stále viac neurónov o väčšej hustote a že sú pomerne dobre spracované spoje medzi neurónmi s učebnými technikami, sa stroje stávajú stále inteligentnejšími. Roboty budeme môcť naprogramovať tak, aby mysleli určitým spôsobom. Prinútiť ich však k tomu aby sa chovali presne tak ako my budeme chcieť, bude ťažké, pretože budú mať schopnosť myslieť a jednať nezávisle. Ak však budú roboty o niečo inteligentnejšie, môžeme si byť istý tým, že sa budú podriaďovať závažným ľudským pravidlám? O tom hovoril už pred mnohými rokmi Isaac Asinov. Jeho tri zákony robotiky sú: • • •
Robot nesmie napadnúť ľudskú bytosť Robot musí poslúchať príkazy ľudí, pokiaľ to neodporuje pravidlu č. 1 Robot musí chrániť sám seba, svoju existenciu, pokiaľ to neodporuje pravidlám č. 1 a 2.
Keď porovnáme človeka a stroj, dochádzame k záveru, že dnešné stroje dokážu robiť naozaj dobre len jednu alebo niekoľko vecí. Keď, ale uvažujeme o tom, či môžu byť stroje inteligentnejšie než ľudia, skúmame ich schopnosť obstáť v širokom rade úloh. Stroj s vysokou všeobecnou inteligenciou by mal inteligentne zvládať rad úloh. Stroj ktorý robí veľmi dobre iba jednu vec, ovládneme svojou schopnosťou robiť dobre rad iných vecí – pokiaľ to samozrejme nie je stroj príliš nebezpečný. Môžeme uzavrieť: Všetky prvky stroja, ktorý bude oveľa inteligentnejší ako ktorýkoľvek človek, sú pripravené a čakajú. Jednoducho sme ich ešte nedali dohromady. Prečo? Pretože ešte nevieme ako. Predstavte si, že vy sami ste veľmi inteligentné stroje. Patríte k novej rase. Bytosti s označením ľudia ešte žijú a je ich veľa. Ľudia dlho ovládali zem a nie sú ochotní predať vládu novej rase aj keď ju sami stvorili. Zo všetkých síl sa preto pokúšajú zničiť ju až do posledného jedinca a nabudúce už takú chybu neurobia. Čo urobíte vy i každý ďalší príslušník novej rasy? (Možno skúsite byť k ľuďom láskavý. Možno budete nejaký čas spokojní s úlohou druhoradých občanov). Ale prečo by ste mali? Sú menej inteligentní než vy a keby dostali príležitosť pravdepodobne by sa vás pokúsili zničiť. Čo s nimi urobíte? Budete mať strach a utečiete? Budete s nimi diskutovať? Zaútočíte? O tom ako bude nová rasa zaobchádzať s ľuďmi, môžeme však len špekulovať. Bude inteligentnejšia než mi ľudia a tak môžeme len ťažko hádať, ako sa budú chovať. Snáď bude lepšie keď sa pozrieme do minulosti a premietneme si to do budúcnosti. Vhodné slova predniesol Nietzsche: Každé stvorenie vždycky za sebou niečo zanechá. A pokračuje : Čím je opica človeku? Výčitkou, alebo terčom posmechu? A presne ak to
bude s človekom – bude pre nadčloveka výčitkou, alebo terčom posmechu? Nietzschovho nadčloveka tu nahradíme novou rasou strojov. Tak ako evolučná Darwinova teória, tak aj Nietzschova filozofia ukazujú, že človek bude vo svojej vodcovskej roli nahradený a že nový vládcovia, nech už to bude ktokoľvek, nebude s človekom zaobchádzať príliš úctivo. Človek ovláda Zem vďaka svojej inteligencie a tak je logické, že bude ovládnutý ešte inteligentnejším druhom ako je sám; presne tak ako on ovládol druhy, ktoré mali nižšiu inteligenciu. A stroje nezastaví nič. Inteligentnejšie než mi budú už v blízkej budúcnosti. Jediný možný záver: Stroje ovládnu Zem! A to čoskoro. Aby sme si dobre predstavili budúcnosť, musíme vziať v úvahu nie len široký okruh už existujúcich inteligentných strojov, ale takisto celu škálu vývoja. Vieme, že existujú veľké, veľmi mocné stroje počítačového typu. Vieme takisto, že už existuje rozsiahla komunikačná sieť. A konečne poznáme rozličné robotické stroje rôznych tvarov a veľkostí. Teraz ich ovládame, ale akonáhle začne naša kontrola ktoréhokoľvek z týchto troch sektorov slabnúť, začne náš skutočný problém. Otázka pravidiel pre roboty samozrejme súvisí s tým, ako inteligentné roboty zmenia náš ľudský svet. Hlavné otázky znejú: Budú môcť stroje samé rozhodovať o svojej budúcnosti? Aká bude dominantná forma života? Ako by sme mohli zabrániť tomu aby sa roboty stali inteligentnejšími ako mi? Dnes máme spoločnosť ovládanú ľuďmi, v ktorej sú stroje podriadené ľuďom, pretože ľudia sú inteligentnejší. Pravdepodobne však čoskoro budú stroje myslieť lepšie ako ľudia a potom budeme mať spoločenstvo ovládané strojmi. Ľudia sa ocitnú pokiaľ ešte vôbec budú žiť v podriadenej roli.
Nebude to trvat dlouho. Zjistí se, že většina prací, které lidé dělají doma, už vůbec není potřeba, nebo že je lépe zvládají stroje. Umějí se rozhodovat rychleji a jejich rozhodnutí jsou podložena větším množstvím informací. Jsou proto přesnější a důslednější. Hledíme vstříc světu řízenému stroji. Lidé jsou v něm odsunuti stranou, neúčastní se běhu věcí a v nejlepším případě jsou druhořadými občany. Kdo jsou ti prvořadí? Samozřejmě stroje! Koneckonců jsou inteligentnější než my. Můžeme proti tomu něco dělat? Jak bychom mohli zabránit, aby se stroje staly inteligentnějšími než my? Zdokonalování inteligence strojů pokračuje. Na tom nic nezměníme, protože hybnou silou jsou tu jak finanční zájmy, tak vývoj technologie. Ale co kdybychom se inteligentnějšími stali my sami? Co kdybychom přesídlili do strojů, v nichž by náš život pokračoval s novým mozkem a s novým tělem? Zpočátku bude možné takto zařídit přežití dvou tří kopií - vyžaduje to přenos struktury našeho mozku, jeho synapsí, jeho uspořádání. Originál člověka samozřejmě povede normální lidský život a zemře v obvyklém věku. Verze uvnitř stroje bude žít tak dlouho, jak dlouho bude žít stroj. Kdyby se podařilo nějak uskladnit, zachovat plán uspořádání lidského mozku, mohl by být mozek možná několik let uchováván, a pak znovu přiveden v život dejme tomu v tuctu strojů. Tak by člověk mohl ve svém mozku ožít. Ale to všechno předpokládá, že budeme znát způsob, jak náš mozek pracuje, a to do všech podrobností. Technicky jsme něčemu takovému ještě hodně daleko. Kdybychom tedy chtěli výkon svého mozku zvýšit, mohli bychom přímo k mozku připojit zvláštní paměť nebo zvláštní schopnost zpracování informací, snad ve formě silikonových čipů. Bylo by to možné? Museli bychom sice mít určité vědomosti o systému spojů v mozku, ale konkrétní synaptické spoje bychom znát nemuseli. Důležitější by bylo vědět, co která oblast mozku dělá. Dosáhne-li se dobrých výsledků se strojovou technologií, mohou je čipy zprostředkovat přímo do mozku a lidé je zúročí k svému užitku. Pro různé věci se mohou použít různé čipy - jeden pro paměť, druhý pro zpracování dat a další třeba pro provozování hudby. Snad by se na příjemcově hlavě mohly umístit různé zásuvky a do nich zapojovat příslušné čipy podle toho, co si člověk žádá. Nemusel by například koukat na film - stačilo by zapojit příslušný čip a už by se mu film v mozku promítal. Velkou výhodou takových mozkových čipů by byla rychlost. Dnes zatím musíme vyjít z myšlenky použít klávesnici počítače, a pak si na monitoru přečíst výsledek; s čipy by to všechno proběhlo v mozku jako vnitřní proces. Část svých mozkových schopností bychom museli vynaložit na učení jak s čipy zacházet, ale ty by pak znásobily kapacitu našeho mozku tak, že by nám daly ohromné možnosti navíc. Je tohle všechno věcí vzdálené budoucnosti? Jistě ano, ale je to blíž než úplné přenesení celého lidského mozku do stroje. Jestliže má být takové zařízení účinné, musíme lépe znát vnitřní uspořádání mozku a také to, jakým způsobem do něj vstoupit, aby se zlepšil jeho celkový výkon.
Víme, že některé ryby se dorozumívají elektrickými výboji. Žraloci tak napadají oběť a ptáci, například holubi, ba i bakterie, navigují podle zemského magnetického pole. Nebylo by skvělé, kdybychom i my lidé mohli pomocí čipů získat tak citlivé smysly? Největším problémem je, že by to do mozku vneslo zmatek. Kdybychom přijímali další signály a zpracovávali je, musely by se přeorientovat některé naše neurony. Totéž platí o mozkových čipech s mimořádnou pamětí nebo schopností zpracování. V každém případě by se musely omezit operace v některých oblastech našeho mozku tak, abychom se mohli přizpůsobit novým možnostem. Nové čipy by byly speciálními mozkovými bloky, které by celkovou velikost mozku zvětšovaly, ale zabraly by určité neurony, pokud by měly být účinné. Kdybychom chtěli něco získat, museli bychom něco ztratit. Realisticky nahlíženo, nemáme naději na rychlý růst velikosti a výkonu našeho mozku, kdežto stroje ji mají. Předpoklad, že stroje budou za nějaký čas inteligentnější než lidé, nemůžeme nijak vyvrátit. Jsme tvrdě omezeni svou biologickou výstrojí. Jednoduše nemůžeme nijak zmnožit svoje neurony a přimět je, aby pracovaly lépe, než pracují teď. A i kdyby se nám to povedlo, stroje nás zatím předhoní. Možná bychom mohli zvýšit výkony svého mozku vysoce selektivním tréninkem; snad bychom svých maxim mohli dosáhnout s pomocí virtuální reality. Důležité však je, že tu jsou jisté hranice, které nemůžeme překročit, a kdybychom se o to pokoušeli, jenom by nám to zabíralo vyměřený čas. [...] Někteří vědci došli k závěru, že lidské vědomí nemůže být ve strojích přesně okopírováno, a proto stroje navěky zůstanou pod nadvládou člověka. Za předpokladu, že psi mají svoje psí vědomí, ale my je nikdy nemůžeme přesně okopírovat, měli bychom podle této logiky být navěky pod nadvládou psů. Takový závěr je ovšem směšný, a proto je směšný i závěr předchozí. Ne, stroje nezůstanou v područí člověka proto, že nemají přesně jejich vědomí. Ovšem řízená střela je závislá na člověku, který ji odpálil, a není vůbec závislá na cíli, ať je věc nebo člověk - ledaže by cíl byl ještě inteligentnější a věděl by, jak střelu řídit. Základní otázkou je, kdo řídí. Druhy řídí tvorové inteligentnější a uvnitř druhů platí totéž. Každý člověk má vědomí lidské, každý pes má vědomí psí a včela má vědomí včelí. Když zapnete kterýkoli stroj, pak má - chcete-li - vědomí strojové. Ale vědomí je pojem abstraktní a nedá se nijak snadno změřit. To však není nic, za co bychom se mohli schovávat. Lidé neovládají psy proto, že mají lepší vědomí, nýbrž proto, že jednak jsou inteligentnější, jednak mají lepší fyzické dispozice. Inteligence je něco, co se dá měřit, a my jsme to dělali a děláme často, ale často špatně. Ukazuje se - naneštěstí - že při každém jednotlivém nepředpojatém měření stroj předčí člověka. Jediné, v čem jsme dosud lepší, je naše schopnost obstát ve velmi širokém okruhu testů. Zdá se tedy, že důležitá lidská vlastnost je obecná schopnost řešit - ovšem při určitém stupni inteligence - velmi mnoho různých zadání a úkolů. Inteligenční testy (IQ) se však obvykle ptají na jeden, dva nebo nanejvýš několik věcí. Totéž platí o vysokoškolských zkouškách, člověk může v testu prokázat, že tuto určitou věc ovládá dobře - a to je všechno.
Když srovnáváme člověka a stroj, docházíme k závěru, že dnešní stroje umějí dělat opravdu dobře jenom jednu nebo několik věcí. Když ale uvažujeme o tom, zda mohou být stroje inteligentnější než lidé, zkoumáme jejich schopnost obstát v širokém okruhu zadání. Stroj s vysokou všeobecnou inteligencí by měl inteligentně zvládat řadu úkolů. Stroj, který dělá velmi dobře jenom jednu věc, ovládneme svou schopností dělat dobře řadu jiných věcí - pokud to ovšem není stroj příliš nebezpečný. Můžeme uzavřít: Všechny prvky stroje, který bude mnohem inteligentnější než kterýkoli člověk, jsou připraveny a čekají. Prostě jsme je ještě nedali dohromady. Proč? Protože ještě nevíme jak. Představte si, že vy sami jste velmi inteligentní stroje: Patříte k nové rase. Bytosti s označením lidé ještě existují, a je jich hodně. Dlouho lidé ovládali zemi a nejsou ochotni předat vládu nové rase, ačkoli ji sami stvořili. Ze všech sil se proto pokoušejí zničit ji až do posledního jedince, a příště už podobnou chybu (stvoření) neudělají. Co uděláte vy i každý další příslušník nové rasy? Možná zkusíte být k lidem laskaví. Možná budou nějaký čas spokojeni s úlohou druhořadých občanů. Ale proč by měli? Jsou méně inteligentní než vy, a kdyby dostali příležitost, pravděpodobně by vás zkusili zničit. Je nebezpečné dát lidem jakoukoli moc, protože by ji jistě užili proti vám - nové rase. Někteří útoční a vášniví lidé zkusí proti vám bojovat v každém případě. Co s nimi uděláte? Budete mít strach a utečete? Budete s nimi diskutovat? Nebo zaútočíte? O tom, jak bude nová rasa zacházet s lidmi, můžeme ovšem jenom spekulovat. Bude inteligentnější než my lidé, a tak můžeme jen těžko hádat, jak se bude chovat. Snad bude nejlepší, když se podíváme do minulosti a promítneme to do budoucnosti. Vhodná slova pronesl Nietzsche: Každé stvoření za sebou vždycky něco zanechává. A pokračuje: Čím je opice člověku? Výčitkou, nebo terčem posměchu? A stejně tak to bude s člověkem - bude pro nadčlověka výčitkou, nebo terčem posměchu? Nietzschova nadčlověka tu nahradíme novou rasou strojů. Abychom získali co nejlepší představu, jak budou stroje jednat s člověkem, podíváme se na to, jak jednají lidé s těmi, z nichž vzešli. Co děláme s šimpanzi a s jinými zvířaty? Jednáme s nimi jako s bratry? Považujeme je za rovnocenné a volíme je do parlamentu? Snad s jednou dvěma výjimkami se k nim rovnocenně nechováme, a proč bychom měli? Nejsou tak inteligentní jako lidé. Jistě by budilo rozpaky, kdyby měl být předsedou vlády nebo prezidentem orangutan. Opice a své vzdálenější předchůdce střílíme, ničíme jejich životní prostředí, zavíráme je do klecí a civíme na ně. Využíváme jiné savce k tomu, abychom si zpříjemnili život, zabíjíme je pro maso a ve všech směrech určujeme jejich život. V Anglii se honí a střílejí lišky pro zábavu dokonce ještě dnes! Je velice pravděpodobné, že opice nebyly pro lidstvo takovou hrozbou, jakou budou lidé pro novou rasu strojů. Tlupy opic nemají žádné kulomety, aby střílely po lidech. Lidé je přesto pronásledují, chytají a hubí, ačkoli zvířata jsou bezbranná a nemohou se nijak postavit na odpor. Jestliže se tedy postaví proti strojům, co můžeme očekávat? Důvěřovali byste lidem, kdybyste patřili k nové strojové rase? Dovolili byste lidem, kteří nejsou dost chytří, aby vám říkali, co a jak máte dělat - nebo byste jim chtěli dávat pokyny vy, protože to víte lépe? Musíte očekávat, že stroje budou chtít vládnout a že si
nadvládu budou vynucovat mentálně i fyzicky. Přesně tak se chováme my teď, a stroje se zajisté budou řídit naším příkladem. Jak evoluční Darwinova teorie, tak Nietzschova filozofie ukazují, že člověk bude ve své vůdčí roli nahrazen a že noví vládci, ať to bude kdokoli, nebudou s člověkem nakládat příliš uctivě. Člověk ovládá Zemi díky své inteligenci, a tak je logické, že bude ovládnut ještě inteligentnějším druhem, než je sám; stejně tak on ovládl druhy, které měly inteligenci nižší. A stroje nezastaví nic. Inteligentnější než my budou už v nedaleké budoucnosti. Jediný možný závěr: Stroje ovládnou Zemi. A brzo! Abychom si dobře představili budoucnost, musíme vzít v úvahu nejen široký okruh už existujících inteligentních strojů, ale také celou škálu vývoje. Víme, že existují velké, velmi mocné stroje počítačového typu. Víme také, že už existuje obsáhlá komunikační síť. A konečně známe rozličné robotické stroje různých tvarů a velikostí. Právě kombinace těchto různých prvků by se lidé měli obávat. Teď je ovládáme, ale jakmile začne naše kontrola kteréhokoli z těchto tří sektorů slábnout, začne také náš skutečný problém. Stroje, které se pohybují v naší přítomnosti, nepotřebují vypadat jako lidé. Nepotřebují být soběstačné v tom smyslu jako lidé a nemusí být ani nijak zvlášť inteligentní. Důležité jsou jejich celkové rozumové schopnosti a nezávislost i soběstačnost celé, stroji řízené a kontrolované sítě. Stroje mohou mít inteligenci rozmístěnou tak, jak to není možné u lidí. Dokonce i Walter a Elma, chodící roboty, mají trochu inteligence v každé noze. Obecně: Stroje mají větší a lepší možnosti komunikace, a proto může být inteligence rozdělena po celé síti. Lokální inteligence bude stačit na lokální úkoly, ale bude mít okamžitý přístup k větším schopnostem. U distribuované strojové inteligence jsou schopnosti rozděleny, a každý její prvek nebo sekce přispívá k celku. Prvky mohou být fyzicky podobné, jak je to například u počítačových stanic. Jsou-li však robotické stroje zapojeny do sítě, jejich fyzická rozprostřenost, průměrná inteligence a plněné úkoly mohou být velmi široké. Každý z prvků samozřejmě přispívá k celku, ale není to výkon stejné práce v každém těle jako tanečky u včel. Je to určitá speciační funkce v příslušně konstruované podobě. Pokud tedy uvažujeme o tom, zda je stroj inteligentnější než člověk, neposuzujeme nutně jeden individuální počítač na stole, ale síť, která může obsahovat mnoho počítačů a mnoho robotických strojů. A také bychom si neměli stroje, které vyvinul člověk a které se stanou dominantní silou, představovat jako shromážděné množství humanoidních "terminátorů". Bude to nejspíš síť strojů s počítačovými nebo jinými fyzickými schopnostmi, včetně robotů různých tvarů a velikostí. Inteligence je rozprostřena po této síti a jediná možnost, jak takový systém porazit, je zničení sítě jako celku. Vyjmutí jednoho jediného robota nepomůže. Má-li taková síť převzít moc, musí být k dispozici všechny tři prvky. Těžko si představit, jak by se tlupa "terminátorů" sama o sobě stala dominantní, pokud by lidé měli síť, spoje a počítače pod kontrolou. I kdyby byl každý jednotlivý robot chytřejší než člověk,
potřeboval by se spojit s jinými roboty, aby stroje jako druh mohly převzít moc. Spojeny zvítězí, rozděleny budou poraženy. Jakmile se robotické stroje propojí sítí, budou ji samy využívat k svým účelům - i kdyby jejich cíle byly stejné jako cíle lidské. Sama počítačová síť bez fyzických robotických strojů však těžko převezme moc, aniž by spoléhala na lidské otroky, kteří uskuteční její vůli. Nemyslím, že by taková situace byla příliš vzdálená. Lidé se ale pořád ještě zdají být dost inteligentní na to, aby vypnuli síť a šli od toho - jsou totiž otroky z vlastní volby. Klíčem je inteligence. V tuto chvíli mají převahu lidé, a proto ovládají stroje. Jakmile bude inteligence strojů srovnatelná s lidskou, skončí pro lidi babí léto, které teď žijí, a ocitnou se v nekonečné zimě. Lidská rasa, tak jak ji známe, přestane existovat. Navždy. Jakmile stroje dosáhnou srovnatelné inteligence, budou schopny dojít fyzicky a mentálně dál, než kdy došlo lidstvo. Dokonce i vesmírné dálky se přiblíží, jakmile zmizí křehkost a limity lidského plemene. A na to na všechno nebudeme čekat miliony nebo jen tisíce let. Přijde to v příštím století, možná za pětadvacet let, a velmi pravděpodobně dřív než v roce 2050. Ještě za života mnohého z nás budou lidé podřízeni síti inteligentních strojů, jež jsme stvořili. Hodně věcí, které děláme teď, tomuto procesu pomáhají, a dokonce ho urychlují. Například paralelní počítače, účinnější zbraně, a dokonce i mikropřístroje. Copak nemáme dost rozumu, abychom si uvědomili, kam to přivedeme? Přece nemůžeme být tak hloupí, abychom řídili svoji vlastní destrukci!
