De technologische singulariteit Philip Dutré, Dept. Computerwetenschappen, KU Leuven
1
De technologische singulariteit ? … het tijdstip waarop machines (computers) intelligenter worden dan mensen …
2
http://www.youtube.com/watch?v=-sSJ1K2H05A
De technologische singulariteit ? … het tijdstip waarop machines (computers) intelligenter worden dan mensen …
3
http://www.youtube.com/watch?v=T-Nf0SK0TIs
De technologische singulariteit ? Idee 1: “Intelligence Explosion”
“Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an ‘intelligence explosion’, and the intelligence of man would be left far behind. Thus the first ultraintelligent machine is the last invention that man need ever make.” (I.J. Good, 1965 “Speculations Concerning the First Ultraintelligent Machines”)
4
De technologische singulariteit? Idee 2: “Speed Explosion”
5
Steeds sneller wordende technologische vooruitgang Meest bekende voorbeeld: Moore’s Law
Sinds wanneer?
“… ever accelerating progress of technology and changes in the mode of human life, which gives the appearance of approaching some essential singularity in the history of the race beyond which human affairs, as we know them, could not continue.“ (John von Neumann 1950s)
“Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended.” (The Coming Singularity, Vernor Vinge, 1993)
“… robots of 2040 are our evolutionary heirs … children of our minds.” (Hans Moravec, 1999)
“The Singularity is Near” (Ray Kurzweil, 2005) 6
“The Singularity” is ondertussen mainstream
7
Steeds snellere vooruitgang (Accelerating Change) Lineaire vs. exponentiële groei
8
(The Singularity is Near, 2005)
Steeds snellere vooruitgang (Accelerating Change) X 10
X 10
X 10
X 1000
9
Steeds snellere vooruitgang (Accelerating Change)
Schaken
Internet
1990: G.Kasparov lacht met computers 2000: Deep Blue verslaat G.Kasparov
1980: onbetekenend 2010: kunnen we nog zonder?
Human Genome decodering 10
1990: schatting 100 jaar In 15 jaar klus geklaard
Countdown to Singularity: Paradigm Shifts
11
(The Singularity is Near, 2005)
Countdown to Singularity: Paradigm Shifts
12
(The Singularity is Near, 2005)
Countdown to Singularity: Paradigm Shifts
13
(The Singularity is Near, 2005)
First humans Widespread use of stone tools Domestication of fire by Peking man Beginning of most recent glacial period Seafarers settle Australia Extensive cave painting in Europe Invention of agriculture Neolithic civilization; first cities First dynasties in Summer, Ebla, and Egypt; development of astronomy
Time before present (years) 2600000 1700000 410000 120000 58000 29000 19000 12000 4800
Time to next event (years) 900000 1290000 290000 62000 29000 10000 7000 7200 500
Invention of the alphabet; Akkadian Empire Hammurabic legal codes in Babylon; Middle Kingdom in Egypt
4300 3800
500 400
Bronze metallurgy; Mycenaean culture; Trojan War; Olmec culture; invention of the compass Iron metallurgy; First Assyrian Empire; Kingdom of Israel; founding of Carthage by Phoenicia Asokan India; Ch'in Dynasty China; Periclean Athens; birth of Buddha
3400
500
2900
500
2400
500
Euclidian geometry; Archimedean physics; Ptolemaic astronomy; Roman Empire;
1900
500
Zero and decimals invented in Indian arithmetic; Rome falls; Moslem conquests
1400
400
Mayan civilization; Sung Dynasty China; Byzantine empire; Mongol invasion; crusades Renaissance in Europe; voyages of discovery from Europe and from Ming Dynasty China; emergence of the experimental method in science
1000
500
500
499
Widespread development of science and technology; emergence of global culture; acquisition of the means of self-destruction of the human species; first steps in 14 planetary exploration and the search of extraterrestrial intelligence space craft
1
(singularity.com)
15
(The Singularity is Near, 2005)
Hardware evolutie
16
(The Singularity is Near, 2005)
Hardware evolutie
17
(The Singularity is Near, 2005)
Hardware evolutie
18
(The Singularity is Near, 2005)
Hardware evolutie
19
(the.economist.com 2006)
Kan deze exponenti:ele groei blijven doorgaan?
Nieuwe technolgie i.p.v. huidige transistoren/chips
20
3D Nanotube circuitry Molecular computing DNA computing Spintronics Quantum Computing Light Computing
Wanneer evenaren we het brein?
Welke rekencapaciteit heeft het menselijk brein?
Huidige PCs:
Schattingen via meting van #signalen bij visuele / auditieve verwerking: 1014 … 1015 cps Geheugen: 1013 bits
1011 … 1012 cps Schatting: 1016 in 2025 (indien Moore’s law het volhoudt …) RAM-geheugen: Schatting: 1013 in 2018
2020: machines die qua capaciteit het menselijk brein evenaren 2050: machines die qua capaciteit het menselijk ras evenaren 21
Wat met software?
Software = minst snelle schakel in deze evolutie
Kunnen we software maken die een machine laat “denken”?
Software geïnspireerd door … niet noodzakelijk imitatie.
“The question of whether Machines Can Think ... is about as relevant as the question of whether Submarines Can Swim. “ Edsger Dijkstra, 1984
22
Domein van Artificial Intelligence Efficiëntere algoritmen / Slimme exploratie / Neurale Netwerken / Zelflerende systemen / Zelforganiserende systemen / Genetische algoritmen / Markov-chain / Bayesiaanse methoden
Slimme exploratie (zoekalgoritmen)
Deterministische spelletjes zoals schaken typisch voorbeeld
(2013)
(1972)
(1997) 23
Slimme exploratie (zoekalgoritmen)
24
(Russel & Norvig, AI: A Modern Approach)
Slimme exploratie (zoekalgoritmen)
Zoekruimte beperken door: Symmetrieën Equivalenties Eerder bezochte gevallen … 25
(Russel & Norvig, AI: A Modern Approach)
Slimme exploratie (zoekalgoritmen)
Indien niet tot einde kan doorgerekend worden:
Heuristiek die een bordpositie ‘beoordeeld’
In 2-speler spel, afwisselend minimum en maximum kiezen
26
(Russel & Norvig, AI: A Modern Approach)
Slimme exploratie (zoekalgoritmen)
Optimiseren
27
Niet-belovende takken niet doorlopen
(Russel & Norvig, AI: A Modern Approach)
Slimme exploratie (zoekalgoritmen)
Indien niet tot einde kan doorgerekend worden:
28
Heuristiek die een bordpositie ‘beoordeeld’
Slimme exploratie (zoekalgoritmen)
Indien zoekboom niet tot einde kan doorlopen worden
Patronen herkennen
Bvb. eindspelen in schaken
[Toren + Pion] vs. [Toren]
2012: alle mogelijke eindspelen t.e.m. 7 stukken geanalyseerd
Is de computer intelligent, omdat hij kan schaken?
29
Schaken verwordt van “intelligente activiteit” tot “amusant spelletje”
Genetische algoritmen
Geïnspireerd op biologische evolutie
Informatie:
Fitheid:
overleven levensvorm // prestatie algoritme
Mutatie:
DNA // algoritmische parameters
wijziging gen // wijziging parameters
Voortplanting:
30
meest succesvolle oplossing heeft meeste kans op voortplanting
Genetische algoritmen: voorbeeld
Sorteeralgoritmen: “Gegeven een verzameling getallen (…), sorteer van groot naar klein.”
31
Fundamentele operatie in vele informatica-toepassingen
0
1
2
3
4
5
6
7
0
1
2
3
4
5
6
7
Genetische algoritmen: voorbeeld
Basisoperatie: vergelijk 2 elementen met elkaar, en verwissel van positie indien niet in juiste volgorde
32
0
1
2
3
4
5
6
7
0
1
2
3
4
5
6
7
swap(2,5)
Genetische algoritmen: voorbeeld
Volledig sorteeralgoritme: sequentie van dergelijke swaps:
(1,5) (0,7) (3,4) (2,1) (8,2) ….
33
“DNA-string” van het algoritme Er zijn meerdere oplossingen mogelijk Voor een rij van 4 elementen: (0,1) (1,2) (2,3) (0,1) (1,2) (0,1)
(Hoeveel van dergelijke swaps heb je minimaal nodig om een willekeurige rij te kunnen sorteren?)
Genetische algoritmen: voorbeeld Genereer populatie van willekeurige DNA-strings:
1.
(1,5) (0,7) (3,4) (2,1) (8,2) …. (4,5) (2,3) (1,2) (2,3) (3,4) (4, 5) (5, 6) … (15, 16) …
Meet de “fitheid” van elk individu:
2.
34
Test elk individu op een willekeurige groep te sorteren verzamelingen Ga na in hoeverre elke verzameling gesorteerd is Druk dit uit in een “fitheidsschaal”
Genetische algoritmen: voorbeeld Genereer de volgende populatie:
4.
Kies de beste individuen Willekeurige mutaties:
(1,5) (0,7) (3,4) (2,1) …. (4,5) (1,5) (0,7) (2,4) (2,1) …. (4,5)
Cross-overs:
(1,5) (0,7) (2,4) (2,1) …. (4,5) & (1,2) (2,3) (3,4) (4, 5) (5, 6) … (15, 16) (1,5) (0,7) (2,4) (4, 5) (5, 6) … (15, 16)
5.
Herhaal …
6.
Na zeer vele generaties: optimale sorteeralgoritme?
35
Genetische algoritmen: voorbeeld
36
http://www.boxcar2d.com/
Genetische Algoritmen: Evolved Virtual Creatures Karl Sims’ Virtual Creatures (1994)
www.swimbots.com 37
Andere toepassingen: Learning
Kismet, MIT AI Lab 38
http://www.youtube.com/watch?v=8KRZX5KL4fA
Andere toepassingen: Drones Amazon Prime Air (2013)
University Southern California Computational Learning & Motion Control Lab 39
Andere toepassingen: Linking multiple databases
3D Wikipedia, Intel, University of Washington 40
http://www.youtube.com/watch?v=CNWFZzmZ0as
Andere toepassingen: Watson
41
http://www.youtube.com/watch?v=yHULBAwFdhU
Kritiek op idee van de singulariteit
Exponentiële groei is overschat
Data-punten zijn te optimistisch gekozen
“Accelerating change” niet vol te houden, zal afzwakken
42
Technisch, economisch, politiek, klimaat, …
Kritiek op idee van de singulariteit
Church-Turing Hypothese
1936: Alan Turing publiceert model van de Turing-Machine (TM = model voor berekenbaarheid) Er zijn problemen die NIET kunnen berekend worden op een TM (Turing, Church, Gödel)
Church-Turing Hypothese: Een functie die berekenbaar is, kan uitgevoerd worden op een Turing-Machine (en omgekeerd).
“Is het menselijk brein equivalent aan een Turing-machine?”
43
Kritiek op idee van de singulariteit
Regulatie
44
“Singulariteit zal er niet komen (indien ze gevaren inhoudt), omdat beleidskeuzes dit zullen verhinderen.”
Zelfbewustzijn?
Als een machine (computer) intelligent is, heeft de macine dan ook zelfbewustzijn?
Vermits zelfbewustzijn voortkomt uit fysische processen, geen reden om aan te nemen dat dit beperkt is tot biologische processen.
Vanuit technologisch standpunt, een weinig zinnige vraag?
Legale implicaties?
45
De toekomst
Hoe zal de (eventuele) singulariteit zich manifesteren?
Vernor Vinge:
46
The development of computers that are "awake" and superhumanly intelligent. Large computer networks (and their associated users) may "wake up" as a superhumanly intelligent entity. Computer/human interfaces may become so intimate that users may reasonably be considered superhumanly intelligent. Biological science may find ways to improve upon the natural human intellect.
De toekomst
David Chalmers: Wat is de plaats van de mens in dergelijk scenario?
Extinction
Isolation
Inferiority
Integration
47
Heden
Veranderingen gebeuren reeds …
Denkpatronen
Vertalingen
Auto-grading
Medische analyses
Search Engines
…
48
Heden
Veranderingen gebeuren reeds …
Denkpatronen
Vertalingen
Auto-grading
Medische analyses
Search Engines
…
49
[…] notes that IQ scores rose during the decades of TVs and transistor radios. But that rise, which began in the early 1900s, is largely attributable to gains in visual acuity and abstract problem-solving. Measures of other components of intelligence, including verbal skill, vocabulary, basic arithmetic, memorization, critical reading, and general knowledge, have been stagnant or declining. [...] We’re training ourselves, through repetition, to be facile skimmers and messageprocessors — important skills, no doubt — but, perpetually distracted, we’re not learning the quieter, more attentive modes of thought: contemplation, reflection, introspection, deep reading.
Heden
Veranderingen gebeuren reeds …
Denkpatronen
Vertalingen
Auto-grading
Medische analyses
Search Engines
…
50
EdX, a nonprofit enterprise founded by Harvard and the Massachusetts Institute of Technology, will release automated software that uses artificial intelligence to grade student essays and short written answers.
Besluit
De technologische singulariteit
Zal een geleidelijke evolutie zijn, eerder dan big bang
Snelheidsexplosie Intelligentie-explosie
Software lijkt de meest kritische component
Utopie / Dystopie / Futurisme / Onmogelijk ? Als er superintelligentie zal ontstaan, zal het wel “onze” superintelligentie zijn. 51
