21. Robots: met recht mensenwerk

21.

Robots: met recht mensenwerk Kees Stuurman'

In deze bijdrage wordt nader ingegaan op het juridisch kader rond (ICT-)robots en de mogelijke consequenties van nu zichtbaar wordende technische ontwikkelingen op het terrein van de robotica.

21.1

Het begrip 'robot'

Wat is eigenlijk een 'robot'J? Het begrip is voor het eerst gehanteerd door de Tsjechische schrijver Karel Cabek in zijn toneelstuk R.U.R. (Rossum's Universele Robots) uit 1920, en is afgeleid van het Tsjechische woord 'robota', dat staat voor *werk'. De menselijke fascinatie met 'automaton' gaat ver terug. Al voor het begin van de jaartelling bestonden daar ontwerpen voor. Rond het jaar 1206 is door de Arabische geleerde Al-Jazari een apparaat gebouwd (een boot met daarop vier robotmuzikanten) dat wellicht kan worden beschouwd als de eerste programmeerbare humanoi'de robot. In het jaar 1495 maakte Leonardo da Vinci een ontwerp voor een robot met een menselijk uiterlijk.2 Er blijkt veel discussie mogelijk over de vraag wanneer al of niet sprake is van een 'echte' robot. Onder meer de omvang van de functionaliteit is daarbij punt.van discussie. In de wereld van de robotica wordt veelal uitgegaan van een brede definitie waarbij een robot ten minste twee of meer taken kan uitvoeren.3 Een definitie die daarbij vaak wordt gevolgd is die welke is neergelegd in ISO-norm 83734 op grand waarvan onder een robot wordt verstaan: 'An automatically controlled, reprogrammable, multi-purpose, manipulator programmable in three or more axes, which may be either fixed in place or mobile for use in industrial automation applications.' Deze definitie is met name gericht op industriele robots. De lat ligt hierbij vrij hoog (programmeerbaar, multi-purpose, in drie dimensies). Op grand van deze definitie zijn bekende, en ook voor consumenten verkrijgbare, praktijkvoorbeelden (nu eens geen science fiction) als stofzuigrobots of grasmaairobots, geen 'echte' robots omdat zij maar een specifieke taak kunnen uitvoeren.

Prof. mr. drs. C. Stuurman is advocaat te Amsterdam en als hoogleraar verbonden aan de Universiteit van Tilburg (TILT - Tilburg Institute for Law, Technology and Society). http://en.wikipedia.org/wiki/RobottfDefinitions, zoals geraadpleegd op 4 januari 2009. Vgl. ook de in Wikipedia (geraadpleegd op 4 januari 2009) opgenomen definitie: 'Een robot is een programmeerbare machine, die meerdere, verschillende taken uit kan voeren.' ISO, de International Organization for Standardization.

133

C. STUURMAN

Anderzijds ontbreken in deze definitie (althans expliciete verwijzingen naar) aspecfen Se samenhangen met het autonoom kunnen functioneren van robots m een dynamische omgeving zoals autonomy, social ability, reactivity, pro-acUveness *. Een echt breed gedragen definitie ontbreekt. De essentie van het begrip 'robot' is dteinde lift - contextgebonden en heeft wellicht ook een persoonhjke lading. Zoals Joseph Engelberger, een pionier op het terrein van de industnele robotica, he ken;: 'I can't define a robot, but I know one when I see one." Op een wat hoger abstractieniveau wordt mijns inziens de kern van het begrip •robot' met name geraakt in bijvoorbeeld een definitie zoals d,e ,s opgenomen m de EncycloTaedia Britannica. Daarin wordt een robot omschreven als: 'any automat.cSyopera ed machine that replaces human effort, though it may not resembk hurnan befngs in appearance or perform functions in a humanhke manner In de kern gaa hT£riT«n ^n apparaat ('machine') dat automatisch werkt en (potenttele) inspanningen van mensen vervangt. Dit ter onderscheid van onder meer het gebruik van Sfonde, mechanische hulpmiddelen ter vervanging van (uitsluitend) menselijke arbeid en de inzet van dieren. Deze definitie is mijns inziens voldoende ruim om niet op voorhand het onderwerp SthLs gevoeLatig te beperken. Daarbij ken ik overigens aan het begnp 'apparaat eenSrSekenis toe en omvat dit met name ook software Nadeel van de eerder aangTalde definitie is overigens dat deze zo ruim is, dat ^f^"^ onder vallen die buiten het - toch vooral door hteratuur en film bepaalde - beeld van het b grip 'robots' vallen. Denk aan een bromfiets of een elektnsche grasmaa,Tde voortbLging daarvan vervangt menselijke inspannmg, en het apparaat werkt automatisch zolang er brandstof dan wel stroom aanwezig is. In Principe kan ook software onder het begrip 'robot' vallen. Voor het aanduiden van Sr softwarematige robots worden echter meestal andere begnppen gehanteerd, mTnam^Sgent agents' of softbots. Het verschil met de 'klass.eke' robot is vToml glgen in dc vonngeving; softwarecode in plaats van een fysieke verschynSvorm Hoewel vanuit juridisch perspectief met mmder mteressant, worden b r "ntelligent agents' of 'softbots' toch buiten beschouwmg gelaten Ook in de jund,scSratuur is er al veel over dat onderwerp geschreven', terwijl fysieke robots tot

Ts^rTwelke centraal staan in de definitie van intelligent agents var, Woolridge,* Jennings (M. Woolridge en N.R. Jennings, Intelligent agents: Theory and Pract,ce, KnowHow Stuff ^rks, zoa,s aangehaaM op: http://en.wi,pedia.org/wiki/Robot#cite_note-10,

geraadpleegd op 4 januari 2009. http://www.britannica.com/EBchecked/topic/505818/robot, zoals geraadpleegd op 4 januz e r meer: C. Stuurman en H.Wijnands, Intelligent agents: vloek e consument Consumentenbescherming In de nieuwe economic, Den Haag, Elsev.er, p 21-39 A. Oskamp,^- terecht, K.uwer, Deventer, 2002, oratie VU Amsterdam " B Schermer, Software agents, surveillance, and the right to privacy: A legislative fram weorkfor agent enabled surveillance, Leiden University Press, 2007.

134

21- ROBOTS: MET RECHT MENSENWERK. heden daarin minder zijn belicht. Veel van hetgeen hierna volgt is overigens ook op softwarerobots van toepassing. In hoeverre overigens de in de verschillende beschrijvingen dan wel definities gemaakte onderscheidingen, zoals in de ISO-definitie (programmeerbaar, multipurpose, in drie dimensies), ook juridisch relevant zijn valt nog te bezien. Vanuit juridisch perspectief lijkt mij met name relevant of een apparaat autonoom of semiautonoom taken kan verrichten.

21.2

Robots: van science fiction op weg naar realiteit

Op dit moment worden in de praktijk met name industriele robots ingezet, bijvoorbeeld voor het lassen of spuiten van auto's, terwijl andere (potentiele) zakelijke of prive-toepassingen, zoals voor de zorg of het huishouden, althans buiten het laboratorium nog niet of nauwelijks voor handen zijn. Een uitzondering daarop vormen de grasmaairobot en de stofzuigrobot, ook voor consumenten commercieel verkrijgbare toepassingen. Sinds een jaar of twee kijk ik met veel genoegen naar de grasmaaiautomaat die mij in de zomerperiode mijn zaterdagse tuinroutine uit handen neemt. Voor wat betreft de ontwikkeling van de 'robotisering' kan onder meer worden onderscheiden tussen de ontwikkeling van robots als nieuwe, nog niet bestaande, zelfstandige apparaten, en anderzijds de opkomst van robots door het 'upgraden' van bestaande machines die worden uitgerust met (verder) geautomatiseerde, en soms zelfs intelligente, functionaliteit waardoor deze - al bestaande - apparaten menselijke taken, althans gedeeltelijk, (verder) kunnen overnemen dan wel hen bij de uitoefening daarvan (verder) kunnen ondersteunen.9 Een in dit verband evenzeer relevante, maar wellicht minder direct herkenbare, ontwikkeling is de toevoeging van geautomatiseerde systemen in auto's. Het toepassen van ICT in auto's is niet nieuw meer; een gemiddelde auto bevat al snel enkele tientallen processoren. Wel (relatief) nieuw is dat auto's de laatste jaren steeds vaker worden uitgerust met automatisch werkende 'hulpjes' om met name de veiligheid van het verkeer te bevorderen. Voorbeelden zijn onder meer anti-blokkeringssystemen (ABS), stabiliteitssystemen en dergelijke. Sinds kort zijn er ook auto's op de markt met automatisch werkende cruisecontrols en remsystemen (de auto houdt een gelijkmatige afstand tot de voorganger en remt indien nodig zelfstandig), apparaten die de auto binnen de op de weg aangebrachte lijnen moeten houden ('lane departure warning'), de bestuurder waarschuwen als de oplettendheid afneemt ('driver

Deze ontwikkeling kan wellicht (ook) onder de noemer 'ambient intelligence' worden geschaard, zij het dat bij de afbakening van dat onderwerp het accent meer lijkt te liggen op het verhogen van het comfort voor de mens (intelligente huizen etc.) dan op meer robotspecifiek handelen. Zie voor een overzicht van (potentieel) relevante juridisch onderwerpen van 'ambient intelligence': S. van Esch, Juridische randvoorwaarden voor ontwikkeling van Ambient Intelligence (afstudeerscriptie Universiteit van Tilburg), 2005 (http://www.magisterjft.nl/elaw/ambient%20intelligence.pdf).

135

C. STUURMAN

control') en de mogelijkheid wordt veelal ingebouwd in de auto; een functionaliteit door het "^" bredere tmnsportmfrastructuur

alert

rf de wegen. of proefmodellen van daadwerkelijke toepassing

van de

en software) matigedieren'. Een andere - »-. - «""*•*organism); de iysieke *'), r»p«la.r

...) on,

gelijkheden te vergroten.

.

nen worden gedaan door Kevin WarwicK ^" ^ c , ject recent voor een Reading (VK). ^^^^^SS Met behulp daarvan kan de aantal maanden een chip in ajn arm laten P d bestudeerd maar is voor uitwisseling van signalen met de her ^'Se id Tgecreeerd tussen een^ menselijk heteerstookeendirectecormnunicatiemoge^ ^ k

brein en het Internet. Tijdens een recente presentee vert ^^ experiment nog verder heeft f^^~^ .^ hersensignalen tus-

8

beiden bleef verborgen.

«— *» • teit van Tilburg, 10 december 2008.

136

21. ROBOTS: MET RECHT MENSENWERK. kan ontwijken.13 Veel van dit onderzoek staat (primair) in het teken van het hersenonderzoek, onder meer gericht op epilepsie en de ziekte van Alzheimer. Ondanks al deze ontwikkelingen blijft het onderwerp 'robots' vooralsnog een vrij hoog sciencefictiongehalte houden. De onderzoeksdoelen zijn in de meeste gevallen nog (steeds) bakens ver aan de horizon. Voor zover er al toepassingen beschikbaar zijn dringen deze pas langzaam door tot de markt, zeker waar het toepassingen voor consumenten betreft. Robottechnologie kan voor wat betreft diffusiesnelheid dan ook (nog?) niet worden vergeleken met de andere ICT-toepassingen zoals de mobiele telefoon, de I-pod of het Internet. Daartegenover staat dat er voor de waarnemer die afstand kan doen van het klassieke beeld van robots zoals dat vaak wordt neergezet in literatuur of films, op het terrein van de robotisering veel beweging valt waar te nemen. Van science fiction derhalve langzaam maar zeker op weg naar 'science' en daadwerkelijke ontwikkeling van robots.

21.3

ICT-robots: juridisch kader

Het juridisch kader voor robots is potentieel zeer breed en divers. De gehanteerde definitie is hiervoor uiteraard mede bepalend. Op basis van de hierboven gehanteerde, meer generieke definities, wordt hieronder een overzicht gegeven van belangrijke elementen van het bestaande juridische kader waarbinnen de ontwikkeling, bouw, distributie/'verkoop', maar ook onderhoud en recycling, van robots zal plaatsvinden. Daarbij zal de aandacht met name worden gericht op regelgeving of andere normstellmg die (naar verwachting) meer specifiek is voor deze technologic. Volledigheid is in dit kader niet betracht. De benadering is daarbij primair gericht op de robot als een (ICT)product. Juridische aspecten die met name samenhangen met de ontwikkeling van de 'cyborgs' of het terrein van de 'human enhancement' blijven hier buiten beschouwing. Dat raakt onder meer vragen als de consequenties van dergelijke ontwikkelingen voor grondrechten (bijv. of ouders wel het recht hebben hun kinderen te laten 'verbeteren'?), persoonlijke identiteit en autonomie. 21.3.1 Robot als product: velligheids- en milieu-eisen Algemeen Als de zuiver softwarematige robots (intelligent agents) even buiten beschouwing worden gelaten, is een robot in de eerste plaats te beschouwen als een 'gewoon' elektrisch of elektronisch apparaat. Voor deze categoric producten gelden tal van eisen. Het gaat daarbij niet alleen om productie en distributie (veiligheid, milieu, ...) maar ook gebruik (zorgvuldigheidseisen, specifieke (verkeers)regels) en ook om bijvoorbeeld verwerking van afgedankte apparatuur (milieu).

13

Zie: http://www.newscientist.com/article/mgl9926696.100-rise-of-the-ratbrained-robots. html?full=true.

137

C. STUURMAN

Robots zullen onder meer moeten voldoen aan de . voortvloeiend uit de Europese Richtlijn Algemene Productve.ligheid (RAPV) zoals vastgelegd in de Warenwet en daarop gebaseerde nadere regelgeving (onder meer voor eletoische apparatus neergelegd in het' Warenwetbes uit elektrotechn,sche produkten'), en sectorspecifieke regelgeving voor byvoorbeeld medischhulpmiddelen. Met deze regelgeving wordt beoogd een hoog mveau van productveiligheid te waarborgen. Voor het toepassen van industriele robots zijn in international verband veiligheidsnormen opgesteld. NEN-EN-ISO norm 10218 gaat specifiek in op een inherent vei™S, de constructie, de beveiligingsmaatregelen en de gebruiksmformatie vfn industriele robots. In deze norm worden de basisgevaren verbonden aan he gebruik van dit type robots beschreven en wordt aangegeven aan weke eiser,, dent fe worden voldaan om deze risico's zo ver mogehjk te reduceren." Ook gaat de norm in op het veilig integreren van robots in de werkomgevmg respec .evehjk met andere apparatuur. Applicatieafhankelijk kunnen nog andere normen relevant zijn . Met de regelgeving inzake productveiligheid wordt niet alleen beoogd de gezondfarid van mensen te waarborgen, maar het bereik strekt zich ook u,t tot de veihgheid van zaken. Daarnaast zijn bij het bouwen van robots ook de regels relevant inzake het gebruik vanTevaarli ke stoffen (RoHS-richtlijn", geimplementeerd met het Besluit beheer dekSe en elektronische apparatuur) en het beheer van afgedankte elektrische en elektranische apparatuur (WEEE-richtijn", geimplementeerd m de Regehng beheer elektrische en elektronische apparatuur). Afhankelijk van de toepassing kan ook de specifieke veiligheidsregelgeving voor machines van toepassing zijn. Deze regelgeving, gebaseerd op de Europese Machi-

'« Richtlijn 2001/95/EG van het Europees Parlement en de Raad van 3 december 2001, inzake algemene productveiligheid. Pb EG 2002; L 11/4, NL: 15.1.2002. 15 httpV/www.aandrijvenenbesturen.nl/vakblad/index.php. " Zoals- NEN-EN 619:2002 (stukgoedtransport), NEN-EN 12611:2001 (hydraul.sche kantnersen) of NEN-EN-ISO 11161:2007 (geintegreerde productiesystemen). N.W. de With, Robotvelllgheid eindelijk genormallseerd!?, presentatie 28 mei 2008 •y^^ tics.benelux.info/Branchesites/RAB/Downloads/Presentat.e%20Nick%20de%20With. " Richtlijn 2002/95/EG van het Europees Parlement en de Raad van 27 januari 2003 betreffende beperking van het gebruik van bepaalde gevaarlijke stoffen in elektnsche en elektronische apparatuur, Pb EG 2003, L 37, p. 19 e.v. is Richtlijn 2002/96/EG van het Europees Parlement en de Raad van 27 januan 2003 betreffende afgedankte elektrische en elektronische apparatuur, Pb EG 2003, L 37, p. 24 , zoals gewijzigd bij de Richtlijn 2003/108/EG van het Europees Parlement en de Raad van 8 december 2003 tot wijziging van Richtlijn 2002/96/EG betreffende afgedankte elektrische en elektronische apparatuur (AEEA), Pb EG 2003 L 345, p. p. 106.

138

x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-^

21. ROBOTS: MET RECHT MENSENWERK nerichtlijn19, is in het bijzonder neergelegd in het Warenwetbesluit machines. Op grond hiervan dient er onder meef sprake te zijn van een veilig ontwerp van een machine, waardoor de veiligheid en gezondheid van mens en (huis)dieren gewaarborgd worden. Zoals besproken is in veel gehanteerde definities van het begrip 'robot' de eis opgenomen dat robots meer dan een taak moeten kunnen uitvoeren. Op grond van het bovenstaande lijkt het vanuit juridisch perspectief, althans voor wat compliancedruk en risicobeheersing betreft, eerder aan te bevelen de functionaliteit van een robot duidelijk te focussen en te beperken. De 'intelligentie' van robots zal in belangrijke mate met behulp van software en databanken worden gecreeerd. Dit betekent dat de belangen (economisch, juridisch, militair,...) bij het adequaat beschermen daarvan groot zijn. Intellectuele eigendom is dan ook voor het terrein van de robotica een belangrijk onderwerp. Vooralsnog lijkt er geen reden om aan te nemen dat er voor een adequate juridische bescherming van de 'content' van robots aanvullende regels noodzakelijk zijn. Of dat ook geldt voor de regels inzake de juridische bescherming van creaties gemaakt door robots valt nog te bezien. In het Verenigd Koninkrijk bestaat al sinds 1988 een speciale regeling voor de bescherming van 'computer generated works'.20 Diverse andere landen kennen inmiddels een vergelijkbare regeling. Specifieke toepassingen: verkeer en gezondheidszorg Gezien het potentieel brede toepassingsgebied van robots kunnen voor specifieke toepassingen geldende nadere regels ook relevant zijn. Volledigheid is hier niet mogelijk, en ook niet zinvol. Ik volsta met een korte illustratie aan de hand van twee toepassingsgebieden waarop de inzet van robots qua technische ontwikkeling (enigszins) binnen handbereik lijken te liggen: verkeer en gezondheidszorg. Zodra een robot zich op straat begeeft is er sprake is van deelname aan het verkeer op de openbare weg en zijn onder meer de Wegenverkeerswet 1994 en het Reglement Verkeersregels en Verkeerstekens (RVV 1990) van toepassing. Als sprake zou zijn van een 'voertuig'21 (in elk geval als de robot een of meer personen vervoert) is voorts het Voertuigreglement van toepassing. Deze regelgeving bevat onder 19

20

21

Richtlijn 98/37/EG van het Europees Parlement en Raad van 22 juni 1998 inzake de onderlinge aanpassing van de wetgevingen van de lidstaten betreffende machines, Pb EG 1998, L 207, p. 1 e.v. Op grond van artikel 9 lid 3 van de UK Copyright, Designs and Patents Act 1988 geldt dat: 'In the case of a literary, dramatic, musical or artistic work which is computer-generated, the author shall be taken to be the person by whom the arrangements necessary for the creation of the work are undertaken.' Zie over deze, en mogelijke andere lE-aspecten nader: Stuurman en Wijnands, a.w, p. 12 e.v. Blijkens het Voertuigreglement artikel la sub bd, wordt daaronder verstaan: 'motorrijtuig, aanhangwagen, fiets, zijspanwagen, wagen of andere constructie, niet bestemd om langs spoorstaven te worden voortbewogen; (...)'. Voorzover er sprake is van het zich verplaatsen van personen, met andere constructies dan een voertuig, is het RVV niettemin van toepassing (art. 2 lid 2 RV).

139

,<<-:-:^-:-:-^:-:<-:<-:-:-:^<-:-^^

C. STUURMAN

meer typegoedkeuringseisen (technische eisen), eisen waaraan een voertuig moet vTldoen om de weg op te mogen (eenmalige goedkeuring), permanente eisen (eisen waaraan moet worden'voldaan op de weg en tijdens de APK), en 8^™ voor voertuigen. Het betreft dus niet alleen eisen aan het^echmsche^ontwe p maa^er kunnen ook eisen worden gesteld aan uiterlijk (kenteken, verhchting etc.), gebruikers (minimumleeftijd) en het gebruik (bijv. verzekenngsphcht). Op dit moment wordt wel al gebruik gemaakt van autonoom bewegende voertuigen op bedrijventerreinen, en wordt volop geexperimenteerd met het 8^ van d*gelijke voertuigen op de openbare weg. Robots op straat is nu nog een fictie maar op afzfenbare tfrmijn wordt dit realiteit. In Japan zijn al diverse expenmenten mtgevoerd, onder meer om na te gaan hoe de interactie met voetgangers ^ andere keersdeelnemers verloopt. In de stad Fukuoka zyn daartoe m de pubheke, speciale zones aangewezen voor het uitvoeren van expenmenten ^" de interactie tussen robots en andere gebruikers van de openbare ™*?"£ deerd. Ook de lokale verkeersregelgeving is aangepast om robots volledig toegang tot de straat te geven.22 De ontwikkeling naar een meer zelfstandig functionerende auto kan, naast de boven Jsigl^de ^agen naar het toepasselijk juridisch kader (welke regelgeving » van foepassing), tot allerlei andere juridische vragen aanleidmg geven^Er kan byvoor3d en verschuiving optreden in de kwalificatie van de betrokkenen. Is degene die in een intelligente auto stapt welke volledig automatisch de ™^™™^ stemming bereikt, nog wel te beschouwen als een 'bestuurder', en in die hoedamgheSe spoken hfgeval zich een ongeluk voordoet? Het zou wel eens meer voor de hand kunnen liggen deze persoon aan te spreken in zyn ^^^ ter (ex 6-173 lid 2 BW). En hoe zit dat bij niet-eigenaren, zoals de huurder van een n emgen e al, of de passagier van een intelligente taxi?2' Het kan dan ook zeker ntt worden uitgesloten dat de bestaande regels ten aanzien van met name (vracht)auto's in verband met de voortgaande 'robotisering' aanpassmg behoeven. Voor zover naast intelligente auto's ook robots in andere vormen op straat verschijnen, zullen tenminste alle nu met 'voertuigen' bekende Qundische) probljmen zich ongetwijfeld gaan manifesteren, waaronder verkeersovertredmgen, schadevoorvallen8 2de afn de robot of andere robots dan wel aan andere objecten rf^aan per^ sonen, inclusief dodelijke slachtoffers), maar ook beschadiging er. diefstaU brand, 'joyriding' en het 'omkatten' van robots, tot en met verzekenngsfraude. Drt leidt uiteraard automatisch tot de vraag of er specifieke regelgevmg noodzakelijk is of da kan worden volstaan met het scheppen van duidelijkheid over dejund.sche status van dergelijke robots onder bestaande regelgeving, waardoor bijvoorbeeld alle regels die gelden voor auto's of bromfietsen van toepassing worden.

Zie: AtsuoTakanishi, Humanoid Robot Research and Its Applications - Recent Updates presentatie tijdens de 'Italy-Japan 2005 Workshop, The Man and The Robot: Italian and Japanese Approaches', www,obocasa.net/workshop/2005/Pdf/020204_Takamsh1.Pdf. 23 Zie T F.E Tjong Tjin Tai, Aansprakelijkheid voor intelligente zaken, Voordracht voor symposium Magister, 22 april 2008, Universiteit van Tilburg.

140

21. ROBOTS: MET RECHT MENSENWERK Ook voor toepassingen in de medische sfeer bestaan specifieke regels inzake productveiligheid, in het bijzonder neergelegd in de Wet op de medische hulpmiddelen. Zo valt een operatierobot24 onder de reikwijdte van deze wet, evenals kunstmatige organen en - in ontwikkeling zijnde - miniatuurrobots die zich kunnen verplaatsen in het menselijk lichaam. Opmerkelijk is dat in deze regelgeving expliciet is opgenomen dat software welke onderdeel uitmaakt van een medisch hulpmiddel daaronder mede wordt begrepen.25 21.3.2 Specifieke eisen voor IT-processen Hierbij kan onder meer worden gewezen op eisen inzake beveiliging en privacy26. Een robot die in de priveomgeving, zakelijke omgeving of de openbare ruimte taken verricht ter ondersteuning van een of meer personen (huishoudelijke taken, surveillance, zorg, bewaking, receptiediensten etc.) zal vrijwel steeds persoonsgegevens opslaan of deze anderszins verwerken in de zin van de Wet bescherming persoonsgegevens. Daarbij valt onder meer te denken aan videowaarneming, gezichtsherkenning, het vastleggen van transactie gegevens, de registratie van persoonlijke voorkeuren van gebruikers, maar ook de - onbedoelde - waarneming van gebeurtenissen in de omgeving van de robot. Dergelijke gegevensverwerking zal voor het functioneren van de robot, en acceptatie door zijn omgeving, in veel gevallen ook een voorwaarde zijn. De informatieprocessen in dergelijke robots (verzamelen, opslaan, bewerken, ...), inclusief de beveiliging daarvan, dienen uiteraard aan de eisen van met name de Wet bescherming persoonsgegevens te voldoen. Bij specifieke toepassingen, bijvoorbeeld in de zorg, zullen ook de betreffende nadere voorschiften van toepassing zijn. Dit betreft onder meer de beveiligingsnormen NEN 7510,7511 en 7512. Relevant is mogelijk ook de vraag of een robot (op termijn) niet zelfstandig recht zal hebben op privacy. In die lijn passen ook vragen als die naar anonimiteit en pseudonimiteit van robots, dan wel bij de huidige stand van zaken, nog van met name de gebruikers daarvan. Bij het ontwerpen van robots zal daarmee rekening moeten worden gehouden. Een interessante vraag is of voor robots (op termijn?) een identificatieplicht zal gelden. Een identificatiemogelijkheid biedt op dit moment in elk geval een zekere waarborg voor gebruikers, bijvoorbeeld in gevallen waarin de robot defect op straat wordt aangetroffen. Vanuit onder meer handhavingsperspectief lijkt het bevorderlijk dat een dergelijke mogelijkheid bestaat als bijvoorbeeld een robot 24 25

26

Nu nog handmatig bediende hulpmiddelen, op termijn (meer) zelfstandig functionerend. Wet op de medische hulpmiddelen, artikel 1 sub a: 'medisch hulpmiddel: elk instrument, toestel of apparaat, elke stof of elk ander artikel dat of die alleen of in combinatie wordt gebruikt, met inbegrip van de software die voor de goede werking ervan benodigd is, en dat of die door de fabrikant bestemd is om bij de mens voor de volgende doeleinden te worden aangewend: - diagnose, preventie, bewaking, behandeling of verlichting van ziekten, _ (.-.)'• Zoals hieronder nader zal worden toegelicht zijn de eisen welke uit de e-commerce specifieke regelgeving kunnen worden afgeleid in dit overzicht niet meegenomen aangezien deze meer voor software agents relevant lijken te zijn dan voor fysieke robots. 141

C. STUURMAN

amok maakt (er bestaat immers geen software zonder fouten ) betrokker,^aakt:Wj ongevallen of zich niet aan de geldende (verkeers)regels houdt ( robot njdtte hard ). Naast eisen ten aanzien van privacy en beveiliging kan hieronder meer• ook^nog worden gewezen op de mogelijke relevantie van de door Franken geformuleerdealgemenf beginselen van behoorlijk IT-gebruik' (beschikbaarheid, mtegnteit, authenticiteit, vertrouwelijkheid, transparantie en flexibihteit). 21.3.3 Overige eisen Bovenstaand overzicht is nog zeker niet compleet. Op het terrein ™*«V™£ recht kan onder meer nog worden gedacht aan de eisen welke gelden indien een robot een transactie verricht (vooralsnog namens zijn 'pnncipaa ). Dit onderwerp kan in principe wel relevant zijn bij de inzet van robots maar hjkt, zeker gez^n het sterk graeiende belang van de elektronische handel, meer relevant voor softwareagents dan voor fysieke robots.2' Een interessante vraag daarbij kan ook zyn of de betrokkenheid van een robot dan wel software agent bij «r^^^^ quenties zou (moeten?) hebben voor het effect van bijvoorbeeld ^ redelykheid en billijkheid (robot is beperkt in zijn vermogens en daarmee verdient (zijn gebru ker bescherming?) of de uitleg van overeenkomsten (ten nadele van de mtellectueel superieure mens?). Privaatrechtelijk is, in aanvulling op de eerder aangehaalde regels make productveiligheid, de regeling inzake productenaansprakelijkheid ex artikel 6: 85 BW e* uUeraard nog relevant Over de betekenis van deze regelgevmg voor de IT-sector, en XSSta i vraag naar de status van software (wel of geen 'product' in de zm van artikel 6:187 BW?), is veel gespraken en geschreven.2' Robots ^» «"*SE te beschouwen als een product in de zin van deze regelgevmg, hetgeen belangnjke gevolgen zalhebben voor het ontwerp, de bouw en presentatie daarvan. ^Op |^rond van artikel 6-186 BW zal een robot immers onder meer de veihgheid moeten bieden T'l^n'mocht verwachten van een dergelijk apparaat. Daarbij speelt onder meer net redelijkerwijs te verwachten gebruik daarvan een rol. Onder meer ,n*ressant daarbij lijkt mij welke invloed vorm, uiterlijk en gedrag van de robot op de verwachtingen vTn de gebruiker zullen hebben. Dat er een verband bestaat hjkt mij op

H Franken Overheid, informatietechnologie en recht - een gevarendriehoek? in: P.H.A. Frissen A W. Koers en I.Th. M. Snellen (red.) Orwell of Athene? Democratic en mformatiesamenleving, Sdu, 's-Gravenhage 1992 en H. Franken, Kanttekenlngen b^m^atiseren van beschikkingen, Pre-advies voor de Verenging voor Admimstrat.ef Recht (VAR), Alphen aan den Rijn, 1993. Ten aanzien van privaatrechtelijke aspecten van transacties met en door automates, z.e onder meer R E van Esch, Electronic Data Interchange en het vermogensrecht, Deventer, Tjeenk Willink, 1999, Stuurman en Wijnands, a.w., en M. Voulon, Elektronische vertegenwoordiging, CompMte/recfo 2002/6, p. 360-365. lie voor een overzicht en analyse: R.J.J. Westerdijk, Produktenaansprakehjkhetd voor software. Beschouwingen over de aansprakelijkheid voor informaticaprodukten (diss. VU), Deventer, 1995. 142

21. ROBOTS: MET RECHT MENSENWERK

wat verhger verlopen als een robot wordt ingezet. Moet dit welHch ooit et ve? zwarende omstandigheid voor straftoemeting vormen? Voorts s uiteraa d relevant bLdenTe^en £ ^ ™ C°mPUter™<^eit voldoende bescherming Sen bieden tegen het wegnemen van gegevens uit robots of (andere) vormen van mani-

de hierboven

, Senoemde eisen kan ook nog worden gewezen op de relevante andere algemene normen welke voortvloeien uit eisen ten aanzien van te betrachten maatschappelijke zorgvuldigheid (ex art. 6:162 BW) en mogelijk ook de algeb7sLveg' e" ^ belTliJk bCStUUr (bij de inzet van der8eli*e machines bij beslu.tvormmgsprocessen door de overheid). Ook dit laatste lijkt vooralsnog meer het terrein van software agents dan van fysieke robots; de gedachte aan de robot als ambtenaar of rechter daarbij maar even achterwege latend (...). 21.4

De 'wetten' vsin Asimov

De sciencefictionliteratuur heeft mede de contouren bepaald van het wetenschappelyk onderzoek op het terrein van de robotica. De eerste - althans literaire - stap voor het ontwikkelen van regels voor robots is gezet door de sciencefictionschrijver Isaac "" CSSay 'Runar°Und' (1942) form«^erde hij de volgende Three Laws ' 1 A robot may not injure a human being or, through inaction, allow a human being 6 to come to harm. 2

' I1"0.?' Tt°bey/)r1ders 8jven to jtfeyhuman beings, except where such orders would conflict with the First Law. 3. A robot must protect its own existence as long as such protection does not conflict with the First or the Second Law.' Met het opstellen van deze wetten heeft Asimov vooral geprobeerd een nieuwe visie op robots te creeren, waann robots meer waren dan mechanische monsters of vooral hennnenngen opnepen aan het monster van Frankenstein. Asimov's wetten hebben in de loop van de tijd tot veel reacties geleid." Niet in de laatste plaats van de auteur zelf, die heeft gewezen op onder meer een aantal inconsistenties. De regels roepen ook veel vragen op. Betekent de 'First Law' bijvoorbeeld dat een robot geen medISche mgrepen zou mogen verrichten of neemt toestemming van de patient deze

** Wikipedia, Three Laws of Robotics, geraadpleegd op 11 december 2008 Idem.

il

143

C. STUURMAN

belemmering weg? Moet voorts rekening worden gehouden met de tennis van de robot? Kunnen niet binnen het systeem alle regels worden gesc hondena s de ^ daar geen kennis van kan dragen? Moet rekening worden gehouden met een (verplicht?) bewustzijn van robots? Andere schrijvers hebben de door Asimov ingeslagen weg verder verkend en nieuwe regels toegevoegd32: '4. A robot must establish its identity m all cases ; 5. A robot must know it is a robot.'34 In zijn novelle 'Robots and Empire' is door Asimov zelf een 'Zeroth Law' toegeTfrabot must not merely act in the interest of individual humans, but of all humanity.' Welke betekenis moet aan deze 'wetten' worden gegeven? Vanuit juridisch oogpunt Ter^ver Soud van de wetten het nodige op te rnerken Het lijkt ook^eerde,• om abstracte 'beginselen' te gaan, dan om wetten in gebruikehjke zm^ Zo wordt geen rekedng houden met de omstandigheden waaraan deze regels zouden moeten WOPdenZlepasfzoals betrokken actoren en kenmerken a,s leeftijd, g***""* capaciteiten etc. (voorzover deze relevant kunnen zijn b,j robots . ) jof met de gevolgen van bijzondere omstandigheden als bijvoorbeeld dwang of dwalmg. - betekenis van deze 'wetten van Asimov' lijkt mij dan ook vooral te liggen in de ' dte dalrdoor wordt geleverd aan de door Asimov beoogde paradigmaverten aanzien van robots. Geen (uitsluitend) monsterachtige creaties, maar ' apparaten die bepaalde - mede op bescherming van de mens gerichte eedragsregels in acht kunnen nemen. Een paradigma dat mij nog steeds van belang £ en mede inspireert om na te denken over regels die sp~.fi* voor robots zouden moeten worden ontworpen. 21.5

Op weg naar eieuwe eormen? Prioriteiten en vormgeving

27.5.1 Geen juridisch vacuum; wel invloed op normstelling? Er heerst bepaald geen juridisch vacuum rond robots. Er zijn zelfs al zoveel regels dat zoa opgemerkt, anders dan in de robotica wordt nagestreefd, vanuit jundisch pe spectief de ontwikkeling van programmeerbare, multi-inzetbare automaton n,e direct lijkt aan te raden en een meer gefocuste functionahteit vooralsnog meer hjkt aan te bevelen.

32

Idem.

» Toegevoegd door Lyuben Dilov in zijn novelle Icarus (1974). ,„,..•. * Toegevoegd door Nikola Kesarovski in een verhaal getiteld 'The Fifth Law of Robot.cs 35

(1983). Idem.

144

21. ROBOTS: MET RECHT MENSENWERK Een invalshoek die ook aandacht verdient is dat de introductie van zelfstandig handelende robots ook eftecten zou kunnen hebben op gedragingen van mensen, en daarmee wellicht op bestaande rechtsregels. Een vergelijkbare ontwikkeling kan worden waargenomen naar aanleiding van de opkomst van het Internet. Daar waar aanvankelijk werd uitgegaan van 'wat offline geldt, moet ook online gelden', heeft mmiddels een verschuiving plaatsgevonden naar de introductie van aparte, aanvullende regels voor de elektronische omgeving. Ook kan worden waargenomen dat op een aantal punten de scheidslijn tussen online en offline minder scherp wordt en normstelling elkaar over en weer lijkt te bei'nvloeden. Dit geldt bijvoorbeeld op het terrein van de privacybescherming ten aanzien van de opvattingen over de (gewenste) reikwijdte van de juridische bescherming. Een ander voorbeeld vormt de regeling inzake de bedenktijd bij aankopen. Deze is geintroduceerd in de online omgeving maar nu ook meer en meer van toepassing op offline aankopen. 27.5.2

Welke prioriteiten?

Veel juridische vragen die met betrekking tot de toepassing van robotica gesteld kunnen worden lijken op dit moment nog louter theoretisch.36 Dat geldt zeker voor veel van de fundamentele juridische vragen die met betrekking tot de toepassing van robotica gesteld kunnen worden. Helaas, zou ik daaraan willen toevoegen; vanuit reguleringsperspectief zijn juist deze vergezichten, waaronder de vraag of robots (ooit) zelfstandige dragers worden van rechten en plichten, het meest interessant.37 Sharkey wijst er op dat veeleer dan voor deze vergezichten, met name nu aandacht nodig is voor ethische kwesties en veiligheidsaspecten van de ontwikkeling en inzet van robots. Hij wijst onder meer op een aantal ethische risico's verbonden aan de (inmiddels vrij snelle) opmars van in het bijzonder 'zorgrobots' voor kinderen en

36

37

Zie het volgende citaat uit het eerder aangehaalde artikel uit The Guardian naar aanleiding van het verschijnen van een rapport van het Britse Office of Science and Innovation's Horizon Scanning Centre in December 2007 waarin er op werd gewezen dat indien kunstmatige intelligentie daadwerkelijk is ontwikkeld en wordt toegepast, ook de vraag naar mensenrechten voor robots aan de orde zou komen. 'But the scientists said true robot intelligence is so far in the future that it should not be treated as anything more than science fiction. "It's really premature I think to discuss robot rights," said Owen Holland, a computer scientist and expert on machine consciousness at Essex University. "[This report] is certainly not based on science and it is not realistic. (...)." Noel Sharkey, a roboticist at the University of Sheffield who is a regular contributor to the BBC's Robot Wars, agreed, but he said there were more immediate concerns. "The idea of machine consciousness and rights is... a bit of a fairy tale as far as I'm concerned," he said. "My concern is about public safety. I think we need proper, informed, public debate about where we are going with robotics at the moment. We need to tell the public about what's going on in robotics and ask them what they want.'" Zie onder meer: A. Matthias, Automaten als Trager von Rechten. Pladoyerjur eine Gesetzesanderung (diss.), Logos, Berlin 2008 en B.J. Koops en D.O. Jaquet-Chiffelle, New (Identities and the Law: Perspectives on Legal Personhood for Non-Humans 2008 FlDIS-rapportD17.2.

145

C. STUURMAN

ouderen en militaire toepassingen.38 Bij zorgrobots spelen vragen als het effect op bijvoorbeeld het gedrag van kinderen als ouders een robot langdurig inzetten als oppas. Militaire toepassingen zijn al realiteit, bijvoorbeeld in Irak. Nu wordt de beslissing over het al of niet vernietigen van militaire doelen nog steeds door mensen genomen maar meer autonomie voor deze robots lijkt slechts een kwestie van tijd. Sharkey merkt daarbij op dat een computerprogramma echter niet het onderscheid kan maken tussen strijders en non-combattanten; de daarvoor vereiste heldere definitie van dit laatste begrip ontbreekt.39 Hij pleit voor een brede internationale discussie als basis voor het opstellen van beleidslijnen inzake veilige en ethisch verantwoorde toepassingen op het terrein van de robotica.40 Een ander interessant punt dat hij onder de aandacht brengt is het mogelijk drempelverlagend effect van de inzet van robots op bijvoorbeeld de beslissing geweld toe te passen.41 Niemand rouwt immers om een robot. Een interessante invalshoek is ook dat robots door het - tenminste vooralsnog - ontbreken van emoties of de noodzaak van zelfbescherming, meer rationeel beslissingen kunnen nemen dan mensen. Dit kan bijvoorbeeld betekenen dat de inzet van militaire robots kan bijdragen aan het voorkomen van wraakacties of martelingen. Robots zouden zich daarin, ondanks het ontbreken van een bewustzijn, mogelijk meer ethisch kunnen gedragen dan mensen.42 In Zuid-Korea is al in 2007 het voornemen geuit een 'code of ethics' op te stellen ter voorkoming van misbruik van of door robots.43 In wetenschappelijke kring komt het onderwerp regelmatig aan de orde.44

38

39

40

41

42

43

44

N. Sharkey, The Ethical Frontiers of Robotics, Science, 19 december 2008, Vol. 322, p. 1800-1801. Zie op dit terrein onder meer ook het werk van Ronald C. Arkin (http://www.cc.gatech. edu/ai/robot-lab/online-publications/formalizationv35.pdf). Shareky wijst in dit verband ook op bijvoorbeeld de inzet van robots voor het bewaken van de naleving van huisarrest of het patrouilleren op straat door met videocamera's uitgeruste robots. Een ander voorbeeld dat hij noemt is de inzet van robots bij het optreden tegen ordeverstoringen. 'It would be great if all the military were robots and they could fight each other, but that's not going to be the case,' he said. 'My biggest concern there is that it goes against the body bag politics. If you don't have body bags coming home, you can start a war much more easily.', Uit: 'Forget robot rights, experts say, use them for public safety', James Randerson, The Guardian, Tuesday 24 April 2007 (http://www.guardian.co.uk/science/2007/ apr/24/frontpagenews.uknews). 'VS ontwikkelt robotsoldaten die geen oorlogsmisdaden kunnen begaan', W. de Moor , maandag 1 december 2008. 'South Korea creates ethical code for righteous robots', New Scientist Tech and AFP, maart 2007, http://www.newscientist.com/article/dnll334 zoals geraadpleegd op 4 januari 2009). Sinds 2004 onder meer in het kader van de IEEE-RAS Technical Committee on Roboethics. Zie: http://www.roboethics.org/ieee_ras_tc/.

146

21. ROBOTS: MET RECHT MENSENWERK 21.5.3 Op naar (zelf)regulering? In de Nederlandse reguleringsaanpak geldt dat, indien de noodzaak van regulering is vast komen te staan, in eerste instantie onderzocht dient te worden of als alternatief voor overheidsregulering andere oplossingen mogelijk zijn, waarbij vormen van zelfregulering zo veel mogelijk moeten worden gestimuleerd.45 Als de ontwikkelingen op het terrein van de robotica zoals ik deze nu begrijp hieraan worden getoetst, dan lijkt mij dat de discussie in eerste instantie moeten worden geconcenrreerd op de vraag of er een noodzaak bestaat tot reguleren. Daar waar die vraag mogelijk positief zou kunnen worden beantwoord (privacy, veiligheid? ....) dient vervolgens de focus te liggen op het verkennen van de mogelijkheden voor zelfregulering. Door een werkgroep van het Electronic Commerce Platform Nederland (ECP.NL) is in een in 2005 uitgebracht rapport al eerder gewezen op de mogelijkheid van het opstellen van gedragsregels voor bouwers van softwareagenten; wellicht als voorloper voor toekomstige regelgeving.46 In een later rapport (2006) is een concrete handreiking gedaan voor het opstellen van dergelijke gedragsregels, met als thema's identificatie, transparantie, integriteit, vertrouwelijkheid, continui'teit, toetsbaarheid en traceerbaarheid, en intellectuele eigendom.47 21.6

Slotopmerkingen

Lange tijd heb ik tijdens colleges studenten er op gewezen dat zij er rekening mee moesten houden dat binnen 10 jaar robots op straat zouden verschijnen. Voor veel toepassingen lijkt die periode nog steeds een veilige buffer; voor andere, meer geavanceerde toepassingen, blijft het waarschijnlijk een te optimistisch tijdpad. Niettemin lijkt de periode van tien jaar nu toch ook voor een aantal toepassingen al te zijn ingevuld, en zijn er inderdaad robots op straat verschenen. Zoals eerder opgemerkt blijft dit uiteraard ook een kwestie van definities. Aangezien er geen breed geaccepteerde definitie is, kan in principe ieder zijn gelijk halen. Niettemin zie ik, los van de industriele robots die al lang hun (soms gecompliceerde) werk doen en prive-toepassingen als grasmaairobots, met de opkomst van in het bijzonder deels autonoom handelende auto's, de robots duidelijk ook hun intrede doen in de openbare ruimte. Een auto die zelfstandig afstand houdt en remt heeft onmiskenbaar 'robotfunctionaliteit', zij het in een vorm die niet voldoet aan het door film en stripverhaal geschapen beeld van een 'mensachtige automaat', met, afhankelijk van de leeftijd van de lezer, de stripheld Archie ('de man van staal'), Star Trek of de Terminator als model. De robot komt nu echter, zij het ten opzichte van dat beeld vermomd, toch steeds dichterbij. 45

46 47

Zie de Aanwijzingen voor de regelgeving (doorlopende tekst tot en met 7e wijziging) Stcrt. 2005, 87, onder meer nrs. 6,7 en 7a, en de Nota 'Wetgeving voor de elektronische snelweg', Kamerstukken If, 1997/98, 25 880, nr. 2. Juridische aspecten van autonome systemen, ECP.NL, 2005. Handreiking voor gedragsregels autonome systemen. Juridische aandachtspunten bij de bouw en het gebruik van autonome systemen, ECP.NL, 2006. 147

C. STUURMAN

De robot kleedt zich dan wellicht wat anders dan door velen vermoed, de juridische vragen worden daardoor niet beinvloed. Zoals boven beschreven is er ten aanzien van robots op dit moment beslist geen sprake van een juridisch vacuum, anders dan wel is gesteld (naar later Week overigens deels ten onrechte) bij de opkomst van het Internet. Daartegenover staat dat het zonder meer positief beantwoorden van de vraag naar de toereikendheid van het huidige jurdische kader mijns inziens wel zou getuigen van te groot vertrouwen in de mate van 'technologieresistentie' van de huidige wet- en regelgeving. Ondanks sciencefictionfilms en literatuur laten de ontwikkelingen op het terrein van de robotica zich toch moeilijk voorspellen. Zullen er ooit werkelijk 'intelligente' machines worden ontwikkeld die autonoom aan onze samenleving kunnen deelnemen? Zal de convergence tussen mens en machine het onderscheid tussen beide ooit doen vervagen? Meer duidelijkheid over de (on)mogelijkheden zal waarschijnlijk nog lang op zich laten wachten. Bij de huidige ontwikkelingen lijkt het wel verstandig de door Sharkey bepleite discussie over veiligheid en ethische aspecten van de inzet van robots te entameren. Mogelijk zal dit de opmaat vormen voor het, via althans initieel zelfregulering, realiseren van aanvullende normstelling.

148