Ethiek & Internet (of Things)

Ethiek & Internet (of Things) Postgraduaat multimedia & communicatie Sociaal en participatief gebruik van nieuwe media 25 februari 2014 Katleen Gabriels iMinds-SMIT, VUB [email protected]

DEEL I: Theoretische perspectieven •  Morele paniek (verleden) •  Technologie; Sociaal constructivisme •  Ethische aspecten van internet en Internet of Things (IoT) (heden – toekomst) •  Excursus: Conversatiemanagement

DEEL II: Aan de slag •  Vertaalslag naar eigen werkcontext (opgesplitst in groepen) •  Wat zou IoT kunnen betekenen voor jullie organisaties? •  Presentaties en groepsdiscussie

Doelstellingen •  Blik op nieuwe media / technologieën opentrekken en nuanceren (philosophy of technology) •  Introductie IoT •  Aandacht voor de ethische aspecten van internet en IoT (ethics of technology) •  Mogelijkheden, valkuilen, ethische & kritische reflectie •  Denkoefening: Web 1.0 -> Web 2.0 -> mobiel internet -> IoT

Deel I: Theoretische perspectieven

Definitie: Moraliteit •  The individual reflection of habits and norms that are given within a specific cultural context (i.e. morals) to personal codes of conduct •  When personal behavior is reflected in awareness behavior, principles, judgments, norms, and values - on an individual level •  Part of human nature and human evolution •  Social realities •  Embodied moral subjects

Definitie: Ethiek •  Morality becomes an object of scientific research in the academic discipline of ethics, moral philosophy, or moral sciences •  Ethics deals with the systematic and critical reflection on morals and morality and refers to a specific field of philosophical study •  Computer ethics, techno-ethics (applied ethics)

Nieuwe media & morele paniek •  Nieuwe media zorgen voor polarisatie in het debat •  ‘moral panic’ (Cohen, 1972), ‘media panic’ (Drotner, 1999) •  Bedreiging voor de sociale orde en voor maatschappelijke en culturele normen en waarden (gevoel van verlies) •  “Moral panics serve as ideological safety valves whose effect it is to restore social equilibrium” (Drotner, 1999, p. 597).

Morele paniek: Radio De Standaard, 04.11.1933, p. 1 •  “Het radio-toestel in uw kamer is iets neutraals, maar het houdt op neutraal te zijn, zoodra gij het aanzet en luistert of laat luisteren, immers, dan maakt gij een keuze, of laat gij keuze maken tusschen goed en kwaad, naarmate de omroep die gij aanzet, de drager is van goed of van kwaad.”  De Standaard, 27.03.1931, p. 1 •  “Zij mogen het geen oogenblik vergeten, dat zij de behoeders zijn van hunne kinderen en van al degenen, die bij hen inwonen en aan hun zorgen zijn toevertrouwd. Zij moeten nog zorg dragen, dat deze door middel van de radio in hun godsdienstige en zedelijk leven niet geschaad worden, maar gebaat.”

Morele paniek: Televisie De Standaard, 11.05.1958, p. 7 •  “Een kode voor de ouders. T.V. is geen mechanische baby-sitter.”  •  “De T.V.-Kode blijft niet bij algemene beschouwingen. Men heeft op die vergadering ook getracht konkrete richtlijnen uit te stippelen. Zo onder meer dat de kinderen ten minste vijf à zes jaar oud moeten zijn om met vrucht naar de T.V.-uitzendingen te kijken. (Daarbij dient dan wel een uitzondering gemaakt voor de specifieke jeugduitzendingen).”

Het zoeken naar het midden •  Media panics over ‘nieuwe media’ zijn niet nieuw (historisch kader): “every new panic develops as if it was the first time such issues were debated in public, and yet the debates are strikingly similar” (Drotner, 1999, p. 610).  •  Sturken et al., 2004: een nieuwe technologie gaat in het denken van mensen beschouwd worden als een transformerende kracht, vanuit hun eigen referentiekader maakt het een aantal zaken mogelijk (optimisme) ofwel gaat het goede zaken van de gekende wereld doen verdwijnen (pessimisme) •  Nuance is nodig, zonder in een overdreven optimistisch (utopisch vooruitgangsgeloof) of pessimistisch discours te vervallen: het zoeken van het midden

Sociaal constructivisme •  Social constructivism considers technology not just as a collection of concrete artefacts, but also in light of the practices around it and its embeddedness in social, cultural, moral contexts •  Technische artefacten en systemen zijn sociale constructen •  User studies: nieuwe technologie –> domestication (huishoudterm) -> normalization

Sociaal constructivisme: voorbeelden •  Fiets: van machomachine tot vervoermiddel

Foto: http://zeeland.blog.nl/files/2011/01/oude-fiets.jpg

Sociaal constructivisme: voorbeelden   •  Minitel •  ARPANet (Advanced Research Projects Agency Network)

•  Communicative resources •  ‘interpretative flexibility’

Foto: http://www.blog-agri.com/ticagri/index.php/tag/minitel/

Technologie is niet neutraal •  Technologies play “an active part in shaping their environments” (Brey, 2000) •  Ingebed in sociale processen en context •  Winner (1980): ‘Do artifacts have politics?’ •  Google zoektermen (trust) •  ‘hidden morality’, ‘mediated morality’

Virtualiteit en moraliteit •  De vraag hoe technologie de relatie tot het zelf, de ander en de wereld verandert, is een oude maar altijd actuele vraag •  Interpersoonlijk (e.g. reputatieschade via roddel) <> via technologie (e.g. hacken) •  Verschillende lagen: individuen; overheid; bedrijven; ...

Internet en ethische problemen   •  Big data, privacy, surveillance (overheid, bedrijf) “ik heb niks te verbergen” <> intiem kapitaal The right to be forgotten Je identiteit valt nooit samen met een digitale dataset, maar bedrijven en overheden kunnen het wel op die manier misbruiken (e.g. LGBT)

•  Reikwijdte, snelheid en onmiddellijkheid <> onvoorspelbaarheid gevolgen (controleverlies) •  Reproductie (illegaal kopiëren), ‘old concerns, new manifestations’ •  Anonimiteit, bedrog: verschijnen-verdwijnen <> morele betrokkenheid, verantwoordelijkheid, ‘trust’

Ethische problemen in transitie •  Web 1.0: weinig dynamisch, weinig inbreng •  Web 2.0: verhoogde interactie, participatie, productie (usercreated content; ‘produsage’, e.g. Wikipedia) •  Mobiel internet: ‘fysieke’ act van in- en uitloggen verdwijnt, smartphone als verlengstuk van de hand •  Transitie technologie –> verschuiving ethische problemen   Treinincident Meuris (gebrek aan ethisch debat)   Wegpiraat en dashcam (de virtuele schandpaal)   ‘Sharing’ klasfoto busramp Sierre 2012

IoT: Definitie •  The Internet of Things builds out from today’s internet by creating a pervasive and self-organising network of connected, identifiable and addressable physical objects enabling application development through the use of embedded chips •  Identificeerbare objecten (sensor geeft informatie over het object en de omgeving er rond) die met elkaar communiceren via het internet (object wordt geïntegreerd in het netwerk) •  “thing” = metafoor voor alle dingen

IoT: Internet in transitie •  Web 1.0 -> Web 2.0 -> mobiel internet -> IoT •  Mensen zijn verbonden (sociaal medium) <> objecten zijn verbonden •  Wat op het internet verschijnt, verschijnt er door menselijke inbreng <> apparaten communiceren zonder menselijke inbreng •  Deterritorialiserend <> territorialiserend (lokaal) •  Voortdurend ‘in’ het netwerk: constant verbonden met elkaar en met de ‘dingen’

IoT: Voorbeelden •  Van passieve naar actieve labels: objecten sturen zelf informatie (QR code, RFID chip) •  IoT heeft gevolgen voor industrieën; NGO; beleid; overheid; onderwijs; economie; innovatie en ontwikkeling; consumenten (eindgebruikers); … •  Ongekende mogelijkheden (Beecham diagram) •  Voorbeelden:        

Domotica Slimme contactlens Landbouw Vending machine

IoT: Voordelen •  Het gemak (tijdbesparend): een ‘systeem van systemen’ ontstaat doordat objecten voortdurend met elkaar in verbinding staan (zoeken patronen in de data die uitgewisseld worden); de apparatuur past zich aan, neemt werk van je over •  Comfort •  e-Health •  Efficiënter, ook m.b.t. veiligheid •  Energiesparend (bv. inzake ‘slimme’ woning)

IoT: Valkuilen I •  Centralisatie door grote bedrijven (e.g. Nest Labs – Google) •  Onvoorspelbaar, niet transparant wie er inzage heeft (ook moeilijk te voorzien op lange termijn) •  Gepersonaliseerde marketing •  Surveillance versus privacy •  Databescherming: voortdurende tracking (monitoring), gevoelige informatie, kwetsbare individuen

IoT: Valkuilen II   •  Geen informed consent over wat er gebeurt met je data •  Problemen met vertrouwen, gezien er geen sprake is van een open relatie •  Alomtegenwoordigheid <> onzichtbaarheid van data die opgeslagen, uitgewisseld, verwerkt, ... worden •  Er is constante connectiviteit

IoT: Valkuilen III •  Black box: enkel de bedrijven weten er het fijne van, niet de consument / eindgebruiker •  Verdwijnen van mogelijkheid tot ‘opt out’, verdwijnen van keuzemogelijkheid <> keuzemogelijkheid als deel van menselijke vrijheid en autonomie •  De ‘enige’ manier om je privacy te beschermen, is door geen gebruik te maken van IoT, waardoor je de voordelen ervan misloopt (<> IoT op openbare plaatsen)

IoT: Valkuilen IV •  Kwetsbaarheid, op afstand bedienbaar middels een app op de smartphone: kan gestolen/gehackt worden •  Kwetsbaarheid inzake veiligheid: cybersecurity (e.g. hacking); crashes; datalekken; …

! •  Belang van beleid, onderwijs, mediageletterdheid, bewustwording •  ‘empowered’, ‘aware’, ‘informed’ & ‘literate’ individuals •  Belang van open source •  Inspraak door eindgebruikers (technologie als sociaal construct)

Conversatiemanagement I •  •  •  •  •  •  •  • 

Digitale etiquette Mediawijsheid Opstellen van ‘Code of conduct’ voor gebruikers Altijd vriendelijk en professioneel blijven Altijd snel antwoorden Nooit negatief, agressief of onbeleefd worden Je identiteit kenbaar maken Maar: relativeer (“haters gonna hate”)

Conversatiemanagement II   •  Know what to do with negative comments •  Have a flow worked out •  Determine who is involved in responses •  Admit to mistakes and thank those who bring it to attention •  Respond kindly •  Only delete comments as a last resort

Deel II: Aan de slag  

•  Fictief EU-project in het kader van Horizon 2020 (The EU Framework Programme for Research and Innovation) •  Opdracht: Schrijf een projectvoorstel om voor 2 jaren een project op te starten rond the Internet of Things, geïmplementeerd in de werkomgeving/organisatie •  Het project moet een samenwerking met andere partners zijn, zoals ontwikkelaars, maar ook andere partners, bv. museum – onderwijs – gemeente •  The sky is the limit (budget, manmaanden, ... even niet relevant) 

Structuur 1.  Objectieven: Wat zijn de doelstellingen van het project? Wat is het beoogde eindresultaat? Wie zijn de partners? 2.  Current state-of-the-art: Wat is de huidige gang van zaken? 3.  Hoe gaat de huidige situatie veranderen en verbeteren dankzij het project (dus dankzij IoT)? Wat is de meerwaarde (vernieuwing) van het project? 4.  Wie zijn de stakeholders? Wie zijn de eindgebruikers? 5.  Wat is de impact van het project? Voordelen? Valkuilen? 6.  Ethische reflectie: Welke opdrachten geef je aan de ontwikkelaars inzake ethiek (belang van ethisch design en verantwoordelijkheden voor de designer)? Welke gegevens zijn privé of gevoelig? Welke informatie zou je zelf niet willen delen? Hoe ga je om met big data? Worden er ook data van kinderen opgeslagen? ...?

Referentielijst (1) •  Baym, N. K. (2010). Personal connections in the digital age. Cambridge: Polity press. •  Brey, P. (2000/2004). Disclosive computer ethics. In R. A. Spinello, & H. T. Tavani (Eds.) (2004). Readings in cyberethics. Second edition. Sudbury, MA: Jones and Bartlett publishers, pp. 55-66. •  Cavalier, R. J. (Ed.) (2005). The impact of the internet on our moral lives. Albany: State university of New York press. •  Cohen, S. (1972). Folk devils and moral panics. London: McGibbon & Gee.   •  Cormode, G., & Krishnamurthy, B. (2008). Key differences between Web 1.0 and Web 2.0. First monday 13 (6). •  Drotner, K. (1999). ‘Dangerous media? Panic discourses and dilemmas of modernity, Paedagogica Historica 35 (3): pp. 593-619.  •  Feenberg, A. (1999/2008). Questioning technology. New York: Routledge. •  Gabriels, K. (2011). Ethics and morality in virtual space. In K. Poels, & S. Malliet (Eds.) (2011). Vice City Virtue: Moral issues in digital game play. Leuven: Acco uitgeverij, pp. 33-50.

Referentielijst (2)   •  Johnson, D. G. (1985/2009). Computer ethics (Fourth edition). New Jersey: Pearson education international. •  Johnson, D. G. (2004). Ethics on-line. In R. A. Spinello, & H. T. Tavani (Eds.) (2004). Readings in cyberethics. Second edition. Sudbury, MA: Jones and Bartlett publishers, pp. 30-39.  •  Jordan, T. (2000). Cyberpower: The culture and politics of cyberspace and the internet. London / New York: Routledge. •  Lievrouw, L. A., & Livingstone, S. (2002). The social shaping and consequences of ICTs. In L. A. Lievrouw, & S. Livingstone (Eds.) (2002). Handbook of new media. Social shaping and consequences of ICTs. London: Sage, pp. 1-15. •  Mitcham, C. (1994). Thinking through technology. The path between engineering and philosophy. Chicago: The university of Chicago press. •  Murphie, A., & Potts, J. (2003). Culture & technology. New York: Palgrave MacMillan.

Referentielijst (3) •  Sturken, M., Thomas, D., & Ball-Rokeach, S. J. (2004). Technological visions: The hopes and fears that shape new technologies. Philadelphia: Temple university press.  •  Verkerk, M. J., Hoogland, J., van der Stoep, J., & de Vries, M. J. (2007). Denken, ontwerpen, maken. Basisboek techniekfilosofie. Amsterdam: Boom.  •  Winner, L. (1980). Do artifacts have politics? Daedalus 109 (1). Artikels uit De Standaard: •  Mr. Jansen over de radio en haar gevaren In: De Standaard, 27.03.1931, p. 1. •  Nederland’s Aartsbisschop treedt in het krijt voor den Katholieke Radio Omroep. Een herderlijk schrijven van Z.H.Exc.Mgr Jansen In: De Standaard, 04.11.1933, p. 1. •  Een kode voor de ouders. T.V. is geen mechanische baby-sitter In: De Standaard, 11.05.1958, p. 7