Konference Práce 4.0: Revoluce začala Právní aspekty automatizace a digitalizace
Mgr. Karin Pomaizlová, advokát partnerka advokátní kanceláře 2. 11. 2016 1
Pojem Průmysl 4.0 ˃
Průmysl 4.0 jako 4. stupeň průmyslové revoluce
˃
Jako „prostředek ke zvyšování efektivity hospodářství vytvářením optimálních řetězců k tvoření hodnot (existence informací v reálném čase) ve službách filozofie růstu“
2
Pojem Průmysl 4.0 ˃
Klíčovým pojmem jsou tzv. Cyber Physical Systems – symbióza mezi samoučícím se software a elektronickými zařízeními
˃
Příklady z praxe jsou: ˃
Smart Mobility (jízdní asistence a náhradní systémy)
˃
Smart Health (lékařská diagnostika na dálku a péče)
˃
Smart Grid (zásobování energiemi z regulované výroby a spotřeby elektrického proudu)
˃
Smart Factory (propojení poptávky a produkce)
3
Big Data v. ochrana osobních údajů ˃
Definice „Big Data“ Wikipedia: soubory dat, jejichž velikost je mimo schopnosti zachycovat, spravovat a zpracovávat data běžně používanými počítačovými programy v rozumném čase; do datových skladů jsou ukládána data z různých zdrojů a existujících informačních systémů, většinou jde již o data ve strukturované podobě.
˃
Osobní údaje: vedou k identifikaci (přímé nebo nepřímé) konkrétní fyzické osoby (podle GDPR jde výslovně i o síťový identifikátor) – předmětem rozsáhlé ochrany; nejsou primárním cílem Průmyslu 4.0 ˃
˃
Údaje o vozidle ve vztahu ke stavu vozovky a provozu spojené s informacemi o pohybu vozidla, jízdním a brzdném chování, propojené s informacemi o uživateli vozidla; záznamy kamer používaných při chodu Smart City
Jiné údaje: nevedou k identifikaci (ani nepřímé) konkrétní fyzické osoby (ani při použití určitého klíče, či hesla), mohou být předmětem obchodního tajemství či firemního knowhow, mohou být strukturovaně ukládány v databázích chráněných autorským právem) ˃
Údaje o chování vozidla ve vztahu ke stavu vozovky a provozu bez referenčních údajů o uživateli vozidla
4
Komu patří data? ˃
Internet věcí je systémem zahrnující vzájemné propojení zařízení v tomto systému prostřednictvím internetu a jednotlivých zařízení. Podstatou systému IoT je sběr velkých dat, jejich zpracování a vzájemné sdílení mezi jednotlivými zařízeními v systému. Propojená zařízení budou reagovat a budou se chovat podle přijatých dat. Mohou přijatá data analyzovat a dále je postupovat jiným zařízením v rámci propojeného systému internetu věcí.
˃
V současné ekonomice představují data velkou majetkovou hodnotu. Bude třeba smluvně upravit mezi účastníky jednotlivých systémů, kdo tato data vlastní, jaká práva užití příp. sdílení mají ostatní účastníci systému. Již dnes autorský zákon upravuje právo k databázi. Jednotlivý účastníci navíc mohou mezi sebou uzavřít soukromoprávní smlouvy o mlčenlivosti, o způsobu užití dat.
˃
Data ani osobní údaje o osobách, které jsou monitorovány jednotlivými zařízeními, nepatří osobám, které jsou monitorovány. Na ochranu soukromí EU přijalo GDPR. Nařízení však míří proti zneužití soukromými osobami. Záleží jak jednotlivé parlamenty národních států budou dozorovat, aby nová legislativa nerozšiřovala přístupová práva orgánů veřejné moci k datům, která budou shromažďována v rámci internetu věcí.
5
Základní zásady ochrany osobních údajů » zákonnost, korektnost a transparentnost » účelové omezení
» minimalizace údajů » přesnost » omezení uložení » integrita a důvěrnost » odpovědnost (GDPR – obecné nařízení o ochraně osobních údajů (EU) 2016/679)
6
Základní zásady podle zákona č. 101/2000 Sb. ˃
˃
V zásadě smí správce dat tato data zpracovávat pouze: ˃
se souhlasem subjektu,
˃
pouze ke stanovenému účelu,
˃
v rozsahu nezbytném pro naplnění stanoveného účelu a
˃
pouze po nezbytnou dobu.
Mezi základní povinnosti rovněž náleží povinnost nesdružovat osobní údaje, které byly získány k rozdílným účelům.
7
Automatizované rozhodování podle GDPR ˃
Profilování: jakákoli forma automatizovaného zpracování osobních údajů spočívající v jejich použití k hodnocení některých osobních aspektů vztahujících se k fyzické osobě, zejména k rozboru nebo odhadu aspektů týkajících se jejího pracovního výkonu, ekonomické situace, zdravotního stavu, osobních preferencí, zájmů, spolehlivosti, chování, místa, kde se nachází, nebo pohybu;
˃
Automatizované individuální rozhodování: člověk má právo nebýt předmětem žádného rozhodnutí založeného výhradně na automatizovaném zpracování, včetně profilování, které má pro něho právní účinky nebo se ho obdobným způsobem významně dotýká.
˃
Úprava GDPR: Dotčená osoba má sice právo nebýt podrobena rozhodnutí založeném na automatickém rozhodování, to ale neplatí, pokud je rozhodnutí (i) potřebné pro uzavření nebo splnění závazku (ii) dotčená osoba s tím výslovně souhlasí. 8
„Komu patří data?“, zabezpečení dat v cloudu » Víte, kde se nachází data vaší firmy, pokud využíváte cloudové služby?
» Víte, jak jsou tato data zabezpečena proti neautorizovanému přístupu, změně, výmazu apod.? Používáte šifrování? » Víte, jaká práva mají orgány státní moci v místě umístění cloud-serveru ohledně přístupu k vašim datům?
9
Internet věcí (Internet of Things)
10
ITS (Intelligent Transportation System) ˃
Intelligent transportation systems (ITS) pokročilé technologické systémy, které umožňují efektivnější užívání dopravných systémů
˃
Směrnice EU definuje ITS: „Although ITS may refer to all modes of transport, EU Directive 2010/40/EU (7 July 2010) defines ITS as systems in which information and communication technologies are applied in the field of road transport, including infrastructure, vehicles and users, and in traffic management and mobility management, as well as for interfaces with other modes of transport.“
11
ITS (Intelligent Transportation System) ˃ V USA se ITS prosazuje zejména v otázkách vnitřní bezpečnosti (sledování pohybu na silnicích, pomáhá při masových evakuacích, při živelných katastrofách). ˃
ITS může např. propojit navigaci v automobilech, dopravní signální systémy, proměnlivé informační a dopravní značky, zahrnuje automatické rozpoznávání SPZ, radary, jízdu na červenou, jízdu ve vyhrazených pruzích, parkovací omezení.
˃
Všechny tyto systémy sbírají data, některé i osobní údaje a sdílejí je s orgány veřejné moci.
12
Smart City ˃
Smart City zahrnuje informační a komunikační technologii (ICT) a internet věcí (IoT), k zabezpečení fungování moderního města, mimo jiné se do tohoto systému zapojují: městské dopravní systémy, školy, knihovny, nemocnice, elektrárny, dodavatelé vody, svoz odpadů, policie, obecní sociální služby.
˃
Cílem je, aby nové technologie zlepšily kvalitu života ve městě a pomohly organizovat veřejné služby úsporně a účinně.
˃
Tyto systémy sbírají obrovský objem „real-time“ dat od občanů a různých zařízení zapojených do systému.
13
Bezpečnostní výzvy Internetu věcí (IoT) ˃
Důvěrnost dat – zabezpečení dat před neautorizovaným přístupem (proti vnějším i vnitřním neautorizovaným zásahům; nelze podceňovat zneužití ze strany osob, které s daty pracují)
˃
Integrita dat – zabezpečení dat před jakoukoliv změnou v procesu jejich sběru, přenosu a uchování
˃
Autentizace dat – zabezpečení, že data pochází ze známého zdroje, že jsou autentická
14
Mezinárodní koordinace a jednotící právní úprava; samoregulace ˃
Samoregulace internetu se dosud velice osvědčila (ICAAN, národní NIC). Avšak nelze všechno ponechat pouze na samoregulaci průmyslu, i když samoregulace se jeví jako nejpružnější.
˃
Národní státy, EU, musí garantovat, že základní lidská práva a svobody nebudou novou technologií dotčena.
˃
Dá se očekávat, že tak jako i v jiných oblastech lidského podnikání, i v internetu věcí se vyskytnou padělky, hackeři. Porušování práv v oblasti internetu přesahuje hranice národních států. Vznikly různé přístupy, jak se takovému jednání bránit, existují rozhodnutí Evropského soudního dvora ohledně pravomoci národních soudů v jednotlivých typech případů.
˃
Právě sjednaná dohoda o tzv. Privacy Shield ohledně ochrany osobních údajů mezi EU a USA přispívá k rozvoji internetu věcí.
˃
V případě potřeby mezinárodní koordinace lze předjímat, že budou vyjednány mezinárodní dohody. Dvě mezinárodní organizace WIPO a WTO se jeví jako organizace s potřebným globálním pokrytím a zkušenostmi k tomu, aby byly gestory takových dohod.
15
Další otázky související s rozvojem IoT ˃
Kapacita bezdrátového připojení
˃
Ochrana osobních údajů - už nyní některé autority tvrdí, že „tradiční přístupy k ochraně osobních údajů budou mít své limity v éře internetu věcí“
˃
Bezpečnost komunikačních sítí a datových uložišť
˃
Komunikační protokol
˃
Smluvní ujednání ohledně sdílení a využití dat sbíraných díky IoT
16
Příklady z automobilového průmyslu ˃
Sběr dat a jejich přenos u aut (data týkající se pohybu vozidla, servisní historie, fungování systémů)
˃
Sběr dat umožňuje vyhodnotit fungování systémů vozidla a jejich další zlepšování, to umožňuje pouze sběr dat v obrovském měřítku. Toto je možné zvláště díly speciálnímu vestavěnému software zabudovanému výrobci (např. TESLA sběr dat pro přechod autopilota z kamer na radar pro rozpoznávání okolní reality). Takovýto sběr dat dává výrobcům velmi silnou soutěžní výhodu.
˃
Tento sběr dat může mít přesah do sféry ochrany osobních údajů, pokud umožňuje identifikaci konkrétního vozidla a tím i jeho majitele nebo uživatele.
˃
Výrobci automobilů musí transparentně informovat uživatele / kupující o tom, jaká data shromažďují.
˃
Právníci v Anglii, USA používají tyto údaje k důkazu o chování řidiče před nehodou. Stejné údaje mohou využít pojišťovny, policie a soudy. 17
Roboti a právo
18
Odpovědnost za škodu způsobenou v rámci automatizovaných provozů
Vývoj od odpovědnosti za zavinění až k odpovědnosti za nebezpečí, pokud škůdce není již dohledatelný, tzn. ten, který má prospěch ze zdroje nebezpečí, odpovídá také za případnou škodu.
19
Automobily se samořídícími funkcemi » Tesla Autopilot (Self-Steering) Model S ˃
https://www.youtube.com/watch?v=bHqdWeYZSZw
˃
Na dálnici systém udrží automobil v jízdním pruhu, následuje auto vpředu a udržuje rychlost.
˃
Podle výrobce Tesla byl ve zkušebním provozu zabit při dopravní nehodě Joshua Brown, protože automobil nastavený na „self-driving mode“ nerozeznal při přejíždění z pruhu do pruhu v prudkém slunci bílý kamion jedoucí ve vedlejším pruhu.
˃
https://www.theguardian.com/technology/2016/jul/13/teslaautopilot-investigation-fatal-crash
˃
Podle NHTSA, která tuto nehodu vyšetřovala funkce „Collision Warning (FCW)“ nebo „Automatic Emergency Braking (AEB)“, tj. dva bezpečnostní mechanismy se nesepnuly tak, jak měly.
˃
Nová technologie v automobilech Tesla je určena pouze k tomu, aby při jízdě měl řidič stále ruce na volantu.
20
Automobily se samořídícími funkcemi »
Právní odpovědnost
Nejde o robota, ani o samočinný automobil. Řidič má stále povinnost mít automobil pod kontrolou. Výrobci na toto upozorňují v uživatelských manuálech. Nejde tedy o „autopilota“ v tom smyslu, že auto se řídí zcela samo, bez řidiče. Z právního hlediska tedy za dopravní nehodu nese odpovědnost jeho řidič. V případě, že systémy nefungovaly jak měly, může se vlastník vozidla domáhat event. náhrady škody po výrobci z titulu odpovědnosti za škodu způsobenou vadou výrobku. Z právního hlediska je velice sporné, zda v případě selhání software nese výrobce odpovědnost za vzniklou škodu, pakliže se prokáže, že řidič se nevěnoval plně řízení tak, jak měl. >
Škoda z provozu dopravních prostředků • • • •
>
Kdo provozuje dopravu, nahradí škodu vyvolanou zvláštní povahou tohoto provozu. Povinnosti nahradit škodu se nemůže provozovatel zprostit, byla-li škoda způsobena okolnostmi, které mají původ v provozu. Jinak se zprostí, prokáže-li, že škodě nemohl zabránit ani při vynaložení veškerého úsilí, které lze požadovat. Střetnou-li se provozy dvou nebo více provozovatelů a jedná-li se o vypořádání mezi těmito provozovateli, vypořádají se provozovatelé podle své účasti na způsobení vzniklé škody.
Škoda způsobená vadou výrobku • •
• • •
Škodu způsobenou vadou movité věci určené k uvedení na trh jako výrobek za účelem prodeje nahradí ten, kdo výrobek nebo jeho součást vyrobil. Výrobek je vadný, není-li tak bezpečný, jak to od něho lze rozumně očekávat se zřetelem ke všem okolnostem, zejména ke způsobu, jakým je výrobek na trh uveden nebo nabízen, k předpokládanému účelu, jemuž má výrobek sloužit, jakož i s přihlédnutím k době, kdy byl výrobek uveden na trh. Výrobek nelze považovat za vadný jen proto, že byl později uveden na trh výrobek dokonalejší. Povinnosti k náhradě škody způsobené vadou výrobku se škůdce zprostí, jen prokáže-li, že škodu zavinil poškozený nebo ten, za jehož čin poškozený odpovídá. Povinnosti k náhradě škody se tato osoba rovněž zprostí, prokáže-li, že stav vědeckých a technických znalostí v době, kdy uvedl výrobek na trh, neumožnil zjistit jeho vadu. Ustanovení výše se nepoužije, pokud vada způsobila poškození vadného výrobku nebo poškození věci určené a užívané převážně k podnikatelským účelům.
21
Riziko napadení řídících systémů automobilů » Hacknutý Jeep ˃
https://www.wired.com/2015/07/hackers-remotely-kill-jeephighway/
˃
Dva programátoři Charlie Miller a Chris Valasek prokázali, že nová vozidla Jeep, jejich palubní počítač („U connect“), mají bezpečnostní mezeru, díky níž lze na dálku ovládat v autě klimatizaci, obrazovku, hlasitost radia, ostřikovače. „Hackeři“ dokázali zablokovat plyn. Při zkušební jízdě řidič nemohl přidat plyn a pomalu zpomaloval na dálnici, programátoři vyřadili z funkce brzdy, zamkli auto, při malé rychlosti na zpátečku ovládali auto na dálku.
˃
Fiat Chrysler Automobiles (FCA) musela opravit software ve 1,4 milionech automobilů. www.computerworld.com , 24 July 2015
22
Riziko napadení řídících systémů automobilů » Právní odpovědnost ˃
Škoda z provozu dopravních prostředků
˃
Škoda způsobená trestným činem - hackery, kteří se nabourají do softwaru automobilu
˃
Škoda způsobená vadou výrobku (bezpečnostní “díra” v software)
23
Samočinná vozidla » Heathrow POD cars ˃
https://www.youtube.com/watch?v=F5Knmgr2Ge8
˃
ULTra (Urban Light Transit) je osobní přepravní systém
˃
První provoz byl otevřen na letišti Heathrow v Londýně v květnu 2011
˃
ULTra má být instalován v Indii a plánuje se, že 200 samočinných vozidel bude přepravovat až 100 000 pasažérů denně (Wikipedia)
» Právní odpovědnost ˃
Škoda z provozu dopravních prostředků
24
Samočinné vlaky ˃
Chicago’s O’Hare International Airport opened an automated peoplemover system, the Airport Transit System (ATS), in 1991. It connects terminals 1, 2, 3 and 5 with economy parking lot E. It uses the Matra (now Siemens) VAL technology, which is also used at Paris’s Orly airport and in the light metro system in Lille, France.
˃
Samočinné vlaky fungují na letišti O‘Hare v Chicagu již od roku 1991, jednotlivé terminály jsou spojeny pomocí technologie VAL.
» Právní odpovědnost
˃
Škoda z provozu dopravních prostředků
25
Robotické samohybné přístroje v podniku, v domácnosti ˃
Škoda způsobená věcí Způsobí-li škodu věc sama od sebe, nahradí škodu ten, kdo nad věcí měl mít dohled; nelze-li takovou osobu jinak určit, platí, že jí je vlastník věci. Kdo prokáže, že náležitý dohled nezanedbal, zprostí se povinnosti k náhradě.
˃
Škoda způsobená vadou výrobku
26
Robotické přístroje ve zdravotnictví ˃
Lasery
˃
Roboti
˃
http://www.investicniweb.cz/2013/7/14/5-zpusobu-jak-robotipomohou-zdravotnictvi/
˃
http://brnensky.denik.cz/zpravy_region/roboti_da_vinci_.html
» Právní odpovědnost ˃
Škoda způsobená věcí Kdo je povinen někomu něco plnit a použije při tom vadnou věc, nahradí škodu způsobenou vadou věci. To platí i v případě poskytnutí zdravotnických, sociálních, veterinárních a jiných biologických služeb.
27
Drony ˃
Pizzu doručuje dron
˃
http://www.telegraph.co.uk/news/newsvideo/weirdnewsvideo/10100155/ Pizza-delivered-by-drone-the-next-big-thing.html The Telegraph, 5. června 2013
28
Drony » Právní odpovědnost ˃
Škoda z provozu dopravních prostředků Kdo provozuje dopravu, nahradí škodu vyvolanou zvláštní povahou tohoto provozu. Stejnou povinnost má i jiný provozovatel vozidla, plavidla nebo letadla, ledaže je takový dopravní prostředek poháněn lidskou silou. Povinnosti nahradit škodu se nemůže provozovatel zprostit, byla-li škoda způsobena okolnostmi, které mají původ v provozu. Jinak se zprostí, prokáže-li tento, že škodě nemohl zabránit ani při vynaložení veškerého úsilí, které lze požadovat. Střetnou-li se provozy dvou nebo více provozovatelů a jedná-li se o vypořádání mezi těmito provozovateli, vypořádají se provozovatelé podle své účasti na způsobení vzniklé škody.
˃
Škoda způsobená věcí Kdo je povinen někomu něco plnit a použije při tom vadnou věc, nahradí škodu způsobenou vadou věci. To platí i v případě poskytnutí zdravotnických, sociálních, veterinárních a jiných biologických služeb.
˃
Škoda způsobená vadou výrobku
29
Samoučící se roboti » AI – Artificial Intelligence ˃
Samoučící se roboti, podle svých zkušeností se budou umět přizpůsobit měnícímu se prostředí kolem nich. Tito noví roboti budou umět i plánovat, vyhodnocovat situace a autonomně se rozhodovat.
˃
Za současného stavu vědy a techniky však není v lidských silách 100 % předpovědět, naprogramovat, jak se takový samoučící robot bude chovat. Jednotliví roboti budou mít základní nastavení shodné, ale každý se bude vyvíjet různě, podle zkušeností a prostředí, kterým bude vystaven.
30
Samoučící se roboti » Právní odpovědnost
˃
Škoda způsobená věcí Způsobí-li škodu věc sama od sebe, nahradí škodu ten, kdo nad věcí měl mít dohled; nelze-li takovou osobu jinak určit, platí, že jí je vlastník věci. Kdo prokáže, že náležitý dohled nezanedbal, zprostí se povinnosti k náhradě.
˃
Škoda způsobená vadou výrobku Výrobek je vadný, není-li tak bezpečný, jak to od něho lze rozumně očekávat se zřetelem ke všem okolnostem, zejména ke způsobu, jakým je výrobek na trh uveden nebo nabízen, k předpokládanému účelu, jemuž má výrobek sloužit, jakož i s přihlédnutím k době, kdy byl výrobek uveden na trh. Výrobek nelze považovat za vadný jen proto, že byl později uveden na trh výrobek dokonalejší. Povinnosti k náhradě škody se tato osoba rovněž zprostí, prokáže-li, že stav vědeckých a technických znalostí v době, kdy uvedl výrobek na trh, neumožnil zjistit jeho vadu.
31
Roboti a člověk
Ani autopilot, ani robot, ani žádný jiný automatizovaný systém nemůže zcela nahradit člověka. Jsou to stále věci a člověk za ně nese zodpovědnost. Člověk nad nimi musí vykonávat kontrolu a v případě potřeby zasáhnout.
32
Děkuji za pozornost.
Mgr. Karin Pomaizlová advokátka Partner TaylorWessing Praha
33
