NANO- TECHNOLOGISCHE EN MEDISCHE REGULERING

ORATIE 2 FEBRUARI 2012

NANOTECHNOLOGISCHE EN MEDISCHE REGULERING – WEGWIJZERS VOOR DE TOEKOMST VAN HET RECHT EN DE TECHNISCHE UNIVERSITEIT PROF.DR. B.R. Dorbeck-Jung

6080 Oratieboekje Dorbeck-Jung.indd 1

25-06-12 17:14

PROF.DR. B.R. Dorbeck-Jung


25-06-12 17:14

NANOTECHNOLOGISCHE EN MEDISCHE REGULERING –

3

WEGWIJZERS VOOR DE TOEKOMST VAN HET RECHT EN DE TECHNISCHE UNIVERSITEIT

REDE UITGESPROKEN BIJ DE AANVAARDING VAN HET AMBT VAN HOOGLERAAR

Regulering en technologie aan de faculteit Management en Bestuur VAN DE UNIVERSITEIT TWENTE OP DONDERDAG 2 februari 2012 DOOR PROF.DR. B.R. Dorbeck-Jung

2 FEBRUARI 2012


25-06-12 17:14

4

INTRODUCTIE Mijnheer de Rector Magnificus, geachte toehoorders, Graag maak ik van deze gelegenheid gebruik om mijn visie op de leerstoel Regulering en technologie toe te lichten. Ik heb mij zeven jaar geleden op dit onderzoeksterrein begeven, omdat ik mogelijkheden zag die in eerder onderzoek naar technologieregulering nog niet aanwezig waren. In het debat over nanotechnologieën en medische technologieën tref ik de geest van vernieuwing en interdisciplinaire samenwerking aan. Het is fascinerend hoeveel vooruitgang de technische wetenschappen geboekt hebben als gevolg van toenemende interdisciplinariteit. De tijd lijkt rijp te zijn om de volgende stap te zetten – de integratie van technisch-wetenschappelijke kennis en kennis over sociale, ethische, economische en reguleringsaspecten van technologie. Daarom beschouw ik kennisintegratie in het kader van geavanceerd technology assessment en verantwoord technologisch ontwerpen als de grote uitdaging voor mijn vakgebied. Om dit inzichtelijk te maken nodig u uit voor een reis door de twee gebieden van de leerstoel - het fundamenteel-conceptuele onderzoek en de empirische bestudering van legitimiteits- en effectiviteitsaspecten van technologieregulering. Onderzoeksthema’s zijn de regulering van een verantwoorde technologische innovatie en de innovatie van technologieregulering. Onze reis begint bij actuele ontwikkelingen op het gebied van nanomedicine. Ik bespreek twee voorbeelden vanuit het perspectief van verantwoorde technologische innovatie - het hart van mijn vakgebied. Daarna ga ik nader in op projecten over legitimiteit en effectiviteit van technologieregulering. In een volgende etappe presenteer ik mijn ideeën over geavanceerd technology assessment en verantwoord technologisch ontwerpen. Met een beschrijving van wegwijzers voor de toekomst van de technische universiteit en van de rechtswetenschap eindigt onze reis.


25-06-12 17:14

5

TECHNOLOGISCHE INNOVATIE – NANOMEDISCHE TOEPASSINGEN De reistijd is beperkt – laten we daarom snel beginnen met de technologische ontwikkeling. Op de UT worden veel interessante nanomedische toepassingen ontwikkeld, zoals de Nanopil1. De Nanopil is een patiëntvriendelijkere manier om darmkanker in een vroeg stadium op te sporen. De Nanopil kan de kwaliteit van de gezondheidszorg verbeteren. Hoge kwaliteit van de gezondheidszorg is nu juist een van de basiswaarden van verantwoorde technologische innovatie. Zij is erkend in Europese verdragen en de Nederlandse Grondwet2. Andere constitutioneel erkende basiswaarden zijn de bescherming van werknemers, patiënten en het milieu. In dat verband rijst de vraag of het in de nanopil gebruikte nanomateriaal schadelijk is. Volgens de UT onderzoekers komen de nanodeeltjes bij deze toepassing niet vrij in het lichaam van de patiënt. In dit voorbeeld gelden de gebruikelijke veiligheidsmaatregelen. Extra maatregelen dienen zich aan bij nanomedische toepassingen waarbij wel nanodeeltjes vrijkomen. Bijvoorbeeld bij een alternatieve chemotherapie waarbij nanobolletjes de afgifte van medicijnen sturen. Ik laat u zien hoe een zeer geavanceerde toepassing werkt. Het gaat daarbij om het toedienen van genen die kwaadaardige cellen doden. We kijken naar een filmpje van het Amerikaanse bedrijf Epeius Biotechnologies.3


25-06-12 17:14

6

In het filmpje ziet u miljoenen oranje gekleurde nanobolletjes die in een ader van de patiënt zijn geïnjecteerd. Na enkele minuten bewegen de nanobolletjes zich door het hele lichaam. Razendsnel sporen zij de kwaadaardige cellen op. In het geval van een detectie worden de tumordodende genen toegediend. U ziet dat het bolletje poreus wordt. In korte tijd slinkt de tumor. En met behulp van het eigen immuunsysteem van de patiënt wordt de tumor volledig geëliminineerd. Deze toepassing belooft een heel grote verbetering van de levenskwaliteit van kankerpatiënten. Echter, we weten nog niet welke effecten de nanodeeltjes zelf op de lichaamscellen hebben. Het is onzeker of zij hier onschadelijk of schadelijk zijn. Daarom is een centrale vraag op mijn vakgebied hoe regulering omgaat met onzekere effecten van technologie.

VERANTWOORDE TECHNOLOGISCHE INNOVATIE Het antwoord op deze vraag vergt bezinning op fundamentele vraagstukken van de regulering van verantwoorde technologische innovatie.4 In de sociale, democratische rechtsstaat gaan we uit van gedeelde verantwoordelijkheid. Overheid én samenleving hebben de taak wenselijke technologische innovatie te bevorderen, schadelijke effecten te beperken en geleden schade te compenseren. In onze twee voorbeelden brengt verantwoordelijkheid mee de bevordering van een snelle beschikbaarheid van de Nanopil en de alternatieve chemotherapie, mits de veiligheid, kwaliteit en werkzaamheid zijn aangetoond. Bij onvoorziene negatieve effecten houdt verantwoordelijkheid een gehoudenheid tot schadevergoeding in. In ons rechtssysteem ligt de primaire verantwoordelijkheid voor de veiligheid, kwaliteit, werkzaamheid en schadecompensatie bij de onderzoeksinstituten en bedrijven zelf die de Nanopil en de alternatieve chemotherapie ontwikkelen


25-06-12 17:14

7

en op de markt brengen. De overheid heeft een eindverantwoordelijkheid. Het gaat daarbij vooral om een verantwoordelijkheid voor de goede werking van het systeem van regels inzake veilige en nuttige technologie en een verantwoordelijkheid voor een verandering van dit systeem als de werking ervan gebrekkig is. Maar eindverantwoordelijkheid houdt meer in dan de zorg voor het regelsysteem. De wetgever wordt ook geacht fundamentele rechten te waarborgen en ervoor te waken dat de technologische ontwikkelingen omkeerbaar blijven, voor het geval dat zij ongewenst blijken te zijn.5

GOVERNANCE EN TECHNOLOGIEREGULERING Eigen reguleringsverantwoordelijkheid van de samenleving en eindverantwoordelijkheid van de overheid zijn de programmatische focus van mijn leerstoel. Bij de invulling van hun verantwoordelijkheden werken alle partijen samen op het lokale, nationale, Europese en internationale niveau. Samenwerking bij dienstverlening en co-regulering zijn de kern van de governancebenadering die sinds ruim 10 jaar in de sociale wetenschappen en de bestuurspraktijk een grote populariteit geniet.6 Ik sta nader stil bij deze benadering, want het is nog veel te weinig bekend dat de governance aanpak op mijn vakgebied reeds 150 jaar geleden is uitgevonden. Al in de 19e eeuw werkten overheden, ondernemingen en ingenieurs samen bij de normstelling voor bouwwerken en stoommachines. Fascinerende voorbeelden zijn:7 de verwijzing naar private standaarden voor de bouwkunst in het algemene Pruisische Landrecht van 1794 en het gezamenlijke toezicht op de veiligheid van stoomketels in de Pruisische Bedrijfsverordening van 1845.


25-06-12 17:14

8

De geschiedenis van de technologieregulering biedt lessen voor het slagen en falen van de governancebenadering. Zij toont aan dat succes afhangt van aan elkaar gerelateerde, maar niet met elkaar verstrengelde belangen. De zojuist besproken samenwerking tussen overheden, technische experts en industrieën is uit noodzaak geboren. Vanwege haar ontoereikende technische kennis was en is co-regulering voor de overheid essentieel. Dit werd al duidelijk in de 19e eeuw – toen een zelfverzekerde vereniging van ingenieurs scherpe kritiek uitoefende op het Duitse overheidstoezicht.8 De tastenderwijs verlopende zoektocht bestaande uit het vergaren, afschermen en delen van technische kennis loopt als een rode draad door de geschiedenis van technologieregulering heen. De motor van de samenwerking tussen overheden, industrieën en technische experts was de uitwisseling van kennis in ruil voor stabiliteit, rechtszekerheid, bescherming van eigendom, eigen reguleringsruimte en status - en dat is zij nog steeds. De voorsprong in kennis van private partijen kan de overheid afhankelijk van hen maken met belangenverstrengeling als gevolg. Daarom vraagt de eindverantwoordelijkheid van de overheid een extra inspanning om evenwichtige en objectieve regulering te borgen.


25-06-12 17:14

9

De geschiedenis van de technologieregulering leert dat samenwerking tussen overheden en samenleving dynamisch en kwetsbaar is. Regulering van technologische innovatie wordt bepaald door een complexe omgeving van technologische beloftes, geboekte wetenschappelijke vooruitgang, maar ook door teleurstellingen en fiasco’s. Economische, sociale en politieke factoren zijn van grote invloed. Als gevolg van rampen zoals het Softenon schandaal, de Bhopal tragedie en Tsjernobyl kwam vanaf de jaren zeventig en tachtig van de vorige eeuw de nadruk van technologieregulering op overheidsinterventie en risicobeperking te liggen.9 Deze nadruk werd nog versterkt door een toenemende maatschappelijke risicogevoeligheid en het geloof in de maakbaarheid van de samenleving. Echter, in de 21e eeuw, gaat de slinger opnieuw in de richting van meer samenwerking en minder overheidsinterventie. Dit is onder andere het gevolg van de opkomst van nanotechnologieën en andere geavanceerde technologieën en van de brede erkenning van de governancebenadering. In de 21e eeuw zijn de instrumenten waarmee we reguleren pluriformer geworden. Erkende middelen zijn nu hard law en soft law – wetgeving, maar ook niet-wettelijke middelen zoals standaarden, certificaten, gedragscodes, en zelfs strategische notities en scenario’s.10 In de huidige


25-06-12 17:14

10

fase van technologieregulering richten wij ons ook op meer dan alleen risicobeperking. De focus ligt nu op het evenwicht tussen wenselijke technologische innovatie, schadebeperking en schadecompensatie. Ik acht het dan ook niet langer passend om onze samenleving als risicosamenleving te karakteriseren. De invloedrijke metafoor van de risicosamenleving heeft ons gevoeliger gemaakt voor gevaren van technologieën. Zij heeft echter ook verwachtingen over voorzorg en gegarandeerde zekerheid gewekt die niet kunnen worden waargemaakt. De nanotechnologische ontwikkeling wijst op de grenzen van risicobeheersing.11 De potentiële effecten, zowel de voordelen, als de risico’s van nanodeeltjes zijn onzeker en complex. De nanotechnologische ontwikkeling is ook zeer dynamisch en expansief. In 2006 waren ongeveer 300 producten met nanomateriaal op de markt. Vandaag zijn dat er meer dan 1300.12 De spiraal van toenemende onzekerheden geeft aan dat een eenzijdige focus op risicobeperking een doodlopende weg is. Een betere weg lijkt mij de aandacht te verleggen naar de omgang met onzekerheid. Daarmee sluit ik mij aan bij een recent advies van de Wetenschappelijke Raad voor het Regeringsbeleid. Een passend uitgangspunt is nu, zoals de voorzitter van de projectgroep van de WRR zei – ik citeer: “ Risico’s zijn niet uit te sluiten en onzekerheid is een blijvend gegeven in een samenleving die inzet op innovatie”.13

VAN RISICOSAMENLEVING NAAR WAARBORGSAMENLEVING Dames en heren, De conclusies van de WRR en onze inzichten over technologieregulering vragen om een nieuwe beeldspraak. We moeten af van de risicosamenleving naar iets wat ik wil aanduiden als een waarborgsamenleving.14 De terminologie van de waarborgsamenleving laat ruimte


25-06-12 17:14

11

voor meer dan risicobeperking. Zij omvat bijvoorbeeld ook een basisprincipe dat voor de toelating van medische producten geldt: de benefits-risks balance. Dit houdt in dat de toelating van medische producten door een afweging van voordelen en risico’s bepaald wordt. Bij de toelating worden onzekerheden over negatieve effecten geaccepteerd, mits de aangetoonde voordelen de risico’s te boven gaan. De focus op een evenwicht tussen bevordering van innovatie, risicobeperking en schadecompensatie maakt duidelijk dat het aankomt op het waarborgen van alle relevante constitutioneel erkende belangen tegelijk. De waarborgsamenleving streeft naar een optimale belangenbalans. Er is dan wel veel evenwichtskunst vereist, want erkende belangen kunnen tegenstrijdig zijn.15 Bovendien zijn de financiële middelen voor het bieden van waarborgen beperkt. Een balans van voor- en nadelen is ook altijd voorlopig, want de inzichten terzake zijn aan verandering onderhevig. Bij geavanceerde technologieën zijn er complexe onzekerheden over de technologische ontwikkeling en haar effecten, maar ook over de stuurbaarheid en de robuustheid van bestaande reguleringsconcepten en beginselen.16 Technologische onzekerheden betreffen de ontwikkeling van de technologie, haar baten en risico’s. Ik heb al aangeduid dat we nog niet weten of vrijkomende nanodeeltjes een schadelijke invloed op lichaamscellen hebben. Wij weten niet of de geldende regelgeving voldoende beschermende werking heeft en of zij het vertrouwen doet toenemen. Bovendien is het onduidelijk of basisconcepten van het recht, zoals de vrije wil in het strafrecht, opgewassen zijn tegen komende technologische revoluties. De hamvraag is hoe met deze gecompliceerde vraagstukken kan worden omgegaan. In de waarborgsamen-leving organiseert de overheid de vergaring van kennis en de bezinning op de noodzaak en de grenzen van acceptatie van onzekerheid. Het is tijd voor een korte tussenconclusie. Ons kijkje in de geschiedenis van de technologieregulering heeft laten zien dat de governance verbintenis tussen overheid en samenleving zich ontwikkeld heeft tot


25-06-12 17:14

12

een ingewikkeld en reflexief verstandshuwelijk. In dit huwelijk zijn de eerste fase van spontane co-regulering en de tussenfase van interventie en paternalisme voorbij. Zoals in elk huwelijk, kunnen er conflicten tussen de partijen ontstaan die een onafhankelijke instantie moet beslechten. Daarom blijven de beslissingsmacht van het parlement en de rechter in de waarborgsamenleving van essentieel belang.

INNOVATIE VAN TECHNOLOGISCHE REGULERING Mijnheer de Rector Magnificus, dames en heren. Tot nu toe heeft onze reis over het eerste deelgebied van mijn leerstoel - het fundamenteel-conceptuele onderzoek naar technologieregulering - gevoerd. Ik neem u nu mee naar het tweede deelgebied, de innovatie van technologische regulering. In een democratische rechtsstaat is de regulering van verantwoorde technologische innovatie onderworpen aan eisen van legitimiteit en effectiviteit. Mijn vakgebied onderzoekt de betekenis van deze eisen in de praktijk van technologieregulering. Het sluit daartoe aan bij algemene ideeën die zijn ontleent aan de staatsleer en het beleid over good governance en wetgevingskwaliteit.18 Een bijzondere betekenis hebben de criteria voor verantwoorde nanowetenschap en nanotechnologisch onderzoek die de Europese Commissie in 2008 formuleerde.19 Volgens deze literatuur moet technologieregulering die constitutioneel erkende belangen dient, aan 6 principes voldoen: 1. Zij heeft een wettelijk fundament; 2. Zij doorloopt een ‘fair’ reguleringsproces; 3. Zij voldoet aan bepaalde criteria van reguleringskwaliteit; 4. Voor regulering wordt verantwoording afgelegd; 5. Regulering draagt bij aan het bereiken van de betreffende publieke doeleinden; 6. De kosten van regulering worden zoveel mogelijk beperkt.


25-06-12 17:14

13

Een korte toelichting. Een wettelijk kader is vereist ten einde fundamentele rechten en omkeerbaarheid van technologische ontwikkeling te waarborgen. Een fair reguleringsproces houdt representatieve participatie, alsmede een transparante en onafhankelijke besluitvorming in. De kwaliteit van regulering omvat het vereiste van begrijpelijke, eenduidige, duurzame, maar ook flexibele, handhaafbare, omvattende en openbare regels. Verantwoording vergt een deugdelijke motivering van regulering. Deze kan bijvoorbeeld de vorm aannemen van een onderbouwing van afwegingen van wenselijke effecten en risico’s van technologische innovatie. Doeltreffendheid betreft de mate waarin publieke doelen, zoals veiligheid en wenselijke innovatie, worden bereikt. Doelmatigheid ziet op de verhouding tussen kosten en baten van regulering. Waarschijnlijk kunt u zich bij deze abstracte criteria niet zoveel voorstellen. Graag geef ik enkele voorbeelden van projecten die wij uitvoeren op het gebied van legitimiteit en effectiviteit van technologieregulering. In overeenstemming met het ruime reguleringsperspectief onderzoeken wij niet alleen wetgeving, maar ook niet-wettelijke regels. We richten ons op combinaties van publieke en private regels die bepaalde constitutioneel erkende belangen dienen. In de vakterminologie wordt zo een combinatie een governance arrangement genoemd. Voor de duidelijkheid een voorbeeld. Bij een studie over de effectiviteit van regels inzake veilig werken met nanomateriaal is niet alleen de naleving van voorschriften van het Nederlandse arbeidsrecht, de Europese en nationale regelgeving over goede laboratoriumpraktijken aan de orde, maar ook de betekenis van niet-wettelijke regels zoals internationale standaarden, handleidingen en wetenschappelijke gedragscodes in de praktijk. Nu enkele opmerkingen over onze projecten. Op het gebied van legitieme regulering van nano- en medische technologiën voert Nupur Chowdhury promotie-onderzoek uit naar de betekenis van rechtszekerheid in de praktijk van toelating en certificatie van medicijnen en medische hulpmiddelen. Evisa Kica onderzoekt


25-06-12 17:14

14

of standaardisatieprocessen van nanotechnologieën voldoen aan de criteria van een ‘fair’ reguleringsproces. Diana Bowman & Elen Stokes bestuderen legitimiteitsvraagstukken van de regulering van informatieverstrekking over nanoproducten, zoals labelling en berichtgeving over eigenschappen en effecten van deze producten. Op het gebied van effectieve regulering onderzoekt Aline Reichow effectiviteitsproblemen van niet-juridische reguleringsinstrumenten zoals gedragscodes, benchmarks en handleidingen voor de omgang met nanomateriaal. Een voorloper van dit project is het onderzoek dat ik samen met Pieter van Broekhuizen/Universiteit van Amsterdam heb uitgevoerd over het gebruik van nanoreferentiewaarden bij de beperking van de blootstelling van werknemers aan nanodeeltjes. Bovendien verken ik samen met Joël d’Silva en Nupur Chowdhury effectiviteits- en legitimiteitsvraagstukken van de zich ontwikkelende governancestructuur voor nanomedische producten. In samenwerking met Ibo van der Poel een Neelke Doorn van de TU Delft onderzoeken wij de invulling van verantwoordelijkheden in de praktijk van nanotechnologische regulering. Al deze projecten beogen kennis te verschaffen over de betekenis van legitimiteits- en effectiviteitscriteria in de praktijk van technologieregulering. Bij de uitvoering van het onderzoek werken wij ook aan de conceptuele grondslagen. Wij bouwen aan een theorie over responsieve technologieregulering die kan bijdragen aan de verkenning van effectiviteitsproblemen.20 Bovendien hebben we ons de taak gesteld minimumeisen voor legitieme technologieregulering op te stellen die zowel voor publieke, als voor private reguleerders gelden. De kennis die we in deze projecten vergaren, dragen we uit op wetenschappelijke en bestuurlijke fora en in het onderwijs voor Gezondheidswetenschappen en Technische Geneeskunde. Ons voornemen is het onderzoek en onderwijs de komende jaren verder uit te breiden. Het gaat daarbij om beide onderzoekthema’s de regulering van verantwoorde technologische innovatie en de in-


25-06-12 17:14

15

novatie van technologieregulering. In de resterende tijd ga ik nader in op twee voornemens op het gebied van de innovatie van technologieregulering; ‘advanced technology assessment’ en ‘embedded responsible design’ (‘verantwoord technologisch ontwerpen’).

ADVANCED TECHNOLOGY ASSESSMENT EN RECHT Advanced technology assessment beoogt kennisintegratie. Tot nu toe heeft onderzoek op het gebied van technology assessment veel kennis vergaard over sociale, economische, filosofische en ethische aspecten en over de wederzijdse beïnvloeding van technologische ontwikkelingen en maatschappelijke structuren.21 Er zijn methoden ontwikkeld om in de toekomst te kijken, om toekomstige technologieontwikkelingen te voorspellen en te anticiperen op de interactie tussen natuurwetenschappen en maatschappij.22 Aan de UT, de TU Delft en de Universiteit van Maastricht wordt bijzonder interessant onderzoek verricht, onder andere naar de omgang met onzekerheid en sociale experimenten. We beschikken over kennis over de mogelijkheden en grenzen van de acceptatie en afwijzing van technologische ontwikkelingen. En wij kunnen vooral ook leren van fouten die zijn gemaakt bij de regulering van genetisch gemanipuleerde organismen en biotechnologieën.23 Het ligt in mijn voornemen om de bijdrage van recht en regulering aan advanced technology assessment nader uit te werken. Vanuit een rechtssociologisch perspectief veronderstel ik dat het vakgebied ‘recht en regulering’ over unieke mogelijkheden beschikt. Het is dynamisch, experimenteel en plurifom. ‘Recht en regulering’ is niet gericht op het beletten van technologische innovatie, maar juist op een actieve vormgeving. Het noopt tot bezinning op en bewijsvoering over de effecten van technologische ontwikkeling. Daarbij is het overigens


25-06-12 17:14

16

niet uitgesloten dat het recht technologische ontwikkelingen moet afremmen, mocht de balans tussen voor- en nadelen negatief uitslaan. Enkele opmerkingen over deze veronderstellingen. Eerst over het dynamisch en experimenteel karakter van het recht. Het recht heeft ingebouwde mechanismen die groei en evolutie bevorderen. Algemene rechtsbegrippen en dynamische interpretatie maken de aanpassing van rechtsregels en constitutionele uitgangspunten aan nieuwe omstandigheden van technologische ontwikkeling mogelijk. Met hun case by case benadering voerden juristen die het Romeinse recht opnieuw hadden ontdekt, reeds in de 12e eeuw sociale experimenten uit. In het laboratorium van de rechtstoepassing combineerden zij ervaring met inzichten over nieuwe maatschappelijke ontwikkelingen.24 Deze werkwijze treffen we ook in de latere rechtspraak veelvuldig aan, bijvoorbeeld in beslissingen van Nederlandse rechtbanken over de computercriminaliteit.25 De analyse van de rechtsevolutie geeft aan dat de verandering incrementeel is.26 Zij maakt duidelijk dat het recht zich niet leent voor revoluties! De spanning tussen rechtsidealen en werkelijkheid, tussen stabiliteit, zekerheid en flexibiliteit en de noodzaak van reflectie, belangenafweging en motivering vragen om langzame verandering. Zo verloopt ook de regulering van nanotechnologieën zeer geleidelijk. Tot nu toe hebben regelgevers weinig leemtes in het bestaande recht ontdekt.27 Als gevolg van de algemene rechtsevolutie en de enorme groei aan regels zijn nanotechnologieën en medische technologieën in het algemeen al vrij omvattend geregeld. Zij vallen onder de geldende regels van het productenrecht, het ooctrooirecht, het arbeidsrecht, de regelgeving over chemische stoffen en het omgevingsrecht.28 Daarom overheerst op dit moment de opvatting dat er geen algemene nieuwe wet voor nanotechnologieën nodig is. Regelgevers hebben wel wetten inzake cosmetica en voedingsproducten aangepast en zij debatteren over een nanospecifieke regeling voor chemische stoffen.29 In oktober 2011 heeft de Europese Commissie een definitie van nanomateriaal voorgesteld en specifieke veiligheids- en kwaliteits-


25-06-12 17:14

17

standaarden voor nanomedische producten zijn in voorbereiding.30 Het is boeiend om te zien hoe regelgevers, naast de aanpassing van bestaande regelgeving, bestanden van technologiespecifieke kennis opbouwen. Zij proberen de nanowetenschap en industrie te verleiden of te verplichten kennis over eigenschappen en effecten van nanomateriaal en nanoproducten ter beschikking te stellen. Zo biedt het Europese medicijnenagentschap (EMA) haar kennis over succesvolle productautorisaties aan in ruil voor informatie over nanomedische producten. Zij heeft een Bureau ingericht dat gratis ondersteuning biedt aan middelgrote en kleine bedrijven.31 Door middel van workshops en bilaterale bijeenkomsten vergaart de EMA kennis over innovatieve medicijnen en passende regulering. Ook in het kader van het toezicht en de handhaving van regelgeving vindt kennisvergaring plaats, evenals bijscholing. In 2010 is de Nederlandse arbeidsinspectie bijvoorbeeld bij de controle van de risicoinventarisatie van universiteiten, producenten en gebruikers van nanomateriaal begonnen met inventarisatie van kennis over de huidige stand van zaken.32 Geleidelijke verandering en kennisvergaring betekenen niet dat regulering achter de maatschappelijke ontwikkeling aanloopt. Met de kennisbestanden die regelgevers nu opbouwen proberen zij ook te anticiperen op technologische ontwikkelingen. Er zijn zoveel voorbeelden in de geschiedenis die aantonen dat het recht technologische innovatie bevorderen kan. Volgens Max Weber was het de zekerheid voor investeringen die het recht biedt die de stormachtige ontwikkeling van het Kapitalisme mogelijk maakte.33 Andere voorbeelden zijn het octrooirecht en technische standaarden die grensoverschrijdend handelsverkeer faciliteren.34 Een recente Europese verordening inzake geavanceerde medicijnen regelt het bevorderen van wenselijke innovatie expliciet met voorschriften over de ondersteuning van middelgrote en kleine bedrijven.35


25-06-12 17:14

18

HARDE EN SOFTE REGULERING Geachte toehoorders, Ik heb veel aandacht besteed aan het dynamische, experimentele en incrementele karakter van het recht. Staat u mij nog enkele opmerkingen toe over het rechtspluralisme dat mijn inziens uitstekend past bij de pluriformiteit van technology assessment. Recht is meer dan wetgeving. Na de scheiding van kerk en staat in de elfde eeuw heeft het seculiere recht zich ontwikkeld uit gewoontes.36 Als reguleringswetenschapper beschouw ik recht als één sturingsmiddel tussen vele andere.37 Naast het recht zijn daar bijvoorbeeld subsidies en informatie. Ik heb al eerder aangegeven dat ons onderzoek zich richt op wettelijke en niet-wettelijke regels. Niet-wettelijk beleidsinstrumenten, zoals gedragscodes, standaarden, handleidingen zijn bij de sturing van geavanceerde technologieën van groot belang. Onzekerheid over de technologische ontwikkeling en haar effecten staat wettelijke maatregelen veelal in de weg. In het actuele rechtswetenschappelijke debat worden beleidsinstrumenten met rechtsbinding (waaronder formele wetten, verdragen, algemene maatregelen van bestuur, beleidsregels en rechtspraak) als ‘hard law’ aangeduid. Beleidsinstrumenten zonder rechtsbinding (waaronder gedragscodes, standaarden, resoluties en beleidsprogramma’s) worden als ‘soft law’ gekenmerkt.38 ‘Soft law’ is gelegitimeerd door de specifieke regelgevingsautoriteit van publieke en private organisaties. Het kan niet met straffen worden gesanctioneerd. Dit is voor rechtswetenschappers aanleiding om ‘soft law’ als een ‘zacht’ instrument te karakteriseren. Niettemin heeft het volgens veel rechtsgeleerden en sociale wetenschappers belangrijke effecten in de rechtspraktijk. De ‘softe’ beleidsinstrumenten achten zij veel geschikter dan wetgeving in situaties waarin de regelgever wordt geconfronteerd met onzekere omstandigheden, die flexibiliteit, snelle aanpassing en experimenten vereisen.39 Bij private vormen van ‘soft law’ wordt ook aangenomen dat de regels die de organisatie zelf heeft opgesteld beter geaccepteerd en


25-06-12 17:14

19

nageleefd worden dan wettelijke regels die van buitenaf zijn opgelegd. Ik acht de begripsvorming van ‘soft law’ inconsistent en incorrect; bij de definities lopen normatieve en empirische perspectieven door elkaar heen. Het onderscheidend kenmerk van de rechtsbinding heeft een normatieve strekking. Het betreft vraagstukken van gehoudenheid tot naleving van rechtsregels. Het al dan niet bindende karakter wordt op een lijn gesteld met de daadwerkelijke naleving van de regels. Daarmee wordt voorbij gegaan aan het feit dat dit tweede kenmerk, de ‘effecten in de rechtspraktijk’, uitgaat van een empirisch perspectief. Het onderscheidend kenmerk betreft niet de gehoudenheid tot naleving, maar de vraag of de gereguleerde partijen zich ook daadwerkelijk aan de regels houden. Consistenter is de begripsvorming tot één perspectief te beperken. Het onderzoek dat in het kader van mijn leerstoel wordt uitgevoerd is op een empirisch perspectief gebaseerd. Daarbij gaan we uit van de terminologie van ‘harde’ en ‘softe’ regulering. Anders dan de verwarrende terminologie soft law geeft softe regulering aan dat het om alle regels en reguleringsmiddelen gaan die ertoe dienen bepaalde beleidsdoeleinden te bereiken. In het empirisch perspectief ligt de focus op de daadwerkelijke naleving van regels. Ik beschouw regulering als ‘hard’ als de betreffende regels gevolgd worden. Niet-nageleefde regels gelden dan als ‘soft’. Dit betekent bijvoorbeeld dat wetgeving die niet nageleefd wordt als ‘softe regulering’ gekwalificeerd wordt en dat gedragscodes of standaarden die in de praktijk wel worden gevolgd als harde regulering gelden.


25-06-12 17:14

20

EMBEDDED RESPONSIBLE DESIGN Softe en harde regulering behoren tot de bagage van geavanceerd technology assessment. Een van haar taken is de ondersteuning van regelgevers. Daarbij heb ik responsieve en veerkrachtige regelgevers voor ogen die zich verdiepen in evaluaties en regelpraktijken, die zich richten op de sociale gevolgen van regels, experimenteren en leren van sucessen en het falen van technologieregulering. In het kader van geavanceerd technology assessment is het een grote uitdaging om een ontwerpmethode te ontwikkelen die technologie vanaf het begin inbedt in sociale, economische, ethische, politieke en reguleringsaspecten. Verantwoorde technologische innovatie kan baat hebben bij een vroegtijdige afstemming tussen infrastructuur en technologische ontwikkeling. Ik noem deze methode ‘embedded responsible design’. Het is fascinerend om te zien dat de achter ‘embedded responsible design’ liggende gedachte steeds meer begint te leven. Bijvoorbeeld in de kwaliteitsevaluatie van medicijnen in de Verenigde Staten, ook wel ‘quality by design’ genoemd.40 Quality by design is een antwoord op de kritiek op de traditionele beoordeling van medicijnen - het gebrek aan flexibiliteit en maatwerk, de onnodige kosten en het late stadium waarin de kwaliteitsevaluatie plaatsvindt. Het Amerikaanse Agentschap voor Levensmiddelen en Medicijnen, de FDA, heeft in samenwerking met wetenschappers eerste stappen gezet voor quality by design. Bij deze methode worden de vooraf gedefinieerde doeleinden van kwaliteit later gespecificeerd vanuit het perspectief van patiënten. In het hele proces bestaat ruimte voor experimenten en voor de aanpassing van kwaliteitscriteria. Het voorbeeld van quality by design biedt inspiratie voor een verantwoord technologisch ontwerpen. Embedded responsible design beschouw ik als een wegwijzer voor de technische universiteit. De Universiteit Twente beschikt over unieke technologische kennis en unieke kennis over technology


25-06-12 17:14

21

assessment, ethiek, regulering en communicatie van technologie. Geavanceerd technology assessment en embedded responsible design zijn de UT op het lijf geschreven.

Mijn opmerkingen over beide projecten bieden ook wegwijzers voor de toekomst van het recht en de rechtswetenschap. Een wegwijzer betreft de vitaliteit van het recht. In een globaliserende samenleving die tevens ook gericht is op het lokale niveau wordt de vitaliteit van het recht mede bepaald door pluriformiteit en het vermogen om empirische kennis over harde en softe regulering, alsmede kennis uit andere disciplines te integreren. In de waarborgsamenleving zal het recht meer aandacht moeten besteden aan de omgang met onzekerheid. Ik heb al enkele keren aangeduid dat de benodigde capaciteiten bij het recht aanwezig zijn. Een recht dat beoogt bij te dragen aan wenselijke technologische innovatie en bescherming tegen schadelijke effecten dient deze capaciteiten te scholen en meer in te zetten. Daarbij kan de rechtswetenschap veel leren van de vooruitgang die technische we-


25-06-12 17:14

22

tenschappen hebben geboekt als gevolg van toenemende interdisciplinariteit. Met veel enthousiasme zal ik me ook in de toekomst inzetten voor het welslagen van deze kruisbestuiving! Geachte toehoorders, we zijn aan het einde van de reis beland. Ik rond mijn rede af met woorden van dank. Gelet op de beperkte tijd kan ik maar enkele personen noemen die mij geïnspireerd en gesteund hebben tijdens mijn levensreis. 1. Allereerst dank ik het college van bestuur van de UT en de faculteit MB voor het in mij gestelde vertrouwen en de ruimte die zij mij gegeven hebben om nog een paar jaar te pionieren. 2. Ik dank mijn man Bernard voor de liefdevolle Nederlandse nuchterheid die hard nodig is om mijn Duitse Gründlichkeit te relativeren. Bernard, ik hoop dat onze gezamenlijke levensreis nog heel lang duurt. 3. Mijn broer Ulf en zijn familie. Ulf, Christina, Hannah und Thomas: Fantastisch, dass ihr gekommen seid! 4. De familie Dorbeck en aanhang. Sinds ik jullie ken is Nederland zoveel mooier en gezelliger! Nu de collega’s in chronologische volgorde: 5. Eric André de la Porte, promotor, dank voor je spirituele inspiratie. 6. Huib de Jong. Huib, de basis voor mijn oratie is tijdens de boeiende discussies over ons boek Juridische Staatsleer gelegd. Ik ben dankbaar dat uit deze samenwerking een vriendschap met jou en Liesbeth is ontstaan. 7. Arie Rip. Arie, gesprekken met jou zijn richtinggevend voor mijn loopbaan geweest. We hebben al in 1990 over een vorm van technology assessement gesproken die ik vandaag, 22 jaar later, geavanceerd noem. Je bent een grote, onvermoeibare wetenschapper. Ik dank je in het bijzonder dat je mij bij het NanoNext project betrokken hebt. Je hebt in de vakgroep STEPS de basis voor een


25-06-12 17:14

23

fantastisch wetenschappelijke klimaat gelegd. Daarvan geniet ik in de samenwerking met Stefan Kuhlmann, Nelly Oudshoorn, Kornelia Konrad en anderen. 8. De collega’s van de oude vakgroep LEGS, Ramses Wessel, Michiel Heldeweg, Antoni Brack en Nico Groenendijk dank ik voor de steun voor mijn hoogleraarschap. Ik kijk uit naar de samenwerking met jullie in de nieuwe groep Law and Regulation. 9. Now I jump to the members of my research group: Nupur Chowdhury, Evisa Kica, Aline Reichow, Diana Bowman, Elen Stokes and Joel d’Silva. I really feel privileged to collaborate with you. I am looking forward to the adventures of the coming years. 10. Een bijzondere dank gaat aan Ria Luschen en alle andere secretaresses die me op voortreffelijke wijze ondersteund hebben. 11. Beste studenten, ik hoop de komende jaren nog veel aan jullie te geven en nog veel van jullie te leren. En tenslotte degenen die mijn oratie rechtstreeks hebben ondersteund: 12. Martin de Nobel, hartelijk dank Martin voor de prachtige presentatie. 13. Kees Aarts, Dave Blank en Peter-Paul Verbeek, ik dank jullie voor de inspirerende voorbereidende gesprekken 14. Mirjan Oude Vrielink, mijn eerste AIO. Mirjan, je hebt een bijzondere plaats in mijn hart. Je bent een van de weinigen die mijn pionierende geest begrijpt en waarmee ik me met mijn soms wilde ideeën thuis voel. Met jou deel ik de drijfveren van mijn oratie: nieuwsgierigheid, hartstocht en twijfel. Veel dank voor jouw constructief commentaar! 15. Dick Ruiter. Dick, ik noem jou als laatste, want met jouw betrokkenheid bij mijn oratie was de cirkel rond. Heel lang geleden was je lid van mijn sollicitatiecommissie. Onze wegen hebben zich al de jaren op heel verschillende manieren gekruist. Ik heb jou gevraagd commentaar op mijn concept-rede te geven omdat ik jou waardeer als een briljante kritische intellectueel met een brede belangstelling


25-06-12 17:14

24

voor literatuur en muziek die ik deel. Tijdens onze voorbereidende gesprekken heb ik jou beloofd meer Mozart dan Mahler in de rede te laten doorklinken. Dick, het is aan jou, het is aan u, zeer gewaardeerde toehoorders om te beoordelen of ik mij aan deze belofte gehouden heb. IK HEB GEZEGD.


25-06-12 17:14

25


25-06-12 17:14

26

REFERENTIES 1

Zie http://vimeo.com/11547349 (geraadpleegd op 12-4-2012).

2

Schomberg, R. von, ‘Prospects for Technology Assessment in a Framework of Responsible Research and Innovation’, in: M. Dusseldorp and R. Beecroft (eds.) Technikfolgen abschätzen lehren: Bildungspotenziale transdisziplinärer Methoden, Wiesbaden: Vs Verlag, 2001; Dorbeck-Jung, B.R., ‘Responsive Governance of Uncertain Risks in the European Union: Some Lessons from Nanotechnologies’ (verschijnt 2012).

3

Epeius filmpje.

4

Kuhlmann, S. et al., Regulation und Künftige Technikentwicklung, Heidelberg: Physica-Verlag,1998; Franzius, C., ‘Technikermöglichungsrecht’, Die Verwaltung 34, 2001, pp. 487-516; Kloepfer, M., Technik und Recht im wechselseitigen Werden: Kommunikationsrecht in der Technikgeschichte, Schriften zum Technikrecht 4, Duncker&Humbolt, 2002; Hoffmann-Riem, W., ‘Steuerung und Stimulierung Innovativen Verhaltens Privater durch die Verwaltung‘, in: H. Hill & H. Hof, Wirkungsforschung zum Recht II, Verwaltung als Adressat und Akteur, Baden-Baden, 2000, p. 241 e.v.; H. Stout & M. de Jong, Over spreek-telegraaf en beeldtelefoon, Lemma, 2005; Brownsword, R. & H. Somsen, ‘Law, Innovation and Technology: Before We Fast Forward – A Forum for Debate‘, Law, Innovation and Technology 1, 2009, pp. 1-73.

5

Hoffmann-Riem, W., ‘Innovationssteuerung durch die Verwaltung: Rahmenbedingungen und Beispiele’, Die Verwaltung 33, 2000, p. 155 e.v.

6

Rosenau, J.N. & E.-O. Czempiel (eds.) Governance without Government: Order and Change in World Politics, Cambridge: University Press, 1992; Rhodes, R.A.W., Understanding Governance: Policy Networks, Governance, Reflexivity and Accountability, Buckingham: Open University Press, 1997; Pierre, J. & B.G. Peters, Governance, Politics and the State, Basingstoke: Palgrave, 2000; Héritier, A. & M. Rhodes, New Modes of Governance in Europe, Houndmills: Palgrave Macmillan, 2011.

7

Zie Kloepfer (noot 4), p. 35.

8



25-06-12 17:14

27

9

Giddens, A. The Consequences of Modernity, Cambridge: Polity, 1990; Giddens, A., Modernity and Self-Identity, Cambridge: Polity, 1991; Beck, U., Risk Society: Towards a New Modernity, London: Sage, 1992.

10

Senden, L., Soft Law in European Community Law, London: Hart Publishing, 2004; Levi-Faur, D. & H. Comaneshter, ‘The Risk of Regulation and the Regulation of Risks: The Governance of Nanotechnology’, in: G. Hodge et.al (eds.) New Global Regulatory Frontiers in Regulation: The Age of Nanotechnology, Cheltenham: Edward Elgar, 2007, pp. 149-165; Dorbeck-Jung B.R., ‘Soft Regulation and Responsible Nanotechnological Development in the European Union: Regulating Occupational Health and Safety in the Netherlands’, European Journal of Law and Technology 2(3), 2011, pp.1-14; Kearnes, M. & A. Rip, ‘The Emerging Governance Landscape of Nanotechnology’, in: S. Gammel et al. (eds.) Jenseits von Regulierung: Zum Politischen Umgang mit der Nanotechnologie, Berlin: Akademische Verlagsgesellschaft, 2009.

11


12

Zie het overzicht van het Woodrow Wilson Centre http://www.nanotechproject.org/ inventories/consumer/up-dates/ (geraadpleegd op 12-4-2012).

13

WRR, Evenwichtskunst: visie op risico-regelreflex, Wetenschappelijke Raad voor het Regeringsbeleid, Den Haag, 2011. Toespraak van de voorzitter van de projectgroep M. van Asselt (zie http://www.wrr.nl/publicaties/publicatie/article/evenwichtskunst-1/; geraadpleegd op 16-4-2012)

14

Knauff, M., Der Gewährleistungsstaat – Reform der Daseinsvorsorge, 2005, p. 66; Hoffmann-Riem, W. ‘Das Recht des Gewährleistungsstaats‘, in: Schuppert (red.) Der Gewährleistungsstaat – Ein Leitbild auf dem Prüfstand, 2005, p. 89; Dorbeck-Jung, B.R. & M.J. Oude Vrielink-van Heffen (eds.) Op weg naar bruikbare overheidsregulering?, Elsevier, 2006, pp. 9-18; Franzius, C., Der Gewährleisungsstaat, 2007, franzius.de/ FranziusC/texts/gewaehrleistungsstaat (geraadpleegd 164-2012); Waechter, K. Verwaltungsrecht im Gewährleistungsstaat, Tübingen: Mohr Siebeck, 2008.

15

Dorbeck-Jung, B.R., ‘What can Prudent Public Regulators Learn from the United Kingdom Government’s Nanotechnological Regulatory Activities’, Nanoethics, 1, 2007, pp. 257-270.


25-06-12 17:14

28

16

International Risk Governance Council, Nanotechnology Risk Governance, White Paper 2, Geneva, 2006; Swierstra, T. et al., Leven als bouwpakket. Ethisch verkennen van een nieuwe technologische golf, Kampen: Klement, 2009.

17

Brownsword en Somsen noemen dit de ‘sociale licentie’ van technologische innovatie (zie noot 4, p. 2)

18

De Jong, H.M. & B.R. Dorbeck-Jung, Juridische Staatsleer, Bussum: Coutinho, 1997; Popelier, P., Rechtszekerheid als beginsel voor behoorlijke regelgeving, Antwerpen: Internsentia, 1997; Kersbergen, K. van, & F. van Waarden, ‘Governance as a Bridge between Disciplines, Cross-disciplinary Inspiration Regarding Shifts in Governance and Problems of Governability, Accountability and Legitimicy’, European Journal of Political Research 43, 2004, pp. 143-171; Curtin, D.M. & R.A. Wessel (eds.) Good Governance and the European Union: Reflections on Concepts, Institutions and Substance, Antwerp: Intersentia, 2005.

19

Deze criteria zijn te vinden in de Gedragscode van de Europese Commissie (zie http://ec.europa.eu/nanotechnology/pdf/nanocode-rec_pe0894c_en.pdf (geraadpleegd 16-4-2012). Zie ook Dorbeck-Jung, B.R., ‘How can Hybrid Nanomedical Products Regulation Cope with Wicked Governability Problems?’, in: M. Goodwin et.al (eds.) Dimensions of Technology Regulation, Nijmegen: WLP, 2010, pp. 63-82.

20

Dorbeck-Jung (noot 2), 2012.

21

Rip, A., Th. Misa & J.W. Schot (eds.) Managing Technology in Society. The Approach of Constructive Technology Assessment, London: Pinter Publishers, 1995; Grin, J. & H. van de Graaf, ‘Technology Assessment Through Interaction’, Science Tech Hum Val 21, 1996, pp. 72-99.

22

Guston, D.H. & D. Sarewitz, ‘Real-time Technology Assessment’, Tech Soc 24, 2002, pp. 93-109; Barben, D., E. Fisher, C.L. Selin & D.H. Guston, ‘Anticipatory Governance of Nanotechnology: Foresight, Engagement, and Integration’, in: E.J. Hackett, O. Amsterdamska, M.E. Lynch & J. Wajcman (eds.) The New Handbook of Science and Technology Studies, Cambridge: MIT Press, 2008, pp. 979-1000. Kulve, H. te, Anticipatory Interventions in the Co-evolution of Nano-technology and Society, Dissertation, Universiteit Twente, Enschede, 2012.

23

David, K., Socio-Technical Analysis of Those Concerned with Emerging Technology, Engagement, and Governance, Oxford: Elsevier, 2008.


25-06-12 17:14

29

24

Berman, H.J., Law and Revolution. The Formation of the Western Legal Tradition, Cambridge: Harvard UP, 1983, p. 153.

25

Hof te Arnhem, 27-10-1983 (NJ 1984, 80); Groenhuijsen, M.S. & F.P.E. Wiemans, Van elektriciteit naar computercriminaliteit, Gouda: Quint, 1987, p.108.

26

Berman (noot 24), p. 21.

27

Zie de evaluatie van de bestaande Europese wetgeving “Regulatory Aspects of Nanomaterials” en de samenvatting “Summary of Legislation in Relation to Health, Safety and Environment Aspects of Nanomaterials, Regulatory Research Needs and Related Measures”. http://www.kowi.de/Portaldata/2/Resources/fp7/coop/ eu-nano-policy-2004-08-en.pdf (geraadpleegd 16-04-2012).

28

Hodge, G. et.al (noot 10).

29

Hodge, G.A., Bowman.D.M. & A. Maynard (eds.) International Handboek on Regulating Nanotechnologies, Cheltenham: Edward Elgar, 2010.

30

De definitie van de Europese Commissie is te vinden op http://ec.europa.eu/ environment/chemicals/nanotech/index.htm (geraadpleegd op 16-4-2012).

31

European Medicines Agency SME Office, 2005, zie http://www.ema.europa.eu/ ema/index.jsp?curl=pages/regulation/general/general_content_000059.jsp&mid=W C0b01ac05800240cc&jsenabled=true (geraadpleegd op 17-4-2012).

32

Zie http://www.rendement.nl/arbo/nieuws/id3185-arbeidsinspectie-inspecteert-opnanoniveau.html (geraad-pleegd op 17-4-2012).

33

Weber, M., Die Protestantische Ethik und der Geist des Kapitalismus, Tübingen: J.C.B. Mohr, 1934.

34

Egyedi, T.M., Shaping Standardisation: A Study of Standards Processes and Standards Policies in the Field of Telematic Services, Dissertation, Delft: Delft University Press, 1996; Kim. C. & J. Song, ‘Creating New Technology through Alliances: An Empirical Investigation of Joint Patents’, Technovation 27, 2007, pp. 461-470; Blind, K., ‘The Internet as Enabler for New Forms of Innovation: New Challenges for Research’, Paper prepared for the 1st Berlin Symposium on Internet and Society, 2011.

35

Hoofdstuk 6 van de Europese Verordening Advanced Therapies Medicinal Products (EC) No 1394/2007; Faulkner, A., ‘Regulatory Policy as Innovation: Constructing Rules of Engagement for a Technological Zone of Tissue Engineering in the European Union’, Research Policy 38, 2009, pp.637-646.


25-06-12 17:14

30

36

Berman (noot 24), p. 274.

37

P. Nonet en P. Selznick, ‘Law and Society in Transition’, Towards Responsive Law, New York: Harper, 1978.

38

Synder, F., ‘The Effectiveness of EC law’, in: T. Daintith (ed.) Implementing EC law in the UK, Chichester: Wiley, 1995, pp. 152-178; Senden (noot 10 ), p. 23.

39

Trubek, D.M., P. Cottrell & M. Nance, ‘Soft Law, Hard Law and EU Integration’, in: G. de Burca & J. Scott (red.), Law and New Governance in the EU and the US, Oxford: Hart Publishing, 2006, pp. 65-94; Dorbeck-Jung, B.R. & M. van Amerom, ‘The Hardness of Soft Law in the United Kingdom: State and Non-state Regulatory Activities Related to Nanotechnological Development’ in: H. van Schooten & J. Verschuuren, International Governance and Law, Cheltenham: Edward Elgar, 2008.

40

Yu, L.X., ‘Pharmaceutical Quality by Design: Product and Process Development, Understanding, and Control’, Pharmaceutical Research 25:4, 2008, pp. 781-791.


25-06-12 17:14

31


25-06-12 17:14


25-06-12 17:14

NANO- TECHNOLOGISCHE EN MEDISCHE REGULERING

Recommend Documents