Verslag 11 december 2018
De ethische kant van infrastructuur
Impressie masterclass 11 december 2018 ‘Publiek en privédomein onder druk – borging van publieke waarden in technologie’
De technologieontwikkeling van dit moment is bijna niet bij te benen. Voor we het weten, zijn grote delen van ons dagelijks leven en het publieke domein het speelveld geworden van grote bedrijven die alles van ons weten en ons gedrag en ons denken zelfs sturen. Democratie en privacy zijn in het geding. We moeten ons meer dan ooit bewust zijn van de ethische dimensie van innovatie. Misschien wordt het zelfs tijd voor een Ethische Effect Rapportage bij de ontwikkeling van nieuwe infrastructuur en technologische innovaties, opperden de deelnemers aan de masterclass.
Gastvrouw Elize de Kock (directie KIS) en gastheer Vincent Marchau (TUD ) toonden zich in hun welkomstwoorden aangenaam verrast met de volle zaal. ‘Het is een zeer actueel onderwerp, waar ook IenW mee aan de slag moet. Een aantal jaren geleden zou de zaal rond dit onderwerp nog niet zo vol hebben gezeten.’ Jeroen van den Hoven, hoogleraar Ethiek & Techniek aan de TUD, beaamde dat. ‘Het onderwerp ethiek was een paar jaar geleden nog iets voor een filosofie-seminar, maar nu rammelt de praktijk aan de deur. Hoe kunnen we handen en voeten geven aan maatschappelijk verantwoorde innovatie? Hoe zorgen we ervoor dat we verschillende publieke waarden tegelijkertijd incorporeren in onze producten en diensten, zodat bijvoorbeeld niet de natuur of het milieu of bepaalde groepen in de samenleving worden geschaad of geslachtofferd?’
Een racistisch viaduct
Van den Hoven bood twee denkkaders aan: maatschappelijk verantwoorde innovatie (‘responsible innovation’) en ‘Ethics by Design’. Beide kaders zijn in hoge mate door Nederlandse onderzoekers ontwikkeld. ‘Het start allemaal met het bewustzijn van het feit dat allerlei artefacten – producten, software, infrastructuur – een ethische kant hebben. Er is in New York ooit met opzet een viaduct aangelegd dat net te laag was voor de bussen waar vooral de armere zwarte bevolking mee naar het strand kon gaan. Zo werden deze mensen geweerd uit een bepaald deel van de stad waar vooral de witte middenklasse kwam. Je zou kunnen zeggen dat dit dus een racistisch viaduct is. Dat aanwezig zijn van bepaalde waarden in artefacten is een gegeven: we moeten goed kijken welke waarden dat zijn en ook wiens waarden dat zijn. Hoe zit het met de publieke waarden die wij van belang inden, zoals democratie, duurzaamheid, inclusiviteit, rechtvaardigheid? En is het mogelijk om bij het ontwerpen van producten en innovaties al vanaf het begin de juiste waarden te incorporeren?’
Een slim buikvormig schip
Het antwoord is ja. Van den Hoven liet een hele serie praktijkvoorbeelden de revue passeren. De opklapbare zeecontainer combineert de waarde van efficiency met duurzaamheid, de parkeergarage in de duinen van Katwijk combineert kustverdediging (veiligheid) met de mogelijkheid van recreatie en esthetiek, verschillende grote waterwerken in Nederland combineren (water)veiligheid met bescherming van ecologische waarden en energieopwekking (duurzaamheid), Van den Hoven: ‘Je ziet hier steeds hetzelfde patroon: verschillende waarden worden in één ontwerp heel slim gecombineerd. Die slimheid is iets dat we in de zeventiende eeuw al aan de dag legden met het buikvormige fluitschip. Het dek bleef smal terwijl de laadruimte breed was; dit werd zo gedaan om de tolheffing, die door de Denen bij de Sont geheven werd op basis van de vierkante meters van het dek, zo laag mogelijk te laten uitvallen.’
Ethics by design
Bewustwording van de ethische kant van artefacten is vooral belangrijk in de huidige tijd van snelle digitalisering, waarschuwde Van den Hoven. ‘De Sillicon Valley-industrie is volop bezig met het incorporeren van juist heel ongewenste waarden in hun producten. De Googles en Amazons van deze wereld willen consumenten afhankelijk maken – ‘addiction by design’. Dat is een bewuste actie. Maar vaak gebeurt dit ook onbewust. Zo zijn er in de afgelopen decennia obesogene woonwijken ontstaan. Nu zien we de omgekeerde beweging: ‘activity by design’ met vele stimulans van lopen en fietsen. Aan de TUD hebben we een model ontwikkeld waarmee je van waarden via de brug van normen en protocollen en dergelijke naar ontwerp-eisen kunt komen. Zo operationaliseren we dat wat maatschappelijke gewenst is tot op het niveau van hoe een product of dienst precies in elkaar moet zitten. Dat is een interdisciplinair proces, waarin wetenschappers met verschillende achtergronden moeten samenwerken.
Inschatten hoe innovatie maatschappelijk uitpakt
Hiddo Huitzing van het Planbureau voor de Leefomgeving was mede-auteur van het signalenrapport ‘Mobiliteit en elektriciteit in het digitale tijdperk – Publieke waarden onder spanning’ uit 2017. ‘De verschillende infrastructuren die we hebben op het gebied van energie, ICT en ook in de wereld van verkeer en vervoer raken steeds meer met elkaar verknoopt en versmolten. In feite is de Tesla een laptop op wielen, terwijl energiebedrijven steeds vaker andere dingen gaan aanbieden aan huishoudens dan alleen energie. Bij al deze innovaties raken soms de private voordelen en de publieke lasten uit evenwicht, zoals we bijvoorbeeld zien bij de enorme opmars van Airbnb in Amsterdam. Je zou eigenlijk in staat moeten zijn om als overheid in te schatten hoe een bepaald product of een bepaalde dienst nu precies uitpakt voor de samenleving. De Eerste Kamer had die rol bij de Slimme meter. De introductie daarvan is vertraagd geraakt omdat er een verplichting aan was gehangen die kon leiden tot in hechtenisneming van burgers die de slimme meter zouden weigeren. Dat was niet zulk slim beleid, dus.’
Niet-transparante systemen
Het PBL onderscheidt drie verschillende typen van publieke waarden die met elkaar in balans zouden moeten zijn bij processen van innovatie. ‘De stuwende waarden zijn waarden als efficiency of bereikbaarheid. Dat is ‘waarvoor je het allemaal doet’. Verankerende waarden zijn bijvoorbeeld betaalbaarheid, betrouwbaarheid en toegankelijkheid. En dan zijn er nog procesmatige waarden, zoals transparantie, legitimiteit en democratie.’ In de praktijk zien we dat hierin nog wel eens een disbalans zit.’ Huitzing gaf daarbij het voorbeeld van onduidelijk ‘poortjesbeleid’ bij stations waarbij reizigers met hun OV-chipkaart wel erg makkelijk verkeerd in- en uit- kunnen checken bij de verkeerde vervoerder. ‘Ook transparantie is lastig, want de systemen en technologieën waarmee we nu – met name in het digitale domein – te maken hebben, zijn verre van overzichtelijk. We weten eigenlijk niet precies wat we in huis hebben, dus hoe kunnen we daar volledig verantwoording over afleggen als overheid?’ Huitzing presenteerde een aantal handvatten om als overheid in deze stormachtige tijden toch zicht te houden op borging van publieke waarden, waarbij er vooral veel geïnvesteerd moet worden in debat, kaders en doelen, nieuwe spelregels, passend toezicht en democratische controle en expertise.
Maatschappelijk Verantwoord Innoveren – ook bij IenW
Erik Schmieman, plaatsvervangend directeur KIS, gaf een aftrap voor de discussie. ‘We spreken momenteel regelmatig met Jeroen van den Hoven en zijn zelfs betrokken bij nieuw NWO-onderzoek in het kader van het programma Maatschappelijk Verantwoord Innoveren, waar hij ook een centrale rol in speelt. We gaan steeds beter zien dat we de maatschappelijke en ethische kanten van producten en diensten in ons dagelijkse werk moeten laten meetellen. We zullen daar meer kennis over verzamelen. We zijn nog op zoek naar mensen uit beleidsdirecties die mee willen investeren in tijd en geld voor dat onderzoek. Meld je bij mij!’
Filosofische discussie voeren
Het thema riep veel vragen en discussie op in de zaal. Zo kwam naar voren dat het niet zo makkelijk is om te bepalen welke waarden en wiens waarden er centraal moeten staan bij innovatie. Ook heeft de overheid het bedrijfsleven bepaald niet aan een touwtje. Van den Hoven: ‘Maar IenW en RWS kunnen via het eigen opdrachtgeverschap wel een belangrijke brugfunctie vervullen in dat proces van de vertaling van waarden naar functie-eisen.’ Ook kwam de vraag aan de orde of je ethische afwegingen kunt inbouwen in apparatuur, zoals in automatische auto’s. Van den Hoven: ‘Doe dat vooral niet. Stel dat je de regel inbouwt dat een auto bij dreigende botsingen altijd zo veel mogelijk mensen moet redden. Dan zou het zo kunnen uitpakken dat een voetganger die in zijn eentje op de stoep loopt voortaan automatisch het slachtoffer is bij een uitwijkmanoeuvre voor een groep plotseling overstekende mensen. Beter is het om de auto random te laten wijken in dit soort situaties. Voor het verder verkennen van de waarden in onze huidige tijd, is het trouwens wel heel goed om deze – meer filosofische - discussie verder te voeren.’
Reflexief evalueren
Een andere vraag uit de zaal: hoe krijgen we bedrijven zo ver dat ze ethischer gaan ontwerpen? ‘Laat je in elk geval niet ringeloren en lever je niet uit aan de Googles van deze wereld,’ antwoordde Van den Hoven. ‘En zorg voor goede wet- en regelgeving.’ En kunnen we als ambtenaren wel altijd transparant zijn, zoals Huitzing voorstelt? De politiek vraag soms om een andere handelwijze. ‘Transparantie is geen doel op zich; het gaat uiteindelijk om democratisch en verantwoord beleid. Verplaats je in de burger of in de journalistiek: kun je achteraf verantwoorden wat je deed?’ Tot slot: kunnen we van te voren altijd weten welke maatschappelijke gevolgen bijvoorbeeld digitalisering heeft? Zaal en sprekers waren het eens: dat kan niet. Van den Hoven: ‘Het duurt decennia om ene systeem van checks and balances dat werkt op te bouwen. Die tijd hebben we nu niet. Maar het zou goed zijn om dit soort aspecten mee te nemen in MER-achtige effectrapportage of de MKBA.’ Huitzing: ‘En een vorm van reflexief evalueren, continue monitoring van de technologische innovatie.’
