"Geen enkele andere technologie heeft de wereld zo snel en intens veranderd als het web en datagedreven intelligente systemen (AI)”

“Onze missie is dat we technologie willen ontwikkelen die wordt gebruikt door mensen en is geïntegreerd in het dagelijks leven, en dat daardoor de wereld een betere plek wordt. We willen verantwoordelijke ingenieurs opleiden. Dat lukt alleen door heel letterlijk het gesprek aan te gaan met alle verschillende belanghebbenden door wie die technologie gebruikt gaat worden. Dit is precies het terrein waar methodologieën uit de ontwerpwereld en design kunnen helpen.” Een gesprek met Geert-Jan Houben, pro-vice rector AI, Data en Digitalisatie en leider van het AI Initiative en Alessandro Bozzon, hoogleraar Human-Centered Artificial Intelligence op de faculteit Industrial Design Engineering (IDE) van de TU Delft. De laatste zet zich in zijn werk in voor het verbeteren van welzijn en bevorderen van inclusie door middel van gepersonaliseerde sociale computersystemen.

Alessandro, wat is jouw persoonlijke motivatie om dit werk te doen?

Alessandro Bozzon: “Geert-Jan en ik zijn opgegroeid in een andere tijd. We hebben de overgang van de analoge wereld naar de digitale wereld meegemaakt. We waren erbij, bij het ontstaan van de digitale samenleving. Ik speelde al met webtechnologie vanaf het prille begin, uit nieuwsgierigheid naar wat het was. We waren ook getuige van de opkomst van intelligente systemen in de maatschappij, en we hebben gezien hoe deze systemen mensen hebben veranderd, en hoe ze de hele samenleving hebben veranderd. Digitale technologieën bezitten een enorme kracht en we kunnen niet ontkennen hoe ze ook ontwrichtend kunnen werken, hoe ze zelfs schade kunnen aanrichten. Het is heel belangrijk dat we ze leren beheersen.”

Kun je uitleggen waar jouw onderzoek over gaat?

Alessandro Bozzon: “Mijn persoonlijke interesse lag altijd aan de menselijke kant van deze beweging. Ik wilde onderzoek doen naar de menselijke kant, maar wel goed geïnformeerd zijn door technologisch inzicht. Ik ben dus geïnteresseerd in de technische elementen van AI, maar ook hoe die zich manifesteren in relatie met mensen die AI gebruiken. Je moet – zeker in het geval van AI – heel goed begrijpen wie die mensen zijn, wat ze doen, wat ze willen, hoe ze het willen en de context waarin ze de technologie zullen gebruiken. Dan pas kun je AI-technologie creëren die gebruikt kan worden, waar we werkelijk mee geholpen zijn, zonder allerlei onbedoelde neveneffecten.”

Als je zegt: je moet heel goed met mensen praten en mensen begrijpen, lijkt dat bijna op psychologisch of sociologisch onderzoek?

Alessandro Bozzon: “Het is een interdisciplinaire manier van onderzoek doen, we boren inderdaad kennis aan die door andere disciplines wordt gecreëerd. En kennis die wordt gecreëerd door collega’s die werken aan de toegepaste kant van AI, zoals binnen de thema’s Health en Mobility.”

Hoe moeten we dat zien: design van AI-systemen?

Alessandro Bozzon: “Bij het woord ‘design’ of vormgeven, moet je in dit geval niet denken aan esthetiek: aan stoelen en tafels. AI-systemen werken niet geïsoleerd. Ze maken deel uit van socio-technische systemen, organisaties, van de maatschappij; het gaat om een samenspel tussen mensen, de algoritmen, de gegevens die worden gebruikt om deze algoritmen te trainen, afkomstig van de mensen, de interfaces – dat alles. En daaraan moeten we vormgeven.
Als we denken aan engineering, denken we aan een rechte lijn, van data naar model naar gebruiker. Of van eisen naar software naar gebruiker. In de praktijk is dit geen rechte lijn maar een cirkel. Het ontwerp ontwikkelt zich in de loop van de tijd, omdat we een beter begrip krijgen van mensen, een beter begrip van technologie, het wordt steeds aangepast.”

Geert-Jan Houben: “Precies, er ontstaat, als het goed is, een samenspel tussen software, data, technologie en mensen. En dat samenspel moet zorgvuldig en voorzichtig worden ontworpen. Ik denk dat dat de crux is. Ons doel is om ervoor te zorgen dat dat samenspel tussen het geautomatiseerde deel en het menselijke deel goed werkt; met zorg en effectief.”

Alessandro Bozzon: “Als het gaat om de relatie tussen mens en technologie hebben we het vaak over vertrouwen, of over adaptatie, hoe we de technologie succesvol in het dagelijks leven integreren. Wat we te weten moeten komen, is hoe mensen de technologie kunnen en willen gebruiken en interpreteren. Dit is waar design een rol kan spelen; om eerst te begrijpen: wat is het probleem dat de technologie probeert op te lossen? En vervolgens te kijken: hoe kunnen we die technologie succesvol maken? Succesvol betekent voor mij niet alleen werken zoals bedoeld, maar ook echt geïntegreerd in het dagelijks leven. Soms zie je dat AI-technologie een effect heeft dat niet was voorzien: kwesties van vooroordelen, discriminatie, schade: ze komen allemaal voort uit een verkeerde afstemming tussen het gewenste effect en de werkelijke manifestatie van de technologie. Dat is precies de plek waar design een rol kan spelen: om te helpen de toekomst te verbeelden. En we willen de mensen die de technologie gaan gebruiken, betrekken bij het ontwerp- en engineeringproces.”

 

Kun je een voorbeeld geven?

Alessandro Bozzon: “De virtuele assistent Alexa is een klassiek voorbeeld van AI-technologie die in ons dagelijks leven normaal is geworden. Hierbij spelen ethische principes: we willen dat Alexa geen kwaad doet, behulpzaam is, eerlijk, nuttig. Er is een technisch aspect: de juiste algoritmen ontwikkelen. Maar er zijn ook ontwerpvragen: welke gegevens gaan we gebruiken, wiens gegevens gaan we gebruiken? Hoe gaat de interactie tussen het algoritme en de persoon eruit zien? Wat voor soort gesprekken gaan er gevoerd worden? Welke niet? Dat zijn allemaal dingen waar we 'vorm aan geven'.”

Geert-Jan Houben: “Het is aan de ene kant belangrijk dat deze vorm van de technologie goed begrepen moet worden door mensen: het gaat om de goede interpretatie. En aan andere kant is de vorm ook niet altijd gelijk, want die hangt af van de context. Daarmee zijn volgens mij betekenis en context twee zeer belangrijke elementen.”

Alessandro Bozzon: “Er worden veel AI-projecten en innovaties ontwikkeld die vervolgens nooit goed aansluiting vinden in de maatschappij, er zijn genoeg uitvindingen die niemand gebruikt of wil hebben. Omdat er nooit moeite is gedaan om te begrijpen wat er werkelijk nodig was. Als je een AI-innovatie voor een fabriek ontwikkelt, wil je dat de mensen op de werkvloer van meet af aan deel uitmaken van het ontwerpproces. Ik werk aan een Horizon-project genaamd COALA hierover. We creëren technologie door de ogen van de mensen die het gaan gebruiken; we begrijpen hun opleidingsniveau, hun angsten voor technologie, enzovoort. Dit is het basisprincipe van hoe wij in Delft AI bedoelen: de AI is geen technologie om mensen te vervangen maar om mensen te ondersteunen.”

Geert-Jan Houben: “Het woord adaptatie is belangrijk. Als je zegt 'gebruik', wekt dat de indruk dat als je eenmaal hebt vastgesteld hoe je het wilt gebruiken, je daarna het alleen nog hoeft te maken. Maar in het geval van AI is er sprake van een interactief en voortdurend proces. Ons begrip van mensen evolueert, onze relatie met technologie evolueert ook razendsnel. Het is altijd in ontwikkeling.”

Als je een landbouwmachine ontwerpt, geldt dit toch ook?

Alessandro Bozzon: “Ik zou willen zeggen dat AI een revolutionaire technologie is zoals we nooit eerder hebben gezien. Revolutionair, omdat AI technologie verandert door de manier waarop wij mensen ermee omgaan. Er is sprake van een diepe co-dependente relatie: door de manier waarop we de technologie gebruiken, verandert deze. Denk aan filterbubbels of polarisatie zoals je nu ziet in de wereld. Was het mogelijk om vooraf te voorspellen dat social media algoritmes dit effect zouden hebben? Misschien. Maar het laat vooral zien dat het onmogelijk is om een AI-innovatie als ‘af’ te beschouwen. In die zin is het wezenlijk anders dan een landbouwmachine ontwerpen.”

Geert-Jan Houben: “Je ontwerpt een oplossing voor een bepaald probleem, vervolgens gaan individuen het gebruiken, en zij worden ook weer beïnvloed door hun omgeving en door anderen; zo spelen er allerlei processen en effecten, en die zien we weer terug in de technologie die zich aanpast aan dat gebruik.”

Alessandro Bozzon: “Er is altijd een mens-technologierelatie geweest, maar het verschil met AI-systemen is dat zij, anders dan andere systemen, niet altijd een gedrag vertonen dat vooraf kan worden voorspeld. Er kunnen effecten optreden die moeilijker te voorzien waren. En ze zijn dynamisch. Ze beïnvloeden ons persoonlijk, ze beïnvloeden de maatschappij waarin we leven. Geen enkele andere technologie heeft de mensheid en de wereld zo snel en zo intens veranderd als het web en datagedreven intelligente systemen.”

Alessandro Bozzon: “Het ontwerpperspectief gaat erom mensen te zien zoals ze zijn, en niet zoals je wilt dat ze zijn. En ja, mensen hebben verschillende technische mogelijkheden, verschillende opleidingsniveaus, enzovoort. Design kan adaptatie mogelijk maken zonder dat mensen erover hoeven na te denken. Goede technologie is technologie die verdwijnt, die gewoon versmelt.”

Geert-Jan Houben: “Met een goed ontwerp kun je voor elkaar krijgen dat de gebruiker zich concentreert op die handelingen en de acties die hij of zij wil dat het doet. Dat de gebruiker niet belast wordt met andere dingen. Met als doel dat je probeert de gebruiker goede beslissingen te laten maken.”

En dit kunnen jullie maken, hier op de TU Delft, technologie die versmelt, en waar mensen goede dingen mee kunnen doen?

Alessandro Bozzon: “Het mooie van TU Delft is dat onderzoekers samenwerken, ik geloof dat dat noodzakelijk is om de gewenste AI-technologie te ontwikkelen en ontwerpen. De Delft AI-labs zijn een mooi voorbeeld daarvan: in de AI-labs komen het technologische perspectief, het ethische perspectief en het ontwerpperspectief samen, daar wordt de dialoog gevoerd. Dat is eigenlijk wat de maatschappij van ons vraagt. En onze studenten leren dit ook. Ze leren niet alleen samenwerken, maar ze leren begrijpen wat er nodig is om de AI te creëren en om systemen te creëren die een positief effect zullen hebben op de wereld.”