Meer menselijkheid dankzij AI
Jeroen van den Hoven
Catholijn Jonker
TU Delft is innovatief leider op het gebied van mens- en maatschappijgerichte AI. Dat is ook nodig om Europese waarden zoals gelijkheid en rechtvaardigheid te bewaken in de wereld van snelle AI-ontwikkeling. Prof. dr. Jeroen van den Hoven en prof. dr. Catholijn Jonker zetten uiteen hoe hun fundamentele onderzoek daaraan bijdraagt.
Bij zowel artificiële intelligentie als het menselijk brein gaat er data in en komt er data uit zonder dat precies duidelijk is wat vanbinnen gebeurt. Mensen hebben bewustzijn, moraal én een interface (taal) om te reflecteren op de output. Die mist AI. De noodzaak om AI daarmee toe te rusten, blijkt al uit enkele voorbeelden die onze waarden reflecteren. Mensen moeten kunnen protesteren tegen uitkomsten van een slim systeem. We willen controle houden en verantwoording afleggen over AI-bestuurde gewapende drones. En we willen maatschappelijke polarisatie als bijwerking van winstgedreven AI-technologie in sociale netwerken tegengaan. In 2017 richtte Van den Hoven samen met Jonker daarom het Delft Design for Values Institute op. De TU Delft is inmiddels innovatief leider in dit veld.
Human-centered AI
Value by design
TU Delft innoveert AI vanuit een systeembrede benadering die engineering en ethiek combineert in het ontwerp. Oftewel Value X by design, waarbij X staat voor responsibility, safety, privacy of sustainability. Van den Hoven, hoogleraar Ethiek en techniek: "Systeembreed betekent ook dat je nadenkt over de randvoorwaarden waarin AI kan opereren; van wetgeving en toezicht, tot maatschappelijke inbedding en mens-AI-samenwerking."
Vermogens versterken
Catholijn Jonker (hoogleraar Interactieve intelligentie) spreekt liefst van symbiose tussen mens en AI. Hiernaar doet ze onderzoek met financiering van het NWO Zwaartekrachtprogramma Hybrid Intelligence en in samenwerking met de VU en andere partners. Haar werkveld is divers: van mens-machine-interactie in de robotica, tot ondersteuning van besluitvorming op grond van motieven en voorkeuren (en niet sec winstbejag of gepolariseerd debat). De gemene deler is de dialoog tussen mens en machine. "Ik zoek methoden en technologieën die onze vermogens versterken om gedachten uit te wisselen en te leren van die dialoog."
Jonker doet daarnaast bewust ook onderzoek in Leiden, aan het Institute for Advanced Computer Science. “Dat maakt het makkelijker om samen te werken met vakgebieden zoals psychologie en kennistheorie. Dat is voor hybrid intelligence een voorwaarde.”
Onderhandelingen
Jonker is gedreven om uiteindelijk slimme systemen te ontwikkelen die mensen, organisaties en AI zelf stimuleren te delibereren, ofwel: te blijven overwegen. "Als AI informatie geeft over motieven en standpunten, van jezelf en anderen, ontstaat deliberatie. Deze creëert ruimte voor de andere mens, en daarmee voor nieuwe ideeën en oplossingen waar iedereen beter van wordt. Dat komt van pas bij zowel financiële onderhandelingen, als debatten op sociale media en in de politiek."
Een mogelijke toepassing die Jonker ambieert, is om mensen inzicht en overzicht te geven in online debatten, via mens-AI-samenwerking. Bijvoorbeeld in aanloop naar verkiezingen. "Wie waren invloedrijk, waarom ging dat ene argument viral en welke sentimenten bleven ongehoord? Als je daarvan een simulatie kunt draaien, ontdek je hoe je genuanceerde geluiden ruimte kunt geven, en iedereen die dat wil gehoord kan worden."
Kiezel
De nadrukkelijke aandacht die TU Delft vraagt om reflectie op morele aspecten van AI lijkt logisch. "Maar het is taaie kost", benadrukt Van den Hoven. Niet-functionele ontwerpeisen zoals morele waarden moeten specifiek en valideerbaar worden gemaakt. Ook de benodigde samenwerking tussen technische, sociale- en geesteswetenschappen vraagt doorzettingsvermogen.
Recent schreef Van den Hoven met collega's een wetenschappelijk artikel over AI-ondersteuning bij mensenrechten. "We omschrijven hoe je de menselijke waardigheid zou kunnen borgen in slimme systemen." Het is input voor de uitrol van Europese wetgeving. TU Delft helpt de EU zo de lat hoog te leggen. "Dat is een kiezel in de schoen van de landen die ethiek niet top of mind hebben. Maar zij moeten mee; anders verliezen ze de Europese markt."
Krachtig doorpakken
Nederland moet wel krachtig doorpakken met investeren op diverse niveaus en in Europees verband. De beloning bestaat uit wereldwijd gewilde innovaties, meent Van den Hoven. "Simpelweg omdat mensen wereldwijd dezelfde behoeften hebben: menselijkheid, veiligheid, vrijheid, duurzaamheid."