Hybrid Intelligence stimuleert zowel de menselijke intelligentie als de ontwikkeling van de kunstmatige variant. Hoogleraar Interactive Intelligence Catholijn Jonker is een pleitbezorger van deze nieuwe visie. Ofwel: de computer als herdershond van de mens.
De vraag wat kunstmatige intelligentie is en welke problemen ze zou moeten oplossen, verschuift in de geschiedenis continu. Lang geleden rekende de mens beter en sneller dan welke rekenmachine dan ook. Nu is dat rekenprobleem volledig opgelost door de computer. Maar los daarvan is de mainstream aanpak in Artificial Intelligence (AI) altijd gericht geweest op autonome systemen die mensen en menselijke taken kunnen vervangen. "Ik zie echter veel meer in intelligente systemen die samenwerken met mensen, die zich kunnen aanpassen aan veranderende omstandigheden en die hun acties kunnen uitleggen. Het idee is dat je veel grotere vooruitgang boekt als je kunstmatige intelligentie combineert met menselijke intelligentie. Beide takken, mens en computer, kunnen dan groeien. Vergelijk het met een herdershond die de schapenhoedende capaciteiten van een herder versterkt. We noemen dat Hybrid Intelligence”, legt professor Catholijn Jonker uit.
Zwaartekracht
Dit radicale basisidee is afgelopen jaar gehonoreerd via het zogenoemde Zwaartekracht-programma, gefinancierd door het Ministerie van OCW. Met de bijdrage kunnen toponderzoekers gedurende een periode van tien jaar vernieuwende onderzoeks- en samenwerkingsactiviteiten ondernemen met een fundamenteel karakter. Aan het onderzoeksvoorstel Hybrid Intelligence: Augmenting human intellect, werd een totaalbedrag van 19 miljoen euro toegekend. Samen met collega’s van de VU (de hoofdaanvrager), UvA, en de universiteiten van Leiden, Utrecht en Groningen, gaat Jonker met haar Delftse vakgroep Interactive Intelligence, aan de slag om theorie en methoden te ontwikkelen voor intelligente systemen die samenwerken met mensen. Die systemen moeten tevens onze sterktes vergroten en onze zwaktes compenseren.
Jonker: “Binnen de faculteit EWI richten we ons vooral op de dialoog tussen mens en machine, waarin zij elkaar wederzijds verder helpen door hun eigen licht te laten schijnen op de uitdaging die ze samen aangaan. Dat betekent het vermogen om je gedachten aan de ander te kunnen uitleggen, de sociale intelligentie en het vermogen om bij te kunnen leren uit die dialoog.”
Essentieel is dus het opbouwen van een “band” tussen de computer de mensen, en dan met name voor de langere termijn. “Nu werken bijvoorbeeld coaching-systemen op een termijn van hooguit een paar weken. Maar de interactie in een Hybrid Intelligence-systeem moet zich over een lange periode kunnen aanpassen; en het moet onderhoudend blijven, spannend. Voor de ontwikkeling van Hybrid Intelligence is dus vooral ook kennis nodig van andere vakgebieden, zoals de psychologie.”
Daarom komt het extra goed uit dat Jonker niet alleen aan de TU Delft werkt (sinds 2006) maar ook aan de Universiteit Leiden. Sinds 2017 is ze ook parttime professor aan het Leiden Institute for Advanced Computer Science (LIACS). “Dit geeft mij de gelegenheid om verbinding te zoeken met andere vakgebieden, op een manier die niet mogelijk is aan de TU Delft. In het vakgebied van Hybrid Intelligence zijn die connecties naar buiten een absolute voorwaarde.”
Computer als coauteur
Mogelijke toepassingen van Hybrid Intelligence richten zich onder meer op de gezondheidszorg, het onderwijs en de wetenschap. “Een mooi toekomstig voorbeeld ligt in mijn eigen werk als wetenschapper. Je kunt je voorstellen dat je als wetenschapper een agent als research-assistent hebt. Een assistent die in eerste instantie voor jou gaat uitzoeken wat er nog meer is gepubliceerd over een bepaald onderzoeksonderwerp, of die kijkt of jouw specifieke hypothese al eerder is getoetst. De volgende stap is dan dat zo’n systeem ook meedenkt over de aanpak van je onderzoek of zelfs meedoet aan een brainstorm over het onderwerp. De ultieme consequentie zou dan overigens zijn dat de agent ook als coauteur op de wetenschappelijk paper zou moeten worden vermeld. Maar dan zijn we nog wel een tijdje verder, hoor.”
“Ik durf wel te zeggen dat we met deze nieuwe insteek uniek zijn in de wereld van Artificial Intelligence. Er zijn wel andere onderzoeksprogramma’s geweest die aan deze visie raken, maar niet op dezelfde manier als wij nu gaan doen. Dat maakt het meteen ook lastig. We zijn misschien een beetje te vergelijken met Baron van Münchhausen: we zullen onszelf aan onze eigen haren uit het moeras op moeten trekken.”
Ethiek
Het Zwaartekracht-programma levert als het goed is niet alleen nieuwe wetenschappelijke inzichten en toepassingen op, maar is ook cruciaal voor het debat over kunstmatige intelligentie en het beleid op het gebied van ethiek rond AI. En met het onderwerp ethiek raken we een essentieel punt voor Jonker.
Jonker: “Ik ben bijvoorbeeld een van de oprichters van het Delftse Design for Values instituut maar ben ook betrokken bij dat andere gehonoreerde Zwaartekracht-programma: Ethics of socially disruptive technologies (SDT’s).” Nieuwe technologische ontwikkelingen zoals robotica, synthetische biologie, nanomedicatie, moleculaire biologie en neurotechnologie, maar dus ook kunstmatige intelligentie, hebben alle de potentie om grote veranderingen teweeg te brengen in het dagelijks leven, zowel sociaal, cultureel als economisch. Maar ze roepen ook ingewikkelde morele vraagstukken op die vragen om ethische bespiegelingen.
“Het komt er simpel gezegd op neer dat je niet alles moet doen wat kan. En dat is wel een makkelijke valkuil om in te stappen, zeker in de technologie. Als je niet voortdurend nadenkt, heb je op een gegeven moment echt geen idee meer wat je nou eigenlijk aan het doen bent. En als je eenmaal een nieuwe technologie hebt geïntroduceerd, is het erg lastig om deze weer uit het systeem te krijgen. Kijk naar een probleem als asbest en hoe lang we daar over doen.”
Pocket Negotiator
Een ethische vraag trad bijvoorbeeld op bij de ontwikkeling van de zogenaamde Pocket Negotiator: een AI-systeem om menselijke onderhandelaars te ondersteunen. “Ik had er voor kunnen kiezen om deze onderhandelaar uit te rusten met het mogelijke advies om (een beetje) te liegen; soms zou dat strategisch immers handig kunnen zijn, maar ik heb er voor gekozen om die mogelijkheid niet in te bouwen.”
De Pocket Negotiator is overigens een mooi voorbeeld van een langjarige succesvolle AI-ontwikkeling. Jonker kreeg er in 2007 een Vici-subsidie voor. Inmiddels is er een spin-off bedrijf (WeGain) rond deze technologie ontstaan en tonen diverse klanten interesse. “Dat gebeurt op twee manieren. Enerzijds helpt de Pocket Negotiator om na te denken over je voorkeuren voor mogelijke uitkomsten van de onderhandeling. Anderzijds wordt het nu ook mogelijk om ook al tijdens de onderhandeling zelf advies te vragen aan de Pocket Negotiator.”
Emoties
Ethische afwegingen zijn voortdurend aan de orde in de kunstmatige intelligentie, ook als je denkt aan de hele lange termijn. “Ik denk bijvoorbeeld wel eens aan het volgende dilemma: wat nu als we het onszelf door de ontwikkeling van AI steeds gemakkelijker maken? Zouden we dan niet steeds luier worden en zou dat zelfs niet in ons DNA kunnen gaan zitten?”
“Hoe dan ook is het enorm belangrijk om ingenieurs in opleiding goed bij te brengen dat ze medeverantwoordelijk zijn voor de gevolgen van de technologie die ze ontwikkelen. Daar is wel wat meer aandacht voor dan vroeger, zowel in de samenleving als op universiteiten, maar het kan wat mij betreft nog wel beter.”
Het onderwerp kunstmatige intelligentie roept sowieso allerlei emoties op, zeker ook bij het algemene publiek. Een element dat daarbij steeds terug komt, is de angst dat kunstmatige intelligentie enorm veel banen overbodig zal maken, met grote werkloosheid als gevolg. Hoe kijkt Jonker daar naar als wetenschapper? “Je moet een onderscheid maken. Kijk je naar individuele gevallen of naar het lot van de mensheid in het algemeen? Voor de mensheid als geheel is er, denk ik, weinig nieuws onder de zon, los misschien van het tempo waarin de veranderingen nu gaan. Veel banen zullen inderdaad verdwijnen, maar daar komen andere banen voor terug. Zo is het in de historie altijd gegaan. Ik denk dat de opmars van AI voor veel individuele gevallen absoluut pijnlijke gevolgen zal hebben en daar moeten we een scherp oog voor hebben. Wat kunnen de mensen die hun baan verliezen dan wel gaan doen? Bij die vraag zou juist AI weer kunnen helpen.”
Als je eenmaal een nieuwe technologie hebt geïntroduceerd, is het erg lastig om deze weer uit het systeem te krijgen. Kijk naar een probleem als asbest en hoe lang we daar over doen
