Hoe slimmer robots worden, hoe meer we ze om ons heen zullen zien — thuis, op straat, in winkels en op de werkvloer — en hoe meer ze dus ook direct te maken krijgen met mensen. Robots zullen dan menselijk gedrag moeten snappen, moeten kunnen samenwerken met mensen, met ze kunnen communiceren en zelfs van ze kunnen leren. Andersom geldt dat net zo. De mens moet een idee hebben wat de robot gaat doen, wat hij niet gaat doen, wat hij kan doen, wat hij niet kan doen. Robot en mens zullen elkaars handelen moeten begrijpen.
Waar collega-hoogleraren binnen de afdeling Cognitive Robotics zich voornamelijk richten op het slimmer maken van de robot zelf, richt hoogleraar haptic human-robot interaction David Abbink zich op de fysieke interactie tussen robot en mens.
Mens en robot in symbiose
Abbinks visie is dat robot en mens niet alleen samen moeten werken, maar uiteindelijk ook samen moeten leven: mens en robot in symbiose. Abbink: “In een symbiotische mens-robot-samenleving is het doel niet dat robots mensen vervangen, maar dat robots mensen aanvullen en uitbreiden. Ik zoek naar die magische balans waarbij de symbiose tussen mens en robot meer is dan de som van de delen.”
Ik bekijk het probleem vanuit een andere invalshoek: het ontwerpen van de juiste interactie tussen mens en machine, zodat ze elkaar versterken in plaats van vervangen.
Wat er gebeurt als de interactie tussen mens en robot niet goed is ontworpen, zien we bijvoorbeeld bij de huidige generatie intelligente voertuigen. Abbink illustreert het met een anekdote over een tv-interview dat hij gaf over de interactie tussen robot en mens:
“Samen met de presentatrice en de cameraman zat ik in een intelligente auto. Sommigen noemen het een zelfrijdende auto, maar in feite is het een auto met rij-ondersteuning. Die rij-ondersteuning werkt echter niet altijd en overal, en om dat te illustreren zochten we een smal binnenweggetje op. Op een gegeven moment kwam er een tegenligger aan. De presentatrice week een beetje uit naar rechts om de tegenligger met genoeg tussenruimte te laten passeren. Geen probleem op een verder lege weg. Maar ze ging wel over de witte lijn. Onze auto begon luid te piepen. Meteen werd het stuur krachtig naar links geduwd, toevallig precies op het moment dat de tegenligger passeerde. De automatische noodrem sloeg aan en de cameraman vloog naar voren. Dat leverde mooie tv, maar het was best gevaarlijk. En het is niet goed voor ons vertrouwen in de intelligente auto.”
De mens ziet de context: het is prima om naar rechts uit te wijken en eventjes de lijn over te gaan. De auto denkt: nee, je gaat buiten de lijnen, dat is gevaarlijk. Abbink: “De standaardreflex van technici is om de techniek te willen verbeteren tot die altijd beter is dan de mens. Ik bekijk het probleem vanuit een andere invalshoek: het ontwerpen van de juiste interactie tussen mens en machine, zodat ze elkaar versterken in plaats van vervangen.”
Symbiotisch autorijden
Een van de onderzoeksprojecten waar Abbink aan werkt is het NWO Vidi-project ‘symbiotic driving’. Doel hiervan is om de controle over de auto op een vloeiende manier te laten variëren tussen de mens en de auto en daardoor incidenten zoals die op het binnenweggetje te voorkomen.
Abbink: “De huidige standaard is om de automatisering zo goed mogelijk te maken en de lastige en moeilijk voorspelbare restjes aan de menselijke bestuurder over te laten. Dan is óf de mens óf de machine de baas en wordt de besturing als een hete aardappel heen en weer gegooid. Dat noemen we ‘traded control’. Helaas is het moeilijk voor mensen om na een lange tijd waarin de machine alles deed, ineens weer geconcentreerd te zijn op het besturen van de machine. Wat mij betreft is het beter dat mens en machine tegelijkertijd controle kunnen uitoefenen. Dat noemen we ‘shared control’.”
Abbink is gespecialiseerd in haptische controle, controle die je voelt via krachten op het lichaam. Hij onderzoekt wat een handige manier is om mens en auto tegelijk controle te geven. Abbink: “Bij shared control zou je als mens in de auto op dat binnenweggetje aan het stuur voelen dat de auto weerstand gaat bieden als je naar rechts stuurt om de tegenligger te laten passeren. Maar het is niet zo’n grote kracht dat je er niet tegenin kunt gaan. En het gaat ook niet ineens met een ruk. De kracht moet net genoeg zijn om te voelen dat de auto er anders over denkt. Door deze interactie van fysieke krachten op het stuur kun jij als bestuurder kleine variaties aanbrengen zonder de rijondersteuning direct helemaal uit te schakelen. En het mooie is, krachten werken twee kanten op, daar zou de auto dus ook van kunnen leren.”
In een volgende fase moet de auto dan ook leren hoe de bestuurder rijdt. Dit noemt Abbink ‘symbiotisch rijden’. Symbiotisch rijden zal volgens hem veiligheid, vertrouwen en gebruikersgemak bevorderen. De huidige generatie auto’s met rij-ondersteuning doet dat niet en leidt tot onaangename verassingen die ervoor zorgen dat bestuurders het systeem maar al te vaak niet gebruiken. Abbink vindt dat zonde: “Als je toch al je handen aan het stuur moet houden omdat de fabrikanten niet kunnen garanderen dat het zonder bestuurder kan, dan zouden zowel de mens als de machine van die interactie kunnen leren.”
Nog een stap geavanceerder is dat de auto intrinsiek begrijpt wat mensen een veilige manier van rijden vinden. Als er dan een tegenligger op een binnenweggetje aankomt, zou de auto zelf al meteen snappen dat jij iets naar rechts gaat sturen. Stappen richting symbiotisch rijden maakte Abbink in zijn onderzoek enerzijds door de auto zelf te laten leren van correcties van de bestuurder, en anderzijds door de auto modellen mee te geven die zijn gebaseerd op hoe mensen hun risico op gevaarlijke situaties minimaliseren.
In de herfst van 2019 implementeerde Abbinks onderzoeksteam hun ontwerp van symbiotisch rijden in testvoertuigen van de Japanse autofabrikant Nissan. Ze vergeleken symbiotisch rijden met standaard ‘shared control’ en ‘traded control’. Abbink: “We zagen bij alle proeven dat symbiotisch rijden het beste uit de tests kwam. Het aanpassen van de regelaar aan menselijke voorkeuren leidt tot minder conflicten en betere acceptatie. En de resterende conflicten worden liever via shared control opgelost dan via traded control. Ons proof of concept van symbiotisch rijden werkt dus.”
Abbink verwacht dat de inzichten opgedaan in het symbiotic driving-project zich ook laten vertalen naar andere soorten robots: zorgrobots, robots als persoonlijke assistenten, en ook bij robots die op afstand worden bestuurd, zoals toegepast bij medische operaties, rampenbestrijding en voor operaties in de ruimte.
Mens en machine zijn als ruiter en paard
Om zijn werk uit te leggen, gebruikt Abbink graag de metafoor van een ruiter en haar paard, een metafoor die is verzonnen door Abbinks Duitse collega Frank Flemisch. Net zoals een ruiter en haar paard communiceren via krachten op de teugels, zo kunnen mens en machine ook via krachten communiceren om te laten merken wat ze willen.
Abbink: “In onze huidige interactie met machines is ons lichaam sterk onderbenut. Ik laat tijdens lezingen vaak een filmpje zien van een man wiens lichaam bij het lopen geen terugkoppeling krijgt. Je ziet hem steeds naar de grond kijken. Hij loopt vrij langzaam en onzeker. De haptische feedback die een gezond lichaam tijdens het lopen krijgt, gaat zo’n tienmaal sneller dan de visuele feedback. Dat gebeurt allemaal zonder na te denken. De cognitie zit als het ware in het lichaam. Zo natuurlijk als die haptische feedback bij wandelen en fietsen gaat, zo natuurlijk zou ik ook willen dat onze interactie met robots wordt.”
Hoewel Abbink gespecialiseerd is in haptische mens-robot-interactie leidt hij binnen de afdeling Cognitive Robotics de algemenere sectie mens-robot-interactie. Daarin onderzoeken collega-wetenschappers ook niet-fysieke vormen van interactie, zoals interactie via lichaamshouding, gebaren, oogbewegingen en de grootte van de pupillen.
We zagen bij alle proeven dat symbiotisch rijden het beste uit de tests kwam.
Zinvolle menselijke controle
Op feestjes krijgt Abbink vaak de vraag hoe we als samenleving controle over kunstmatige intelligentie en robots kunnen houden. Abbink: “Ik zeg dan in eerste instantie dat ik slechts naar een klein stukje van dat probleem kijk. En dat als ik de interactie tussen één mens en één robot goed ontwerp, ik daarmee hoop van onderaf de condities te creëren voor machines die niet uit de hand lopen. Wetenschappelijk is die hoop natuurlijk niet helemaal bevredigend. Daarom ben ik blij dat ik ook meewerk aan het brede TU Delft-onderzoeksprogramma AI Tech, dat in september 2019 vanuit vier Delftse faculteiten is gestart. Centraal daarin staat de vraag wat het betekent om als individu én als samenleving zinvolle controle te hebben over robots en slimme algoritmes, hoe je die controle dan moet ontwerpen en hoe niet.”
Als voorbeeld van de manier van denken die AI Tech probeert te stimuleren, noemt Abbink een onderzoek uit zijn eigen groep. Dat focust op het voorkomen van gedragsaanpassing bij Advanced Driver Assistent Systems (ADAS), zoals adaptive cruise control. In de praktijk gebeurt het vaak dat automobilisten zich aanpassen aan zulke hulpsystemen en ze gaan gebruiken om meer risico te nemen door bijvoorbeeld sneller ter gaan rijden, dichter op een voorligger te rijden of even afleiding te zoeken in de smartphone. Zo verdwijnt het potentiële veiligheidsvoordeel van ADAS. In isolatie lijkt ADAS veiliger, maar het totale mens-machine-systeem is dat in de praktijk niet.
Daarom moeten we het totale mens-machine-systeem centraal stellen in een realistische context, vindt Abbink. “Als we vanuit de gedragswetenschappen weten dat mensen zich aanpassen aan technische ondersteuning, dan moeten we die kennis meenemen in het ontwerp. De oplossing die wij voorstellen is om de hulp die shared control biedt te laten verdwijnen wanneer een automobilist boven de snelheidslimiet gaat rijden. In onze tests blijkt echter dat bestuurders de shared control-ondersteuning zo prettig vinden dat ze met onze oplossing wél onder de snelheidslimiet blijven: dan hebben ze zowel veiligheid als comfort. Dat is een prachtig voorbeeld van een systeemontwerp dat het mens-machine-systeem centraal stelt in plaats van alleen de techniek los van de mens.”
Macy-conferentie voor de 21e eeuw
Het idee om de relatie tussen mens en machine als één systeem te bekijken, waarbij de verantwoordelijkheid voor de impact van technologie op de samenleving niet mag verdwijnen in versplinterde disciplines, is niet nieuw, maar helaas wel verwaarloosd. Dit idee heeft haar wortels in de cybernetica, een term afkomstig uit het beroemd geworden boek Cybernetics van de wiskundige Norbert Wiener. Wiener definieerde cybernetica als “de wetenschappelijke studie van de controle en communicatie in het dier en in de machine”.
Wiener bedacht dit idee niet in isolatie. Tussen 1941 en 1960 werden in New York unieke, multidisciplinaire wetenschappelijke conferenties gehouden, de zogeheten Macy Conferenties, georganiseerd door de Macy Foundation. De Macy Foundation wilde de communicatie tussen de ook toen al steeds meer gespecialiseerde wetenschapsgebieden bevorderen. Wiener werd sterk beïnvloed door discussies tijdens de Macy Conferences on Cybernetics (1946-1953), met beroemde deelnemers als de antropologen Margaret Mead en Gregory Bateson en neurofysioloog Warren McCulloch.
Deze multidisciplinaire Macy Conferenties over cybernetica vormen een inspiratiebron voor David Abbink: “Kunstmatige intelligentie en robotica hebben een directe impact op het menselijk leven, veel directer dan algemene technologieën als energie of transport. Hun invloed reikt van het individu naar de samenleving als geheel. Als technische wetenschappers die robots maken, vind ik dat we ons ook moeten verdiepen in hoe die robots het leven van mensen veranderen, en welke ontwerpkeuzes kwalitatief beter zijn voor individuen en de samenleving. Dat kan alleen als we over disciplines heen kijken en ook bijvoorbeeld antropologen, sociologen, biologen, psychologen erbij te betrekken. Daarom wil ik een Macy-conferentie voor de 21e eeuw opzetten. Mijn streven is om in 2021 de eerste te organiseren.”
