Slimme speakers, zelfrijdende auto’s, zorgrobots. Artificial Intelligence, kortweg AI, speelt een steeds grotere rol in onze levens. De aanwezigheid van AI zal alleen maar toenemen. Des te belangrijker om deze ontwikkeling op een zorgvuldige manier te laten verlopen. Veel AI-technologie wordt geregeld via de cloud, vertelt Aaron Ding. “De cloud verwerkt informatie die gebruikers en AI-systemen uitwisselen. Deze data worden opgeslagen in grote datacenters van onder meer tech- en telecombedrijven. Zij gebruiken dit om hun modellen te trainen en producten en services zo te verbeteren.”

Veel energie en veiligheidsrisico’s

De cloud biedt gezien de eindeloze opslagruimte grote voordelen, maar kent ook nadelen en beperkingen, zegt Ding. “Bijvoorbeeld dat data over grote afstanden moet worden getransporteerd. Dat kost heel veel energie, maar brengt ook problemen rond veiligheid en betrouwbaarheid met zich mee. Denk maar eens aan zelfrijdende auto’s. Als de internetverbinding tussen het voertuig en de cloud hapert, kan het zijn dat de auto te laat de juiste informatie over de verkeerssituatie ontvangt. Dat kan desastreuse gevolgen hebben. Milliseconden kunnen het verschil betekenen tussen leven en dood.”  

Edge AI: dataverwerking dicht bij de gebruiker

Wat in zo’n geval uitkomst kan bieden, is Edge AI, het vakgebied waar Ding zich als onderzoeker mee bezighoudt. “Edge AI is het dichter bij de gebruiker brengen van de verwerking van data. Dat kan bijvoorbeeld met een chip in een smart speaker of in een stoplicht met sensoren. Het apparaat verzamelt en verwerkt de data dan ter plekke en communiceert deze terug naar de gebruiker. Doordat niet meer alles via de cloud wordt verstuurd, is het risico op vertraging of ruis op de lijn kleiner. Ook hoeven er geen terabytes aan data meer te worden verzonden, wat veel energie bespaart.”

Betere bescherming van privacy

Ander aspect waar Edge AI een oplossing voor biedt, is het beschermen van de privacy. Bij de communicatie tussen de gebruiker en een AI-apparaat wordt vaak persoonlijke informatie uitgewisseld, zegt Ding. “Deze data zijn soms zeer vertrouwelijk. Bijvoorbeeld medische gegevens op smart speakers die worden ingezet in de thuiszorg. Via de cloud kunnen deze belanden bij bedrijven. Hiermee hebben ze gevoelige informatie in handen. Met Edge AI kun je zorgen dat alleen de speaker vertrouwelijke info opslaat en de info die relevant is voor verbetering van modellen geanonimiseerd wordt gedeeld met de cloud.”

Op zoek naar de juiste balans

Ding onderzoekt onder meer tot hoe ver het terugbrengen van de dataverwerking in een apparaat zelf kan gaan. Een chip of harde schijf heeft immers een stuk minder opslag- en verwerkingscapaciteit dan de cloud. Dat betekent dat je concessies moet doen, zegt Ding. “Enerzijds kan Edge AI zorgen voor energiebesparing en minder risico’s op het gebied van veiligheid en privacy. Maar tegelijkertijd moet je inleveren als het gaat om de kwaliteit en prestaties. Het is dus zoeken naar de juiste balans.”

Vooroordelen in algoritmen

Een van de risico’s die ontstaat bij het ‘comprimeren’ van AI-modellen op bijvoorbeeld een chip is de aanwezigheid van biases bij dataverwerking. Ding: “AI-ontwikkelaars gaan, zo blijkt uit onderzoek, vaak uit van een westerse blanke man van tussen de 40 en 50 jaar als gebruiker. Hierdoor ontstaan vooroordelen in de algoritmes van modellen. Dit kan er onder meer toe leiden dat een zelfrijdende auto personen onder bepaalde omstandigheden, zoals in het donker, niet goed herkent als een object. Dat is erg gevaarlijk. Het is dus zaak om te zorgen voor meer inclusiviteit in Edge AI.”

Ontwerprichtlijnen voor Edge AI

De verbeterpunten voor Edge AI, zoals op het gebied van inclusiviteit, verwerkt Ding in een serie richtlijnen, die hij zelf design patterns for Edge AI noemt. “Doel hiervan is dat bedrijven en ontwikkelaars zich meer bewust zijn van vooroordelen, rechtvaardigheid en problemen rondom privacy en hoe ze ervoor kunnen zorgen dat ze hier zorgvuldig mee omgaan. Dit doe ik onder meer samen met het Duitse instituut Fraunhofer FOKUS. Zij zijn in Europa een van de belangrijkste spelers op het gebied van richtlijnen voor open communicatiesystemen en kunstmatige intelligentie.”

Brug tussen de cloud en IoT

Hoewel Edge AI functionaliteiten van de cloud kan overnemen, is het volgens Ding een misverstand te denken dat het de cloud uiteindelijk overbodig maakt. “Edge AI moet je vooral zien als een manier om de cloud en slimme apparaten en systemen die we in ons dagelijks leven gebruiken – ook wel the Internet of Things (IoT) genoemd – op een coherente manier samen te brengen. Het vormt als het ware een brug. Edge AI kan uitkomst bieden voor problemen waar we met de cloud tegenaanlopen en waar de huidige IoT-apparaten geen volledige oplossing voor kunnen bieden.”

Samenwerking TBM-collega’s en partners uit het veld

Volgens Ding is TBM bij uitstek de plek om aan vraagstukken op het gebied van Edge AI te werken. “Vooral vanwege het multidisciplinaire karakter van de faculteit. Ik spreek met collega’s op het gebied van energie, transportplanning, businessmodellering en economie. Om tot goede co-design te komen, heb je een breed speelveld nodig. Daarnaast zijn partners uit de industrie, zoals techontwikkelaars, autoproducenten en telecombedrijven, essentieel. Zij hebben veel technologische kennis in huis, maar moeten ook weten waar ze rekening mee moeten houden, nu en in de toekomst.”

Van de technologische naar de meer sociale kant

Ding is inmiddels ruim zestien jaar actief in het onderzoeksveld van technologie en AI. Over de hele wereld kijkt hij in de keukens van zowel de wetenschap als het bedrijfsleven. Van Nokia tot BMW en van de universiteiten van Cambridge en Columbia tot die van ETH Zürich, Helsinki en Delft. Ding: “De eerste acht jaar hield ik me vooral bezig met de technologische kant. Maar ik werd me steeds meer bewust van de impact van AI op de maatschappij. De grondstoffencrisis veroorzaakt door de almaar groter wordende vraag naar chips en de klimaatcrisis maakte dat ik meer met de maatschappelijke kant van tech bezig wilde zijn. Ik wil slimme AI infrastructuursystemen maken die duurzaam zijn met oog voor menselijke waarden. Toen heb ik de shift gemaakt naar de human centric AI services..”

Zo breed mogelijk de vruchten plukken

Uiteindelijk hoopt Ding dat we op een zo breed mogelijk vlak de vruchten plukken van de mogelijkheden die AI biedt. “Om dit te realiseren moet AI zowel duurzaam, veilig, gebruiksvriendelijk en betrouwbaar zijn. Mede aan mij de taak om uit te zoeken wat hiervoor nodig is. Hierbij moeten we ook kijken naar welke problemen we in de toekomst kunnen tegenkomen en hoe we ons daarop kunnen voorbereiden. Met het oplossen van bestaande problemen creëren we ook weer nieuwe. Welke zijn dat en hoe gaan we daarmee om? De constante ontwikkeling van AI, zoals generatieve AI, maakt dit vakgebied zo interessant.”