AI voor Vrede, Recht en Veiligheid

AI voor vrede, rechtvaardigheid en veiligheid

Artificial Intelligence (AI) eerlijk, rechtvaardig en tot voordeel maken voor de hele samenleving, en tegelijkertijd de Nederlandse industrie een concurrerende wereldspeler laten blijven in dit segment van de technologie. Deze enorme uitdaging brengt veel kansen met zich mee voor de domeinen die te maken hebben met Vrede, Recht en Veiligheid (VRV). AI verandert het publieke domein, doordat handelingen, communicatie en de bijbehorende publiek-private dienstverlening steeds meer geautomatiseerd, programmeerbaar en intelligent worden. Bij het toepassen van AI in vrede, recht en veiligheid moet het juiste evenwicht worden gevonden tussen nieuwe en geoptimaliseerde functionaliteiten en moeten tegelijkertijd burgers en de institutionele grondslagen van onze samenleving worden beschermd tegen AI-kwetsbaarheden en -afhankelijkheden.

Wanneer we kijken naar (het gebruik van) AI in VRV-domeinen, zijn verschillende aspecten heel kenmerkend. Ten eerste worden de gegevens binnen deze domeinen gekenmerkt door een hoge mate van gevoeligheid, aangezien het gaat om de "betrouwbaarheid" van personen, van organisaties en staten, en van hun gedrag. Een ander aspect is het karakter van de gegevens. Zij zijn in hoge mate asymmetrisch omdat de klasse van ‘interessante’ gevallen altijd uitbijters zijn in een oceaan van niet-problematische gegevens. Een ander typisch kenmerk van VRV-domeinen is uitlegbaarheid. In VRV wordt AI gebruikt in een context van openbaar bestuur, bijvoorbeeld bij de rechtspraak. Dit stelt zware eisen aan de uitlegbaarheid van AI in VRV-domeinen. Tenslotte gaat het bij VRV ook om de AI-methoden zelf. Zoals de justitiecomponent (juridische verantwoordelijkheid) en de veiligheidsaspecten van de uitvoering van AI (pogingen tot misleiding van AI/’adversarial learning, of tot exfiltratie van informatie uit AI-systemen). Al deze aspecten genereren diverse interessante, innovatieve en waardevolle onderzoekslijnen, waarin verschillende disciplines convergeren om antwoord te geven op wat dit concreet betekent en/of eruit ziet, zowel technisch als functioneel.

Wij zien de meeste kansen in domeinen als cybersecurity, strafrechtketen, en legal tech. Dit kunnen zowel toegepaste vragen zijn: techniek-gerelateerde vragen (IN AI), toepassingen richting (cyber)veiligheid en rechtspraak (MET AI), als regulatieve vragen, bv. over verantwoordingsdynamiek en transparantie. Voorts spitst het fundamentele werk inzake AI zich toe op forensische gegevens (bv. Natural Language Processing (NLP) voor VRV) en toepassingen in onder meer in institutionele en juridische context en in taal.