Geheugen en processor ineen. Super-efficiënt!
Opkomende Internet of Things toepassingen – zoals gepersonaliseerde gezondheidszorg, augmented reality en kunstmatige intelligentie – vereisen dat het IoT-apparaat zélf over grote rekenkracht beschikt. Het mag alleen nauwelijks energie kosten en dat is met de huidige computerarchitecturen niet haalbaar. Onderzoekers van het MNEMOSENE-project# leverden een proof-of-concept van Computation-in-Memory architectuur met een ultralaag energieverbruik – een prestatie waarvoor professor Said Hamdioui als projectleider recent de prestigieuze European Union ECS Innovation Award 2020 kreeg uitgereikt.
De kosten van nog-niet-eens rekenen
Je laptop, mobieltje, smart watch en pacemaker (als je er een hebt) hebben allemaal een processor en een apart geheugen waar de processor mee communiceert voor instructies en data. Deze computerarchitectuur is zo gangbaar dat je zou verwachten dat het optimaal is en dus toekomstbestendig. Dat is niet zo. Door lekstroompjes in de processor en het geheugen gaat er continu energie verloren, zelfs als het apparaat aan staat maar niet actief is. Om zijn taken te kunnen blijven uitvoeren, moet de batterij van een IoT-apparaat daardoor telkens worden opgeladen of vervangen. Nog veel belangrijker is dat het verplaatsen van data vanuit het geheugen naar de processor zo’n duizend keer meer energie kost dan het daadwerkelijk uitvoeren van een berekening met die data. ‘Het is alsof je eerste klas naar New York vliegt, alleen maar om daar voor een euro aan snoep te kopen,’ zegt Hamdioui. Dit hoge energieverbruik beperkt de hoeveelheid rekenkracht waarover een IoT-apparaat kan beschikken, en daarmee hoe slim het kan zijn.
Computation-in-memory-architectuur:
Traditionele computer-architectuur:
Een innovatieve computerarchitectuur
Om de rekenefficiëntie, in aantal berekeningen per hoeveelheid gebruikte energie, flink te verhogen, moeten oude ideeën worden losgelaten. In de groep van Hamdioui aan de TU Delft zijn nieuwe computerarchitecturen een belangrijk onderzoeksthema. Hij heeft al een patent op de basisprincipes van het combineren van nieuwe memristor-technologie met het concept van Computation-in-Memory – een combinatie die naar verwachting honderd keer zo efficiënt is als conventionele computerarchitecturen. Het MNEMOSENE-project, gefinancierd vanuit het Horizon 2020 programma van de Europese Unie, had als doel om binnen drie jaar een proof-of-concept van deze technologie te leveren en hiermee aan te tonen dat het deze verwachting waar kan maken.
Memristors maken het mogelijk
Memristors – een samentrekking van de woorden memory (geheugen) en resistor (weerstand) – zijn nanoschaal elektronische componenten die hun geheugen behouden, ook als de spanning wegvalt. Ze hebben geen last van lekstromen waardoor het energieverlies in een apparaat dat niet actief is tot bijna nul wordt teruggebracht. Nog veel belangrijker is dat memristors een innovatieve Computation-in-Memory computerarchitectuur mogelijk maken, waarbij het geheugen zelf rekentaken uitvoert. In plaats van A en B op te vragen uit het geheugen en deze dan in de processor op te tellen, vraag je het geheugen eenvoudigweg om A + B. Ook andere berekeningen kunnen in het geheugen worden geïntegreerd. Ze kunnen zelfs in één keer op hele reeksen gegevens tegelijk worden toegepast. Dit maakt grootschalige parallellisering van rekentaken mogelijk en bespaart een hoop energie die anders zou zijn geweest om de data heen en weer te verplaatsen.
ECS Innovation Award
Het MNEMOSENE-projectteam heeft kleine prototypes gebouwd van een op memristors gebaseerde Computation-in-Memory architectuur. Omdat deze chiparchitectuur fundamenteel anders is, moesten de onderzoekers nieuwe methodes ontwikkelen voor het ontwerpen van de elektronische schakelingen. En, vervolgens, ook nieuwe programmeermodellen en compilers. Het demonstreren van deze doorbraaktechnologie en aantonen dat het inderdaad tot een veel hogere rekenefficiëntie leidt, heeft het team terecht de ECS Innovation Award opgeleverd. Deze prijs wordt jaarlijks uitgereikt aan het meest innovatieve idee op het gebied van Elektronische Componenten en Systemen dat binnen een Horizon 2020-project is uitgewerkt.
Leidend in onconventionele computerarchitecturen
Hamdioui verwacht dat het nog zo’n tien jaar duurt om een volledig operationele Computation-in-Memory computer te ontwikkelen. ‘Het is absoluut de moeite waard,’ zegt hij, ‘omdat het de motor zal zijn achter belangrijke maatschappelijke ontwikkelingen zoals gepersonaliseerde gezondheidszorg. Memristors zijn bovendien zeer geschikt voor het modelleren van synapsen. Het maakt dus ook een grote stap voorwaarts mogelijk naar computers die de neurale structuur van het brein emuleren. We denken dat Europa leidend kan zijn in onconventionele computerarchitecturen.’
Contact
Voor vragen over de Computation-in-Memory architectuur kunt u mailen of bellen naar communicatie-ewi@tudelft.nl & +31 6 41634574
#Het MNEMOSENE project is een samenwerking tussen onderzoekers van RWTH Aachen University, ARM Holdings, ETH Zurich, IBM Research (Zwitserland), IMEC, INRIA, Intelligentsia Consulting, TU Delft en TU Eindhoven.