Energie-efficiëntie: dé uitdaging voor AI

“Energie-efficiëntie is dé uitdaging voor AI – van de cloud tot de kleinste sensoren,” zegt Christian Bachmann, portfoliodirecteur voor edge computing en draadloze technologie bij imec. Volgens hem loopt dat thema als een rode draad door de hele AI-wereld. “Of het nu gaat om een groot datacenter of een microcontroller in een sensor, het doel blijft hetzelfde: meer doen met minder energie,” legt hij uit.

Imec is een van de toonaangevende onderzoeksinstituten ter wereld op het gebied van nano-elektronica, met het hoofdkantoor in België. Bachmann werkt bij het Holst Centre in Eindhoven, een onderzoekscentrum dat is opgericht door imec en TNO.

Hij is een van de sprekers op de conferentie Watt Matters in AI, die op 26 november in Eindhoven plaatsvindt. In zijn presentatie licht hij toe hoe imec werkt aan energiezuinigere AI. Nu het energieverbruik van AI snel toeneemt, zoeken onderzoekers wereldwijd naar manieren om dat in elke schakel te beperken.

Samen innoveren: vancloud tot edge

Imec gaat die uitdaging aan door nauw samen te werken met industriële partners en innovatieve technologieën te ontwikkelen – van de cloud tot de edge. “Op het niveau van halfgeleidertechnologie werken we bijvoorbeeld aan nieuwe, efficiëntere geheugens. Daarnaast geven we onze partners tools om hun AI-architecturen beter te ontwerpen,” zegt Bachmann.

Tijdens het jaarlijkse technologie-evenement ITF World presenteerde imec een nieuw softwareplatform waarmee toekomstige geheugens, processen en verbindingsopties kunnen worden onderzocht. Zo kunnen bedrijven zich beter voorbereiden op de toekomst en effectievere algoritmes ontwikkelen die optimaal passen bij de hardware waarop ze draaien.

Deze aanpak sluit aan bij imec’s kernstrategie: het gezamenlijk ontwerpen van hardware en algoritmes. “We werken nauw samen met industriële partners om hun werklast te begrijpen – welke sensoren ze gebruiken, welke AI-modellen ze nodig hebben en met welke beperkingen ze te maken hebben,” legt Bachmann uit. “Zo zorgen we ervoor dat nieuwe hardware echt aansluit bij toepassingen in de praktijk.”

Serie

Watt Matters in AI

Watt Matters in AI is een conferentie die zich richt op het verkennen van het potentieel van AI met aanzienlijk verbeterde energie-efficiëntie. In aanloop naar de conferentie publiceert IO+ een serie artikelen die de huidige situatie en mogelijke oplossingen laten zien.

Bekijk Watt Matters in AI

Geïnspireerd op de werking van het menselijk brein

Een onderzoeksgebied dat zich richt op energiezuinigere AI-computers is neuromorfisch rekenen. Deze aanpak is geïnspireerd op de werking van het menselijk brein. Dat brein kan namelijk enorme rekenkracht leveren met de energie die twee ledlampen verbruiken. Bovendien kan het letterlijk delen uitschakelen die op dat moment niet nodig zijn – iets wat AI-chips tot nu toe nog niet kunnen.

Bachmann is gefascineerd door de complexiteit van het brein. “Tot op zekere hoogte kunnen we bepaalde functies van de hersenen al nabootsen,” zegt hij. “Maar achter twee vergelijkbare architecturen kunnen de onderliggende principes totaal verschillend zijn. Juist dat maakt het zo inspirerend om te kijken hoe het brein werkt en daar ideeën uit te halen voor zowel hardware- als softwareontwerp.”

C

Christian Bachmann

Portfoliodirecteur voor edge computing en draadloze technologie bij imec

Hij trad in 2011 in dienst bij imec na het behalen van zijn doctoraat in elektrotechniek aan de Technische Universiteit Graz. Binnen het onderzoeksinstituut werkt hij aan een aantal uitdagingen op het gebied van onderzoek en ontwikkeling voor connectiviteit en computing met ultralaag stroomverbruik.

Neuromorfisch rekenen

Traditionele computerarchitecturen, gebaseerd op het Von Neumann-model, scheiden geheugen en verwerking. Dat zorgt voor knelpunten en energieverlies. Neuromorfisch rekenen werkt anders: het combineert geheugen en berekening in één systeem. Daardoor wordt gebeurtenisgebaseerde verwerking mogelijk met veel lager energieverbruik.

Bachmann wijst op het werk van imec aan hybride architecturen. Die combineren klassieke neurale netwerken (CNN’s) met spiking neurale netwerken (SNN’s). “De hersenen zijn heterogeen: verschillende gebieden voeren verschillende taken uit,” legt hij uit. “Wij onderzoeken hoe we die diversiteit in hardware kunnen nabootsen, zodat elke taak draait op de architectuur die daar het best bij past.”

Meerdere wegen

Hoewel neuromorfisch rekenen een van de meest veelbelovende manieren is om het energieverbruik van AI te beperken, valt er ook met bestaande technologie nog veel winst te behalen. “Er is nog volop ruimte om datacenters energiezuiniger te maken met hardware die vandaag al beschikbaar is,” zegt Bachmann.

Een voorbeeld is het gebruik van supergeleidende apparaten. Die benutten de kwantummechanische eigenschappen van halfgeleiders bij extreem lage temperaturen. Daardoor kunnen berekeningen sneller en met veel minder energie worden uitgevoerd. “Met supergeleidende hardware kunnen we tot honderd keer hogere verwerkingssnelheden halen,” legt hij uit.

Met zoveel mogelijke oplossingen en een groeiende interesse vanuit de industrie verwacht Bachmann dat de toekomst ligt in heterogene architecturen. “Eenvoudig gezegd: binnen één computersysteem zullen verschillende AI-versnellers of processorkernen samenwerken. Elk voert de taken uit waarvoor hij het meest geschikt is,” verduidelijkt hij.

Volgens hem zal vooral robotica een drijvende kracht zijn achter deze ontwikkeling. Van de cobots die nu al in fabrieken werken tot toekomstige humanoïde robots – allemaal vragen ze om efficiëntere, slimmere rekenkracht. De kern blijft hetzelfde: meer doen met minder energie.