De energiemuur van AI – en hoe imec om die wil doorbreken

Tijdens een briefing in Leuven afgelopen week waarschuwde het management van imec dat de honger van AI naar rekenkracht op ramkoers ligt met de grenzen van onze planeet. Hun antwoord: veel meer prestaties per watt halen door de wet van Moore te pushen, over te stappen op 3D en chips te verlichten met fotonica.

AI is niet alleen een softwarekwestie, maar ook een energiekwestie. Dat was de centrale boodschap van Luc Van den hove toen hij uiteenzette waarom imec zijn proeflijn en roadmap rond efficiëntie aan het herzien is. “De afgelopen jaren is de benodigde rekenkracht voor kunstmatige intelligentie exponentieel toegenomen”, zei hij. “Als we geen nieuwe en beter presterende technologie ontwikkelen, zou dit leiden tot een exponentiële toename van het energieverbruik, wat duidelijk niet duurzaam is.”

Het antwoord van imec begint waar het altijd begint: blijven schalen. “Veel mensen zeggen dat de wet van Moore dood is”, merkte Van den hove op. “Er is een fenomenale vraag naar geavanceerdere technologieën... en dat zorgt voor een enorme druk om de wet van Moore uit te breiden.” High-NA EUV met ASML staat centraal in die druk, naast nieuwe transistorarchitecturen die tweedimensionale (2D) schaalvergroting in stand houden, zelfs als de vooruitgang vertraagt.

CMOS 2.0

Maar het energieplan van imec bestaat niet alleen uit dunnere lijnen; het is een derde dimensie. Ten eerste worden transistors gestapeld om de dichtheid te verhogen zonder de energiekosten die gepaard gaan met de steeds kleiner wordende geometrie. Ten tweede worden chips gestapeld, met name geheugen op logica, zodat gegevens geen energie verspillen door off-chip te worden getransporteerd. Ten derde worden chiplets aan elkaar gekoppeld met geavanceerde verpakkingen om “computersystemen met bijna een biljoen transistors” te bouwen, maar met kortere, efficiëntere datapaden. Imec noemt deze gemengde aanpak CMOS 2.0: 2D-schaalvergroting + 3D-integratie + nieuwe apparaatconcepten, allemaal gericht op prestaties per watt.

Luc van den hove, imec

Fotonica

Er ontbreekt een cruciaal onderdeel in de meeste AI-systemen van vandaag: de verbindingen tussen die chiplets. Koperen sporen schalen niet goed. Het antwoord van imec is fotonica: de overstap van “plugbare optica” naar chip-pakketoptica en uiteindelijk fotonische interposers met golfgeleiders als snelwegen met lichtsnelheid tussen chips. Het doel is meedogenloos: het interconnectievermogen drastisch verminderen zonder de bandbreedte te beperken.

Als de roadmap het ‘wat’ is, dan is de uitbreiding in Leuven het ‘hoe’. Gesteund door de Europese Chips Act zal imec 2,5 miljard euro investeren in tools en 6.000 m² cleanroomruimte om voorop te blijven lopen, door High-NA EUV te installeren en Fab4 te bouwen (geïntegreerd met de huidige Fab3) om prototypes te maken van deze energiebesparende architecturen op schaal. “We zetten ons in om ervoor te zorgen dat deze infrastructuur de meest geavanceerde R&D-pilootlijn ter wereld blijft”, aldus Van den hove.

Geen optie

Waarom is dit zo urgent? Omdat efficiëntie essentieel is voor de volgende golf van AI, in auto's, in klinieken en in de cloud. Meer modellen en meer parameters zonder een radicale verbetering van het aantal joules per bewerking betekent uiteindelijk minder AI of meer uitstoot. Imec gokt erop dat co-optimalisatie van systeemtechnologie – apparaat, verpakking, geheugenhiërarchie en fotonische I/O ontworpen als één geheel – de curve kan ombuigen.

“Exponentiële rekenkracht kan niet gepaard gaan met exponentiële energie”, betoogde Van den hove. Met CMOS 2.0 en fotonica wil imec bewijzen dat dit niet hoeft.

Serie

Watt Matters in AI

Watt Matters in AI is een conferentie die zich richt op het verkennen van het potentieel van AI met aanzienlijk verbeterde energie-efficiëntie. In aanloop naar de conferentie publiceert IO+ een serie artikelen die de huidige situatie en mogelijke oplossingen laten zien. Tickets voor de conferentie zijn te vinden op wattmattersinai.eu.

Bekijk Watt Matters in AI