Snellere chip is geen oplossing voor de toekomst van computing

Een bij is moeilijk te volgen.

Hij kan navigeren door een chaotische omgeving, patronen herkennen, onmiddellijk reageren op beweging en al vliegend beslissingen nemen — en dat alles met een uitzonderlijk zuinig energiebudget. Vergeleken daarmee zijn de drones van vandaag nog altijd tamelijk logge machines: zeker capabel, maar lang niet zo intelligent of efficiënt als de kleine biologische systemen die ze proberen na te bootsen.

Voor Paul Detterer, R&D design engineer bij imec’s Hardware and Efficient AI-groep op Holst Centre, is dat contrast meer dan een mooie metafoor. Het is een ontwerpvraag voor de toekomst van computing.

Nu conventionele chip-scaling zijn grenzen nadert, kunnen de volgende stappen niet alleen komen van kleinere transistors of snellere processors. De druk ligt steeds meer op energie en bandbreedte: hoeveel data moet er reizen, hoe vaak gebeurt dat, en hoeveel elektriciteit gaat op aan het simpelweg heen en weer sturen van informatie tussen geheugen en verwerkingseenheden?

Daar biedt de biologie een ander model.

Biologische neuronen wisselen niet voortdurend enorme datastromen uit. Ze communiceren via schaarse, gebeurtenisgestuurde signalen - spikes - en reageren wanneer er daadwerkelijk iets gebeurt. Geheugen is verdeeld, in plaats van ondergebracht in één afzonderlijk blok. En er is geen centrale klok die elke handeling synchroniseert. Toch blijft het systeem opvallend responsief, ook al bewegen signalen in biologische neuronen veel langzamer dan in silicium.

“Het lijkt gebeurtenisgestuurd te zijn,” zei Detterer. “Het systeem reageert alleen wanneer er daarbuiten iets gebeurt.” Dat principe is vooral van belang aan de edge: in wearables, slimme camera’s, robots, drones en autonome voertuigen. Zulke systemen kunnen hun data niet altijd naar een ver datacenter sturen, op antwoord wachten en dan pas handelen. Ze moeten informatie lokaal verwerken, in realtime en binnen een beperkt energiebudget.

Van hersengeïnspireerde chips naar bruikbare AI

imec onderzoekt dit terrein al jaren via neuromorfisch computing: hardware die zich laat inspireren door de manier waarop biologische neurale systemen werken. Het onderzoek begint bij algoritmen en modellen, maar loopt helemaal door tot chiparchitectuur en de implementatie in silicium.

Het team heeft inmiddels verschillende tape-outs gerealiseerd, waaronder een nieuwe chip van de tweede generatie die onlangs uit de fabriek is teruggekomen en nu wordt doorgemeten. De eerste chips waren sterk gemodelleerd naar spiking neural networks, waarin kunstmatige neuronen communiceren via afzonderlijke gebeurtenissen in plaats van continue signalen.

Dat leverde indrukwekkende efficiëntie op. Maar Detterer erkende ook een bekend probleem in deeptechontwikkeling: een technisch elegante oplossing is niet automatisch breed inzetbaar.

De eerste chips waren zeer efficiënt, maar hun toepassingsmogelijkheden waren beperkt. De volgende stap was daarom niet om neuromorfische principes los te laten, maar om ze te combineren met algemenere vormen van AI.

Het resultaat is een heterogene architectuur: sommige delen van de chip zijn flexibel genoeg om verschillende algoritmen en modellen te draaien, terwijl andere delen sterker gespecialiseerd en vast ingebakken zijn voor maximale efficiëntie. Het is een poging om door een van de bepalende afwegingen in AI-hardware te navigeren.

Flexibiliteit kost energie. Efficiëntie kan flexibiliteit kosten. De echte uitdaging is niet kiezen voor het een of het ander, maar bepalen waar elk van beide thuishoort.

De echte bottleneck is dataverplaatsing

Die afweging wordt nog scherper in het debat over in-memory computing. In conventionele computersystemen wordt data voortdurend verplaatst tussen geheugen en processor. Die verplaatsing kost energie en veroorzaakt vertraging. In-memory computing belooft die overhead te verminderen door berekeningen veel dichter bij (of zelfs ín) het geheugen uit te voeren.

Maar daar zit een kanttekening bij. imec onderzocht in-memory computing al jaren geleden, vertelde Detterer. De technologie die daaruit voortkwam was zeer efficiënt, maar ontworpen rond één specifieke toepassing. Ze kon niet eenvoudig voor andere doeleinden worden ingezet. Daarom verschoof het team naar near-memory computing: nog altijd efficiënter dan conventionele architecturen, maar flexibeler en beter schaalbaar.

Nu ligt die vraag opnieuw open. Hoe ver moet computing het geheugen inbewegen? Waar levert specialisatie werkelijk voordeel op, en waar wordt zij een beperking? “Dat is de balans die we proberen te vinden,” zei Detterer: tussen near-memory en in-memory computing, tussen laag energieverbruik en hoge prestaties, en tussen een chip die is geoptimaliseerd voor één taak en een platform dat kan meegroeien met veranderende AI-toepassingen.

Het is een vraag met gevolgen die veel verder reiken dan één processor. De vraag naar AI versnelt, maar de industrie kan zich geen ontwikkelcycli permitteren waarin algoritmen, modellen, software en hardware na elkaar worden ontworpen, terwijl iedere laag moet wachten tot de vorige is afgerond.

Detterer omschreef de traditionele route als een lange keten: van algoritme naar AI-model, van training naar softwaremapping, van hardwareontwerp tot de uiteindelijke toepassing. De toekomst, stelde hij, vereist dat die lagen veel meer parallel worden ontwikkeld.

Dat maakt co-design essentieel. Hardware-engineers moeten begrijpen welke modellen op hun chips zullen draaien. Ontwerpers van algoritmen moeten weten welke hardwarematige afwegingen mogelijk zijn. En AI zelf kan mogelijk steeds vaker helpen om ontwerpopties al vroeg in het proces te verkennen, waardoor de route van een eerste concept naar werkend silicium korter wordt.

Een centrale vraag voor Watt Matters in AI

Detterers presentatie ging niet alleen over een nieuwe chip. Zij ging over een diepere verandering in de manier waarop de AI-wereld vooruitgang definieert.

Jarenlang betekende vooruitgang: meer rekenkracht, grotere modellen en meer schaal. De volgende fase vraagt om een moeilijkere vraag: welke berekening is werkelijk nodig, waar moet die plaatsvinden en hoe kan die worden geleverd zonder dat het energieverbruik de beperkende factor wordt?

Dat is ook de centrale vraag achter Watt Matters in AI, de IO+-conferentie over energie-efficiënte kunstmatige intelligentie. Op 16 en 17 november brengt het evenement op de High Tech Campus Eindhoven perspectieven uit hardware, software, systemen en beleid samen die nodig zijn om verder te komen dan stapsgewijze efficiëntiewinst. Neuromorfisch computing, geheugengerichte architecturen en edge AI zijn precies het soort technologieën dat deel zal uitmaken van dat gesprek.

Detterers honingbij levert in die zin niet het antwoord. Maar hij blijft wel een bruikbare provocatie. De natuur heeft al laten zien dat intelligentie niet per se enorme hoeveelheden energie vereist. De opgave voor het Europese chip- en AI-ecosysteem is om te leren welke principes naar silicium kunnen worden vertaald en dat snel genoeg te doen voor de toepassingen die zich nu al aandienen.