Nieuwe chip brengt krachtige AI direct naar je apparaat

Onderzoekers van de Technische Universiteit Eindhoven (TU/e) hebben een nieuw type computerchip ontwikkeld die krachtige AI-berekeningen direct kan uitvoeren op alledaagse apparaten zoals laptops en smartphones, in plaats van afhankelijk te zijn van verre datacenters. De chip, onderdeel van het Europese project CONVOLVE, wordt deze maand gepresenteerd tijdens de ESSERC-conferentie in Spanje, voor een publiek waaronder grote spelers uit de industrie.

Wat is edge AI?

De meeste AI-tools die mensen tegenwoordig gebruiken, zoals chatbots, werken door een verzoek via internet naar een enorm datacenter te sturen, waar krachtige — en energieverslindende — computers de aanvraag verwerken en een antwoord terugsturen. "Edge AI" draait dit model om: in plaats van dat de berekening ver weg in de cloud plaatsvindt, gebeurt dit lokaal, op het apparaat zelf, aan de "rand" (edge) van het netwerk, dichter bij de gebruiker.

Manil Dev Gomony, hoofdonderzoeker van het project, legt uit dat dit betekent dat een gebruiker die een vraag aan AI stelt, het model lokaal op zijn eigen apparaat kan draaien in plaats van het commando naar een ver datacenter te sturen en te wachten tot het antwoord terugkomt. De aantrekkingskracht is tweeledig: snellere reacties, omdat er geen omweg naar een verre server nodig is, en lager energieverbruik, omdat het apparaat niet afhankelijk is van de enorme, energieverslindende rekencentra die de grootste AI-modellen van tegenwoordig draaien.

Waarom dit nu belangrijk is

De explosieve groei van het gebruik van generatieve AI in 2026 heeft enorme druk gelegd op de krachtige chips in grote datacenters, wat het energieverbruik opdrijft en de bouw van gigantische datacenters aanwakkert — datacenters die enorme hoeveelheden water verbruiken en een negatieve impact hebben op het milieu. Gomony wijst erop dat datacenters ook hun eigen koelsystemen nodig hebben en druk leggen op lokale gemeenschappen, terwijl ze veel te groot en energie-intensief zijn om in een laptop, smart-home-apparaat of smartphone te passen.

De onderzoekers wijzen ook op het groeiend aantal slimme apparaten in huizen — zonnepanelen, elektrische voertuigen, warmtepompen en thuisbatterijen — die snel beslissingen moeten nemen op basis van factoren zoals netcongestie en energieprijzen, wat allemaal snelle, efficiënte lokale rekenkracht vereist.

Een nieuwe manier van chipontwerp

In plaats van het AI-algoritme, de processorarchitectuur, het geheugensysteem en de circuits afzonderlijk te ontwikkelen, gebruikte het CONVOLVE-team wat zij een "cross-layer designbenadering" noemen, waarbij al deze lagen vanaf het begin samen werden geoptimaliseerd. Hierdoor kon het team al vroeg in het ontwerpproces concurrerende prioriteiten — nauwkeurigheid, verwerkingssnelheid, chipgrootte en energieverbruik — tegen elkaar afwegen, in plaats van dit achteraf te moeten rechtzetten.

De resulterende chip combineert programmeerbare RISC-V-processoren met gespecialiseerde AI-accelerators, waaronder memory-centric en neuromorfe rekentechnieken, gericht op het verminderen van datatransport tussen geheugen- en verwerkingseenheden — een belangrijke bron van energieverbruik in AI-hardware. In plaats van uitsluitend op simulaties te vertrouwen, testte het team fysiek gefabriceerde prototypechips onder realistische AI-belastingen, waarbij energie-efficiëntie, doorvoersnelheid, latentie, chipgrootte en nauwkeurigheid werden gemeten en vergeleken met bestaande ontwerpen.

Een Europees alternatief

Het project, waarbij onderzoekspartners uit Leuven, Delft en Zürich betrokken zijn naast verschillende industriële partners, wordt gepresenteerd als een Europees antwoord op rekenkracht die momenteel wordt gedomineerd door bedrijven buiten het continent. Gomony stelt dat Europa een betaalbaar, groen en goed ontworpen alternatief nodig heeft, en gelooft dat de chiptechnologie van CONVOLVE kan bijdragen aan het concurrentievermogen van het continent op het gebied van slimme edge-computingprocessoren.

De resultaten van het team worden op ESSERC gepresenteerd door promovendus Rick Luiken, een van de verschillende TU/e-onderzoekers — samen met Henk Corporaal, Sander Stuijk, Bas Ahn en Marc Geilen — die sinds de start in 2022 aan het project hebben bijgedragen.