AI-agents in het gareel houden: Kyvvu haalt €1 miljoen op

Het Bossche startup Kyvvu heeft €1 miljoen opgehaald om een beveiligingsgat te dichten waarvan de meeste bedrijven die AI-agents inzetten zich nog niet bewust zijn: een agent kan elke regel volgen die hem is meegegeven en toch een datalek veroorzaken, simpelweg door toegestane acties in de verkeerde volgorde te combineren.

De pre-seedronde kwam van Volta Ventures en de Brabantse Ontwikkelings Maatschappij (BOM). Kyvvu bouwt een beveiligingslaag die binnen de agent zelf draait en in minder dan een milliseconde bepaalt of een actie die de agent van plan is uit te voeren, ook daadwerkelijk mag doorgaan.

Het probleem waar Kyvvu zich op richt, is urgenter geworden nu bedrijven AI niet langer alleen gebruiken om suggesties te doen, maar het ook zelf laten handelen: klantgegevens bijwerken, gegevens tussen systemen verplaatsen, terugbetalingen uitvoeren en backofficeprocessen van begin tot eind afhandelen, zonder mens ertussen. Een verkeerde suggestie is hinderlijk. Een verkeerde handeling die autonoom wordt uitgevoerd, is een incident — en bij banken, verzekeraars en zorginstellingen vaak een incident dat gemeld moet worden bij de toezichthouder.

AI-agents temmen

Volgens Kyvvu zit het echte gevaar niet in wat een agent technisch mag doen. Het risico zit in de volgorde waarin hij dingen doet. Een agent mag bijvoorbeeld een bepaald klantdossier lezen, en mag afzonderlijk e-mails versturen naar adressen buiten de organisatie. Los van elkaar zijn beide acties toegestaan. Samen, in de verkeerde volgorde, vormen ze een datalek. Omdat een agent tijdens het werk zelf zijn route bepaalt, kan die schadelijke combinatie ongehinderd langs beveiligingssoftware glippen die maar één actie tegelijk beoordeelt.

"Het internet is pas echt opgeschaald toen we de beveiligingslaag hadden die het veilig maakte om er serieus werk op te draaien. Met AI-agents staan we nu op precies datzelfde punt," zegt Jeroen Ghijsen, medeoprichter en ceo van Kyvvu. "Ze krijgen pas werk toevertrouwd dat er écht toe doet als er binnen de agent zelf iets meekijkt dat elke actie controleert vóórdat die wordt uitgevoerd."

Het product van Kyvvu, de Agent Security Kernel (ASK), draait binnen de agent zelf en beoordeelt elke actie — het lezen van gegevens, het aanroepen van een tool, het versturen van een bericht — tegen alles wat de agent binnen dezelfde taak al heeft gedaan, voordat die wordt toegestaan, gewaarschuwd of geblokkeerd. De regels zijn heldere, versiebeheerde policies die een compliance officer gewoon kan lezen, geen oordeel van een tweede AI-model, en ze blijven in de systemen van de klant zelf staan. Volgens het bedrijf ligt de uitkomst vast: dezelfde situatie levert altijd hetzelfde oordeel op, en een beslissing komt snel genoeg terug om de prestaties van de agent niet te vertragen.

De behoefte aan een controlepunt

De kernel werkt met elk agentframework en is beschikbaar als broncode. Hij draait al bij Nederlandse organisaties in de financiële dienstverlening, de verzekeringsbranche en de zorg. Doordat elke actie langs hetzelfde onderdeel gaat dat die actie ook kan tegenhouden, legt het systeem ook volledig vast wat een agent daadwerkelijk heeft gedaan — iets wat volgens Kyvvu direct aansluit op de eisen rond registratie en menselijk toezicht uit de EU AI Act en op de verantwoordingsplicht uit de AVG.

"Organisaties zetten agents sneller in dan ze die kunnen beheersen, en het gereedschap om zulke agents in het gareel te houden bestond simpelweg nog niet," zegt Sander Vonk, Managing Partner bij Volta Ventures. "Wij verwachten dat een controlepunt tijdens de uitvoering een harde eis wordt om agents op schaal te draaien, net zoals endpointbeveiliging dat eerder is geworden. Daarom investeren we in Jeroen, Maurits en hun team, die bepalen hoe dat er straks uitziet."

Noord-Brabant sterk houden in AI

Kyvvu is ontstaan op de Jheronimus Academy of Data Science in Den Bosch, waar het team al met agents werkte voordat de meeste organisaties er één in productie hadden. Het bedrijf gebruikt de nieuwe investering om het engineeringteam uit te breiden, het netwerk van integratiepartners te versterken en implementaties in heel Europa te ondersteunen.

"Kyvvu is precies het soort bedrijf dat deze regio sterk houdt in AI," zegt Robin Hendrickx, Senior Investment Manager en Teamlead Key Technologies bij BOM. "Elke grote organisatie die agents in productie neemt, loopt straks tegen dezelfde muur aan. Dit team staat er al achter, vanuit Den Bosch, met klanten die draaien in een aantal van de zwaarst gereguleerde sectoren van Nederland."