Grote kansen, grote verantwoordelijkheden: AI in startupland

Eind november presenteren jonge ondernemers hun bedrijf tijdens de AI Pitch Competition. Naast innovatiekracht en ondernemerschap is ook de vraag hoe startups omgaan met de kansen en risico’s van kunstmatige intelligentie een belangrijk onderwerp. IO+ interviewde Mickey Beurskens, promovendus op het gebied van Safe Artificial Intelligence aan de Technische Universiteit Eindhoven (TU/e), maar ook oud AI startupondernemer. We spraken hem over de rol van regulering, maatschappelijke verantwoordelijkheid en het vinden van de juiste balans tussen ambitie en veiligheid.

Van medical engineering naar AI-ondernemer

Beurskens (30) studeerde mechanical engineering aan de TU/e en rolde via zijn fascinatie voor robotica de wereld van AI in. “Online zag ik de ene na de andere vette toepassing voorbijkomen, maar op de campus gebeurde er weinig. Ik miste de aanwezigheid van AI. Samen met een paar andere studenten ben ik toen studententeam Serpentine AI gestart, waarmee we meededen aan programmeercompetities en andere wedstrijden.”

Na zijn afstuderen werkte hij als AI-engineer, maar besloot na een jaar zijn eigen bedrijf te beginnen. Met Forge Fire AI Engineering ontwikkelde hij AI-prototypes voor bedrijven. “Dat heb ik drie jaar met heel vee plezier gedaan, maar ik begon me in die periode ook steeds meer zorgen te maken. AI biedt gigantische kansen, maar het besef dat er ook serieuze risico’s aankleven liet me niet los.” 

De discussie over de beloften van AI ziet Beurskens veel gevoerd worden, maar er is destijds maar een kleine groep mensen met wie hij kan discussiëren over de existentiële risico’s en maatschappelijke impact van AI. Toen er een PhD-positie voor Safe Reinforcement Learning aan de TU/e voorbijkwam, hoefde hij niet lang na te denken: het biedt hem de kans zich volledig te verdiepen in hoe we AI op een ethische en verantwoorde manier kunnen ontwikkelen. 

Reinforcement Learning: krijgt AI de wortel of de stok?

Voor zijn promotieonderzoek kijkt hij naar methodes om AI-modellen tijdens het leerproces zelf beter te sturen en te controleren. “Er zijn grofweg twee manieren om AI te trainen”, legt Beurskens uit. Met Supervised Learning geef je een algoritme een groot aantal plaatjes of beschrijvingen, en train je het om op basis van die informatie verbanden te kunnen leggen. Bij Reinforcement Learning probeert het algoritme zelf acties uit, in plaats van dat alles kant-en-klaar voorgeschoteld wordt. Wanneer een actie succesvol is, krijgt het algoritme een beloning.

Over het algemeen worden deze technieken in combinatie met elkaar gebruikt. Beurskens richt zich specifiek op de vraag hoe we Reinforcement Learning betere garanties kunnen geven dat het algoritme correct getraind wordt.”

Enthousiasme én reality check

Als ingenieur is hij best een tijd blind geweest voor de risico’s, vindt hij achteraf. “Tot ik me realiseerde: we snappen menselijke intelligentie nauwelijks, dus hoe kunnen we voorspellen hoe AI zich ontwikkelt? Van dat besef ben ik destijds best geschrokken. Het was echt een reality check en heeft me ertoe doen besluiten te stoppen met mijn bedrijf. 

Inmiddels denkt hij daar anders over. “Voor impactvolle AI heb je uiteindelijk toch de grote modellen - en dus grote bedrijven - nodig. Deze techgiganten trainen, onderhouden en bieden de modellen aan. De verantwoordelijkheid om grip te houden op de AI die ze aanbieden, ligt in mijn ogen bij hen, niet bij de jonge startups.”

Belangrijk dat jonge AI-startups zich bewustzijn van hun verantwoordelijk, is wel cruciaal vindt Beurskens. “Het is heel positief dat er startups zijn die nadenken over hoe we AI op de best mogelijke manier inzetten. Zolang ze privacy en dataveiligheid serieus nemen, is de kans groot dat we op een goede plek uitkomen.”

Complexe realiteit

De huidige AI-wereld is volgens Beurskens veel meer dan slimme algoritmes. “Een groot taalmodel trainen vraagt miljoenen aan investeringen, elektriciteit en rekenkracht. Het is een complexe operatie die startups vaak niet kunnen dragen.” Dat maakt de vergelijking met software engineering interessant. “Je koopt geen black box, je haalt technologie in huis. Dan moet je, net als bij software, kritisch zijn op je leverancier: welke data zijn gebruikt, hoe wordt het model onderhouden, en hoe leg je dat uit aan je klanten? Startups zijn niet alleen gebruikers, maar ook schakels in de supply chain van AI. Zo dragen ze bij aan een verantwoorde implementatie van deze technologie.”

Europese context en AI-regulering

Een onmiskenbare factor voor elke AI-startup is regelgeving. De aankomende EU AI Act is een veelbesproken onderwerp. De wetgeving raakt alle AI-toepassingen: van medische toepassingen – waar de lat extreem hoog ligt – tot meer alledaagse producten. Beurskens: “Het is een complex stuk wetgeving, dus wanneer je als startupondernemer in de scopingfase zit, zou ik zeker adviseren om er een juridische expert bij te halen, zodat je helder hebt welke verplichtingen er gelden.” 

Daarbij ziet hij een bredere uitdaging voor Europa: “We lopen achter op de VS en China, vooral qua infrastructuur en ecosysteem. Tegelijkertijd waardeer ik de ethische houding die Europa inneemt. Alleen: als we niet op wereldniveau meespelen, gaat dat goede voornemen weinig uitmaken. We zullen dus én een aantrekkelijk klimaat moeten creëren voor talent en investeringen, én duidelijke kaders neerzetten voor verantwoord gebruik.”

Tips voor AI-startups

Wat hij zelf graag had geweten toen hij aan het begin van zijn ondernemersavontuur stond? “Hoe gaaf het ook is om een eigen AI-model te ontwikkelen, het kost gigantisch veel tijd en geld. Het is slimmer om bestaande modellen te benutten en daar waardevolle toepassingen bovenop te bouwen.”

Tip twee: verlies je niet in de techniek. “De verleiding is groot om te blijven sleutelen, maar het draait erom dat je snel iets maakt dat waarde levert. Valideer, schaaf bij en denk pas later na over maatwerkmodellen.”

Publiek debat als kans

Wat Beurskens optimistisch stemt, is de groeiende maatschappelijke discussie. “Twee, drie jaar geleden werd je nog weggezet als internetgekkie als je sprak over AI-risico’s. Nu is er in het publieke debat veel meer ruimte om ook de risico’s en ethische vraagstukken die AI met zich meebrengt te bespreken. Mensen zijn niet alleen verblind door de belofte, maar zien ook de mogelijke gevaren.”

Dat we met z’n allen dat soort gesprekken blijven voeren, vindt hij net zo belangrijk als technische doorbraken. “Met mijn werk als onderzoek kan ik maar een klein stukje van het grotere geheel adresseren. Daarom is het zo goed dat iedereen die dat doet - startups, onderzoekers, beleidsmakers, grotere bedrijven - samen de discussie voeren. Alleen zo kunnen we zorgen dat AI niet alleen slim, maar ook veilig en mensgericht wordt ingezet.”