Een voorproefje van de AI Pitch Competition: dit heeft Dembrane voor de wereld in petto

De AI van Dembrane zet urenlange gesprekken om in bruikbare inzichten. Een eenvoudige tool registreert, transcribeert, structureert en analyseert gesprekken met belanghebbenden, in slechts enkele minuten. De startup heeft een manier gevonden om grote groepen burgers te bevragen over een bepaald onderwerp en daaruit met behulp van kunstmatige intelligentie niet alleen de belangrijkste conclusies te destilleren, maar ook de nuances van wat er echt leeft binnen de groep, inclusief de bijbehorende sentimenten. Bram Delisse, proces en team lead, beantwoordt onze vragen.

“Bij Dembrane gebruiken we state-of-the-art inbedding, clustering en transformatormodellen om onze in-house ontwikkelde grootschalige conversatie data-analyse tool aan te drijven, die gebaseerd is op veel democratie en deliberatie onderzoek (zoals kruisbestuiving of sortition). Op deze manier combineren we op unieke wijze AI-innovaties met democratische innovaties om de infrastructuur voor deliberatie op schaal te bouwen.”

“De technologie is door het ontwerp extreem schaalbaar. Wat we verwachten dat een grotere uitdaging zal zijn om op te schalen is het denken dat nodig is om Dembrane te gebruiken: een sterk geloof in dat mensen weten hoe, en dat luisteren naar de hele gemeenschap zal leiden tot een betere toekomst voor iedereen.”

“Als je beweert dat je de hele gemeenschap wilt faciliteren om gehoord te worden, moet je heel voorzichtig te werk gaan. Vooringenomenheid, eerlijkheid en transparantie zijn allemaal belangrijke onderwerpen voor Dembrane. Op dit moment pakken we deze al op meerdere manieren aan. Ten eerste wordt transparantie sterk bevorderd door onze tool voor gegevensanalyse die alleen echte citaten uit de gesprekken gebruikt om inzichten te genereren.

Op deze manier is het niet de AI die praat, maar is het de community die praat. Vervolgens streven we ernaar om zo min mogelijk gebruik te maken van AI in onze tooling - alleen waar nodig om ervoor te zorgen dat elke stem wordt gehoord. Onze ideeën hierover worden in deze blogpost nader toegelicht. In de nabije toekomst hopen we onze eigen ethische onderzoeksafdeling binnen Dembrane op te zetten om onderzoek te doen naar de ethiek van de impact die we maken.”

“We moeten praten. Als een gemeenschap constructief wil samenwerken, is communicatie essentieel. Op dit moment zijn we vrij slecht in inclusieve conversatie op schaal, en we geloven dat we dit terugzien in onze worstelende samenwerking. Door de infrastructuur voor grootschalige gesprekken op te bouwen, hopen we bij te dragen aan een wereld waarin grotere gemeenschappen wijzer, meer verbonden en eerlijker worden, omdat iedereen kan deelnemen aan het gesprek.

Onbedoelde maatschappelijke risico's bestaan uit mensen met macht die de infrastructuur gebruiken om veel te leren over de gemeenschap, zonder daadwerkelijk te handelen naar de ideeën van de gemeenschap. We zijn van plan om met deze risico's om te gaan door verschillende methoden, zoals automatisch volledige transparantie van de resultaten voor elke deelnemer, of de digitale infrastructuur alleen kunnen gebruiken door gelicenseerde facilitators. Maar dit zijn nog ideeën en moeten nog worden uitgewerkt.”

“De grootste hindernis bij de lancering van Dembrane is het balanceren van ons op consultancy gebaseerde proces met productontwikkeling geweest. Met een jong team van nu 5 fulltimers en één parttimer moesten we jongleren met het bedienen van klanten en tegelijkertijd onze interne tooling ontwikkelen. We hebben deze uitdaging overwonnen door een iteratieve aanpak, waarbij we onze tools voortdurend verbeterden op basis van echte toepassingen. Het huidige AI-landschap heeft ons in staat gesteld om snel te handelen.”

“Op dit moment pakken we privacy aan door niet bij te houden wie wat zegt. Op deze manier worden alleen de ideeën en kritiek opgeslagen, niet wie ze heeft uitgesproken. We voldoen aan de GDPR door alle persoonlijke gegevens te verwerken op zelf gehoste modellen (er worden geen persoonlijke gegevens gebruikt voor enige vorm van training) of op servers die in de EU worden gehost. We hebben de AI-wet onderzocht en het lijkt geen significante invloed op ons te hebben. We zijn ervan overtuigd dat we onze infrastructuur kunnen opbouwen terwijl we AI met een minimaal risico bouwen. Op korte tot middellange termijn verwachten we iemand aan te nemen die zich volledig zal richten op privacy en cyberbeveiliging.”

“We zien Dembrane als een democratisch membraan binnen elke gemeenschap die gesprekken mogelijk maakt waarbij elk lid kan deelnemen en gehoord kan worden. Op deze manier hopen we bij te dragen aan een wereld waarin gemeenschappen wijzer, meer verbonden en eerlijker worden naarmate ze groter worden. Op de langere termijn zal de rol van Dembrane, naast het ontwikkelen en onderhouden van de infrastructuur, in belangrijke mate bestaan uit onderzoek naar wat het om een gesprek op schaal te voeren en om gemeenschappen te onderwijzen over het juiste gebruik van Dembrane door middel van een soort academie.

Een van de centrale uitdagingen in de ontwikkeling van AI is het probleem van de afstemming van AI: we willen graag AI-systemen die denken en handelen volgens de manier waarop een gemeenschap wil dat ze denken en handelen. Naast de technische uitdaging om de stem van de gemeenschap te integreren, is het een belangrijke uitdaging om erachter te komen hoe een gemeenschap wil dat een AI-systeem denkt en handelt (dit probleem wordt mooi beschreven in deze blogpost). We stellen ons voor dat Dembrane een centrale plaats inneemt in dit proces. We hebben dit al eerder verkend in gezamenlijk onderzoek met OpenAI (het rapport).”

“Wij geloven dat we, door conversatie en democratie mogelijk te maken met Dembrane, een moeilijke en fundamentele uitdaging aanpakken die helpt bij veel van de andere uitdagingen van de mensheid. De volgende generatie AI-modellen en chatbots zal relatief gemakkelijk komen (hun eigen ontdekking geholpen door AI). De echte moeilijke, maar cruciale uitdaging is om mensen bij het proces te betrekken. Door AI-infrastructuur te creëren die is gebaseerd op democratische waarden en grass-roots benaderingen, zorgen we ervoor dat de menselijke samenleving en AI zich symbiotisch ontwikkelen.”