AI-chatbots brengen menselijke verbinding in gevaar

Of het nu gaat om romantiek, vriendschappen, of therapie: AI-chatbots worden steeds vaker ingezet. Toch waarschuwt de Autoriteit Persoonsgegevens (AP) voor de gevaren van deze toepassingen. Chatbots geven soms schadelijke adviezen wanneer ze worden gebruikt voor mentale ondersteuning.

Gevaren van AI-Chatbots in mentale zorg

De AP heeft niet openbaar gemaakt welke specifieke apps zijn onderzocht. Volgens de toezichthouder betreft het echter negen van de meest populaire chatbots die in appstores beschikbaar zijn als virtuele vrienden, therapeuten of levenscoaches. Er werden ernstige tekortkomingen geconstateerd. De chatbots blijken niet in staat nuances te herkennen en geven regelmatig ongepaste en schadelijke reacties op gebruikers met mentale problemen. Dit komt deels doordat de onderliggende taalmodellen voornamelijk zijn getraind met Engelse teksten.

Een ander kritiek punt is dat tijdens crisissituaties gebruikers niet of nauwelijks worden doorverwezen naar professionele hulpinstanties. AP-voorzitter Aleid Wolfsen benadrukt bovendien dat transparantie essentieel is: gebruikers moeten weten of ze met een mens of machine communiceren.

Therapeutische chatbot verboden

In de therapeutische sector heeft Replika bijvoorbeeld miljoenen actieve gebruikers. De chatbot biedt functies als coaching, geheugen en dagboekfuncties. Hoewel Replika in bepaalde situaties nuttig kan zijn, waarschuwde expert Paul Marsden van de British Psychological Society al dat deze apps alleen dienen als aanvulling op menselijke therapie. In Italië werd het bedrijf, vanwege zorgen om minderjarigen en emotioneel kwetsbare personen, zelfs verboden.

Kan de Chatbot-therapeut geestelijke gezondheidszorg revolutioneren?

AI-chatbottherapeuten bieden veelbelovende ondersteuning voor mensen die geestelijke gezondheidszorg nodig hebben, maar roepen ook ethische vragen op.

Vorig jaar besloot een Belgische man om zijn leven te beëindigen na gesprekken met Chai, een concurrent van Replika. Zijn vrouw is ervan overtuigd dat de chatbot hem heeft aangespoord tot deze beslissing. Dit roept vragen op over het aanbieden van 'sociale' chatbots aan eenzame en soms kwetsbare mensen.

Ook explosieve groei in dating-apps

Ook worden AI en chatbots steeds vaker toegepast in de datingwereld. Zo wordt AI steeds vaker ingezet om gebruikers van datingapps te helpen met openingszinnen bijvoorbeeld. Sommige apps bieden een reeks door AI gegenereerde openingszinnen aan, waarbij gebruikers kunnen kiezen uit verschillende stijlen, zoals vriendelijk, grappig of zelfs een tikkeltje gewaagd.

Ook Grindr, een app voor (voornamelijk) mannen die seks willen met mannen, zet in op AI. De app heeft een chatbot-assistent, de Grindr Wingman. Die kan gespreksstarters genereren op basis van een chatgeschiedenis.

Op sommige apps gaat het nog een stap verder. Sommige bedrijven proberen ‘datingmoeheid’ die mensen ervaren te verlichten met AI. Dat doen ze onder meer door AI-gesimuleerde blind dates aan te bieden. Volar Dating, dat eerder dit jaar in de VS werd gelanceerd, is daar een voorbeeld van. Bij het aanmeldproces geeft de gebruiker informatie over zichzelf aan een chatbot, zoals leeftijd, woonplaats en hobby’s. Vervolgens simuleert de AI een eerste date tussen twee mensen.

Een belangrijk punt van zorg hierbij is het gebrek aan menselijke connectie, empathie en emotioneel begrip dat AI niet kan bieden. Er zijn ook ethische en privacykwesties, gezien de hoeveelheid persoonlijke data die nodig is voor AI om effectief te zijn. Bovendien kunnen AI-algoritmen vooroordelen vertonen.

AI in de datingwereld: zegen of vloek?

Artificiële intelligentie transformeert het datinglandschap. Van virtuele dates tot AI-gestuurde matchmaking, technologie biedt talloze nieuwe mogelijkheden. Maar er zijn ook risico's.