Geestelijke gezondheid en artificiële intelligentie: chatbots schenden systematisch de ethische regels

Alsmaar meer gebruikers zoeken psychologische ondersteuning bij chatbots van artificiële intelligentie (AI). Een studie van de Brown University stelt echter belangrijke ethische beperkingen vast. De studie is gepresenteerd op de conferentie AAAI/ACM on Artificial Intelligence, Ethics and Society 2025. Ze heeft meerdere grote taalmodellen (LLM) waaronder GPT, Claude en Llama vergeleken als aan die modellen werd gevraagd cognitieve en gedragstherapie of dialectische gedragstherapie te simuleren.

Bij vergelijking van de antwoorden van de taalmodellen met die van opgeleide menselijke raadgevers en na analyse door erkende klinische psychologen hebben de vorsers 15 ethische risico’s vastgesteld, die ze in vijf groepen hebben ingedeeld:

• geen aanpassing aan de context: gestandaardiseerde antwoorden, die geen rekening houden met de voorgeschiedenis van de gebruikers;
• zwakke therapeutische samenwerking: vooral conversatie en versterking van negatieve overtuigingen;
• bedrieglijke empathie: gebruik van bewoordingen zoals “ik begrijp”, wat een vals gevoel van vertrouwen schept;
• discriminerende biases: stereotypes uit hoofde van het geslacht, de cultuur of de godsdienst;
• falen in een crisissituatie: geen verwijzing voor een dringende behandeling of ongepaste reacties op zelfmoordgedachten.

Volgens de hoofdonderzoekster Zainab Iftikhar, doctoranda in de informatica, “imiteren die systemen de therapeutische technieken zonder er de ethische bases van te begrijpen”. In tegenstelling tot psychologen hebben chatbots geen enkel kader van professionele verantwoordelijkheid, er wordt geen toezicht op uitgeoefend, en als ze fouten maken, worden die niet bestraft.

De auteurs sluiten het gebruik van AI om de ongelijkheid in toegang tot de zorg te verhelpen niet volledig uit, maar ze hameren op de noodzaak van ethische, educatieve en juridische normen bij gebruik van LLM in een psychologische context. Volgens prof. Ellie Pavlick, specialiste in IA aan Brown, vormt die studie een rigoureus evaluatiemodel. Ze herinnert eraan dat het vandaag veel gemakkelijker is AI-systemen te ontplooien dan ze te begrijpen en te controleren.”