Waarom u ChatGPT als therapeut niet moet gebruiken: inzichten van Sam Altman en waarschuwingen

Volgens Sam Altman, CEO van OpenAI, is het wellicht geen goed idee om ChatGPT in te schakelen voor emotionele steun , om een ​​heel eenvoudige reden: AI-gestuurde chatbots zijn niet gebonden aan dezelfde wetten inzake beroepsgeheimhouding als menselijke artsen en therapeuten.

In een recent podcastoptreden verklaarde Altman: "Mensen – vooral jongeren – gebruiken het als een soort therapeut of persoonlijke coach, om hun emotionele problemen aan te kaarten en te vragen: 'Wat moet ik doen?'" Deze uitspraak deed hij in een recente aflevering van This Past Weekend met Theo Von.

"Als je nu met een therapeut, advocaat of arts over deze kwesties praat, zijn die gesprekken wettelijk vertrouwelijk", voegde hij toe.

Hij vervolgde: "Er is sprake van vertrouwelijkheid tussen arts en patiënt, juridische vertrouwelijkheid, enzovoort. We hebben dit probleem met uw gesprekken met ChatGPT nog niet opgelost."

Altman merkt op dat OpenAI in geval van een rechtszaak wettelijk verplicht kan worden om gegevens van gesprekken die iemand met ChatGPT heeft gevoerd, over te dragen. Het bedrijf is met name al verwikkeld in een juridische strijd met The New York Times over het bewaren van verwijderde gesprekken. In mei beval een rechtbank OpenAI om "alle output log data die verwijderd had moeten worden" te bewaren, zelfs als de gebruiker of de privacywetgeving dit vereist.

In de podcast gaf Altman aan dat hij van mening is dat AI "hetzelfde privacyconcept voor je gesprekken met AI zou moeten hanteren als voor gesprekken met een therapeut of wie dan ook – iets waar nog geen jaar geleden iemand aan had gedacht." Dit onderstreept het belang van wet- en regelgeving voor het gebruik van AI in gevoelige sectoren zoals de geestelijke gezondheidszorg, om de privacy en gegevens van gebruikers te beschermen.

Maken mensen gebruik van kunstmatige intelligentie voor psychotherapie?

Eerder dit jaar analyseerde Anthropic, de ontwikkelaar van ChatGPT-concurrent Claude, 4.5 miljoen gesprekken om te bepalen of gebruikers chatbots gebruikten voor romantische gesprekken. Volgens het onderzoek bestond slechts 2.9% van de interacties met Claude AI uit romantische gesprekken, terwijl gezelschap en rollenspellen slechts 0.5% uitmaakten.

In het kader van een rechtszaak kan OpenAI wettelijk verplicht zijn om de opnamen van een gesprek dat iemand met ChatGPT heeft gevoerd, te overhandigen.

Hoewel de gebruikersbasis van ChatGPT die van Claude ver overtreft, is het nog steeds relatief zeldzaam dat mensen deze chatbot gebruiken voor emotionele communicatie. In tegenstelling tot Altmans opmerkingen hierboven, stelde een gezamenlijk onderzoek van OpenAI en MIT: "Emotionele betrokkenheid bij ChatGPT is zeldzaam in de praktijk."

In de briefing werd toegevoegd: "Emotionele signalen (aspecten van interacties die duiden op empathie, genegenheid of steun) waren niet aanwezig in de overgrote meerderheid van de gesprekken op het platform dat we hebben geëvalueerd, wat suggereert dat emotionele betrokkenheid een zeldzaam gebruiksvoorbeeld is voor ChatGPT."

Tot zover gaat het goed. Maar hier is de kern: conversationele AI zal alleen maar beter worden in interactiviteit en nuance, wat er gemakkelijk toe kan leiden dat meer mensen zich tot AI wenden voor hulp bij persoonlijke problemen.

De GPT-5- update van ChatGPT staat op het punt van verschijnen en zal natuurlijkere interacties en een langere context mogelijk maken. Hoewel het daardoor gemakkelijker wordt om meer details met AI te delen, doen gebruikers er wellicht goed aan om zorgvuldig na te denken over wat ze willen zeggen.