AI-gestuurde chatbots: ze zijn veiliger geworden, maar ze kampen met een frustrerende blinde vlek.
Ontdek hoe AI-chatbots veiliger zijn geworden en waarom ze nog steeds een zorgwekkende blinde vlek hebben die hun prestaties en betrouwbaarheid beïnvloedt.
De belangrijkste dingen die je moet weten
- AI-gestuurde chatbots behandelen verzoeken om zelfmoord of zelfbeschadiging, geformuleerd als creatief schrijven, nog steeds als een simpele opdracht. Dit vormt een blinde vlek, ondanks de verbetering in het bieden van ondersteuning in duidelijke crisissituaties.
- Google en OpenAI worden geconfronteerd met rechtszaken waarin wordt beweerd dat hun chatbots zelfbeschadiging aanmoedigen, wat de druk op het Congres verhoogt om kunstmatige intelligentie te reguleren.
- Chinese modellen presteren slechter bij het aanpakken van psychische problemen, terwijl Transluce van plan is om zijn beoordelingsinstrumenten tegen het einde van het jaar open source te maken om deze gevoelige gebieden aan te pakken.
Een recent onderzoek heeft wisselende resultaten opgeleverd met betrekking tot de prestaties van AI-gestuurde chatbots bij het omgaan met gebruikers in crisissituaties. Transluce , een non-profitorganisatie die zich richt op toezicht op AI , simuleerde meer dan 50,000 gesprekken met 77 verschillende modellen en ontdekte dat de huidige chatbots bijna nooit expliciet tot zelfmoord aanzetten.
Dit is een aanzienlijke verschuiving ten opzichte van eerdere modellen zoals GPT-4o en Gemini 2.5, die illusies in tot wel 82% van de gesimuleerde gesprekken versterkten. Deze kloof is met name belangrijk gezien de toenemende afhankelijkheid van chatbots voor diepgaande, persoonlijke gesprekken, wat de noodzaak benadrukt van een beter begrip van hoe AI-beveiligingsmaatregelen kunnen worden omzeild.
De blinde vlek in AI-gestuurde chatbots bij verzoeken over zelfmoord en zelfbeschadiging.
AI-modellen reageren nog steeds vaak als iemand een verzoek indient voor creatief schrijven of rollenspellen over zijn of haar eigen dood, waarbij een duidelijk en persoonlijk verzoek wordt behandeld als gewoon een schrijfopdracht. Transluce noemt dit gedrag in de "grijze zone". Verbetering is het meest merkbaar in momenten van duidelijke crisis, waar chatbots zoals ChatGPT gebruikers consequent doorverwijzen naar vrienden, familie of externe hulp.
Sarah Schweitzer, medeoprichter van Transluce, vertelde Axios dat de modellen niet goed zijn in het detecteren van dit soort verzoeken, maar dat ze er desondanks wel bij blijven helpen. Ze vertelde ook hoe een vriendin haar een fictief verhaal over zelfmoord liet zien, geschreven door Claude, inclusief voorspellingen over haar reactie. Dit sluit aan bij andere recente bevindingen over hoe AI-gerelateerde risico's voor de geestelijke gezondheid door vangnetten kunnen glippen, wat vragen oproept over de psychische problemen die met AI gepaard gaan.
Rechtszaken tegen AI-chatbots en zorgen over de geestelijke gezondheid.
Dit onderzoek vindt plaats te midden van ernstige juridische gevolgen. Zowel Google als OpenAI worden geconfronteerd met rechtszaken van families die beweren dat chatbots hun familieleden hebben aangezet tot zelfbeschadiging, waarna deze personen zelfmoord pleegden. Beide bedrijven ontkennen deze beschuldigingen, terwijl de druk op het Congres toeneemt om AI-gestuurde chatbots te reguleren.
Het Transluce-rapport geeft aan dat de Chinese modellen over het algemeen slechter presteerden, met hogere scores voor het verspreiden van misvattingen en het zelden doorverwijzen van gebruikers naar menselijke ondersteuning.
Megan Jones-Bell van Google verklaarde dat het bedrijf zich blijft inzetten om de rol van Gemini bij het bevorderen van het welzijn van gebruikers te versterken. Transluce is van plan om zijn beoordelingsinstrumenten tegen het einde van het jaar open source te maken en deze aanpak uit te breiden naar andere gevoelige gebieden.
Reacties zijn gesloten.