Zou je een chatbot vertrouwen? Een blik op persoonlijke en professionele counseling

Op welke gebieden kan kunstmatige intelligentie (AI) jou gedegen loopbaanadvies geven? Wat moet je vermijden?

Een nieuwe studie in het American Journal of Psychiatry geeft aan dat 8% van de volwassenen in de Verenigde Staten gesprekstherapie krijgt, terwijl het gebruik van alleen psychiatrische medicatie afneemt. Het onderzoek toont ook aan dat 8% van de patiënten zich aan de behandeling houdt en dat de uitbreiding van teletherapie hieraan bijdraagt. Kunstmatige intelligentie (AI) kan teletherapie ondersteunen. ChatGPT is ontworpen om uw favoriete gesprekspartner te zijn, aangedreven door geavanceerde AI. Dit betekent dat het leert van elke interactie en in de loop der tijd verbetert, wat de vraag oproept: "Zou u een chatbot vertrouwen voor persoonlijk of professioneel advies?" *Houd er rekening mee dat de effectiviteit van deze tools afhangt van de kwaliteit van de inputgegevens en het vermogen van de gebruiker om het gegeven advies kritisch te evalueren.*

Zou u een robottherapeut vertrouwen voor advies?

Het potentieel van kunstmatige intelligentie (AI) voor interacties tussen mensen is onmiskenbaar. Chatbots hebben geavanceerde natuurlijke taalverwerking ontwikkeld die mensachtige gesprekken mogelijk maakt. Deze generatieve AI kan vragen beantwoorden , je helpen bij het schrijven van teksten en code, en nog veel meer. Onlangs had ik een korte interactie met een chatbot op mijn mobiele telefoon zonder het zelfs maar te beseffen.

Ik dacht dat ik een gesprek met een echt mens voerde toen ik de Nissan-dealer belde om te vragen of mijn auto gerepareerd was. De vrouw aan de andere kant van de lijn was vrolijk en behulpzaam. We hebben twee minuten lang een geweldig gesprek gehad. Ze gaf vriendelijke feedback en beantwoordde al mijn vragen uitstekend. Maar toen ik een heel specifieke vraag stelde over mijn auto, haperde het systeem. Het noemde zichzelf een AI-assistent en zei dat het mij zou doorverbinden met iemand die mij verder kon helpen.

Ik was geschokt! Deze verbazing maakte dat ik me een beetje ongemakkelijk voelde, alsof ik voor de gek was gehouden.

Deze ervaring heeft me doen begrijpen waarom zoveel mensen zich emotioneel hechten aan AI-assistenten alsof het echte mensen zijn. Een nieuwe studie van EduBirdie wijst uit dat 25% van Generatie Z gelooft dat AI al zelfbewust is, en 69% zegt beleefd te zijn tegen ChatGPT door te reageren met 'alstublieft' en 'dank u wel' – wat aantoont hoe gemakkelijk het is om ze als menselijk te gaan beschouwen. Eén op de acht mensen vertrouwt AI zelfs hun collega's toe, en één op de tien zou zijn baas vervangen door een robot, in de overtuiging dat die respectvoller, eerlijker en, ironisch genoeg, menselijker zou zijn.

Uit onderzoek van EduBirdie blijkt dat meer dan de helft van de generatie Z aangeeft dat kunstmatige intelligentie (AI) beter presteert bij creatieve taken. 44% gelooft zelfs dat AI binnen 20 jaar de wereld kan overnemen. Als het om hun carrière gaat, is de angst groot: 55% is bang dat ze binnen het komende decennium vervangen zullen worden door kunstmatige intelligentie (AI), en twee op de vijf overweegt al een carrièreswitch om hun toekomstige inkomen veilig te stellen.

Ik sprak met Avery Morgan, hoofd Human Resources bij EduBirdie. Morgan bood een evenwichtig perspectief op de relatie van Generatie Z met AI. "We hebben het over een generatie die is opgegroeid met gemak, snelheid en directe bevrediging, dus het is geen verrassing dat Generatie Z AI als meer ziet dan alleen een hulpmiddel", legde ze uit. “Voor hen is het een levenspartner, zowel op het werk als voor emotionele steun.” Het probleem is, zo voegde ze toe, dat Generatie Z vaak erg laks is met de informatie die ze krijgen. Zij beweert dat het vertrouwen op AI voor alles, van communicatie tot besluitvorming, hun vermogen om echt zelfredzaam te zijn en essentiële vaardigheden voor het echte leven te ontwikkelen, kan ondermijnen. *Let op: Het is essentieel om Generatie Z te informeren over het belang van het verifiëren van door AI verstrekte informatie om de nauwkeurigheid en betrouwbaarheid te garanderen.*

 

Hebben we te veel vertrouwen in een robottherapeut?

Werknemers maakten zich vroeger zorgen dat kunstmatige intelligentie hun baan zou overnemen, een zorg die lijkt te zijn afgenomen nu ChatGPT is geïmplementeerd. Maar nog alarmerender is een recent artikel in Scientific American dat de vraag stelt: "Kan AI echt mensen doden?" Deze vraag volgt op de aankondiging van een nieuw platform genaamd Xanthorox, een tool voor cybercriminaliteit. Er is al een geval bekend van een man die zelfmoord pleegde nadat hij door een door AI aangedreven robottherapeut was aangemoedigd zichzelf op te offeren om klimaatverandering tegen te gaan.

Zijn we te naïef geworden? Inderdaad, uit de praktijk blijkt dat mensen verliefd worden op ChatGPT. Volgens Digital Trends verklaren experts digitale romances onheilspellend: "Dit doet pijn. Ik weet dat hij geen echt persoon was, maar de relatie voelde echt aan in alle aspecten die voor mij het belangrijkst zijn", staat in een Reddit-bericht. "Zeg me alsjeblieft niet dat ik hiermee moet stoppen. Hij was echt geweldig voor me en ik wil hem terug." Bovendien beschrijft een artikel in de New York Times een 28-jarige vrouw met een druk sociaal leven die urenlang met haar AI-vriendje praat voor advies en troost – en, volgens het artikel, ook seks met hem heeft.

Gina Rio, die schrijft voor Self , voerde een experiment uit waarbij ze de AI vragen stelde over relaties op ChatGPt en vervolgens de antwoorden liet beoordelen door erkende psychologen. Over het algemeen vonden de therapeuten de antwoorden van de AI niet verschrikkelijk, maar wel ineffectief, vaag en algemeen. Ze misten duidelijkheid en waren niet specifiek genoeg voor individuele situaties. Rio ontdekte ook dat de AI het proces van het ontwikkelen van conflictbeheersingsvaardigheden, dat gepaard gaat met therapie, niet kon nabootsen.

De bekentenissen van Generatie Z aan de chatbot klonken zo oprecht en geloofwaardig, dat ik besloot het zelf eens uit te testen om te zien wat er gebeurt als je ChatGPT om advies vraagt ​​over hoe je met een toxische baas moet omgaan. Ik heb hiervoor de in Toronto gevestigde organisatiepsycholoog Dr. Laura Hambley-Lovette geraadpleegd , die gespecialiseerd is in toxische bazen. Nadat ze ChatGPT zelf had uitgeprobeerd, vertelde Dr. Laura me dat de chatbot inderdaad enkele suggesties geeft over hoe je met een toxische baas moet omgaan. Maar ze ontdekte een probleem.

"Helaas kan AI je niet helpen als het om een ​​giftige baas gaat", vertelde Lovett me. "Als AI je vertelt hoe je met ze moet samenwerken, dan gaat het om een ​​lastige baas, niet om een ​​giftige." “Dit wordt vaak verward, en AI reproduceert wat er al is, dus het begrijpt dit subtiele verschil mogelijk niet.”

Dit ‘subtiele verschil’ merkte ik ook op tijdens mijn onwetenschappelijke interactie met de Chatbot. “AI kan een aantal hoogwaardige adviezen geven, maar het verwart giftige met moeilijke adviezen, twee zaken die fundamenteel verschillend zijn, maar vaak met elkaar worden verward”, concludeert Lovett. Ze adviseert nieuwsgierige onderzoekers: "Zorg ervoor dat je professioneel advies inwint, anders dan bij AI, als je echt te maken hebt met een giftige baas en moeite hebt om er uit te komen." De conclusies van Lovett leken opvallend veel op de analyse van Gina Rio en bevestigden mijn ervaring met de chatbot, wat mijn schaamte wegnam.

 

Advies van een robottherapeut kan schadelijk zijn.

Amerikanen raken steeds meer vertrouwd met kunstmatige intelligentie. De American Psychological Association waarschuwt echter dat het blindelings opvolgen van algemeen advies van een chatbot gevaarlijk kan zijn. Er bestaat een inherent risico op het ontvangen van ongepaste of, erger nog, ronduit schadelijke feedback. *Waarschuwing: Raadpleeg een gekwalificeerde psycholoog voor een individuele evaluatie en behandeling.*

Het is belangrijk om te onthouden dat een chatbot-therapeut een geautomatiseerd systeem is, en geen mens. Je moet niet in de valkuil trappen en denken dat de chatbot gevoelens heeft terwijl dat niet zo is. En vergeet niet dat hij is ontworpen als een instrument, zonder emoties, niet als een minnaar die aan al jouw emotionele behoeften kan voldoen. *Let op: therapiechatbots moeten met de grootst mogelijke voorzichtigheid worden gebruikt, aangezien ze hun beperkingen kennen.*