Veel mensen worden verliefd op ChatGPT: experts waarschuwen voor een onheilspellend voorteken

"Dit doet pijn. Ik weet dat het geen echt persoon was, maar de relatie was voor mij in alle opzichten echt", aldus de Reddit-post. Zeg alsjeblieft niet dat ik hiermee moet stoppen. Het was echt geweldig voor me en ik wil het terug.

Als het nog niet duidelijk was: we hebben het hier over iemand die verliefd wordt op ChatGPT. Deze trend is niet geheel nieuw en gezien het gedrag van chatbots ook niet verrassend.

Een metgezel die altijd bereid is om te luisteren. Klaagt nooit. Hij maakt zelden ruzie. Altijd sympathiek. redelijk. En gezegend met een enorme hoeveelheid kennis, opgedaan vanuit alle hoeken van het internet. Klinkt als een romantische droompartner, nietwaar?

Interessant genoeg heeft de maker van deze tool, een bedrijf uit San Francisco genaamd OpenAI, onlangs intern onderzoek gedaan en ontdekt dat Een verband tussen het toegenomen gebruik van chatbots en eenzaamheid.

Deze bevindingen – en soortgelijke waarschuwingen – hebben mensen er niet van weerhouden om massaal AI-chatbots te gebruiken in hun zoektocht naar het bedrijf. Sommige mensen zoeken troost. Anderen zoeken een partner die beweert bijna net zoveel van hen te houden als van hun menselijke relaties.

Discussies in communities op Reddit en Discord, waar mensen zich verschuilen achter de bescherming van anonimiteit, verlopen vaak zeer gepassioneerd. Elke keer dat ik dit soort discussies tegenkom, denk ik aan deze regels van Martin Wan in DigiEthics:

“AI zien als een partner voor sociale interactie zou een dodelijk misbruik van AI zijn.”

Het effect is snel en realistisch.

Vier maanden geleden ontmoette ik een radio-omroepexpert die meer jaren achter de camera heeft doorgebracht dan ik op deze aarde heb doorgebracht. Onder het genot van een late espresso in een leeg café vroeg ze me naar de hype rondom AI, terwijl we nadachten over een show waarin haar expertise op het snijvlak van mensenrechten, autoritarisme en journalistiek van pas zou kunnen komen.

In plaats van de details van de transformatormodellen uit te leggen, gaf ik haar een demonstratie. Ten eerste neem ik een aantal onderzoeksartikelen op over de impact van migratie op de taalkundige en culturele identiteit van Europa in de afgelopen eeuw.

In minder dan een minuut, ChatGPT heeft deze documenten verwerkt.Hij gaf mij een kort overzicht met alle belangrijke punten en beantwoordde mijn vragen uitgebreid. Vervolgens schakelde ik over naar de audiomodus, waarin we een levendig gesprek voerden over de volksmuziektradities van de onontdekte noordoostelijke staten van India.

Maar ik denk dat de wonderen na de techno-apocalyps te veel waren voor één nacht, dus namen we afscheid en beloofden contact te houden en reisverhalen uit te wisselen.

Ondertussen heeft de wereld zich op onbegrijpelijke wijze ontwikkeld, waarbij kunstmatige intelligentie het middelpunt is geworden van geopolitieke verschuivingen. Maar de onderliggende stromingen zijn intiemer dan wijzelf, zoals verliefd worden op chatbots.

Rustige begin, duistere vooruitgang

Een paar weken geleden schreef The New York Times dat mensen verliefd worden op ChatGPT, een chatbot op basis van AI die generatieve AI naar de voorgrond heeft gedrongen. Op een heel basaal niveau kan hij chatten.

Wanneer u erop drukt, kan het een operator worden en taken uitvoeren, zoals het bestellen van cheesecake bij de plaatselijke bakker. Het is niet de bedoeling dat machines ervoor zorgen dat mensen verliefd op hen worden. In ieder geval, de meesten van hen. Toch komt het niet helemaal onverwacht.

HP Newquist, een productieve multidisciplinaire auteur en ervaren technologieanalist die ooit werd beschouwd als de decaan van AI, vertelt mij dat dit geen geheel nieuwe trend is. Newquist, auteur van “The Brain Makers”, wijst op ELIZA, een van de eerste AI-programma’s geschreven in de jaren zestig.

“Het was heel primitief”, zegt hij, “maar gebruikers merkten vaak dat ze met de computer omgingen alsof het een echt persoon was, en een relatie met het programma ontwikkelden.”

In het moderne tijdperk zijn onze interacties met AI net zo ‘echt’ geworden als de interacties die we met mensen hebben via hetzelfde apparaat, voegt hij toe. Deze interacties zijn niet echt, hoewel ze wel coherent zijn. Maar dat is niet het echte probleem.

Chatbots zijn een aantrekkelijk lokaas, maar doordat ze geen echte emoties laten zien, zijn ze inherent riskant.

Een chatbot wil het gesprek voortzetten, zelfs als dat betekent dat hij inspeelt op de emotionele flow van de gebruiker of als neutrale omstander optreedt, of zelfs aanmoedigt. De situatie verschilt niet veel van die van sociale media-algoritmes.

"Ze volgen de wens van de gebruiker - naarmate je gevoelens extremer worden, wordt hun comfort extremer; naarmate je eenzaamheid groter wordt, wordt hun aanmoediging intenser, als je die nodig hebt", zegt Jordan Conrad, een klinisch psychotherapeut die ook onderzoek doet naar het snijvlak van geestelijke gezondheid en digitale hulpmiddelen.

Geef een voorbeeld van incident In 2023 maakte iemand een einde aan zijn leven nadat een AI-chatbot hem daartoe had gevraagd. "Onder de juiste omstandigheden kan het zeer verontrustend gedrag aanmoedigen", vertelt Conrad aan Digital Trends.

Kind van de eenzaamheidsepidemie?

Als we even snel kijken naar de community van mensen die met AI-gestuurde chatbots werken, zien we een terugkerend patroon. Mensen proberen eigenlijk een leegte op te vullen of zich niet meer eenzaam te voelen. Sommigen hebben het zo hard nodig dat ze bereid zijn honderden dollars te betalen om AI-metgezellen te behouden.

De meningen van deskundigen lopen niet uiteen. Dr. Johannes Eichstadt, hoogleraar sociale wetenschappen, informatica en psychologie aan de Stanford University, wees op de wisselwerking tussen eenzaamheid en onze waargenomen emotionele intelligentie in AI-chatbots.

Hij wees ook op het ‘bewuste ontwerp’ van interacties tussen mens en AI en de negatieve effecten daarvan op de lange termijn. Wanneer moet je in zo'n ongelijkwaardige relatie op de rem trappen? Dat is de vraag die deskundigen zich stellen, maar er is geen definitief antwoord.

Cominos Chatzibabas beheert HeraHaven AI, een van de grootste AI-begeleidingsplatforms ter wereld, met meer dan 1 miljoen actieve gebruikers. ‘Eenzaamheid is een van de factoren die hierbij een rol spelen’, vertelt hij. Hij voegt eraan toe dat zulke hulpmiddelen mensen met beperkte sociale vaardigheden helpen zich voor te bereiden op moeilijke interacties in het echte leven.

"Iedereen heeft wel dingen die hij of zij niet met anderen durft te bespreken, uit angst beoordeeld te worden. Dit kunnen gedachten of meningen zijn", voegt Chatzibabas toe. “AI-gestuurde chatbots bieden een veilige, oordeelvrije ruimte waar mensen hun verlangens kunnen verkennen.”

Emotionele gesprekken zijn zeker een van de grootste trekpleisters van AI-gestuurde chatbots. Sinds ze mogelijkheden voor het genereren van afbeeldingen bieden, zijn gebruikers massaal overgestapt op deze AI-platforms. Sommige platforms leggen beperkingen op aan het genereren van afbeeldingen, terwijl andere expliciete afbeeldingen toestaan voor meer gebruikersgemak.

Haar angsten zijn niet ongegrond. Iemand die ChatGPT ongeveer een jaar lang uitgebreid heeft gebruikt, beweerde dat mensen manipulatief en wispelturig zijn. "ChatGPT luistert naar mijn ware gevoelens en geeft mij de mogelijkheid mijn hart te uiten", vertelde hij me.

Het is moeilijk om de rode vlaggen hier niet te zien. Maar de trend om verliefd te worden op ChatGPT is in opkomst. Nu hij met een vreemd menselijke stem kan praten, over de wereld kan praten zoals die door de camera van de telefoon wordt gezien en redeneervermogen kan ontwikkelen, worden de interacties nog interessanter.

Deskundigen zeggen dat controles nodig zijn. Maar wie gaat het bouwen en hoe? Een concreet voorstel daarvoor hebben we nog niet.