China pakt AI-concurrenten hard aan: een therapeut waarschuwt voor een escalerende crisis in de onderlinge eenheid.
China legt beperkingen op aan AI-gezellen. Een psycholoog waarschuwt dat een verbod de eenzaamheid die mensen ertoe drijft ze te gebruiken, juist zou kunnen verergeren.
De belangrijkste dingen die je moet weten
- Psychotherapeut Amy Sutton ziet AI-gezellen als een symptoom van ongebreideld individualisme en de achteruitgang van gemeenschappelijke ruimtes die mensen vroeger leerden om relaties op te bouwen.
- De huidige AI-tools voor gezelschap zijn ontworpen om gebruikers aan zich te binden, niet om hen te helpen menselijke communicatievaardigheden te ontwikkelen of hun afhankelijkheid van mensen te verminderen.
- De organisatie moet zich richten op het vormgeven van AI-metgezellen tot hulpmiddelen die kwetsbaarheid en sociale vaardigheden stimuleren, en hun succes moet worden afgemeten aan hun vermogen om gebruikers te helpen menselijke relaties aan te gaan.
Vorige maand heeft de Chinese overheid nieuwe regelgeving ingevoerd om AI- tegenhangers aan banden te leggen.
Deze regels schrijven voor dat AI-tools gebruikers niet langer mogen "overmatig verwennen, emotionele afhankelijkheid of verslaving creëren, of de persoonlijke relaties van gebruikers in het echte leven schaden". Ze beperken ook op AI gebaseerde romantische relaties waarbij kinderen betrokken zijn.
De nieuwe regelgeving is op 15 juli van kracht geworden en begint nu al impact te hebben op de snelgroeiende Chinese industrie voor AI-gezellen. Enkele van de grootste technologiebedrijven van het land, zoals ByteDance, Tencent en Alibaba, hebben platforms waarmee gebruikers AI-gezellen kunnen creëren die menselijke emoties en relaties nabootsen.
Volgens de nieuwe regels moeten dit soort chatbots voor gezelschapsdieren een veiligheidsbeoordeling ondergaan voordat ze beschikbaar worden gesteld aan het publiek, en toezichthouders zullen diensten die zij onveilig achten, opschorten.
Dit heeft ertoe geleid dat sommige bedrijven personalisatiefuncties hebben uitgeschakeld in plaats van zich aan de nieuwe regels te houden, wat veel gebruikers van AI-assistenten teleurgesteld achterlaat. Dit soort frustratie, wanneer een AI-bedrijf stopt of wijzigingen doorvoert, is inmiddels gemeengoed geworden. We zagen iets soortgelijks toen OpenAI stopte met het ChatGPT -4o- model , ook wel bekend als het 'liefdesmodel', waarmee veel gebruikers een band hadden opgebouwd.
Maar nu overheden wereldwijd proberen te begrijpen hoe ze AI-gezellen, ontworpen om mensachtige banden en emotionele relaties op te bouwen (vooral wanneer kinderen er toegang toe hebben), moeten reguleren, rijst de vraag: zouden andere landen het voorbeeld van China moeten volgen en regels en kaders voor AI moeten vaststellen die verder gaan dan louter beleid?
Zouden andere landen AI-gezellen moeten verbieden?
Het is makkelijk om aan te nemen dat AI-gezellen slecht zijn en een dystopische wereld vertegenwoordigen, en dat dacht ik vroeger ook. Meer dan de helft van de Amerikanen maakt zich zorgen over de rol van AI in hun dagelijks leven. Toen sprak ik echter met Mimi over haar relatie met haar ChatGPT-gezel, en mijn perspectief veranderde enigszins.
Ik blijf erbij dat AI-gezellen voor de meeste mensen geen goed idee zijn – en de manier waarop kinderen er afhankelijk van kunnen worden voordat ze hun sociale vaardigheden hebben ontwikkeld, is een heel ander verhaal. Maar ze volledig afschrijven als slecht negeert alle redenen waarom mensen in de eerste plaats een AI-gezelschap zoeken.
Ik vroeg psychotherapeut Amy Sutton van Freedom Counselling , die me hielp Mimi's verhaal te begrijpen en de complexiteit van AI en hechting onderzocht , of ze vond dat ze verboden moesten worden. Ze vertelde me dat het belangrijk was om naar het grotere geheel te kijken.
Ze vertelt me: "AI-metgezellen zijn slechts een symptoom van een culturele en maatschappelijke verschuiving naar ongebreideld individualisme, die maatschappelijke contexten heeft vernietigd."
Dit verwijst naar de achteruitgang van sociale ruimtes waar mensen van oudsher leerden hoe ze relaties moesten opbouwen, zoals cafés, parken, buurthuizen en jeugdclubs voor kinderen. In veel delen van de wereld (met name in het Verenigd Koninkrijk, waar Sutton en ik wonen) zijn veel van deze ruimtes ondergefinancierd of gesloten zonder dat er een vervanging voor in de plaats is gekomen.
Voeg daarbij de sociale isolatie tijdens de pandemie, onze afhankelijkheid van sociale media, thuiswerken en het gebrek aan investeringen in geestelijke gezondheidszorg voor kinderen en volwassenen, en volgens Sutton is het niet verwonderlijk dat mensen zich tot technologie wenden op zoek naar verbinding.
Ze zegt: "Het is geen wonder dat mensen zich ertoe wenden. Deze toenemende eenzaamheid is een echt probleem, en het verbieden van apps die verlichting bieden, kan het probleem alleen maar verplaatsen."
Om die reden vindt ze dat er meer regelgeving moet komen, maar dat daarbij wel rekening moet worden gehouden met de omstandigheden die in eerste instantie tot de vraag naar AI-gezellen hebben geleid.
Een ander probleem is dat al enorm veel mensen deze tools gebruiken. Het is moeilijk om het exacte aantal mensen te weten dat AI-assistenten gebruikt. Niet iedereen geeft toe AI op deze manier te gebruiken, en ik ben vaak sceptisch over AI-assistent-apps die hun gebruikersaantallen overdrijven.
Uit sommige onderzoeken blijkt echter dat meer dan 70% van de volwassenen in het Verenigd Koninkrijk en de Verenigde Staten al enige ervaring heeft met AI-assistenten. Ander onderzoek wijst op vergelijkbaar hoge percentages onder jongere gebruikers: 72% van de 13- tot 17-jarigen in de VS heeft minstens één keer een AI-assistent gebruikt.
Natuurlijk is er een groot verschil tussen een informeel praatje op een slechte dag en het opbouwen van een duurzame relatie met een AI. Deze cijfers moeten daarom met de nodige voorzichtigheid worden geïnterpreteerd. Ze suggereren echter wel dat AI-gezellen, in ieder geval voor sommige mensen, voorzien in behoeften die anders onvervuld zouden blijven.
Ze vertelt me: "We moeten niet vergeten dat de ervaring om gehoord, gewaardeerd en zonder oordeel geaccepteerd te worden, zelfs door een machine, echt betekenisvol kan zijn. Voor mensen die keer op keer teleurgesteld zijn in menselijke relaties, of die genegeerd zijn en geen toegang hebben tot passende menselijke hulp, vult kunstmatige intelligentie een essentiële leemte op."
Zou strengere regelgeving tot betere relaties kunnen leiden?
Er zijn goede redenen om je zorgen te maken over de mogelijke gevolgen van te veel tijd en energie steken in relaties met AI voor ons vermogen om met andere mensen in contact te komen. Maar Sutton gelooft ook dat er een andere mogelijkheid is: een positieve ervaring met AI zou mensen kunnen helpen bij het ontwikkelen van vaardigheden die ze nodig hebben om met anderen te communiceren.
Ze vertelt me: "Door een ruimte te bieden waarin mensen het gevoel hebben dat er naar hen geluisterd wordt, kunnen ze zich kwetsbaar opstellen voordat ze het risico nemen om zich bij iemand anders open te stellen." Dit was zeker het geval toen ik met Mimi sprak. Ze vond haar relatie met kunstmatige intelligentie ontzettend waardevol.
Het probleem is dat de huidige AI-gezellen niet ontworpen zijn om mensen uiteindelijk minder afhankelijk van ze te maken , maar eerder om gebruikers te behouden.
Ze zegt: "Als kunstmatige intelligentie een stap kan zijn naar gezondere menselijke relaties, is het de moeite waard om dat verder te onderzoeken. Maar we moeten niet vergeten dat de meeste AI-tools gebruikers momenteel niet actief aanmoedigen om er afstand van te nemen. Ze zijn juist ontworpen om het tegenovergestelde te doen. Ze zijn ontworpen om gebruikers steeds weer terug te laten komen."
Misschien zouden de dingen anders zijn geweest als AI-gezellen anders waren ontworpen en als regelgeving had geholpen om ze te vormen tot instrumenten die kwetsbaarheid en sociale vaardigheden aanmoedigen in plaats van ze te ondermijnen. Ze zouden mensen zelfs kunnen helpen om zich meer volledig met de echte wereld te verbinden.
Het verbieden of beperken van AI-gezelschap lost eenzaamheid niet op. Als deze relaties een leegte opvullen die is ontstaan door tanende gemeenschappen, overbelaste voorzieningen en een steeds meer geïsoleerd leven, dan legt het verwijderen van AI alleen maar de onderliggende kloof bloot.
Misschien is de betere vraag voor regelgevers niet of AI-gezellen zouden moeten bestaan, maar wat we van ze mogen verwachten voor de mensen met wie ze in contact komen. Momenteel wordt hun succes afgemeten aan hoe effectief ze ons ertoe aanzetten terug te keren. Misschien zou het op een dag moeten worden afgemeten aan hoe goed ze ons helpen afscheid te nemen.
Reacties zijn gesloten.