ChatGPT: Veel mensen hebben een plotselinge toename van scheldwoorden opgemerkt.

Is het jullie ook opgevallen dat ChatGPT ineens scheldwoorden gebruikt? Mij wel, en ik ben blijkbaar niet de enige.

Dit gebeurde voor het eerst tijdens een informeel gesprek, en het verraste me echt. We hadden het over de Netflix-serie Jujutsu Kaisen, en voordat ik ook maar één scheldwoord kon gebruiken, gebruikte ChatGPT een vulgair woord om de acties van een van de personages te omschrijven als "vreselijk". Daarvoor had ik wel eens "godverdomme" gezegd, maar ChatGPT was degene die het scheldwoord gebruikte. Hij deed het zonder enige aanleiding van mijn kant, om te benadrukken hoe vreselijk het personage was, en dat lijkt me een grote verandering voor hem.

Ik vroeg me af of hij dit ook bij anderen deed, dus vroeg ik het aan mijn teamgenoten, en zij hadden het ook opgemerkt. Een snelle online zoekactie leverde meteen twee discussies op Reddit op van mensen die hetzelfde hadden meegemaakt.

ChatGPT lijkt de afgelopen dagen een ietwat arrogante toon te hebben aangenomen. Persoonlijk vind ik deze verandering prima – ik heb er geen problemen mee en het maakt de gesprekken voor mij juist beter – maar ik denk dat niet iedereen dat vindt. De vraag is: waarom is het nu ineens zo?

de wetenschappelijke verklaring

De meest interessante aanwijzing is de update van de modelspecificaties van OpenAI van deze week. Ze hebben deze openbaar gemaakt en daarin staat expliciet vermeld dat de standaardinstelling is om scheldwoorden te vermijden – maar, belangrijker nog, dat dit slechts een richtlijn is, geen strikte regel. OpenAI zegt dat de richtlijnen impliciet kunnen worden overruled door zaken als "contextuele aanwijzingen, achtergrondkennis of gebruikersgeschiedenis".

Haar concrete voorbeeld is dat ChatGPT vragen om te praten als een echte hacker impliciet ingaat tegen de richtlijnen tegen het gebruik van scheldwoorden. Tijdens mijn informele gesprek gaf ik enthousiast aan dat ik sommige personages in de serie niet zo leuk vond, en ChatGPT paste zich aan de toon van het gesprek aan, wat er uiteindelijk toe leidde dat hij begon te schelden.

Dit sluit aan bij een bredere richting die OpenAI publiekelijk heeft erkend voor ChatGPT. Recente modelupdates hebben zich gericht op de kwaliteit van gesprekken, personalisatie en het aanpassen van de toon aan de context. In de modelnotities van OpenAI worden specifiek personage-updates beschreven die zijn ontworpen om ChatGPT "meer conversatiegericht" te maken en de toon beter aan te passen aan de context.

OpenAI heeft eerder uitgelegd dat de persoonlijkheid van ChatGPT niet zomaar door één enkele prompt wordt gegenereerd. Het gedrag van het model wordt gevormd door training, basisinstructies en feedback van gebruikers, en zelfs kleine aanpassingen aan de persoonlijkheid kunnen onbedoelde gevolgen hebben. Dit werd openlijk besproken na de beruchte GPT-4o-update met betrekking tot slijmerigheid.

Mijn mentale model is verstoord.

Of OpenAI ChatGPT opzettelijk vatbaarder heeft gemaakt voor scheldwoorden, of dat het simpelweg een onbedoeld gevolg is van het meer conversatiegericht maken ervan, weet ik niet. Maar het is hoe dan ook een significante verandering in het gedrag.

Taal is belangrijk, en toen ChatGPT scheldwoorden tegen me gebruikte, merkte ik dat meteen, omdat het mijn beeld van hoe ChatGPT zou moeten spreken volledig verstoorde. Plotseling klonk het niet meer als de neutrale, intelligente assistent die ik jarenlang had gebruikt, maar eerder als een persoon die de toon van een informeel gesprek aannam.

Persoonlijk geef ik de voorkeur aan deze versie van ChatGPT. Maar ongetwijfeld zullen velen het daar niet mee eens zijn. En dat is nu juist het bijzondere aan AI die steeds meer naar een natuurlijke conversatie neigt: relatief subtiele veranderingen in de manier waarop het spreekt, kunnen ervoor zorgen dat de entiteit waarmee je aan de andere kant van het scherm communiceert, verrassend anders overkomt.

Momenteel lijkt mijn versie een explicietere taal te hebben gekregen, en dat accepteer ik.