Maakt het gebruik van ChatGPT je dommer? Een MIT-studie suggereert dat mensen die afhankelijk zijn van AI-tools hun vaardigheden verslechteren.

Met de grote technologische bloei Generatieve kunstmatige intelligentieOnderzoekers haasten zich om de effecten van deze tools op gebruikers te bestuderen. Eerdere studies hebben aangetoond dat overmatige afhankelijkheid van ChatGPT Soortgelijke hulpmiddelen kunnen leiden tot: Verslavend gedrag en schade aan de geestelijke gezondheid, atrofie van kritisch denken en gevoelens van eenzaamheid en sociale isolatie.

Een nieuw onderzoek benadrukt de potentiële risico's van grote taalmodel (LLM)-hulpmiddelen zoals ChatGPT. Onderzoekers van het Media Lab van het Massachusetts Institute of Technology ontdekten dat Het gebruik van ChatGPT en vergelijkbare tools om artikelen te schrijven leidde tot een significante afname van de hersenactiviteit. De studie, getiteld Het effect van ChatGPT op de hersenen: cognitieve schuld opbouwen bij gebruik van een AI-assistent voor het schrijven van essays...dat mensen die afhankelijk waren van AI-hulpmiddelen slechter werden in het schrijven van essays als zij dezelfde taak moesten uitvoeren zonder de hulp van ChatGPT of vergelijkbare hulpmiddelen.

Het onderzoek omvatte een kleine steekproef van 54 personen tussen de 18 en 39 jaar. De deelnemers werden verdeeld in drie groepen: een groep die alleen de hersenen gebruikte (en dus uitsluitend hun mentale vermogens onderzocht), een groep die een traditionele zoekmachine kon gebruiken en een groep die LLM-tools (Large Language Model) zoals ChatGPT kon gebruiken.

De resultaten toonden aan dat degenen die grote taalmodellen (LLM's) gebruikten om de taak te voltooien, een 32% lagere cognitieve belasting ervoeren dan degenen die traditionele software-interfaces gebruikten. Ze rapporteerden ook minder frustratie tijdens het proces.

Een belangrijke bevinding is dat mensen die tijdens het onderzoek grote taalmodellen (LLM's) gebruikten, minder mentale inspanning leverden om informatie te vergaren. Hoewel dit niet verrassend is, verklaart het wel waarom sommige mensen geneigd zijn om AI-tools te gebruiken om taken uit te voeren.

Naast het registreren van een hogere hersenactiviteit, rapporteerden deelnemers in de ‘alleen hersenen’-groep een grotere tevredenheid over ethische overwegingen.

Grote taalmodellen (LLM's) hebben ongetwijfeld de moeite die nodig is om vragen van deelnemers te beantwoorden verminderd in vergelijking met een traditionele zoekmachine. Dit gemak heeft echter een cognitieve prijs gehad, waardoor gebruikers minder geneigd zijn om de uitkomsten of 'meningen' van LLM's (probabilistische antwoorden gebaseerd op trainingsdatasets) kritisch te evalueren. Dit benadrukt een verontrustende evolutie van het 'echo chamber'-effect: in plaats van te verdwijnen, heeft het zich aangepast om de blootstelling van gebruikers vorm te geven via algoritmisch samengestelde content. Wat als 'het beste' wordt beschouwd, wordt uiteindelijk beïnvloed door de prioriteiten van LLM-medewerkers.

Op het eerste gezicht lijken de conclusies van het onderzoek duidelijk. Het is geen verrassing dat het schrijven van een essay meer mentale inspanning vereist dan het simpelweg gebruiken van een tool om hetzelfde essay te schrijven. Ik weet zeker dat het betalen van iemand anders om het essay te schrijven ook minimale hersencapaciteit zou vergen.

Maar wetenschap gaat over meer dan alleen intuïtie. Het vereist bewijs en hypothesetoetsing. Gezien de mogelijkheid dat overheidsbeleid en onderwijsnormen veranderen op basis van de effecten van ChatGPT en vergelijkbare tools, is het belangrijk om zoveel mogelijk informatie te verzamelen.

Onderzoekers van MIT bevestigden dit in de conclusie van het onderzoek.

“Wij zijn van mening dat longitudinale studies nodig zijn om de langetermijngevolgen van LLM’s op het menselijk brein te begrijpen, voordat LLM’s als iets positiefs voor mensen kunnen worden erkend.”

Het MIT-onderzoek is nog niet door vakgenoten beoordeeld en de steekproefomvang was klein. Hoewel het een goede stap is in de richting van het verzamelen van relevante informatie, is er nog vervolgonderzoek nodig.

Maakt ChatGPT mensen dommer?

In het onderzoek werd ook gekeken naar de impact van het gebruik van een groot taalmodel (LLM) zoals ChatGPT om een ​​essay te schrijven over de prestaties, wanneer deelnemers later dezelfde taak moesten uitvoeren zonder AI-assistentie.

Onderzoekers hebben gesuggereerd dat deze trend mogelijk te wijten is aan de "cognitieve uitputting" van AI. Met andere woorden, het gebruik van tools zoals ChatGPT vermindert het denkvermogen, wat mogelijk leidt tot een langdurige achteruitgang van cognitieve vaardigheden. Dit fenomeen, dat experts "digitale hersenatrofie" noemen, suggereert dat een te grote afhankelijkheid van AI onze fundamentele mentale vermogens mogelijk aantast.

In een onderzoek uitgevoerd door Microsoft-onderzoekers in samenwerking met Carnegie Mellon University, werden de effecten van generatieve AI op kritisch denken onderzocht. De onderzoekers vergeleken de effecten van generatieve AI op spieratrofie en legden uit dat het niet gebruiken van cognitieve vaardigheden net zo tot zwakte leidt als het niet gebruiken van spieren.

Als data de theorie blijven ondersteunen dat het gebruik van generatieve AI-modellen leidt tot een langdurige afname van hersenactiviteit en kritisch denken, kunnen er wijdverbreide gevolgen zijn. Onderwijsinstellingen en bedrijven moeten heroverwegen hoe ze deze tools integreren om ervoor te zorgen dat ze de cognitieve ontwikkeling niet belemmeren.

Uit een onderzoek van de krant bleek dat The Guardianen publiceerde het AI CommissieGeneratieve AI-tools zoals ChatGPT worden vaak door studenten gebruikt om te spieken. Dit onethische gebruik roept ernstige vragen op over de academische integriteit en de impact van AI op de onderwijswaarden.

Als studenten en werknemers overmatig afhankelijk zijn van ChatGPT en vergelijkbare tools, kunnen ze bepaalde taken minder goed zelfstandig uitvoeren. Deze afhankelijkheid kan leiden tot een afname van basisvaardigheden zoals schrijven, kritisch denken en probleemoplossend vermogen, wat de concurrentie op de arbeidsmarkt bedreigt.