Een nieuw onderzoek dat deze maand werd gepubliceerd door de Association for the Advancement of Artificial Intelligence (AAAI), waaraan honderden AI-onderzoekers deelnamen, heeft een belangrijke bevinding: het is onwaarschijnlijk dat onze huidige benadering van AI zal leiden tot kunstmatige algemene intelligentie.
Kunstmatige intelligentie (AI) is de afgelopen jaren een populair gespreksonderwerp geweest, maar AI als wetenschappelijk onderzoeksgebied bestaat al tientallen jaren. Zo werden in 1950 het beroemde artikel "Computing Machinery and Intelligence" van Alan Turing gepubliceerd, en ook de Turing-test waar we vandaag de dag nog steeds over spreken.
De AI waar iedereen het tegenwoordig over heeft, is ontstaan uit tientallen jaren van onderzoek, maar beweegt zich er ook steeds verder van af. In plaats van een wetenschappelijk onderzoeksgebied hebben we nu ook een aparte tak van AI die we 'commerciële AI' kunnen noemen.
Grote monopolies zoals Microsoft, Google, Meta, Apple en Amazon zijn koplopers op het gebied van commerciële AI-inspanningen, met als voornaamste doel het creëren van AI-producten. Dit zou geen probleem moeten zijn, maar het lijkt er nu wel op.
Ten eerste, aangezien de meeste mensen pas de afgelopen twee jaar AI-onderzoek hebben gevolgd, is alles wat de gemiddelde persoon over AI weet afkomstig van deze bedrijven en niet van de wetenschappelijke gemeenschap. De studie behandelt dit probleem in het hoofdstuk "AI-perceptie versus realiteit", waarin 79% van de deelnemende wetenschappers van mening is dat de huidige perceptie van AI-mogelijkheden niet overeenkomt met de realiteit van AI-onderzoek en -ontwikkeling.
Met andere woorden: wat het grote publiek denkt dat AI kan, komt niet overeen met wat wetenschappers denken dat AI kan. De reden hiervoor is even simpel als ongelukkig: als een topman in de techsector een uitspraak doet over AI, is dat geen wetenschappelijke mening, maar productmarketing. Ze willen reclame maken voor de technologie die ten grondslag ligt aan hun nieuwe producten en ervoor zorgen dat iedereen zin krijgt om mee te doen.
Als Sam Altman of Mark Zuckerberg bijvoorbeeld zeggen dat banen in softwareontwikkeling zullen worden vervangen door kunstmatige intelligentie, is dat omdat ze ingenieurs willen stimuleren om AI-vaardigheden te leren en technologiebedrijven willen overhalen om te investeren in dure bedrijfsplannen. Maar tenzij ze hun ingenieurs daadwerkelijk gaan vervangen (en daarvan profiteren), geloof ik persoonlijk geen woord van wat ze erover zeggen.
Commerciële AI beïnvloedt echter niet alleen de perceptie van het publiek. Deelnemers aan het onderzoek zijn van mening dat de door grote technologiebedrijven gecreëerde ‘AI-hype’ schadelijk is voor onderzoeksinspanningen. Zo is 74% het ermee eens dat de richting van AI-onderzoek wordt bepaald door hype. Dit komt waarschijnlijk doordat onderzoek dat aansluit bij commerciële AI-doelen makkelijker te financieren is. 12% is ook van mening dat theoretisch AI-onderzoek hieronder lijdt.
Hoe ernstig is dit probleem? Ook al beïnvloeden grote technologiebedrijven het soort onderzoek dat wij doen, de enorme bedragen die zij vermoedelijk in dit vakgebied steken, zouden over het geheel genomen een positieve impact moeten hebben. Maar variatie is essentieel als het om onderzoek gaat: we moeten allerlei verschillende paden bewandelen om kans te maken het beste pad te vinden.
Maar grote techbedrijven richten zich momenteel maar op één ding: grote taalmodellen. Dit zeer specifieke type AI-model is de drijvende kracht achter bijna alle nieuwste AI-producten, en mensen zoals Sam Altman geloven dat we uiteindelijk algemene AI zullen bereiken door deze modellen steeds grootschaliger te maken (d.w.z. door ze meer data, meer trainingstijd en meer rekenkracht te geven).
Dit idee, ook wel de schaalhypothese genoemd, stelt dat hoe meer kracht we in AI stoppen, hoe groter de cognitieve capaciteiten ervan zijn en hoe lager de foutmarge. Sommige interpretaties beweren ook dat er onverwacht nieuwe cognitieve vaardigheden ontstaan. Grote taalmodellen zijn nu nog niet zo goed in het plannen en redeneren over problemen, maar op een gegeven moment moeten deze vaardigheden zich toch ontwikkelen.
er is geen muur
— Sam Altman (@sama) 14 november 2024
De schaalhypothese heeft de afgelopen maanden echter aanzienlijke kritiek te verduren gekregen. Sommige wetenschappers geloven dat het opschalen van grote taalmodellen nooit zal leiden tot algemene kunstmatige intelligentie. Zij stellen dat alle extra rekenkracht die we aan nieuwe modellen geven , geen resultaten meer oplevert. In plaats daarvan zijn we tegen een "schaalmuur" of "schaallimiet" aangelopen, waarbij grote hoeveelheden extra rekenkracht en data slechts tot kleine verbeteringen van de nieuwe modellen leiden. De meeste wetenschappers die betrokken zijn bij de AAAI-studie staan aan deze kant van het argument:
De meerderheid van de respondenten (76%) gaf aan dat het "onwaarschijnlijk" of "zeer onwaarschijnlijk" is dat "het opschalen van huidige AI-benaderingen" zal slagen om AGI te bereiken. Dit duidt op twijfels of huidige machine learning-modellen voldoende zijn om algemene intelligentie te bereiken.
De huidige, complexe taalsystemen kunnen zeer relevante en nuttige reacties produceren wanneer alles goed gaat, maar ze zijn daarvoor afhankelijk van wiskundige principes . Veel wetenschappers geloven dat we nieuwe algoritmen nodig hebben die logica, redenering en feitelijke kennis gebruiken om tot een oplossing te komen, willen we vooruitgang boeken in de richting van algemene kunstmatige intelligentie. Hier volgt een vernietigend citaat over complexe taalsystemen en algemene kunstmatige intelligentie uit een artikel uit 2022 van Jacob Browning en Jan LeCun.
Een systeem dat enkel op taal is getraind, zal nooit in de buurt komen van de menselijke intelligentie, zelfs niet als het vanaf nu getraind zou worden totdat de warmte van het heelal is verdwenen.
Maar we weten nog niet echt wie hier is. Enerzijds is de definitie van algemene kunstmatige intelligentie niet vastomlijnd en streeft niet iedereen hetzelfde na. Sommige mensen geloven dat algemene kunstmatige intelligentie (AI) mensachtige reacties moet produceren met behulp van mensachtige methoden – dat wil zeggen dat het de wereld om zich heen moet observeren en problemen op een vergelijkbare manier moet oplossen als wij. Anderen vinden dat algemene AI zich meer moet richten op correcte antwoorden in plaats van op menselijke antwoorden, en dat het niet uitmaakt welke methoden ze daarvoor gebruiken.
In veel opzichten maakt het echter niet echt uit in welke versie van algemene AI je geïnteresseerd bent of of je voor of tegen de schaalhypothese bent – we moeten onze onderzoeksinspanningen hoe dan ook diversifiëren. Als we ons uitsluitend richten op het schalen van grote taalmodellen, moeten we helemaal opnieuw beginnen als ze niet werken, en lopen we het risico nieuwe, effectievere of efficiëntere methoden te missen. Veel van de wetenschappers die bij dit onderzoek betrokken zijn, vrezen dat commerciële AI en de hype eromheen de echte vooruitgang zullen vertragen – maar we kunnen alleen maar hopen dat hun zorgen worden weggenomen en dat beide takken van AI-onderzoek naast elkaar kunnen bestaan en samen vooruitgang kunnen boeken. Natuurlijk kun je ook hopen dat de AI-bubbel barst en alle AI-gestuurde technologieproducten in de vergetelheid raken, als je dat liever hebt.
Reacties zijn gesloten.