Kunstmatige intelligentie: Het echte gevaar schuilt in ons heden, niet in de verbeelding van de toekomst.

Maar dit heeft Silicon Valley er niet van weerhouden om kunstmatige algemene intelligentie (AGI) te beschouwen als zowel een aanstaand wonder als een dreigend monster. AGI zou het moment moeten markeren waarop een machine de menselijke intelligentie kan evenaren in een breed scala aan taken, hoewel er geen overeenstemming bestaat over welke taken, welke mensen of wat intelligentie precies inhoudt.

Nvidia-CEO Jensen Huang gelooft dat dit al is gebeurd en onopgemerkt is gebleven. Tijdens de recente presentatie van de kwartaalcijfers van Nvidia verklaarde hij : "Voor veel taken kunnen we zeggen dat we al kunstmatige algemene intelligentie (AGI) hebben bereikt." Hij voegde eraan toe dat dergelijke prestaties "in dit stadium enigszins betekenisloos zijn." Vaarwel Skynet dus.

Maar hij heeft gelijk dat het concept van algemene kunstmatige intelligentie (AGI) als maatstaf voor vooruitgang vrijwel nutteloos is geworden. Bedrijven kunnen het herdefiniëren op basis van waar hun nieuwste model in uitblinkt. Het is marketing, geen wetenschappelijke standaard.

Rampzalige afleiding

Maar kunstmatige intelligentie is niet onschuldig, zelfs als ze geen voorliefde heeft voor het spelen met kernbommen. Er zijn minder dramatische gevaren verbonden aan AI, die worden aangewakkerd door menselijke hebzucht en eeuwenoude kwaadwilligheid.

Kunstmatige intelligentie kan tegenwoordig talloze frauduleuze materialen produceren. Het kan stemmen en gezichten zo nauwkeurig nabootsen dat het dierbaren kan misleiden en hun geld kan stelen, phishing-e-mails gebruiken om beveiligde servers te hacken en sociale netwerken overspoelen met eindeloos ruziezoekende, nepaccounts. Niets hiervan kwalificeert zich als algemene kunstmatige intelligentie (AGI) volgens een serieuze definitie, maar dat onderscheid biedt weinig troost aan iemand die een nepopname hoort van een familielid dat om geld smeekt.

De obsessie met algemene kunstmatige intelligentie (AGI) kan de zaken voor regelgevers juist ingewikkelder maken.

Winst is geen goede maatstaf.

Huang betoogde dat het concept van kunstmatige algemene intelligentie (AGI) vervangen zou moeten worden. We zouden moeten kijken of het "productief en nuttig werk verricht" en "winstgevende code genereert". Dit is logisch voor Nvidia, maar voor gewone mensen die zich zorgen maken over AI, is winstgevendheid geen betrouwbare maatstaf voor de veiligheid.

Fraude is winstgevend, vandaar dat het zo veel voorkomt. Het vervangen van menselijke medewerkers door een AI-model dat 30% van de kwaliteit levert voor 10% van de prijs is winstgevend (op de korte termijn). Geen van beide uitkomsten is iets om trots op te zijn wanneer je de resultaten van je product beschrijft.

Het is logisch om de obsessie en angst voor kunstmatige algemene intelligentie (AGI) los te laten, maar dat betekent niet dat AI-bedrijven achterover kunnen leunen. Intelligentie is veel te complex om de enige bron van angst te zijn. Macht biedt wellicht een beter perspectief. We kunnen meten wie AI gebruikt, hoe, en wie verantwoordelijk wordt gehouden als het mislukt. Pas dan zullen we de diepgaande impact ervan op ons leven echt begrijpen.

Discussies over aansprakelijkheid, identiteitsverificatie, eigendom en andere juridische details zijn misschien niet zo visueel aantrekkelijk als wolken, maar toezichthouders zouden AI-bedrijven moeten dwingen om zich daar wél op te richten. We zouden menselijke handen achter toetsenborden moeten monitoren, niet de eeuwig uitgestelde komst van Skynet.