Kunstmatige intelligentie: een veiligheidscrisis waar de wereld niet op voorbereid was.
Ontdek het ernstige beveiligingsprobleem met betrekking tot AI waar niemand op voorbereid was. Leer meer over de verborgen uitdagingen en reële risico's die onze toekomst bedreigen.
De belangrijkste dingen die je moet weten
- De AI-veiligheidsnormen die door landen met een hoog inkomen worden vastgesteld, creëren blinde vlekken en ernstige risico's bij de inzet van modellen in regio's met verschillende talen, culturen en trainingsgegevens, wat kan leiden tot ernstige fouten op gevoelige gebieden zoals de gezondheidszorg.
- De snelle wereldwijde verspreiding van kunstmatige intelligentie vereist dat de veiligheidsinfrastructuur in hetzelfde tempo wordt uitgebreid, met de nadruk op het waarborgen dat chatbots de taal van gebruikers begrijpen en accurate en niet-misleidende informatie verstrekken.
- Taalverschillen creëren een nieuwe lacune in de beveiliging van AI, waarbij gebruikers verschillende niveaus van bescherming krijgen voor hetzelfde product, en de kans groter wordt dat modellen worden gefabriceerd op basis van informatie in talen met weinig trainingsdata.
AI -bedrijven besteden enorme middelen aan de vraag wat er zal gebeuren naarmate hun modellen geavanceerder worden. OpenAI nam vorige maand zelfs de ongebruikelijke stap om de training van een van zijn modellen tijdelijk stop te zetten vanwege veiligheidsrisico's, aangezien de sector te maken heeft met risico's die variëren van autonoom gedrag tot steeds geavanceerdere cybermogelijkheden.
Maar er is nog een ander veiligheidsprobleem met AI dat vaak over het hoofd wordt gezien: de beveiligingsmaatregelen die in deze systemen zijn ingebouwd, werken niet per se even goed voor iedereen. Een nieuw rapport van Rest of World benadrukt dat de inspanningen op het gebied van AI-veiligheid zich nog steeds grotendeels richten op de behoeften van rijke, Engelstalige landen. Dit kan ertoe leiden dat bevolkingsgroepen in delen van Azië, Afrika en andere ontwikkelingsregio's te maken krijgen met fundamentele en mogelijk ernstige problemen, zoals chatbots die hun taal niet begrijpen.
De veiligheid van kunstmatige intelligentie ziet er buiten Silicon Valley heel anders uit.
Veel grote AI-bedrijven hebben omvangrijke teams die zich bezighouden met vertrouwen en veiligheid, maar de normen die worden gebruikt om modellen te evalueren, worden grotendeels gevormd in landen met een hoog inkomen. Onderzoekers stellen dat dit blinde vlekken creëert wanneer dezelfde modellen worden ingezet in gebieden met andere talen, infrastructuur, wetgeving en culturele verwachtingen. De gezondheidszorgsector is een bijzonder zorgwekkend voorbeeld. Onderzoek naar AI-systemen voor natuurlijke taalverwerking die in Afrika worden gebruikt, heeft vertaalfouten aan het licht gebracht met betrekking tot medische terminologie. In het Tigrinya verwarde de machinevertaling bijvoorbeeld pokken met syfilis en vertaalde zelfs 'intraveneuze antibiotica' als 'intraveneuze insecticiden'.
Het probleem gaat verder dan alleen vertaling. Onderzoek heeft aangetoond dat AI-modellen vaker informatie kunnen verzinnen in talen met relatief weinig trainingsdata. Beveiligingsmaatregelen die zijn ontworpen om kwaadwillige verzoeken in het Engels te detecteren, presteren mogelijk slechter of zijn gemakkelijker te omzeilen in andere talen. Dit is met name relevant omdat mensen steeds vaker chatbots gebruiken voor gezondheidsinformatie en andere belangrijke beslissingen. Dit creëert in feite een nieuwe AI-kloof: twee mensen kunnen hetzelfde product gebruiken en een totaal ander beschermingsniveau ervaren, simpelweg omdat ze een andere taal spreken.
De toepassing van kunstmatige intelligentie hoeft niet te wachten tot de veiligheidsnormen zijn aangepast.
Dit vraagstuk is nu bijzonder belangrijk, gezien de snelgroeiende belangstelling voor kunstmatige intelligentie in veel van deze markten. China is wellicht het duidelijkste voorbeeld. We hebben al gezien hoe de adoptie van AI zich ver buiten de techbedrijven heeft verspreid, met uiteenlopende entiteiten, van scholen tot lokale overheden, die de technologie omarmen. Het heeft zelfs de dumplingrestaurants in Peking bereikt, waar een bedrijf klanten AI-tokens begon te geven en AI-gestuurde wachtrijbeheersystemen ontwikkelde. Dit enthousiasme is niet per se een probleem. Onderzoekers waarschuwen echter dat de veiligheidsinfrastructuur in hetzelfde tempo moet worden uitgebreid.
Overheden zijn begonnen te reageren. AI-veiligheid staat centraal in talrijke internationale initiatieven, waaronder de Bletchley-verklaring en de AI-top van dit jaar in India, terwijl China ook mechanismen heeft voorgesteld voor het beheersen van AI-risico's in ontwikkelingslanden. De grootste uitdaging is ervoor te zorgen dat "AI-veiligheid" niet simpelweg betekent dat een toekomstig model zijn grenzen niet mag overschrijden of een cyberaanval mag uitvoeren. Voor de miljoenen mensen die deze tools al gebruiken, kan veiligheid veel eenvoudiger zijn: ervoor zorgen dat chatbots hun taal begrijpen, herkennen wanneer het urgent is en hen niet vol vertrouwen valse en gevaarlijke informatie voorschotelen . Naarmate AI alomtegenwoordiger wordt in het dagelijks leven, zijn deze problemen niet langer uitzonderlijk. Ze zijn onderdeel geworden van wat het betekent om AI echt veilig te maken.
Reacties zijn gesloten.