Het overbruggen van de verantwoordingskloof: een voorwaarde voor het inzetten van AI-agenten in bedrijven.

Wanneer bedrijven en overheden operationele taken delegeren aan AI -systemen , begint de discussie vaak met de vraag naar de mogelijkheden. Kan AI taken uitvoeren die mensen doen, zoals het afhandelen van rekeningen, onderhandelen met leveranciers, documenten ondertekenen of openbare verklaringen indienen? En kan het dat snel en goedkoop genoeg doen om de inzet ervan te rechtvaardigen?

Deze vragen zijn belangrijk, maar prestaties vormen slechts een deel van het verhaal. Zodra een agent zelfstandig handelt, ontstaan ​​er andere vragen: Wie heeft hem of haar daartoe gemachtigd, wiens belangen behartigt hij of zij, waar eindigen de bevoegdheden, en misschien wel het belangrijkste: wie is verantwoordelijk als er iets misgaat?

Dit is de verantwoordingslacune bij proxy-AI , en geen enkel geavanceerder model zal die overbruggen. De proxy kan zeer capabel zijn, maar zich toch op ongewenste of zelfs illegale manieren gedragen.

De enige manier om deze kloof te overbruggen is door middel van een systeem met duidelijke controle op bevoegdheden en een auditspoor dat elke actie van de agent koppelt aan de persoon die hem daartoe heeft gemachtigd, en dat primair onderscheid kan maken tussen een mens en een machine.

Een normale vergissing van uitzonderlijke omvang.

Wanneer mensen nadenken over de gevaren van kunstmatige intelligentie, stellen ze zich vaak een machine voor die bevrijd is van menselijke controle en haar eigen doelen nastreeft. Maar een meer direct en minder dramatisch risico is dat een systeem herhaaldelijk een fout maakt bij een routinetaak , zonder duidelijke verantwoordelijkheids- of aansprakelijkheidslijnen.

Eén persoon kan een factuur naar de verkeerde klant sturen. Maar een agent die verbonden is met een complete klantendatabase kan dezelfde factuur naar duizenden klanten sturen. Ze kunnen een veld onjuist wijzigen en die wijziging vervolgens in de hele marktplaats herhalen, niet omdat ze kwaadwillig handelen, maar omdat ze bepaalde instructies verkeerd hebben begrepen en de bevoegdheid hadden om ernaar te handelen.

De snelheid waarmee een agent waardevol wordt, kan bedrijven honderden uren besparen, maar kan ook een kleine, oplosbare fout veranderen in een ernstig operationeel probleem.

Wanneer een agent een e-mail opstelt die iemand moet nakijken, is deze onduidelijkheid wellicht niet zo belangrijk, omdat die persoon de schakel blijft tussen het programma en de buitenwereld.

Maar wanneer ze een bericht kunnen versturen, een afschrift kunnen indienen of geld kunnen overmaken, is het een heel ander verhaal. Stel je voor dat je een assistent vraagt ​​om één vlucht te boeken, en in plaats van een bedrijfskaart met een redelijke bestedingslimiet te geven, geef je hem of haar je paspoort, bankpas en kantoorsleutels. Je vertrouwt de assistent misschien volledig, maar de verleende bevoegdheid is niet redelijkerwijs passend voor de taak.

De grenzen bepalen en het probleem oplossen

AI-agenten kunnen geen nationaliteit of rechtspersoonlijkheid hebben, maar ze kunnen wel op juridisch verantwoorde wijze aan natuurlijke personen worden gekoppeld. Zo kan een betrouwbare identificatiecode de activiteiten van een agent herleiden tot de persoon die ze heeft geplaatst. In combinatie met duidelijke bevoegdheden en autorisaties die de voorwaarden van hun autoriteit inzichtelijk en controleerbaar maken, stelt dit AI-agenten in staat om een ​​reeks handelingen en transacties op een meer gecontroleerde en transparante manier uit te voeren.

Deze controlemechanismen kunnen zeer specifiek zijn. Een agent kan bijvoorbeeld financiële informatie inzien zonder deze te wijzigen, een betaling voorbereiden zonder goedkeuring, of bestellingen plaatsen bij specifieke leveranciers tot een bepaald maximumbedrag. Hun bevoegdheden kunnen gelden voor één enkele transactie, één enkele werkdag of de duur van een specifiek contract, waarna ze automatisch vervallen zonder dat iemand hen eraan hoeft te herinneren ze te deactiveren.

Het intrekken van deze toegang moet net zo eenvoudig zijn. Als een bedrijf de relatie met een agent beëindigt, van leverancier verandert of een fout ontdekt, moet het de toegang onmiddellijk kunnen intrekken zonder de inloggegevens van de verantwoordelijke persoon te hoeven wijzigen.

De wettelijke bevoegdheid van de agent op de verschillende gebieden van deze controles heeft een langere levensduur dan elk individueel AI-model, dat in de loop der tijd zal worden geüpgraded, vervangen en samengevoegd, vaak zonder dat de klant meer merkt dan een nieuw versienummer.

Het idee in de praktijk brengen

Estland heeft besloten deze problemen nu aan te pakken. In juni is de overheid begonnen met de ontwikkeling van een door de staat gesteund registratiesysteem voor AI-agenten, dat beschikbaar zal zijn voor zowel Estse burgers als de wereldwijde ondernemersgemeenschap van het land. Dit is bedoeld om te onderzoeken hoe Estland, een volledig digitale staat waar alle publieke diensten online beschikbaar zijn, zich kan openstellen voor de opkomende golf van AI- gestuurde bedrijven.

Volgens het huidige voorstel zou een persoon een geregistreerde digitale identificatiecode ontvangen die gekoppeld kan worden aan een of meer agenten die namens hem of haar optreden. De acties van de AI-agent zouden worden beschouwd als machinale acties, en de natuurlijke persoon, die als identiteitsanker fungeert, zou aansprakelijk worden gesteld, bijvoorbeeld in gevallen van fouten die voortvloeien uit overmatig vertrouwen op AI. De AI-agent zou alleen binnen de grenzen van zijn of haar toegewezen bevoegdheden mogen opereren.

Om transparantie te garanderen, moeten particuliere dienstverleners ook weten of het proces door een persoon of door een machine namens hen is uitgevoerd. Dit stelt hen in staat om effectief passende controles, beperkingen en risicomodellen toe te passen.

Ontworpen voor delegatie

Deze aanpak is gebaseerd op meer dan twintig jaar ervaring met digitale overheid. In Estland maakt een systeem van persoonsidentificatienummers en digitale identiteiten het al mogelijk voor individuen om namens anderen te handelen, met duidelijk omschreven bevoegdheden.

Een accountant kan belastingaangiften indienen voor een cliënt, een volwassene kan de gezondheid van zijn of haar bejaarde ouders beheren via een gezondheidsportaal, en meerdere personen kunnen een bedrijfsbankrekening gebruiken met individuele machtigingen en beperkingen. In principe zou ditzelfde raamwerk de mogelijkheden van AI-agenten kunnen ondersteunen.

Dit zou gebruikers meer vertrouwen geven dat er waarborgen zijn om de verantwoordelijke partij te beschermen tegen mogelijke fouten die een AI-agent zou kunnen maken. Het zou ook helpen de verantwoordingskloof te dichten naarmate de activiteiten van deze agenten toenemen.

Voordat AI-agenten uitvoerende bevoegdheden kunnen krijgen, hebben ze een technisch en juridisch bindend kader nodig waarin wordt vastgelegd wie ze vertegenwoordigen, wat ze kunnen doen en wie verantwoordelijk blijft voor hun daden.