Organisaties kunnen echter maar weinigen met volledige zekerheid zeggen hoeveel agenten er in hun omgeving actief zijn, tot welke gegevens elk toegang heeft, of wie er precies verantwoordelijk is als er iets misgaat.

Deze lacune zou de agentworkflow kunnen veranderen van een veelbelovende technologische ontwikkeling in een potentieel mijnenveld van risico's, tenzij bedrijven een nieuwe benadering van governance hanteren – een benadering die meer toezicht biedt op hoe agents opereren en op de systemen waartoe ze toegang hebben, die ze kunnen vertrouwen en die ze kunnen gebruiken.

Verwacht geen perfectie.

De markt reageerde op de potentiële dreiging van AI-agenten die op hol slaan met een golf van nieuwe tools: platformen voor het opsporen van actieve agenten en tools voor het inperken van agenten, waarmee ze binnen vooraf gedefinieerde grenzen worden gehouden. Beide zijn nuttig, maar geen van beide lost het probleem op zichzelf op.

De uitdaging om AI-agenten te "beheersen" wordt versterkt door het snelle tempo van de veranderingen. Nieuwe agenttools, nieuwe versies van AI-modellen en nieuwe coördinatiemogelijkheden verschijnen in een tempo dat elk bestaand bestuursmodel binnen enkele maanden achterhaald maakt.

In plaats van te wachten tot er een 'perfect' bestuurskader als standaard ontstaat, zouden organisaties nu al stappen moeten ondernemen om een ​​werkbare structuur te creëren die in de loop der tijd kan meegroeien.

Hoe zou dit er in de praktijk uitzien?

Continue bewaking en nauwkeurige controle

Beleid en procedures alleen bieden geen garantie voor wat daadwerkelijk werkt in een productieomgeving. Organisaties hebben een registratie- en detectieproces nodig dat elke gebruikte agent vastlegt, niet alleen de agents die teams hebben opgegeven te hebben gebouwd.

Echte inzichten ontstaan ​​door de omgeving zelf voor te bereiden, gebruik te maken van de registratie- en monitoringgegevens die door de onderliggende modellen worden gegenereerd, en daar bovenop analyses te bouwen. Alleen deze ruwe data kunnen onthullen wat de agent daadwerkelijk doet, hoe vaak en tegen welke kosten, in plaats van te vertrouwen op wat mensen denken dat hij doet.

Een andere cruciale stap is de overgang van algemene naar verfijnde controles. Het uniform toepassen van één algemeen beheerssysteem binnen een organisatie beperkt bijvoorbeeld de reikwijdte zonder de risico's effectief aan te pakken. Verschillende gebruiksscenario's vereisen verschillende niveaus van beperking, en het gelijk behandelen van elke gebruiker beperkt ofwel waardevol werk te veel, ofwel risicovol werk te weinig.

De controlemechanismen moeten worden gedefinieerd op het niveau van de individuele agent en diens specifieke taak, niet op het niveau van de organisatie als geheel. Naarmate agenten andere agenten gaan benaderen om een ​​taak te voltooien, wordt deze precisie nog crucialer: elke agent heeft een duidelijke en specifieke definitie nodig van wat hij kan doen en waartoe hij toegang heeft, zodat elke overschrijding van deze gedefinieerde scope direct zichtbaar is.

Met al het bovenstaande in gedachten moeten bedrijven een "controleren, niet aannemen"-aanpak hanteren. Het ontwikkelen van een beheersingssysteem of een conceptueel beleid is slechts de eerste stap. Bevestigen dat het daadwerkelijk standhoudt onder realistische omstandigheden is een apart en doorlopend proces.

Een nuttige aanpak is om conceptuele controlemechanismen te combineren met een logische of fysieke handhavingslaag: een instrument dat kan bevestigen wat afdwingbaar is, waarmee de agent kan interageren en of hij zich in de praktijk aan deze grenzen houdt.

Continue monitoring van het beleid, in plaats van eenmalige goedkeuring, bewijst dat het beheersingssysteem werkt, omdat de mogelijkheden van de agent en de bijbehorende hulpmiddelen vrijwel dagelijks veranderen.

Toegang is niet de enige variabele.

Discussies over governance richten zich doorgaans bijna uitsluitend op de informatie waartoe een agent toegang heeft. Net zo belangrijk is de volgorde waarin de agent die informatie verkrijgt. Een agent die informatie in de verkeerde volgorde verzamelt, of gegevens verwerkt voordat een volgende stap is voltooid, kan tot foutieve resultaten leiden, zelfs als elke afzonderlijke actie technisch gezien is toegestaan.

Sommige workflows vereisen dat stappen parallel worden uitgevoerd; andere vereisen een specifieke volgorde om de meest nauwkeurige resultaten te garanderen. Door voor elk gebruiksscenario een aparte, goed gedefinieerde operationele volgorde te creëren, in plaats van het model zelf de volgorde van bewerkingen te laten bepalen, wordt dit type fout aanzienlijk verminderd.

Dit is zowel een probleem op het gebied van procesontwerp als een technisch probleem, en het hangt ervan af of mensen de use case duidelijk definiëren voordat ze tools gaan gebruiken.

Een gedisciplineerde aanpak beperkt de risico's voor agenten.

Geen van deze elementen werkt op zichzelf. Detectie zonder strenge controles zorgt ervoor dat organisaties zich bewust zijn van wat er is, maar het niet kunnen beheersen. Beveiligingssystemen zonder verificatie creëren een vals gevoel van veiligheid. En governance die zich uitsluitend richt op toegang, negeert belangrijke variabelen die tot risico's kunnen leiden.

Organisaties die dit goed aanpakken, beschouwen agentgovernance als een uitbreiding van de bestaande IT- en datagovernance en passen dezelfde discipline toe als voor oudere kernsystemen, in plaats van het als een bijzaak te beschouwen.

Gezien de snelle veranderingen in het technologische landschap, is deze holistische, gecontroleerde aanpak essentieel om ervoor te zorgen dat agentgebaseerde AI waarde blijft leveren – en om het risico te verkleinen dat agents uit de hand lopen.

We hebben de beste tools voor kunstmatige intelligentie besproken.

Dit artikel is tot stand gekomen als onderdeel van DzTecnium Pro Perspectives , ons kanaal waarop we de beste en meest briljante geesten in de hedendaagse technologiebranche presenteren.

De hier geuite meningen zijn die van de auteur en weerspiegelen niet noodzakelijkerwijs de standpunten van DzTecniumPro of Future plc. Als u wilt bijdragen, kunt u hier meer informatie vinden: https://www.techradar.com/pro/perspectives-how-to-submit