Een gids voor het versnellen van de adoptie van AI: veiligheid zonder onnodige risico's.

De afgelopen 18 maanden zijn onze teams niet langer alleen aan het discussiëren over de vraag óf we AI moeten gebruiken , maar ook hoe snel we het kunnen implementeren. De lastigere vraag is hoe we teams in staat kunnen stellen snel genoeg te handelen om de voordelen van AI te maximaliseren, zonder dat het risicoprofiel van het bedrijf sneller groeit dan het kan beheersen en reguleren.

Jason Taylor

Chief Technical Officer (CTO) en Chief Information Security Officer (CISO) bij Entrata.

Dit dilemma is bekend bij leiders in de technologie- en cybersecuritysector, aangezien kunstmatige intelligentie twee ogenschijnlijk tegenstrijdige eisen stelt. Enerzijds streeft de IT-afdeling van een organisatie naar experimenten, toegankelijkheid, snelheid en de mogelijkheid om daadwerkelijke productiviteitswinst te behalen. Anderzijds heeft de beveiligingsafdeling behoefte aan controle, verantwoording, databegrenzing en de zekerheid dat de nieuwe workflow niet tot vermijdbare risico's zal leiden.

Beide benaderingen zijn geldig, en daarom worstelen bedrijven wanneer ze AI beschouwen als een puur innovatief project of een puur beveiligingsprobleem. Het is een paradigmaverschuiving, en de organisaties die hier effectief mee omgaan, zijn degenen die voldoende infrastructuur en robuuste tools bouwen om teams in staat te stellen vol vertrouwen te handelen, in plaats van hen te dwingen te kiezen tussen snelheid en controle.

Begin met het werk, niet met het gereedschap.

Veel bedrijven benaderen de implementatie van AI aanvankelijk alsof het de lancering van een standaard softwareprogramma betreft. Ze kiezen een leverancier, verstrekken licenties, publiceren richtlijnen en gaan ervan uit dat het gebruik ervan vanzelf transformatief zal zijn. Deze aanpak kan weliswaar activiteit genereren, maar leidt zelden tot blijvende operationele veranderingen.

Echte implementatie begint wanneer leiders begrijpen hoe ze de klus daadwerkelijk moeten klaren. Het financiële team, het productteam, het marketingteam, het supportteam en het engineeringteam zullen AI-tools niet op dezelfde manier gebruiken, omdat elke groep andere kennisbehoeften, diverse databronnen, verschillende risicodrempels en unieke expertise heeft. Elk van deze teams zal AI-specifieke vaardigheden en tools moeten ontwikkelen.

Leiders zouden moeten beginnen met de vraag wat elke functie beoogt te bereiken, welke kennis nodig is om betere beslissingen te nemen, welke vaardigheden vereist zijn om kunstmatige intelligentie op verantwoorde wijze te gebruiken en welke tools of gegevensbronnen nodig zijn om een ​​betrouwbaar resultaat te produceren.

Wanneer kunstmatige intelligentie aan deze mogelijkheden wordt gekoppeld, wordt het een integraal onderdeel van de manier waarop een organisatie opereert ; wanneer het wordt toegepast op processen die er niets mee te maken hebben, levert het vaak een positief effect op zonder noodzakelijkerwijs tot betere resultaten te leiden.

Het behandelen van gegevenstoegang als een risico-ontwerpprobleem.

Toegang tot data is een van de belangrijkste gebieden waarop AI het werkmodel verandert. Om AI echt nuttig te laten zijn, hebben teams vaak toegang nodig tot informatie die ze voorheen niet direct hebben gebruikt.

Het marketingteam heeft mogelijk productdocumentatie en klantinzichten nodig, terwijl het financiële team gestructureerde operationele gegevens nodig heeft en het supportteam wellicht behoefte heeft aan specialistische kennis en historische context, evenals het vermogen om patronen in verschillende systemen te herkennen.

De neiging om de toegang tot data te verruimen is begrijpelijk; kunstmatige intelligentie wint aan waarde met een bredere context. Omgekeerd is de neiging om de toegang te beperken ook begrijpelijk, aangezien ruimere toegang zorgen kan oproepen over privacy, naleving van wet- en regelgeving en beveiliging. De oplossing ligt niet in het bevoordelen van het een boven het ander, maar in het ontwikkelen van een systematischer model om te bepalen welke data gebruikt mogen worden, door wie en voor welk doel.

In een project voor de implementatie van AI binnen een bedrijf was de praktische oplossing bijvoorbeeld niet om elk team toegang te geven tot alles, of om AI te beperken tot een puur technische functie. In plaats daarvan werd minder kritieke operationele data gescheiden van meer gevoelige informatie, en werden teams vervolgens voldoende toegang gegeven om anders te werken, terwijl de potentiële schade als een workflow zich onverwacht gedroeg, tot een minimum werd beperkt.

Een nuttige manier om hierover na te denken is door het concept van 'data-impact' te gebruiken. Niet elke dataset brengt hetzelfde risico met zich mee, en niet elke AI-toepassing vereist dezelfde mate van beperking. Sommige informatie kan toegankelijker worden gemaakt omdat de potentiële schade bij een fout beperkt is, terwijl andere informatie, met name persoonsgegevens of gevoelige klantgegevens, veel strengere controles vereist.

Deze aanpak stelt teams in staat te experimenteren op gebieden met lagere risico's, terwijl tegelijkertijd een sterkere governance wordt gehandhaafd waar de organisatie dit echt nodig heeft. Het doel is niet om de beveiliging te verzwakken, maar om deze juist preciezer te maken, zodat het bedrijf sneller kan handelen zonder de controle over de meest kritieke omgevingen, data en workflows te verliezen.

Verificatie integreren in de workflow

Validatie is een cruciaal punt dat bepaalt of AI-strategieën schaalbaar worden of mislukken. AI-systemen kunnen werk produceren dat er gepolijst uitziet, maar dat onvolledig, onnauwkeurig, merkloos of niet-conform aan de standaarden kan zijn. Hoewel menselijke controle in de beginfase een deel van deze risico's kan opvangen, is dit niet effectief schaalbaar zodra AI in de dagelijkse bedrijfsvoering is geïntegreerd.

Ik heb dit heel duidelijk gezien bij technische teams, waar AI de softwareontwikkeling alleen kan versnellen als er een betrouwbare manier is om de kwaliteit, veiligheid en nauwkeurigheid van wat er geproduceerd wordt te beoordelen. Zonder deze validatielaag kunnen teams zich op korte termijn snel voelen, maar creëren ze ongemerkt een zwaardere beoordelingslast, meer herwerk en grotere risico's in latere fasen.

Bedrijven hebben verificatiemodellen nodig die een integraal onderdeel vormen van de workflow zelf. Dit kan geautomatiseerde controles, kwaliteitscontroles van gegevens, goedkeuringsprocedures, logging, observeerbaarheid en duidelijke escalatieregels omvatten voor resultaten die niet zonder verdere beoordeling te vertrouwen zijn.

Leiders moeten deze mechanismen niet beschouwen als een extra, achterhaalde routine. Integendeel, ze maken het mogelijk dat AI zich ontwikkelt van een louter individueel productiviteitshulpmiddel tot een alomvattende, bedrijfsbrede functionaliteit. Teams kunnen de implementatie immers alleen opschalen als ze een terugkerende methode hebben om te controleren of het geproduceerde werk accuraat, geschikt en veilig is.

Het implementeren van kunstmatige intelligentie is een verantwoordelijkheid van het management geworden.

De implementatie van kunstmatige intelligentie kan niet worden overgelaten aan één innovatieteam of AI-manager, terwijl de rest van het managementteam van een afstand toekijkt. Iedere functionele leider moet begrijpen hoe AI de aard van het werk van hun team zal veranderen, hoe medewerkers zullen samenwerken met agents en modellen, en waar risico's zich waarschijnlijk zullen voordoen.

Dit betekent niet dat elke leidinggevende een specialist in machine learning moet worden, maar wel dat leiders voldoende expertise moeten hebben om besluitvorming te sturen, verwachtingen te scheppen en het gewenste gedrag van hun teams te tonen. Werknemers zullen hun werkwijze waarschijnlijk niet aanpassen als hun leiders AI beschouwen als iets dat iedereen geacht wordt te omarmen.

De juiste culturele inkadering is ook belangrijk, want als werknemers de invoering van AI horen als een eufemisme voor het verdwijnen van banen, zullen ze vasthouden aan hun huidige functie in plaats van te onderzoeken wat die in de toekomst zou kunnen inhouden. Leiders moeten transparant zijn over het feit dat functies zullen veranderen, sommige werkprocessen zullen verdwijnen en nieuwe verantwoordelijkheden zullen ontstaan, terwijl ze benadrukken dat het directe doel is om mensen te helpen beter en efficiënter te presteren en zo een rendement op de investering te behalen.

In veel gevallen verschuift het werk van het handmatig uitvoeren van elke taak naar het coördineren van systemen die helpen om het werk gedaan te krijgen. Dit vereist de bereidheid om met onduidelijkheid om te gaan, wat steeds belangrijker wordt naarmate de mogelijkheden van kunstmatige intelligentie toenemen.

Bedrijven die succesvol kunstmatige intelligentie implementeren, zijn niet de bedrijven die innovatie boven beveiliging stellen, noch de bedrijven die wachten tot elk potentieel risico is uitgesloten. Integendeel, het zijn de bedrijven die een sterke basis leggen voor governance, verificatie en discipline in de gegevensverwerking, waardoor hun teams het vertrouwen krijgen om vooruit te gaan. In een AI-omgeving binnen een onderneming is controle de hoeksteen voor het bereiken van duurzame snelheid, wat het belang van voorzichtigheid bij elke stap benadrukt, vooral bij het omgaan met gevoelige AI-componenten.