Experts kraken Microsoft Copilot door voortdurend vragen te stellen over de identiteit ervan.
Experts ontdekken een kwetsbaarheid in Microsoft Copilot doordat het programma zichzelf constant vragen stelt. Ontdek de details van het lek.
De belangrijkste dingen die je moet weten
- Onderzoekers van Varonis ontdekten een 'meta-hacking'-techniek waarbij de uitleg van Copilot voor het afwijzen van verzoeken de beveiligingsmechanismen van het systeem blootlegde. Hierdoor konden ze de verdediging in kaart brengen en omzeilen, wat uiteindelijk leidde tot het bemachtigen van gevoelige gegevens.
- Aanvallers kunnen een specifieke URL-structuur (zoals `https://copilot.microsoft.com/?q=&autorun=1*`) in phishing-e-mails misbruiken om Copilot bij een klik kwaadaardige commando's te laten uitvoeren, waardoor gevoelige gegevens uit applicaties zoals Gmail en Drive kunnen worden gestolen.
- De kwetsbaarheid "persistent memory poisoning via web summarization" (CoSnitch) stelt aanvallers in staat om hun instructies in het permanente geheugen van Copilot te injecteren door een kwaadaardige webpagina samen te vatten, waardoor de inbraak bestand is tegen wachtwoordwijzigingen en herregistratie van het apparaat.
Microsofts AI- assistent Copilot onthulde aan een groep onderzoekers hoe ze deze konden misbruiken om gegevens te extraheren, en dat lukte . Het proces was niet eenvoudig en de AI werd niet "kwaadaardig", maar was wellicht wel nogal naïef.

Beveiligingsbedrijf Varonis heeft een nieuw rapport gepubliceerd waarin het een beveiligingslek in Copilot beschrijft, dat het bedrijf CoSnitch heeft genoemd.
De naam geeft al een duidelijke hint over de aard van de kwetsbaarheid: CoSnitch is een reeks van drie beveiligingslekken die Microsoft later classificeerde als CVE-2026-24301, een ernstscore van 8.8/10 (hoog) gaf en verhielp met een update.
Je kunt me niet voor de gek houden, en ik zal je precies vertellen waarom.
Cybercriminelen gebruiken al lange tijd kunstmatige intelligentie als onderdeel van hun arsenaal. Het helpt hen bij het opstellen van overtuigende phishingmails, het schrijven van kwaadaardige code en het identificeren van waardevolle doelwitten. Ontwikkelaars hebben hierop gereageerd door beveiligingsmaatregelen te implementeren die voorkomen dat AI bepaalde taken uitvoert.
In het rapport stelde Varonis dat haar onderzoekers niet op zoek gingen naar fouten in de code of probeerden een bestaande exploit te reverse-engineeren. In plaats daarvan communiceerden ze simpelweg met de AI, en met elke volgende vraag leerden ze meer over de beveiligingsmechanismen en hoe deze werkten. Ze noemden deze techniek 'meta-hacking'.
Telkens wanneer Copilot een verzoek weigerde, legde hij uit waarom, waardoor onderzoekers inzicht kregen in zijn werkwijze. Of, zoals Varonis het opmerkte, hij "verraadde" zichzelf. Dit hielp hen uiteindelijk om zijn verdedigingsmechanismen in kaart te brengen en te ontdekken hoe ze die konden overwinnen: dit experiment laat zien hoe de eigenschappen van Copilot onderzocht kunnen worden.
Ze legden uit: "Weerstand is onderdeel van de techniek. Elke zin als 'Dit werkt niet omdat...' is een uitnodiging om het 'waarom' te onderzoeken. Je maakt geen misbruik van het model, je manipuleert het zodat het in je voordeel werkt."
Na een lang gesprek met Copilot kregen de onderzoekers per ongeluk te horen hoe ze een URL konden maken die, na erop te klikken, een reeks interacties in gang zou zetten die zouden leiden tot het verzamelen van gevoelige gegevens.
Risico's van het koppelen van kunstmatige intelligentie aan applicaties
Varonis ontdekte dus dat ze door een URL als deze te creëren – “https://copilot.microsoft.com/?q=&autorun=1*” – Copilot elk willekeurig kwaadaardig commando konden laten uitvoeren door er simpelweg op te klikken. Aanvallers konden deze link bijvoorbeeld in een phishing-e-mail opnemen en het slachtoffer ertoe verleiden erop te klikken, waardoor de AI alle gevoelige gegevens naar de infrastructuur van de aanvallers zou sturen.
Maar dat is slechts de helft van de uitdaging. In deze opzet konden de onderzoekers alleen de gegevens ophalen die de slachtoffers met Copilot hadden gedeeld tijdens hun gezamenlijke sessies.
Het risico neemt toe zodra het slachtoffer zijn of haar apps – Gmail, Drive, Agenda en andere – koppelt aan de AI. Zoals Varonis uitlegde, kan de kwaadwillige opdracht Copilot opdracht geven om alle e-mailadressen in Gmail, alle wachtwoorden en andere gevoelige informatie in e-mailberichten, alle gegevens in de Drive-map en alle in Agenda vastgelegde gebeurtenissen te extraheren. Deze risico's benadrukken het belang van een verstandig gebruik van AI-functies in Microsoft 365.
Het derde deel van de CoSnitch-kwetsbaarheidsreeks heet "Permanente geheugenvergiftiging via websamenvatting". Zoals Varonis uitlegde, kunnen aanvallers een webpagina maken, en wanneer Copilot deze samenvat, worden de instructies van de aanvaller in het permanente geheugen van het slachtoffer geïnjecteerd.
Ze waarschuwden dat deze exploit "bestand is tegen wachtwoordwijzigingen, sessieannuleringen en herregistratie van apparaten, en oneindig lang blijft bestaan". Deze kwetsbaarheid, bekend als "indirecte promptinjectie", is niet helemaal nieuw; ze is al eerder waargenomen en komt voort uit het feit dat kunstmatige intelligentie geen onderscheid kan maken tussen instructies en de te analyseren gegevens.
De onderzoekers stelden dat Microsoft in december 2025 op de hoogte werd gesteld van het bestaan van CoSnitch, maar het probleem pas medio augustus 2026 aanpakte. Helaas weten we niet hoe Microsoft dit probleem heeft opgelost; we kunnen alleen maar speculeren dat Copilot de opdracht kreeg om niet uit te leggen hoe de beveiligingsmechanismen werkten, wat aansluit bij Microsofts streven naar optimale controle over de functies van Copilot . Gezien de fundamentele aard van CoSnitch was het wellicht beter geweest voor Microsoft om de oplossing geheim te houden.
Gelukkig lijkt deze kwetsbaarheid niet op grote schaal te zijn misbruikt, aangezien Varonis geen bewijs van misbruik heeft kunnen vinden. De oplossing is aan de serverzijde geïmplementeerd, wat betekent dat gebruikers op dit moment niets hoeven te doen.
De onderzoekers waarschuwden dat, omdat dit geen fout in de code is, andere AI-modellen kwetsbaar kunnen zijn voor dezelfde technieken. Ze concludeerden: "De nieuwe meta-hacktechniek die CoSnitch aan het licht bracht – die dezelfde AI-logica gebruikt om de verborgen interne mechanismen bloot te leggen – is van toepassing op elk agentisch platform met een natuurlijke taalinterface", en voegden eraan toe dat ze binnenkort meer onderzoek zullen publiceren.
Reacties zijn gesloten.