Kunstmatige intelligentie verandert gewone, onschuldige foto's van kinderen in afschuwelijk materiaal voor seksuele uitbuiting: een schokkende waarheid.
Bescherm uw kinderen: Kunstmatige intelligentie verandert hun gewone foto's in seksueel uitbuitende content. Begrijp dit gevaarlijke fenomeen en leer hoe u het direct kunt bestrijden.
De belangrijkste dingen die je moet weten
- Een onderzoek heeft 332 door AI gegenereerde advertenties voor kinderseksueel misbruikmateriaal op Facebook en Instagram aan het licht gebracht, waarbij gewone, echte kinderfoto's werden gemanipuleerd tot aanstootgevende inhoud.
- De AI-systemen van Meta slaagden er niet in honderden betaalde, misleidende advertenties te detecteren, zelfs niet na vermeende verbeteringen, terwijl andere advertenties bijna 50 apps voor het maken van misleidende afbeeldingen promoten die via appwinkels verkrijgbaar zijn.
- Ouders moeten door AI gegenereerde, misbruikende afbeeldingen van hun kinderen niet opnieuw plaatsen, maar deze direct melden bij het betreffende platform en de accountgegevens verzamelen. Ze kunnen de "Take It Down"-service van NCMEC gebruiken om een digitale voetafdruk achter te laten.
Een foto van mijn kinderen op het strand, mijn zoon die voetbalt, of zelfs mijn hele gezin dat lachend voor ons huis staat – dit zijn allemaal voorbeelden van foto's die ik op sociale media heb gedeeld. Ik weet dat ik hierin niet de enige ben, gezien hoe vaak ik soortgelijke beelden zie die de details van ons moderne leven vastleggen.
Maar kunstmatige intelligentie heeft een nieuw en zorgwekkend gevaar gecreëerd: gewone, realistische beelden van kinderen, zoals de beelden die ik zojuist noemde, kunnen zonder medeweten van het kind of de ouders worden omgezet in beelden van seksuele uitbuiting.
Laten we duidelijk zijn, dit is geen theoretische dreiging.
Er werden 332 door AI gegenereerde advertenties met afbeeldingen van seksuele uitbuiting van kinderen doorgegeven.
Een nieuw onderzoek van het Tech Transparency Project (TTP) heeft honderden door AI gegenereerde advertenties met kinderpornografie (CSAM) aan het licht gebracht die op Facebook en Instagram circuleren. Onderzoekers identificeerden vier echte kinderen van wie gewone foto's waren gemanipuleerd, aldus WIRED . Het ging onder meer om twee tiener-influencers, een meisje van een jaar of tien wiens foto op een stockfotowebsite verscheen, en een jong lid van een Europees koninklijk huis.
In totaal vond TTP 332 advertenties met door AI gegenereerd materiaal over seksuele uitbuiting van kinderen, ofwel CSAM. De meeste van deze advertenties toonden een kind wiens afbeelding met behulp van AI was gemanipuleerd om de indruk te wekken dat het een seksuele handeling verrichtte.
Deze bevindingen vormen een verontrustende herinnering aan hoe generatieve AI de risico's rond het online delen van kinderfoto's heeft veranderd . Het creëren van overtuigende nepfoto's vereist niet langer een echte foto; een gewone foto kan al als basis dienen.
Hoe je gewone afbeeldingen kunt omzetten in door AI gegenereerd aanstootgevend materiaal
Kunstmatige intelligentietools die beelden genereren, kunnen een bestaande afbeelding nemen en delen ervan aanpassen, terwijl de oorspronkelijke, herkenbare kenmerken van de persoon behouden blijven.
Dit is volgens onderzoekers wat er is gebeurd met een aantal kinderen die in Meta-advertenties werden genoemd.
Volgens WIRED konden onderzoekers de afbeeldingen van vier minderjarigen herleiden naar hun oorspronkelijke bronnen. Twee van hen waren tiener-influencers met openbare socialemedia-accounts. Een ander was een kind van rond de tien jaar wiens afbeelding beschikbaar was op een stockfotowebsite. De vierde was een jong lid van een Europese koninklijke familie.
Geen van die originele afbeeldingen hoefde seksueel getint materiaal te bevatten om misbruikt te kunnen worden.
Emma Hardy, communicatiedirecteur van de Internet Watch Foundation, vertelde aan WIRED: "AI-toepassingen maken het heel gemakkelijk om realistische, criminele beelden van seksueel misbruik van kinderen te creëren, waardoor er een nieuw risico ontstaat dat alledaagse foto's van kinderen worden gebruikt voor seksueel getinte content."
Zodra een gewone afbeelding openbaar beschikbaar komt, kan iedereen deze downloaden en invoeren in een AI-tool die is ontworpen om afbeeldingen te bewerken.
De AI van Meta slaagde er niet in honderden advertenties te detecteren.
De omvang van het recente onderzoek laat ook zien hoe moeilijk het is om de daaruit voortvloeiende inhoud te stoppen.
In augustus ontdekten onderzoekers van TTP aanvankelijk 53 advertenties met kinderpornografisch materiaal op de platforms van Meta. Meta verklaarde later dat veel van die advertenties verschenen voordat het bedrijf nieuwe AI-technologie introduceerde die ontworpen is om de detectie van ongepaste advertenties bij het uploaden te verbeteren.
Onderzoekers bleven ze echter vinden. TTP zegt uiteindelijk 332 advertenties te hebben geïdentificeerd die door AI gegenereerd materiaal over seksueel misbruik van kinderen bevatten. Honderden hiervan verschenen nadat Meta zijn verbeterde detectietechnologie had aangekondigd, wat vragen oproept over de effectiviteit van AI-gestuurde monitoring.
Dit is extra belangrijk omdat het niet zomaar Facebook- of Instagram-berichten waren die per ongeluk waren geplaatst. Het waren betaalde advertenties.
Meta stelt dat advertenties worden beoordeeld voordat ze mogen worden weergegeven en dat geautomatiseerde systemen een belangrijke rol spelen in dit proces.
Meta-woordvoerder Tracy Clayton vertelde WIRED dat het bedrijf geen enkele tolerantie heeft voor apps die kinderen naakt tonen of voor kinderuitbuiting, ongeacht of de beelden echte kinderen tonen of door AI zijn gegenereerd. Meta zei dat kwaadwillenden opzettelijk proberen de detectiesystemen te omzeilen en dat sommige video's moeilijker te detecteren waren omdat beelden van kinderen slechts kort in beeld kwamen of wazig waren.
Het bedrijf verklaarde dat veel van de door de onderzoekers geïdentificeerde advertenties al waren verwijderd, dat de meeste minder dan 200 vertoningen hadden gehad en dat het minder dan $5000 aan betalingen voor deze advertenties had ontvangen. De onderzoekers documenteerden echter gevallen waarin het bereik van de advertenties toenam nadat ze waren gemeld.
TTP meldde dat een enkele advertentie gericht op een echte tiener vier Europese accounts had bereikt toen deze bij Meta werd gemeld. Enkele dagen later, toen Meta de advertentie verwijderde, had deze meer dan 330 accounts bereikt.
Het onderzoek onthult het wijdverbreide gebruik van deze instrumenten.
Onderzoekers ontdekten advertenties die gebruikers doorverwezen naar bijna 50 apps die beschikbaar zijn in de Apple App Store en Google Play. Volgens WIRED promootten ongeveer 300 van de 350 onderzochte advertenties AI-gestuurde beeld- of videogeneratoren.
Apple vertelde WIRED dat sommige ontwikkelaars aanvankelijk conforme versies van hun apps aanboden, maar later verboden functies toevoegden om bepaalde elementen te verwijderen. Apple zei dat het 17 van de 20 door onderzoekers geïdentificeerde apps had verwijderd en actie had ondernomen tegen de overige drie, naast zeven andere apps die door WIRED waren ontdekt.
Google heeft op zijn beurt verklaard dat het alle in het rapport genoemde apps heeft verwijderd en honderden andere apps heeft opgeschort wegens schending van het beleid.
Deze bevindingen onthullen echter een probleem dat verder reikt dan één enkel platform, omdat kunstmatige intelligentie kan worden gebruikt om deze aanstootgevende afbeeldingen te creëren. De meeste AI-tools zijn niet gereguleerd, waardoor bedrijven risico lopen. Een appwinkel zou de tool kunnen verspreiden waarmee ze zijn gemaakt, waarna een advertentieplatform advertenties zou kunnen verspreiden die ze promoten.
Elke laag van dit systeem kan zijn eigen beveiligingssystemen hebben, maar aanstootgevend materiaal hoeft deze systemen slechts één keer te passeren om de gebruikers te bereiken.
Wat zou u doen als u een door AI gegenereerde afbeelding van uw kind zou vinden?
Als u door AI gegenereerde seksuele afbeeldingen van uw kind ontdekt, plaats deze dan niet opnieuw of deel ze niet op grote schaal in een poging anderen te waarschuwen.
Bewaar in plaats daarvan informatie die kan helpen identificeren waar dit materiaal verschijnt, zoals de accountnaam, paginatitel en andere relevante details, en meld de inhoud direct aan het platform.
In de Verenigde Staten kunnen vermoedelijke gevallen van seksuele uitbuiting van kinderen ook worden gemeld bij de CyberTipline van het National Center for Missing & Exploited Children.
Ouders kunnen ook gebruikmaken van de Take It Down-service van NCMEC , die is ontworpen om het online delen van naakt-, halfnaakt- of seksueel expliciete foto's of video's van iemand onder de 18 jaar te voorkomen. Het systeem maakt een digitale vingerafdruk, of hash, van de afbeelding zonder dat de afbeelding zelf geüpload hoeft te worden.
Omdat door AI gegenereerde afbeeldingen nieuwe en complexere scenario's creëren, moeten ouders die niet zeker weten of een bewerkte afbeelding aan de rapportagecriteria voldoet, melden wat ze vinden in plaats van te proberen dit zelf te bepalen.
Conclusie
Ouders worden al jaren gewaarschuwd voor de gevaren van 'delen' en de digitale voetafdruk van hun kinderen. 'Delen', een samenvoeging van 'delen' en 'opvoeden', verwijst naar de gewoonte van ouders om foto's, video's en persoonlijke gegevens van hun kinderen te delen op sociale media.
Hoewel ouders het risico op misbruik van foto's of video's die ze plaatsen door AI niet volledig kunnen uitsluiten , kunnen ze wel het aantal openbaar beschikbare afbeeldingen van hun kinderen verminderen en selectiever zijn in wat ze delen. Zo wordt de hoeveelheid materiaal die in handen kan vallen van mensen die er misbruik van zouden kunnen maken, wel beperkt.
Reacties zijn gesloten.