Controversieel gebruik van voertuigcamera's door Waymo voor AI-training en gerichte reclame

In een iconische scène uit de sciencefictionfilm "Minority Report" uit 2002 heeft de voortvluchtige agent John Anderton, gespeeld door Tom Cruise, moeite om door een winkelcentrum te lopen, terwijl hij elke keer dat verborgen detectoren zijn ogen lokaliseren, wordt getroffen door een spervuur ​​van gepersonaliseerde advertenties van bedrijven als Lexus, Guinness en American Express.

Dit was duidelijk bedoeld als waarschuwing voor een ongewenste, dystopische toekomst.

Maar 23 jaar later is deze toekomst minstens gedeeltelijk al aanwezig in de online wereld en dreigt deze zich uit te breiden naar andere gebieden van het dagelijks leven die steeds meer ‘verbonden’ worden, zoals in auto’s. Volgens cybersecurity-onderzoeker Jane Manchun Wong zouden zelfrijdende voertuigen, zoals de robottaxi's van Waymo, nieuwe testgebieden kunnen zijn.

Op X onthulde Wong een nog niet openbaar gemaakte versie van Waymo's privacybeleid, waaruit blijkt dat het in Californië gevestigde bedrijf van plan is om data van zijn robotaxi's, waaronder beelden van interieurcamera's, te gebruiken om generatieve AI-modellen te trainen en gerichte advertenties te tonen. Dit potentiële gebruik van passagiersgegevens roept belangrijke vragen op over gegevensprivacy in het tijdperk van kunstmatige intelligentie.

In de ongepubliceerde concept-privacyverklaring van Waymo staat: "Waymo mag gegevens delen om de functionaliteit te verbeteren en te analyseren en om producten, diensten, advertenties en aanbiedingen af ​​te stemmen op uw interesses. U kunt ervoor kiezen om uw gegevens niet met derden te delen, tenzij dit noodzakelijk is voor de werking van de dienst."

Toen Waymo door The Verge werd gevraagd om commentaar te geven op de niet-aangekondigde app-update, liet het bedrijf weten dat deze "placeholder-tekst bevatte die het doel van de functie niet nauwkeurig weergeeft."

Waymo-woordvoerder Julia Elena zei dat de AI-modellen van Waymo "niet zijn ontworpen om deze data te gebruiken om individuen te identificeren en dat er geen plannen zijn om deze data te gebruiken voor gerichte advertenties."

De robottaxi's van Waymo, die door de straten van San Francisco, Los Angeles, Phoenix en Austin rijden, zijn uitgerust met camera's aan boord die de passagiers in de gaten houden. Volgens Elena worden deze camera's vooral gebruikt om AI-modellen te trainen op het gebied van veiligheid, het terugvinden van verloren voorwerpen, het controleren van voertuigregels en het verbeteren van de service. Het gebruik van boordcamera's om AI te trainen en zo de passagierservaring te verbeteren, is een gangbare praktijk in de zelfrijdende auto-industrie.

Elena zegt dat de nieuwe functie nog in ontwikkeling is en dat passagiers de mogelijkheid hebben om zich af te melden voor het verzamelen van gegevens. Een sterk privacybeleid geeft gebruikers controle over hun gegevens.

Maar nu we gewend raken aan advertenties die op ons gericht zijn op basis van alles wat op de een of andere manier met het web te maken heeft, lijkt het erop dat een ooit vergezochte visie op de toekomst weldra werkelijkheid wordt. De toekomst van gerichte reclame en kunstmatige intelligentie in zelfrijdende auto's roept belangrijke vragen op over privacy en ethiek.