Google heeft een fout gemaakt door Nano Banana in Google Earth op te nemen.

Vorige week lanceerde Google zijn AI-gestuurde model voor het genereren van afbeeldingen, Nano Banana 2 , binnen het Google Earth-programma voor wereldverkenning. Het bedrijf promootte deze integratie als een manier voor mensen om infographics te maken over verschillende locaties over de hele wereld of om historische landschappen te genereren op basis van recente afbeeldingen. Gebruikers werden ook uitgenodigd om hun 'droomhuizen' te visualiseren tegen realistische achtergronden – als je plannen had om je huis uit te breiden of droomde van een vakantiehuis aan het meer, kon je die visualiseren met Nano Banana 2 in Google Earth.

Dit nieuws komt te midden van Googles streven om zijn AI-platforms in bijna al zijn producten en diensten te integreren (zo voegde het bedrijf vorige week bijvoorbeeld nieuwe Gemini-functionaliteiten toe aan Google Docs voor Workspace-gebruikers). Vanuit het perspectief van het bedrijf was het toevoegen van Nano Banana 2 aan Google Earth een logische stap. Later bleek deze integratie echter niet goed te passen bij Google Earth.

Google Earth laat Nano Banana 2 al vallen.

Slechts één dag na de lancering van deze belangrijke integratie voor Nano Banana 2 heeft Google deze alweer verwijderd . Het bedrijf publiceerde een update van de oorspronkelijke aankondiging, waarin stond: "We erkennen dat mensen Google Earth als een uniek betrouwbaar beeld van de wereld beschouwen. We hebben gemerkt dat geospatiale professionals deze functie voor diverse nuttige doeleinden gebruiken; we hebben echter ook gezien dat mensen screenshots delen van gegenereerde afbeeldingen die onze beleidsregels lijken te schenden. Daarom verwijderen we deze functie uit Google Earth terwijl we werken aan de implementatie van strengere controles. Het is belangrijk om te benadrukken dat de gegenereerde afbeeldingen niet zichtbaar waren in de reguliere Google Earth-weergave en een watermerk bevatten dat aangaf dat ze door AI waren gegenereerd."

Deze verklaring beschrijft niet nauwkeurig de beelden die gebruikers met deze tool genereerden. Naar mijn mening ging het verder dan alleen het "schenden" van het beleid van Google : het internet gebruikte Nano Banana 2, zoals verwacht, om ongepaste en gevoelige beelden te genereren op basis van echte locaties. Het zal wellicht geen verrassing zijn dat een van de meest verspreide beelden een vliegtuig toonde dat neerstortte op het nieuwe World Trade Center in Manhattan . Andere beelden toonden de Eiffeltoren in puin , of de Egyptische piramides die in een diepe put stortten. Hoewel velen zich wellicht realiseren dat deze beelden als grap bedoeld waren, zal een veel groter aantal mensen deze "officiële" Google Earth-beelden online zien en het ergste veronderstellen.

Maar alle grappen daargelaten, het potentieel voor de verspreiding van misinformatie en desinformatie was alarmerend. Zo liet een gebruiker bijvoorbeeld zien hoe hij de tool gebruikte om vluchtelingen schouder aan schouder bij de Mexicaanse grens te plaatsen . Je kunt je voorstellen dat zo'n afbeelding viraal zou gaan, waarbij kijkers zouden worden misleid en zouden geloven dat deze Google Earth-snapshot een echte satellietfoto was. Google had waarschijnlijk wel controles ingebouwd om veel van deze beeldgeneratieprocessen te voorkomen, maar deze beperkingen waren duidelijk niet robuust genoeg. Omdat iedereen, al dan niet betaald voor de AI-functies van Google , Nano Banana 2 met Google Earth kon gebruiken, hoefden ze alleen maar Google Earth te openen en een kwaadaardige prompt te manipuleren totdat Nano Banana 2 reageerde.

Generatieve kunstmatige intelligentie heeft geen plaats in een tool als Google Earth.

Je hoeft geen AI-scepticus te zijn om te begrijpen waarom dit van meet af aan een slecht idee was. Toch lijken maar weinig AI-bedrijven enige scepsis te tonen voordat ze generatieve AI-functies in hun producten proppen. Tools zoals Google Earth zijn ontworpen om educatief te zijn. We gebruiken ze om meer te leren over de wereld, de geografie en hoe verschillende steden en landschappen eruitzien. Persoonlijk vind ik het leuk om mijn digitale globe te draaien om nieuwe locaties te ontdekken, en ik prik vaak een speld op een willekeurige plek om te zien hoe het er via Street View uitziet. De reden hiervoor is dat ik Google Earth beschouw als een accurate en betrouwbare bron van informatie over de wereld; als dat niet zo was, waarom zou ik er dan om geven?

Daarom zie ik geen logica in het feit dat Google een tool aanbiedt die, door zijn aard, onnauwkeurige en vertekende beelden van de wereld genereert. Een van de verkoopargumenten was het tonen van plaatsen op een kaart zoals ze er in het verleden uitzagen, maar dat is niet wat Nano Banana 2 deed . De AI gebruikte trainingsdata om een, naar eigen zeggen, historische weergave van het gebied te genereren. Als je de AI zou vragen hoe Parijs er in 1726 uitzag, zou hij waarschijnlijk openbare gebouwen en structuren op de kaart plaatsen, in plaats van af te beelden hoe Parijs er driehonderd jaar geleden daadwerkelijk uitzag . Wat je krijgt is een illusie van geschiedenis; het is misschien vermakelijk, maar zeker niet leerzaam – net als het bekijken van de gebrekkige, door AI gegenereerde historische content op sociale media.

Hetzelfde geldt voor door AI gegenereerde "informatieve infographics". Bedrijven zoals Google promoten graag de mogelijkheden van AI als educatief hulpmiddel, en het lijkt geweldig dat Google Earth informatieve infographics kan genereren om een ​​locatie op een kaart te tonen. Maar de resulterende infographics worden niet gecontroleerd door een autoriteit, en zeker niet door een expert: de afbeelding die door Nano Banana 2 wordt geproduceerd, kan vol zitten met halve waarheden en hallucinaties, en erger nog, er worden geen aanklikbare bronnen gegeven om het werk van de AI te verifiëren. Gewone gebruikers onthouden de informatie die ze uit deze infographics "leren", ongeacht of die informatie accuraat is of niet.

In het ergste geval fungeerde deze functie als een machine voor het verspreiden van desinformatie. Als je mensen wilde overtuigen dat er iets ergs was gebeurd in een bepaald deel van de wereld, hoefde je alleen maar je verzoek in te typen en Nano Banana 2 genereerde een realistische satellietfoto van je idee, die je vervolgens gemakkelijk kon delen op sociale media. In een tijd waarin door AI gegenereerde desinformatie zich razendsnel verspreidt, verergert dit het probleem alleen maar en gooit het olie op het vuur. Bedrijven zoals Google zouden manieren moeten vinden om door AI gegenereerde misleidende content te scheiden van echte informatie, in plaats van de verspreiding ervan te bevorderen.

Dit is geen argument tegen AI-tools in het algemeen, maar eerder tegen de integratie van generatieve AI in een educatieve tool. Ik weet niet welk voordeel Google denkt te halen uit het verdraaien van feiten – behalve dan dat het hen een nieuw voorbeeld geeft om mee te pronken bij hun AI-"succes".