Samenvatting:

• Google bereidt zich voor om zijn Gemini AI-chatbot te introduceren bij kinderen onder de 13 jaar, met een waarschuwing dat "Gemini fouten kan maken."
• Ouders kunnen via de Family Link-app bepalen welke toegang hun kinderen tot Gemini hebben, en ze kunnen er ook voor kiezen om de toegang volledig uit te schakelen.
• Volgens Google kunnen kinderen Gemini gebruiken als hulpmiddel bij hun huiswerk of om verhalen te vertellen.

Google bereidt zich voor op de lancering van zijn Gemini AI-chatbot voor kinderen jonger dan 13 jaar. De zoekgigant is begonnen ouders via e-mail te informeren dat ze de toegang van hun kinderen tot Gemini kunnen beheren via de Family Link-app. Dit is de eerste keer dat een groot bedrijf een AI-gestuurde chatbot voor kinderen introduceert. Deze aanpak is erop gericht om kinderen veilige educatieve en entertainmentmiddelen te bieden.

Volgens een rapport The New York TimesKinderen onder de 13 jaar kunnen Gemini gebruiken als hulp bij hun huiswerk of als voorleesboek. Google zegt dat de gesprekken van kinderen met Gemini niet gebruikt zullen worden om AI-modellen te trainen. Google waarschuwt ouders echter dat ‘Tweelingen fouten kunnen maken’ en dat kinderen ‘inhoud kunnen tegenkomen die je niet wilt dat ze zien’.

Ondanks deze zorgen gaat Google door met de lancering. Gemini AI voor kinderen. We weten al dat het probleem van hallucinaties nog niet is opgelost op het gebied van kunstmatige intelligentie en dat AI-gestuurde chatbots regelmatig met veel vertrouwen desinformatie verspreiden. Het is nog steeds onduidelijk hoe kinderen jonger dan 13 jaar nauwkeurige informatie kunnen onderscheiden van misleidende antwoorden. Dit roept de vraag op in hoeverre kinderen kunnen omgaan met informatie die onjuist of bevooroordeeld is.

Daarnaast ondervinden jongere gebruikers steeds meer problemen met AI-gestuurde chatbots. Onlangs pleegde een tiener uit Florida zelfmoord omdat hij te gehecht raakte aan een AI-gestuurd personage op Character.ai. Jonge gebruikers kunnen geen onderscheid maken tussen AI-gestuurde chatbots en echte mensen. Dit onderstreept hoe belangrijk het is om mensen bewust te maken van de risico's die gepaard gaan met een te grote afhankelijkheid van AI in sociale interacties.

Google stelde in zijn e-mail dat ouders met hun kinderen moeten praten en hen duidelijk moeten maken dat AI niet menselijk is. Ouders kunnen op elk gewenst moment de toegang tot Gemini stopzetten via de Family Link-app. Dit is een noodzakelijke stap om de veiligheid van kinderen te garanderen en hen te beschermen tegen mogelijke negatieve invloeden.