Samenvatting:

• Google bereidt zich voor om zijn Gemini AI-chatbot te introduceren bij kinderen onder de 13 jaar, met een waarschuwing dat "Gemini fouten kan maken."
• Ouders kunnen via de Family Link-app bepalen welke toegang hun kinderen tot Gemini hebben, en ze kunnen er ook voor kiezen om de toegang volledig uit te schakelen.
• Volgens Google kunnen kinderen Gemini gebruiken als hulpmiddel bij hun huiswerk of om verhalen te vertellen.

Google bereidt zich voor op de lancering van zijn Gemini AI-chatbot voor kinderen jonger dan 13 jaar. De zoekgigant is begonnen ouders via e-mail te informeren dat ze de toegang van hun kinderen tot Gemini kunnen beheren via de Family Link-app. Dit is de eerste keer dat een groot bedrijf een AI-gestuurde chatbot voor kinderen introduceert. Deze aanpak is erop gericht om kinderen veilige educatieve en entertainmentmiddelen te bieden.

Volgens een bericht in The New York Times kunnen kinderen onder de 13 jaar Gemini gebruiken om te helpen met huiswerk of om verhalen voor te lezen. Google zegt dat de gesprekken van kinderen met Gemini niet zullen worden gebruikt om AI-modellen te trainen. Google waarschuwt ouders echter dat "Gemini fouten kan maken" en dat kinderen "inhoud kunnen tegenkomen die u ze niet wilt laten zien".

Ondanks deze zorgen gaat Google door met de lancering van Gemini AI voor kinderen. We weten al dat het probleem van desinformatie door AI nog steeds niet is opgelost en dat AI-gestuurde chatbots regelmatig met aanzienlijk vertrouwen desinformatie verspreiden. Nu is het onduidelijk hoe kinderen onder de 13 jaar in staat zullen zijn om accurate informatie te onderscheiden van misleidende antwoorden. Dit roept vragen op over het vermogen van kinderen om potentieel onjuiste of bevooroordeelde informatie te verwerken.

Daarnaast ondervinden jongere gebruikers steeds meer problemen met AI-gestuurde chatbots. Onlangs pleegde een tiener uit Florida zelfmoord omdat hij te gehecht raakte aan een AI-gestuurd personage op Character.ai. Jonge gebruikers kunnen geen onderscheid maken tussen AI-gestuurde chatbots en echte mensen. Dit onderstreept hoe belangrijk het is om mensen bewust te maken van de risico's die gepaard gaan met een te grote afhankelijkheid van AI in sociale interacties.

Google stelde in zijn e-mail dat ouders met hun kinderen moeten praten en hen duidelijk moeten maken dat AI niet menselijk is. Ouders kunnen op elk gewenst moment de toegang tot Gemini stopzetten via de Family Link-app. Dit is een noodzakelijke stap om de veiligheid van kinderen te garanderen en hen te beschermen tegen mogelijke negatieve invloeden.