Character.AI stelt ouders gerust met een nieuwe functie om kinderen te beschermen

Character.AI, de populaire AI-chatbotdienst, heeft Parental Insights toegevoegd, een nieuwe veiligheidsfunctie waarmee ouders rapporten kunnen bekijken over de activiteiten van hun kinderen op het platform.

Deze nieuwe beveiligingsfunctie, aangekondigd door het bedrijf in blogpost Op dinsdag krijgen ouders een wekelijks overzicht van hoe hun tieners hun tijd besteden op Character.AI. Met Parental Insights kunnen ouders bijvoorbeeld zien hoeveel tijd hun kinderen gemiddeld per dag op de app doorbrengen, met welke personages ze het vaakst praten en hoeveel tijd ze met elk personage doorbrengen. In het overzicht worden echter niet de inhoud van de chatbotgesprekken weergegeven, omdat deze privé zijn.

Tienergebruikers onder de 18 jaar kunnen hun Character.AI-statistieken delen met hun ouders of voogden in de app-instellingen. Dit doen ze door hun e-mailadres in te voeren en hen een uitnodiging te sturen om de statistieken te bekijken. Ouders hoeven geen Character.AI-account te hebben om de wekelijkse gebruiksstatistieken van hun tiener te bekijken.

De functie Ouderlijk inzicht is onderdeel van een reeks functies die zijn toegevoegd om tegemoet te komen aan de zorgen van ouders over het feit dat kinderen te veel tijd besteden aan Character.AI en aan verschillende rechtszaken waarin wordt beweerd dat ze op de dienst te maken hebben gehad met schadelijke inhoud, variërend van ongepaste seksuele inhoud tot Berichten die zelfbeschadiging aanmoedigen. Naar aanleiding van deze klachten heeft Character.AI het platform geüpdatet. Om minderjarige gebruikers over te plaatsen naar een AI-model dat is ontworpen om geen gevoelige of suggestieve inhoud te bieden., eventuele schendingen van de Servicerichtlijnen detecteren en aanpakken, en hen meldingen sturen als ze een uur op Character.AI doorbrengen. Ze hebben zelfs disclaimers in de chat en in de vermeldingen in de app store geplaatst om gebruikers eraan te herinneren dat de AI-personages waarmee ze communiceren, niet echt zijn en dat alles wat ze zeggen verzonnen is.

Ouders, als u een e-mail van Character.AI ziet waarin uw tiener wordt uitgenodigd om zijn/haar wekelijkse activiteitsstatistieken voor de komende dagen te bekijken, beschouw dat dan als een teken van vertrouwen. Hun rapporten kunnen u gemoedsrust geven, wetende dat ze u willen adviseren over hoe u hun tijd op de app verstandig kunt besteden.