Character.AI stelt ouders gerust met een nieuwe functie om kinderen te beschermen

Character.AI, de populaire AI-chatbotdienst, heeft Parental Insights toegevoegd, een nieuwe veiligheidsfunctie waarmee ouders rapporten kunnen bekijken over de activiteiten van hun kinderen op het platform.

Deze nieuwe beveiligingsfunctie, die het bedrijf dinsdag in een blogpost aankondigde , geeft ouders wekelijks inzicht in hoe hun tieners hun tijd besteden aan Character.AI. Meer specifiek laat Parental Insights ouders zien hoeveel tijd hun kinderen gemiddeld per dag in de app doorbrengen, met welke personages ze het vaakst chatten en hoeveel tijd ze met elk personage doorbrengen. Het overzicht toont echter niet de inhoud van de chatgesprekken, aangezien die privé zijn.

Tienergebruikers onder de 18 jaar kunnen hun Character.AI-statistieken delen met hun ouders of voogden in de app-instellingen. Dit doen ze door hun e-mailadres in te voeren en hen een uitnodiging te sturen om de statistieken te bekijken. Ouders hoeven geen Character.AI-account te hebben om de wekelijkse gebruiksstatistieken van hun tiener te bekijken.

De functie 'Ouderlijk inzicht' is een van de vele nieuwe functies die zijn toegevoegd om tegemoet te komen aan de zorgen van ouders over kinderen die te veel tijd doorbrengen op Character.AI en de talloze rechtszaken waarin beweerd wordt dat ze aan schadelijke inhoud op de dienst werden blootgesteld, variërend van seksueel expliciet materiaal tot berichten die zelfbeschadiging aanmoedigen . Naar aanleiding van deze klachten heeft Character.AI zijn platform bijgewerkt om minderjarige gebruikers door te verwijzen naar een AI-model dat is ontworpen om te voorkomen dat gevoelige of suggestieve inhoud wordt getoond , om overtredingen van de richtlijnen van de dienst te detecteren en in te grijpen, en om meldingen te sturen als ze een uur op Character.AI doorbrengen. Ze hebben zelfs een disclaimer in de chat en in de app store-vermeldingen geïmplementeerd om gebruikers eraan te herinneren dat de AI-personages waarmee ze communiceren niet echt zijn en dat alles wat ze zeggen verzonnen is.

Ouders, als u een e-mail van Character.AI ziet waarin uw tiener wordt uitgenodigd om zijn/haar wekelijkse activiteitsstatistieken voor de komende dagen te bekijken, beschouw dat dan als een teken van vertrouwen. Hun rapporten kunnen u gemoedsrust geven, wetende dat ze u willen adviseren over hoe u hun tijd op de app verstandig kunt besteden.