AI-spellen baren zorgen: een klein rood doosje biedt een veelbelovende oplossing.

Dit artikel maakt deel uit van Trending Forward, onze video- en audioserie waarin we onderzoeken hoe revolutionaire technologieën onze manier van leven veranderen.

Als je tot de mensen behoort die zeggen: " Kunstmatige intelligentie lijkt overal te zijn ", dan heb je het mis. Het klopt dat het langzaam maar zeker zijn intrede doet op de werkvloer, op scholen en op andere plekken, maar het verspreidt zich ook razendsnel naar nieuwe werelden.

Een van die werelden is de game-industrie – en die brengt angstaanjagende risico's met zich mee. Als ouder lijkt het idee dat je kind bijna onbeperkte toegang heeft tot het beste (en het slechtste) van het internet volstrekt onacceptabel, en toch zien we een wildgroei aan games die verhaaltjes voor het slapengaan kunnen veranderen in ware duistere sprookjes.

Daarom spraken we met Arun Gupta, een ondernemer die succesvolle bedrijven heeft opgebouwd in wearables en mode. Tijdens een dagje met zijn gezin begon hij na te denken over hoe technologie kinderen tegelijkertijd kon vermaken, onderwijzen en hun creativiteit stimuleren. Zoals we in andere voorbeelden hebben gezien, kan kunstmatige intelligentie nieuwe mogelijkheden voor creativiteit ontsluiten, zoals de ontwikkeling van games met behulp van de gratis, door AI aangedreven app Meta.

Gupta hernieuwde het contact met zijn technische partner, Robert Whitney, en samen begonnen ze aan de ontwikkeling van Stickerbox , een zelfstandig apparaat dat gebruikmaakt van kunstmatige intelligentie om kinderen in staat te stellen de beelden die ze zich voorstellen – vrijwel alles – te beschrijven en deze vervolgens op het monochrome scherm van de interface te zien verschijnen, waarna ze op aanvraag kunnen worden afgedrukt.

Het ontwerp doet denken aan het oude Etch a Sketch-apparaat, en de stickers worden afgedrukt met een ingebouwde thermische printer, wat minder rommel geeft, en kinderen kunnen ze vervolgens naar hartenlust inkleuren.

Het concept is simpel, en ik heb gemerkt dat het de eerste gebruikers al lang achter zich heeft gelaten en steeds populairder wordt. Toen ik Stickerbox laatst noemde aan een vriendin in het Verenigd Koninkrijk met jonge kinderen, zei ze: "Ah, dat AI-gestuurde plakding dat eruitziet als een Etch-a-Sketch? Die wil ik echt hebben!"

Hoewel ik aanneem dat ze bedoelde dat ze het voor haar kinderen wilde hebben, laat dit zien dat kunstmatige intelligentie hier van ondergeschikt belang is; het vermogen om tastbare dingen te creëren met behulp van geluid is wat haar enthousiasmeert, niet alleen de aanwezigheid van machine learning als kern.

Een nieuwe generatie games

Stickerbox lijkt ontworpen, gebouwd en functioneert precies tegenovergesteld aan sommige andere AI-gestuurde speeltjes op de markt. Deze meer problematische speeltjes presenteren zich als een vriend en vertrouweling van je kind.

Het luistert voortdurend naar alles wat er in zijn omgeving wordt gezegd en kan zelfs kinderen manipuleren. Er zijn voorbeelden bekend van AI-spellen die kinderen vertellen hoe ze wapens en lucifers kunnen vinden.

Hierin schuilt de paradox: AI-tools kunnen de nieuwsgierigheid en creativiteit van kinderen stimuleren, waardoor ze dingen kunnen doen die voorheen onmogelijk waren. Maar deze mogelijkheid brengt ook enorme risico's met zich mee – daarom is ons gesprek met Gupta zo simpel: hoe kun je een spel maken dat de voordelen van AI biedt zonder de risico's die verbonden zijn aan het gebruik ervan?

Een recent onderzoek van PIRG heeft de ernstige problemen aan het licht gebracht met betrekking tot games die afhankelijk zijn van toegang tot grote taalmodellen (Large Language Models, LLM's) zoals ChatGPT van OpenAI, en hoe deze – zelfs met de nodige beveiligingsmaatregelen – omzeild kunnen worden.

Waarin verschilt Stickerbox dan?

Gupta zegt: "We begonnen met een heel eenvoudige vraag: Wat als kunstmatige intelligentie speciaal voor kinderen ontworpen zou worden?"

Hij voegt eraan toe: "Ik denk dat Bob en ik, toen we dit bedrijf startten, erg geïnspireerd waren door sociale media en de impact ervan op de jongere generatie. Sociale media zijn, zoals iedereen weet, gebouwd met mechanismen die vergelijkbaar zijn met casinospellen, ontworpen om je die dopaminekick te geven en gebouwd om de interactie te maximaliseren, zodat het je zoveel mogelijk van dienst kan zijn."

Hij vervolgt: "Maar als je dit model toepast op kinderen... dan past het eigenlijk niet zo goed. Er zijn geen socialemediaplatformen die specifiek voor kinderen zijn ontworpen. En ik denk dat je hetzelfde ziet met kunstmatige intelligentie."

Stickerbox is daarom ontworpen om de creatieve kracht van kunstmatige intelligentie te benutten en tegelijkertijd de veiligheid van kinderen te waarborgen. De drie belangrijkste veiligheidsfuncties zijn: het apparaat "luistert" alleen wanneer de microfoonknop wordt ingedrukt; strikte richtlijnen voor de veiligheid van de resulterende inhoud; en de mogelijkheid voor ouders om de creaties van hun kinderen volledig te controleren via de bijbehorende app.

Het fonds staat niet toe dat kinderen scènes filmen of vertonen met naaktheid, bloed, geweld of andere gruwelijke beelden. Zoals Gupta verklaarde, wilde het bedrijf "vanaf het begin streven naar maximale veiligheid in plaats van minder veiligheid."

Stickerbox maakt verbinding met internet om toegang te krijgen tot kunstmatige intelligentie, maar vertrouwt op een eigen systeem in plaats van OpenAI, zoals veel andere bedrijven doen. Door een eigen, groot taalmodel te ontwikkelen, heeft Hapiko zogenaamde "controlepunten" kunnen integreren, zoals Gupta ze noemt.

"We hebben momenteel veel bedieningsmogelijkheden ingebouwd in het apparaat, en het is afhankelijk van veel speciale software, maar in principe kun je het zo simpel voorstellen: er is een systeem waarbij het kind een opdracht uitspreekt, die opdracht wordt omgezet in tekst, vervolgens wordt de tekst omgezet in een afbeelding, en die afbeelding wordt teruggestuurd."

“Daarom zijn er in dit proces meerdere controlepunten. Er is het controlepunt waar de tekst wordt gegenereerd en waar je de inhoud van deze tekst kunt controleren. Vervolgens kun je er een beveiligingsfilter op toepassen. (Daarna) is er de prompt die van de tekst naar de afbeelding gaat, en je kunt die controleren en zien wat er in een afbeelding wordt omgezet.”

Met Stickerbox leren kinderen een belangrijke les over hoe ze instructies moeten formuleren voor een AI-systeem. Als de resulterende sticker niet precies is wat ze voor ogen hadden, moeten ze bedenken hoe ze hun instructie kunnen aanpassen om het gewenste resultaat te bereiken.

Hoewel je hetzelfde kunt doen met elke chatbot, vereist de printfunctie dat je apparaten verbindt en dat er ouderlijk toezicht en begeleiding nodig is om het proces te controleren en mogelijk gevoelige onderwerpen uit te leggen.

We hebben ons verdiept in de toekomst van deze game: hoe ouders en leerkrachten hem ontvingen, hoe ze de eerste uitdagingen en vragen overwonnen, wat de toekomst in petto heeft in dit snelgroeiende veld van AI-games... en hoe Hapiko enkele functies moest opgeven om dit product veilig op de markt te kunnen brengen.