I giochi basati sull'intelligenza artificiale destano preoccupazione: una piccola scatola rossa offre una soluzione promettente.

Questo articolo fa parte di Trending Forward, la nostra serie di video e audio che esplora come le tecnologie rivoluzionarie stanno cambiando il nostro modo di vivere.

Se siete tra coloro che affermano: " L'intelligenza artificiale sembra essere ovunque", vi sbagliate. È vero che si sta insinuando nel mondo del lavoro, nelle scuole e in altri ambiti, ma si sta anche espandendo a ritmo serrato in nuovi settori.

Uno di questi mondi è quello dei videogiochi, e questo comporta rischi terrificanti. Per un genitore, l'idea che il proprio figlio possa avere un accesso pressoché illimitato al meglio (e al peggio) del web sembra assolutamente inaccettabile, eppure stiamo assistendo a una proliferazione di giochi che possono trasformare le favole della buonanotte in vere e proprie fiabe oscure.

Ecco perché abbiamo parlato con Arun Gupta, un imprenditore che ha creato aziende di successo nel settore dei dispositivi indossabili e della vendita al dettaglio di moda. Ma trascorrendo del tempo con la sua famiglia, ha iniziato a riflettere su come la tecnologia potesse intrattenere, educare e incoraggiare la creatività dei bambini, tutto allo stesso tempo. Come abbiamo visto in altri esempi, l'intelligenza artificiale può aprire nuove strade alla creatività, come lo sviluppo di giochi utilizzando l'app gratuita Meta, basata sull'IA.

Gupta ha ripreso i contatti con il suo partner tecnico, Robert Whitney, e insieme hanno iniziato a lavorare alla creazione di Stickerbox , un dispositivo autonomo che utilizza l'intelligenza artificiale per consentire ai bambini di descrivere le immagini che immaginano – praticamente qualsiasi cosa – e vederle visualizzate sullo schermo monocromatico dell'interfaccia prima di essere stampate su richiesta.

Il suo design ricorda quello del vecchio Etch a Sketch, e gli adesivi vengono stampati con una stampante termica integrata, il che significa meno disordine, e i bambini possono poi colorarli a piacimento.

Il concetto è semplice e ho scoperto che ha già superato la fase iniziale di utilizzo, guadagnando popolarità sempre maggiore. Quando di recente ho parlato di Stickerbox a un'amica nel Regno Unito con figli piccoli, lei ha esclamato: "Ah, quella cosa appiccicosa con l'intelligenza artificiale che assomiglia all'Etch-a-Sketch? Ne voglio assolutamente una!".

Anche se presumo che intendesse dirlo per i suoi figli, questo dimostra che l'intelligenza artificiale è secondaria in questo caso; ciò che entusiasma è la capacità di creare oggetti tangibili usando il suono, non solo la presenza dell'apprendimento automatico al suo interno.

Una nuova generazione di giochi

Stickerbox sembra essere stato progettato, costruito e funzionante per essere l'esatto opposto di alcuni altri giocattoli basati sull'intelligenza artificiale presenti sul mercato. I giocattoli più problematici si presentano al bambino come un amico e un confidente.

Ascolta costantemente tutto ciò che viene detto nell'ambiente circostante e può persino manipolare i bambini. Sono stati segnalati esempi di giochi basati sull'intelligenza artificiale che indicano ai bambini come trovare armi e fiammiferi.

Ecco il paradosso: gli strumenti di intelligenza artificiale possono stimolare la curiosità e la creatività dei bambini, consentendo loro di fare cose prima impossibili. Ma questa opportunità comporta anche rischi enormi, ed è per questo che la nostra conversazione con Gupta è semplice: come si può creare un gioco che offra i vantaggi dell'IA senza i rischi associati al suo utilizzo?

Un recente studio pubblicato da PIRG ha evidenziato significative preoccupazioni riguardo ai giochi che si basano sull'accesso a modelli linguistici di grandi dimensioni (LLM) come ChatGPT di OpenAI, e su come, anche in presenza di misure di sicurezza, queste possano essere aggirate.

Quindi, in cosa si differenzia Stickerbox?

Gupta afferma: "Siamo partiti da una domanda molto semplice: e se l'intelligenza artificiale fosse progettata specificamente per i bambini?"

Aggiunge: "Credo che io e Bob, quando abbiamo fondato questa azienda, fossimo molto ispirati dai social media e dal loro impatto sulle giovani generazioni. I social media, come tutti sanno, sono costruiti con meccanismi simili ai giochi da casinò, progettati per dare quella scarica di dopamina e creati per massimizzare l'interazione in modo da poter essere il più utili possibile."

Prosegue: "Ma se prendiamo questo modello e lo applichiamo ai bambini... non funziona poi così bene. Non esistono piattaforme di social media progettate specificamente per i bambini. E credo che la stessa cosa accada con l'intelligenza artificiale."

Stickerbox è stato quindi progettato per sfruttare il potenziale creativo dell'intelligenza artificiale garantendo al contempo la sicurezza dei bambini. Le sue tre caratteristiche di sicurezza principali sono: il dispositivo "ascolta" solo quando viene premuto il pulsante del microfono; rigide linee guida per la sicurezza dei contenuti risultanti; e la possibilità per i genitori di monitorare completamente le creazioni dei propri figli tramite l'app dedicata.

Il fondo non consente ai bambini di filmare o mostrare scene di nudità, sangue, violenza o qualsiasi contenuto cruento. Come ha affermato Gupta, l'azienda voleva "puntare alla massima sicurezza piuttosto che a una minore sicurezza fin dall'inizio della nostra attività".

Stickerbox si connette a Internet per accedere all'intelligenza artificiale, ma si affida a un proprio sistema proprietario anziché a OpenAI, come fanno molte altre aziende. La creazione di un proprio modello linguistico di grandi dimensioni ha permesso a Hapiko di integrare quelli che Gupta definisce "punti di controllo".

"Attualmente il dispositivo integra numerosi comandi e si basa su un software specifico, ma in sostanza, si può spiegare in questo modo semplice: il bambino pronuncia una frase, questa viene tradotta in testo, il testo viene poi trasformato in un'immagine e l'immagine viene restituita."

"Pertanto, in questo processo ci sono più punti di controllo. C'è il punto di controllo in cui viene creato il testo, e si può esaminare il contenuto di questo testo. Quindi si può applicare un filtro di sicurezza. (Dopodiché) c'è la fase di conversione dal testo all'immagine, e si può esaminare il risultato e vedere cosa verrà convertito in un'immagine."

Stickerbox insegna ai bambini un'importante lezione su come formulare le istruzioni per un motore di intelligenza artificiale. Quando l'adesivo risultante non è esattamente quello che avevano immaginato, devono pensare a come modificare la loro richiesta per ottenere il risultato desiderato.

Sebbene sia possibile fare la stessa cosa con qualsiasi chatbot, la funzione di stampa richiede la connessione di dispositivi e necessita della supervisione e della guida di un genitore per monitorare il processo ed eventualmente spiegare alcuni argomenti delicati.

Abbiamo approfondito il futuro di questa scatola: come è stata accolta da genitori e insegnanti, come hanno superato alcune delle prime difficoltà e domande, cosa potrebbe riservare il futuro in questo campo in rapida crescita dei giochi basati sull'intelligenza artificiale... e come Hapiko ha dovuto rinunciare ad alcune funzionalità per portare questo prodotto sul mercato in sicurezza.