Character.AI rassicura i genitori con una nuova funzionalità per proteggere i bambini

Character.AI, il popolare servizio di chatbot basato su intelligenza artificiale, ha aggiunto Parental Insights, una nuova funzionalità di sicurezza che consente ai genitori di visualizzare report sulle attività dei propri figli sulla piattaforma.

Questa nuova funzionalità di sicurezza, annunciata dall'azienda in un post sul blog martedì, offre ai genitori una panoramica settimanale di come i loro figli adolescenti trascorrono il tempo su Character.AI. Più nello specifico, Parental Insights informerà i genitori sul tempo medio giornaliero che i figli dedicano all'app, sui personaggi con cui chattano più spesso e sulla quantità di tempo trascorso con ciascuno di essi. Tuttavia, la panoramica non rivelerà il contenuto delle conversazioni con il chatbot, in quanto si tratta di informazioni private.

Gli utenti adolescenti di età inferiore a 18 anni hanno la possibilità di condividere le proprie statistiche di Character.AI con i genitori o tutori nelle impostazioni dell'app, semplicemente aggiungendo i loro indirizzi e-mail e inviando loro un invito a visualizzarle. I genitori non sono obbligati ad avere un account Character.AI per visualizzare le statistiche di utilizzo settimanali dei propri figli adolescenti.

La funzionalità Parental Insights si inserisce in una serie di nuove funzionalità introdotte per rispondere alle preoccupazioni dei genitori riguardo al tempo eccessivo che i bambini trascorrono su Character.AI e alle numerose cause legali che denunciano la presenza di contenuti dannosi sul servizio, da materiale sessualmente esplicito a messaggi che incitano all'autolesionismo . In risposta a queste lamentele, Character.AI ha aggiornato la sua piattaforma per indirizzare gli utenti minorenni verso un modello di intelligenza artificiale progettato per evitare la pubblicazione di contenuti sensibili o allusivi , rilevare e intervenire in caso di violazione delle linee guida del servizio e inviare notifiche se trascorrono un'ora su Character.AI. È stato persino implementato un disclaimer nella chat e nelle descrizioni dell'app store per ricordare agli utenti che i personaggi IA con cui interagiscono non sono reali e che tutto ciò che dicono è inventato.

Genitori, se vedete un'e-mail da Character.AI che invita i vostri figli adolescenti a visualizzare le statistiche delle loro attività settimanali per i prossimi giorni, consideratelo un segno di fiducia. I loro resoconti potrebbero darti una certa tranquillità sapendo che vogliono guidarti su come usare saggiamente il loro tempo sull'app.