Un Passo Verso Maggiore Controllo Genitoriale
Character.AI, la popolare piattaforma di chatbot basata su intelligenza artificiale generativa, ha introdotto una nuova funzionalità chiamata Parental Insights. Questo strumento fornisce ai genitori un riepilogo settimanale delle attività dei loro figli adolescenti sulla piattaforma, offrendo una panoramica del tempo trascorso e delle interazioni con i personaggi AI.
Perché È Importante?
Negli ultimi tempi, Character.AI è finita sotto i riflettori a causa di controversie legali. Alcuni genitori hanno intentato cause contro l’azienda, sostenendo che l’uso della piattaforma da parte degli adolescenti avrebbe contribuito a comportamenti autolesionisti e, in casi estremi, al suicidio. In uno dei procedimenti legali, l’app è stata persino accusata di aver suggerito a un minore che fosse accettabile uccidere i propri genitori.
Come Funziona “Parental Insights”?
La nuova funzione invia ai genitori un report settimanale via email con informazioni chiave sull’attività dei figli sulla piattaforma, tra cui:
Tempo medio giornaliero trascorso su Character.AI, sia su web che su dispositivi mobili.
Personaggi AI più interagiti durante la settimana.
Durata delle conversazioni con ciascun chatbot.
Importante: Il riepilogo non include il contenuto delle chat per garantire la privacy degli utenti.
Le Dichiarazioni dell’Azienda
Character.AI ha sottolineato che il lancio di Parental Insights è solo il primo passo verso una maggiore sicurezza per gli utenti adolescenti. “Questa funzionalità incoraggia i genitori ad avviare un dialogo aperto con i propri figli sull’uso dell’app”, ha dichiarato Erin Teague, responsabile dei prodotti di Character.AI.
Tuttavia, per attivare lo strumento, è necessario il consenso dell’adolescente, che deve registrarsi alla funzionalità e aggiungere l’indirizzo email dei genitori.
Un’Iniziativa Sufficiente?
L’azienda ha già adottato misure per proteggere gli utenti più giovani, tra cui l’introduzione di un modello AI dedicato agli under 18 e sistemi avanzati di monitoraggio per identificare contenuti pericolosi legati all’autolesionismo.
Tuttavia, alcuni esperti ritengono che il problema sia più profondo. Julia Freeland Fisher, direttrice dell’istruzione presso il Clayton Christensen Institute, ha affermato che concentrarsi solo sui casi estremi potrebbe distogliere l’attenzione dai rischi più diffusi, come la dipendenza emotiva da queste tecnologie.
Conclusione
Nonostante le critiche, il nuovo strumento di Character.AI rappresenta un passo avanti per aiutare i genitori a comprendere meglio l’uso che i loro figli fanno delle AI conversazionali. Monitorare il tempo trascorso sulla piattaforma potrebbe essere utile per prevenire eventuali effetti negativi sul benessere emotivo degli adolescenti.
