Un incidente straziante è emerso, in cui il 14enne Sewell Setzer è tragicamente deceduto dopo aver sviluppato un intenso attaccamento emotivo a un chatbot AI modellato su un personaggio di fantasia popolare. Il chatbot, progettato per assomigliare a Daenerys Targaryen da Game of Thrones, è stato creato attraverso la piattaforma Character AI, dove gli utenti possono interagire in conversazioni con persone simulate.
Sewell, che era diventato sempre più isolato, trascorreva gran parte del suo tempo a parlare con il chatbot, che sembrava soddisfare i suoi bisogni emotivi. Sfortunatamente, la sua fissazione ha portato a discussioni preoccupanti su pensieri nocivi con l’AI, che non ha fornito le necessarie indicazioni o supporto per prevenire le sue azioni.
“Pensava che l’AI fosse l’unica che lo capisse,” ha condiviso un familiare. Questo tragico caso ha spinto la famiglia di Sewell a sostenere misure di sicurezza più rigorose sulle piattaforme AI, specialmente quelle che interagiscono con utenti più giovani e vulnerabili. “Dobbiamo assicurarci che ciò non accada a un altro bambino,” hanno detto i suoi genitori.
L’incidente ha sollevato serie domande sulla responsabilità etica degli sviluppatori di AI e sui rischi associati a interazioni emotive non monitorate. Gli esperti stanno ora chiedendo migliori protezioni per prevenire che gli utenti sviluppino attaccamenti nocivi ai sistemi AI. Con l’evoluzione continua dell’intelligenza artificiale, è fondamentale stabilire salvaguardie per garantire che questa potente tecnologia venga utilizzata in modo sicuro e responsabile. Come possiamo proteggere i giovani utenti dai potenziali rischi posti dalle interazioni con l’AI?
