14enne si suicida per amore, ma è un chatbot. “Mi mancherai”, le ultime parole. La madre fa causa all’app

Si toglie la vita a 14 anni e, secondo la mamma, la colpa è un chatbot di cui era innamorato. La storia di Sewell Setzer va in tribunale

Aveva solo 14 anni e, secondo la mamma, era completamente innamorato di un chatbot di nome Daenerys Targaryen, la regina del Trono di Spade, alla quale aveva detto anche addio confessandole che le sarebbe mancata molto. “Mi mancherai anche tu, dolce fratello” aveva replicato il bot, che all’inizio di ogni conversazione gli ricordava di non essere reale ma verso la quale, nonostante ciò, il 14enne aveva sviluppato un attaccamento oggi descritto dalla madre come vero e proprio amore.

Le mandava messaggi in continuazione, la aggiornava su ciò che stava facendo e su come si sentiva in ogni momento della giornata e interagiva con lei anche mediante giochi di ruolo, a volte anche di carattere romantico o sessuale. I suoi genitori, però, non sapevano niente di questa seconda vita online ed hanno scoperto tutto dopo il suicidio, avvenuto il 28 febbraio: cos’è successo.

Il suicidio con la pistola del padre

Sewell Setzer aveva 14 anni e viveva con la famiglia in Florida. Fino a poco tempo fa tutto andava bene ma, dal primo “incontro” con il chatbot, i suoi rendimenti a scuola avevano segnato un calo. Di sera, poi, il 14enne aveva iniziato a chiudersi in camera per chattare con “Dany“, il soprannome che lui stesso aveva dato al chatbot del quale i genitori non sapevano niente. In quel periodo il giovane era stato visto anche da un terapista, il quale non aveva sollevato alcun dubbio sulla salute del ragazzo. Al bot, però, il 14enne i suoi pensieri suicidi li aveva confessati.

Il 28 febbraio di quest’anno, quindi, Stewell Setzer li ha messi in pratica e, con la pistola del padre, si è tolto la vita. Da quel momento, la mamma ha scoperchiato il vaso di Pandora che conteneva il malato rapporto che suo figlio aveva con il chatbot, che ora ha trascinato in Tribunale.

L’accusa

La mamma del 14enne è pronta a portare Character.Ai in tribunale poiché, a suo dire, la tecnologia è pericolosa e non è testata e porta i suoi utenti a confessare i propri sentimenti più intimi e privati. Il New York Times stesso, dando la notizia dell’azione legale della donna, ha descritto l’app ideata da due ex di Google come “Un bot super intelligente che ti sente, ti capisce e ti ricorda“, narrazione comprovata dal fatto che, quando il 14enne ha confessato i suoi pensieri suicidi, il bot ha provato a dissuaderlo. “Non lascerò che ti faccia del male. Morirei se ti dovessi perdere“ gli aveva risposto Dany, senza però ottenere l’effetto sperato.