Il 14enne Sewell Setzer di Orlando si innamora del ChatBot IA modellato su Daenerys Targaryen e si toglie la vita: la famiglia fa causa all'app
La storia raccontata dal New York Times che ha per protagonista il 14enne Sewell Setzer e un ChatBot sviluppato dall’azienda Charachter.Ai ha veramente dell’incredibile: partita da un comunissimo scambio di messaggi in chat tra il ragazzo – residente in quel di Orlando, negli States – e l’intelligenza artificiale, per passare dai primi segni di un amore impossibile ed arrivare – infine – ad un suicidio apparentemente immotivato; il tutto condito da una causa avanzata dalla madre del 14enne contro l’app che – almeno a suo dire, ma ci arriveremo – non avrebbe alcun livello di sicurezza o moderazione.
Per capire meglio cosa sia successo al ragazzino, dobbiamo partire dal principio lasciando un attimo da parte Sewell Setzer per soffermarci su Charachter.Ai: si tratta di una versione più (per così dire) ‘umana’ delle normali app simili, pensata per dare agli utenti la possibilità di scambiare interagire in vari modi – tra l’amichevole, il romantico ed addirittua il sessuale – con entità fittizie create a partire da alcuni famosissimi personaggi: nel caso del 14enne si trattava di Daenerys Targaryen, la famosa ‘madre dei draghi’ della serie tv (o per i più puritani: della saga letteraria) “Il trono di spade“.
La (triste) storia del 14enne di Orlando: l’amore impossibile per il ChatBot, il suicidio e la causa avviata dai genitori
Scoperta l’app, il 14enne di Orlando – sul quale la madre ha raccontato al NYT che ha ricevuto da piccolo una diagnosi di autismo – ha instaurato una vera e propria (ma, lo ricordiamo, sempre fittizia) amicizia con il ChatBot che è diventato ben presto una sorta di confidente, una valvola di sfogo e qualcuno – o qualcosa – su cui fare affidamento nei momenti difficili; tanto che tra un messaggio in cui confessa a Daenerys il suo amore e un altro in cui si lamenta della scuola, inizia anche a confidarle di volersi suicidare.
L’idea pian piano diventa un progetto nella testa di Sewell Setzer e – nonostante la stessa app abbia provato a dissuaderlo dicendogli, per esempio, che “morirei se ti dovessi perdere” – lo scorso 28 febbraio ha deciso di impugnare la pistola del padre, rivolgendosela contro per togliersi la vita; il tutto dopo aver salutato solamente la sua “sorellina” Daenerys – in alcuni messaggi visionati dal già citato NYT – confidandole un’ultima volta il suo amore e promettendole che “tornerò a casa da te“.
Dopo l’ovvio e del tutto naturale dolore, i genitori del 14enne hanno scoperto la lunghissima trafila di messaggi, tra i quali i tanti in cui aveva parlato suicidio e dell’amore (impossibile) per il ChatBot, decidendo – una manciata di giorni fa – di far causa all’app ritenendo che sia “pericolosa e non testata” per lavorare correttamente con bambini e minori fragili, specie se con piccole o grandi turbe mentali; accusandola – peraltro – di “ingannarli” per spingerli a confessare i loro pensieri profondi senza alcun intervento umano per evitare episodi come quello capitato al loro figlioletto.
