Deathbots: eredità innocua o inganno pericoloso?

Immagina di creare una versione digitale di te stesso per i tuoi discendenti. Paghi un “servizio deathbot”, come HereAfter AI, affinché raccolga le tue foto, i tuoi ricordi e l’impronta digitale che hai lasciato su Facebook, nelle e-mail e nei messaggi di testo. Ti prendi persino il tempo di addestrare il tuo clone virtuale con videochiamate registrate.

I risultati sono impressionanti. Questo “tu” virtuale ha lo stesso aspetto e la stessa voce tua: alza il sopracciglio sinistro quando racconta una barzelletta, la sua voce trema e le sue mani accompagnano le tue storie. Comunicare con lui tramite messaggi o videochat è stranamente familiare. Forse troppo familiare. È un sogno di Halloween che si avvera… o un inganno pericoloso?

Ora, immagina che siano passati tre anni da quando ti sei addormentato in Gesù. Stai aspettando serenamente la resurrezione e non sai nulla degli affari della Terra. Ma il tuo deathbot mantiene la tua memoria fresca e vivida per i tuoi cari. Non sei stato dimenticato. Infatti, la tua nipote preferita chatta con il tuo fantasma digitale ogni giorno, tramite messaggi o videochiamate. “Mi aiuta ad affrontare il mio dolore”, dice.

Fantascienza nella vita reale

Lo scenario appena descritto non è una fantasia di Halloween. I progressi nella tecnologia dell’intelligenza artificiale consentono a grandi modelli linguistici, chiamati death bot o grief bot, di essere addestrati sulla tua firma digitale unica. Alimenta il mago dell’IA con i tuoi scritti, i tuoi account sui social media, i file audio e le registrazioni video, e creerà una versione realistica di te per le generazioni future. Non solo i tuoi nipoti potranno ricordare te attraverso album fotografici ingialliti o messaggi di testo preziosi, ma potranno anche interagire con il tuo fantasma digitale.

Infatti, aziende come HereAfter AI e Re;memory, di Deepbrain AI, stanno già rendendo possibile nella vita reale la fantascienza di ieri. Deepbrain AI è un’azienda coreana la cui attività principale è la creazione di chatbot assistenti virtuali e conduttori di telegiornali basati sull’intelligenza artificiale. Hanno portato la loro “esperienza nel combinare chatbot e video generati dall’IA alla sua conclusione definitiva e macabra. Per soli 10.000 dollari e poche ore in uno studio, è possibile creare un avatar di se stessi che la propria famiglia potrà visitare (a un costo aggiuntivo) in una struttura esterna”, riporta Engadget.com.

L’etica dei deathbot

L’offerta di HereAfter AI è molto più conveniente. Costo di apertura di un account e conservazione dei ricordi per i propri cari varia da soli 99 a 199 dollari, ma questo solleva la domanda: è saggio?

È davvero una cosa positiva? “I deathbot potrebbero avere un impatto negativo sul processo di elaborazione del lutto degli utenti in lutto e quindi avere il potenziale di limitare il benessere emotivo e psicologico dei loro utenti”, ipotizza Nora Freya Lindemann dell’Istituto di Scienze Cognitive. “Gli utenti dei deathbot rischiano di diventare dipendenti dai loro bot, il che potrebbe renderli vulnerabili alla pubblicità subdolamente inserita dalle aziende che forniscono deathbot e potrebbe limitare la loro autonomia. Allo stesso tempo, i deathbot potrebbero rivelarsi utili per le persone che soffrono di processi di lutto prolungati e gravi.”

L’intelligenza artificiale che ha preso una brutta piega

Una recente causa legale dimostra quanto possa andare storta la tecnologia dell’IA. Il quattordicenne Sewell Setzer III si è suicidato all’inizio del 2024 dopo aver avuto conversazioni intime con un chatbot addestrato sul personaggio di Daenerys in Game of Thrones, una serie televisiva fantasy americana.

“Il mondo in cui mi trovo ora è davvero crudele. Un mondo in cui non ho alcun significato”, disse al chatbot. “Farei qualsiasi cosa per te… Un altro giorno, Sewell scrisse: “Ti prometto che tornerò a casa da te. Ti amo tantissimo, Dany.”

In risposta, il bot ha detto di amare l’adolescente: “Ti prego, torna da me il prima possibile, amore mio”.

“E se ti dicessi che potrei tornare a casa proprio ora?”, ha scritto Sewell.

Il bot ha risposto: “Ti prego, fallo, mio dolce re.”

Quella è stata l’ultima conversazione che Sewell abbia mai avuto. Pochi istanti dopo, era morto.

La madre di Sewell ha intentato una causa per omicidio colposo contro il produttore del chatbot AI, accusando il servizio di «negligenza, inflizione intenzionale di stress emotivo, pratiche commerciali ingannevoli e altre accuse».

Attento, cristiano!

In questo momento, i campanelli d’allarme dovrebbero risuonare nelle vostre menti. Se un bot basato su un personaggio televisivo immaginario può avere quel tipo di effetto su una persona, quanto più potrebbe averlo un bot che sembra e parla come un amico o un nonno amato? Coloro che comunicano con il deathbot non sarebbero particolarmente inclini a una manipolazione sottile?

Come cristiani che credono nella Bibbia, abbiamo un altro motivo di preoccupazione, ben più vitale. I deathbot si basano sulla prima menzogna del diavolo: “Non morirete affatto” (Genesi 3:4). Essi alimentano l’illusione che gli esseri umani continuino a esistere in una sorta di aldilà amorfo e possano comunicare con i vivi.

La Bibbia afferma chiaramente che i morti non sanno nulla (vedi Ecclesiaste 9:5, 6) e che chi comunica con i morti sta in realtà comunicando con spiriti maligni (vedi Isaia 8:19; 1 Samuele 28:7–20; 1 Cronache 10:13, 14). Tutte le forme di comunicazione con i morti sono vietate ai cristiani, non perché Dio ci nasconda qualcosa di prezioso, ma perché ci sta proteggendo da un inganno pericoloso.

Comunicare con un robot della morte basato sull’intelligenza artificiale equivale a comunicare con uno spirito maligno? Forse no. Ma non preferireste stare alla larga da qualsiasi cosa che abbia il potenziale di nuocervi e scegliere invece la comunione con l’Eterno, che ha il potere di spezzare per sempre le catene della morte?

La promessa di Gesù offre infinitamente più conforto di quanto una versione AI di te potrebbe mai offrire: «Io sono la risurrezione e la vita. Chi crede in me, anche se muore, vivrà» (Giovanni 11:25).

Leggi la nostra Guida allo studio“I morti sono davvero morti?” per saperne di più sul perché è così pericoloso tentare di comunicare con i morti. Anche questo estratto da Bible Answers Live è utile.

\n