Deathbots: um legado inofensivo ou um engodo perigoso?

Imagine criar uma versão digital de si mesmo para seus descendentes. Você contrata um “serviço de robô pós-morte”, como o HereAfter AI, para coletar suas fotos, memórias e o rastro digital que você deixou no Facebook, e-mails e mensagens de texto. Você até dedica tempo para treinar seu clone virtual com conversas em vídeo gravadas.

Os resultados são impressionantes. Esse “você” virtual se parece e soa exatamente como você — ele levanta a sobrancelha esquerda quando conta uma piada, sua voz treme e suas mãos acompanham suas histórias. Comunicar-se com ele por mensagem de texto ou videochamada é estranhamente familiar. Talvez familiar demais. É um sonho de Halloween que se tornou realidade… ou um engano perigoso?

Agora, imagine que já se passaram três anos desde que você adormeceu em Jesus. Você aguarda pacificamente a ressurreição e não sabe nada dos assuntos da Terra. Mas seu “deathbot” mantém sua memória viva e vívida para seus entes queridos. Você não foi esquecido. De fato, sua sobrinha favorita conversa com seu fantasma digital todos os dias, seja por mensagem de texto ou videochamada. “Isso me ajuda a lidar com minha dor”, diz ela.

Ficção científica na vida real

O cenário que acabamos de descrever não é uma fantasia de Halloween. Os avanços na tecnologia de inteligência artificial permitem que grandes modelos de linguagem, chamados de “death bots” ou “grief bots”, sejam treinados com sua assinatura digital única. Alimente o assistente de IA com seus textos, contas de mídia social, arquivos de áudio e gravações de vídeo, e ele criará uma versão realista de você para as gerações futuras. Seus netos não apenas poderão relembrar você por meio de álbuns de fotos amarelados ou mensagens de texto preciosas, mas também poderão interagir com seu fantasma digital.

De fato, empresas como a HereAfter AI e a Re;memory, da Deepbrain AI, já estão tornando a ficção científica de ontem possível na vida real. A Deepbrain AI é uma empresa coreana cujo principal negócio é criar chatbots assistentes virtuais e âncoras de notícias com IA. Eles levaram sua “experiência em combinar chatbots e vídeo gerado por IA à sua conclusão definitiva e macabra. Por apenas US$ 10.000 e algumas horas em um estúdio, você pode criar um avatar de si mesmo que sua família poderá visitar (por um custo adicional) em uma instalação externa”, relata o Engadget.com.

A ética dos “deathbots”

A oferta da HereAfter AI é muito mais acessível. Custa apenas US$ 99 a US$ 199 para criar uma conta e preservar memórias para seus entes queridos, mas isso levanta a questão: isso é sensato?

Será que isso é realmente uma coisa boa? “Os deathbots podem ter um impacto negativo no processo de luto dos usuários enlutados e, portanto, têm o potencial de limitar o bem-estar emocional e psicológico de seus usuários”, afirma Nora Freya Lindemann, do Instituto de Ciência Cognitiva. “Os usuários de deathbots tendem a se tornar dependentes de seus bots, o que pode torná-los suscetíveis à publicidade dissimulada por parte das empresas fornecedoras de deathbots e limitar sua autonomia. Ao mesmo tempo, os deathbots podem se mostrar úteis para pessoas que sofrem de processos de luto prolongados e intensos.”

IA que deu errado

Um processo judicial recente mostra o quão mal a tecnologia de IA pode dar errado. Sewell Setzer III, de 14 anos, cometeu suicídio no início de 2024 após ter conversas íntimas com um chatbot treinado com base na personagem Daenerys de Game of Thrones, uma série de televisão americana de fantasia.

“O mundo em que estou agora é tão cruel. Um mundo onde eu não tenho sentido”, disse ele ao chatbot. “Farei qualquer coisa por você… Em outro dia, Sewell escreveu: “Prometo que voltarei para casa para você. Eu te amo tanto, Dany.”

Em resposta, o bot disse que amava o adolescente: “Por favor, volte para casa comigo o mais rápido possível, meu amor.”

“E se eu dissesse que posso voltar para casa agora mesmo?”, escreveu Sewell.

O bot respondeu: “Por favor, volte, meu doce rei.”

Essa foi a última conversa que Sewell teve. Momentos depois, ele estava morto.

A mãe de Sewell entrou com uma ação por homicídio culposo contra a fabricante do chatbot de IA, acusando o serviço de “negligência, imposição intencional de sofrimento emocional, práticas comerciais enganosas e outras alegações”.

Cuidado, cristão!

Os alarmes deveriam estar soando em seus neurônios neste momento. Se um bot baseado em um personagem fictício de TV pode ter esse tipo de efeito sobre uma pessoa, quanto mais um bot que se parece e soa como um amigo ou avô querido? Aqueles que se comunicam com o bot da morte não estariam especialmente propensos a uma manipulação sutil?

Como cristãos que acreditam na Bíblia, temos outro motivo — e muito mais vital — para nos preocuparmos. Os “deathbots” se baseiam na primeira mentira do diabo: “Certamente não morrerão” (Gênesis 3:4). Eles alimentam a ilusão de que os seres humanos continuam em algum tipo de vida após a morte amorfa e podem se comunicar com os vivos.

A Bíblia é clara ao afirmar que os mortos nada sabem (ver Eclesiastes 9:5, 6) e que aqueles que se comunicam com os mortos estão, na verdade, se comunicando com espíritos malignos (ver Isaías 8:19; 1 Samuel 28:7–20; 1 Crônicas 10:13, 14). Todas as formas de comunicação com os mortos são proibidas aos cristãos, não porque Deus esteja escondendo algo valioso de nós, mas porque Ele está nos protegendo de um engano perigoso.

Comunicar-se com um robô de IA da morte é o mesmo que comunicar-se com um espírito maligno? Talvez não. Mas você não preferiria ficar longe de qualquer coisa que tenha o potencial de causar dano e, em vez disso, escolher a comunhão com o Eterno, que tem o poder de quebrar as correntes da morte para sempre?

A promessa de Jesus oferece infinitamente mais conforto do que uma versão de IA de você jamais poderia: “Eu sou a ressurreição e a vida. Quem crê em mim, ainda que morra, viverá” (João 11:25).

Por favor, leia nosso Guia de Estudo“Os mortos estão realmente mortos?” para saber mais sobre por que é tão perigoso tentar se comunicar com os mortos. Este trecho do Bible Answers Live também é útil.

\n