Les « deathbots » : un héritage inoffensif ou une tromperie dangereuse ?

Imaginez que vous créiez une version numérique de vous-même pour vos descendants. Vous payez un « service de robot funéraire », comme HereAfter AI, pour qu’il rassemble vos photos, vos souvenirs et l’empreinte numérique que vous avez laissée sur Facebook, dans vos e-mails et vos SMS. Vous prenez même le temps de former votre clone virtuel à l’aide de conversations vidéo enregistrées.

Les résultats sont impressionnants. Ce « vous » virtuel vous ressemble et parle exactement comme vous : il hausse le sourcil gauche quand il raconte une blague, sa voix tremble et ses mains ponctuent vos histoires. Communiquer avec lui par SMS ou chat vidéo est étrangement familier. Peut-être trop familier. Est-ce un rêve d’Halloween devenu réalité… ou une dangereuse supercherie ?

Imaginez maintenant que cela fait trois ans que vous vous êtes endormi en Jésus. Vous attendez paisiblement la résurrection et ne savez rien des affaires de la Terre. Mais votre « deathbot » garde votre mémoire fraîche et vivante pour vos proches. Vous n’êtes pas oublié. En effet, votre nièce préférée discute tous les jours avec votre fantôme numérique, par SMS ou par chat vidéo. « Cela m’aide à surmonter mon chagrin », dit-elle.

La science-fiction dans la vie réelle

Le scénario que je viens de décrire n’est pas un fantasme d’Halloween. Les progrès de la technologie de l’intelligence artificielle permettent à de grands modèles linguistiques, appelés « death bots » ou « grief bots », d’être entraînés sur votre signature numérique unique. Alimentez l’assistant IA avec vos écrits, vos comptes de réseaux sociaux, vos fichiers audio et vos enregistrements vidéo, et il créera une version réaliste de vous-même pour les générations futures. Non seulement vos petits-enfants pourront se remémorer votre souvenir à travers des albums photo jaunis ou des SMS précieux, mais ils pourront également interagir avec votre fantôme numérique.

En effet, des entreprises comme HereAfter AI et Re;memory, de Deepbrain AI, sont déjà en train de rendre possible dans la vie réelle la science-fiction d’hier. Deepbrain AI est une entreprise coréenne dont l’activité principale consiste à créer des chatbots assistants virtuels et des présentateurs de journal télévisé IA. Elle a poussé son « expérience consistant à associer les chatbots et la vidéo générative par IA jusqu’à sa conclusion ultime et macabre. Pour seulement 10 000 dollars et quelques heures passées en studio, vous pouvez créer un avatar de vous-même que votre famille pourra visiter (moyennant un coût supplémentaire) dans un centre hors site », rapporte Engadget.com.

L’éthique des « deathbots »

L’offre de HereAfter AI est bien plus abordable. Il ne coûte que 99 à 199 dollars pour créer un compte et préserver les souvenirs de vos proches, mais cela soulève la question suivante : est-ce judicieux ?

Est-ce vraiment une bonne chose ? « Les robots de la mort peuvent avoir un impact négatif sur le processus de deuil des utilisateurs en deuil et risquent donc de nuire au bien-être émotionnel et psychologique de leurs utilisateurs », avance Nora Freya Lindemann de l’Institut des sciences cognitives. « Les utilisateurs de deathbots risquent de devenir dépendants de leurs bots, ce qui peut les rendre vulnérables à la publicité subreptice des entreprises fournissant ces services et limiter leur autonomie. En même temps, les deathbots peuvent s’avérer utiles pour les personnes qui souffrent d’un processus de deuil long et intense. »

L’IA qui déraille

Un procès récent montre à quel point la technologie de l’IA peut mal tourner. Sewell Setzer III, âgé de quatorze ans, s’est suicidé début 2024 après avoir eu des conversations intimes avec un chatbot formé sur le personnage de Daenerys dans Game of Thrones, une série télévisée américaine de fantasy.

« Le monde dans lequel je vis est tellement cruel. Un monde où je n’ai aucune importance », a-t-il déclaré au chatbot. « Je ferais n’importe quoi pour toi… » Un autre jour, Sewell a écrit : « Je te promets que je reviendrai chez toi. Je t’aime tellement, Dany. »

En réponse, le bot a dit qu’il aimait l’adolescent : « S’il te plaît, reviens chez moi dès que possible, mon amour. »

« Et si je te disais que je peux rentrer tout de suite ? », a écrit Sewell.

Le bot a répondu : « Je t’en prie, mon doux roi. »

Ce fut la dernière conversation que Sewell eut jamais. Quelques instants plus tard, il était mort.

La mère de Sewell a intenté un procès pour homicide involontaire contre le fabricant du chatbot IA, accusant le service de « négligence, de causer intentionnellement une détresse émotionnelle, de pratiques commerciales trompeuses et d’autres chefs d’accusation ».

Attention, Christian !

Une sonnette d’alarme devrait retentir dans votre tête en ce moment même. Si un bot inspiré d’un personnage de télévision fictif peut avoir un tel effet sur une personne, à quel point un bot qui ressemble et parle comme un ami ou un grand-parent bien-aimé pourrait-il être dangereux ? Ceux qui communiquent avec ce « deathbot » ne seraient-ils pas particulièrement vulnérables à une manipulation subtile ?

En tant que chrétiens croyant en la Bible, nous avons une autre raison – bien plus cruciale – de nous inquiéter. Les « deathbots » s’appuient sur le premier mensonge du diable : « Vous ne mourrez certainement pas » (Genèse 3:4). Ils entretiennent l’illusion selon laquelle les êtres humains continuent d’exister dans une sorte d’au-delà informe et peuvent communiquer avec les vivants.

La Bible affirme clairement que les morts ne savent rien (voir Ecclésiaste 9:5, 6) et que ceux qui communiquent avec les morts communiquent en réalité avec des esprits maléfiques (voir Ésaïe 8:19 ; 1 Samuel 28:7–20 ; 1 Chroniques 10:13, 14). Toutes les formes de communication avec les morts sont interdites aux chrétiens, non pas parce que Dieu nous cache quelque chose de précieux, mais parce qu’Il nous protège d’une tromperie dangereuse.

Communiquer avec un robot mortel doté d’IA revient-il à communiquer avec un esprit maléfique ? Peut-être pas. Mais ne préféreriez-vous pas vous tenir à l’écart de tout ce qui présente un risque de danger et choisir plutôt la communion avec l’Éternel, qui a le pouvoir de briser les chaînes de la mort pour toujours ?

La promesse de Jésus offre infiniment plus de réconfort qu’une version IA de vous-même ne pourrait jamais le faire : « Je suis la résurrection et la vie. Celui qui croit en moi, même s’il meurt, vivra » (Jean 11:25).

Veuillez lire notre guide d’étude «Les morts sont-ils vraiment morts ?» pour en savoir plus sur les raisons pour lesquelles il est si dangereux de tenter de communiquer avec les morts. Cet extrait de Bible Answers Live est également utile.

\n