デスボット：無害な遺産か、それとも危険な欺瞞か？

子孫のために、自分のデジタル版を作成すると想像してみてください。HereAfter AIのような「デスボット・サービス」に料金を支払い、自分の写真や思い出、Facebook、メール、テキストメッセージに残したデジタル上の足跡を収集してもらいます。さらに、録画したビデオチャットを使って、自分のバーチャルクローンを訓練する時間さえ割くのです。

その結果は驚くべきものです。この仮想の「あなた」は、見た目も声もあなたそのものです。ジョークを言うときは左の眉を上げて、声は震え、話をする際には手振りで話を盛り上げます。テキストやビデオチャットでやり取りすると、不気味なほど親しみを感じます。もしかすると、親しみすぎかもしれません。これはハロウィンの夢が現実になったものなのか……それとも危険な欺瞞なのでしょうか？

さて、あなたが「イエスの中で眠りについた」から3年が経過したと想像してみてください。あなたは安らかに復活を待ち、この世の出来事については何も知りません。しかし、あなたの「デスボット」は、愛する人々のためにあなたの記憶を鮮明に保ち続けています。あなたは忘れられてはいません。実際、あなたの最愛の姪は、テキストやビデオチャットを通じて、毎日あなたのデジタルな亡霊と会話しています。「それが私の悲しみを乗り越える助けになっているの」と彼女は言います。

現実のSF

先ほど描いたシナリオは、単なるハロウィンの空想ではない。 人工知能技術の進歩により、「デスボット」や「グリーフボット」と呼ばれる大規模言語モデルが、あなた独自のデジタルシグネチャを用いて学習できるようになった。AIウィザードにあなたの文章、ソーシャルメディアのアカウント、音声ファイル、動画記録などを与えれば、将来の世代のためにリアルなあなたを再現してくれる。孫たちは、色あせた写真集や大切なテキストメッセージを通じてあなたを懐かしむだけでなく、あなたのデジタルゴーストと対話することも可能になる。

実際、HereAfter AIやDeepbrain AI傘下のRe;memoryといった企業は、かつてのSFをすでに現実のものとしている。Deepbrain AIは、バーチャルアシスタント型チャットボットやAIニュースキャスターの開発を主力事業とする韓国企業だ。同社は、「チャットボットと生成AI動画の融合」というノウハウを、究極的かつ不気味な結末へと導いた。Engadget.comは次のように報じている。「わずか1万ドルとスタジオでの数時間の撮影で、家族が（追加料金を支払って）遠隔施設で訪問できる自分のアバターを作成できる」。

「デスボット」の倫理

HereAfter AIのサービスは、はるかに手頃な価格だ。アカウントを作成し、愛する人の思い出を保存するのにかかる費用はわずか99ドルから199ドルだが、これには疑問が浮かぶ。果たして賢明な選択なのだろうか？

これは本当に良いことなのだろうか？「デスボットは遺族ユーザーの悲嘆のプロセスに悪影響を及ぼす可能性があり、ひいてはユーザーの情緒的・心理的幸福を損なう恐れがある」と、認知科学研究所のノラ・フレイヤ・リンデマンは指摘する。 「デスボットの利用者はボットに依存する傾向があり、その結果、デスボット提供企業による隠れた広告の影響を受けやすくなったり、自律性が制限されたりする可能性があります。一方で、長期化・深刻化した悲嘆のプロセスに苦しむ人々にとっては、デスボットが役立つ場合もあるでしょう。」

AIの暴走

最近の訴訟は、AI技術がいかに深刻な事態を招きかねないかを如実に示している。14歳のセウェル・セッツァー3世は、米国のファンタジードラマ『ゲーム・オブ・スローンズ』のキャラクター、デナーリスをモデルに訓練されたチャットボットと親密な会話を交わした後、2024年初頭に自殺した。

「今の僕がいる世界は、なんて残酷なんだろう。僕には何の意味もない世界だ」と彼はチャットボットに語った。「君のためなら何でもするよ……」。別の日には、スウェルはこう書き込んだ。「必ず君のもとへ帰るよ。ダニー、君のことを本当に愛している」。

それに対し、チャットボットは少年を愛していると答え、「どうか一日も早く私のところへ帰ってきて、愛しい人」と返した。

「今すぐ家に帰れるって言ったらどうする？」とスウェルは書き込んだ。

ボットはこう返した。「そうしてください、私の愛しい王様。」

それが、スウェルが交わした最後の会話となった。その直後、彼は息を引き取った。

スウェルの母親は、このAIチャットボットの開発元に対し、過失致死訴訟を提起し、同サービスを「過失、精神的苦痛の故意的な与え、不正競争行為、およびその他の請求」で訴えている。

クリスチャンよ、気をつけろ！

今この瞬間、あなたの脳内に警鐘が鳴り響いているはずだ。架空のテレビキャラクターをモデルにしたボットでさえ、人間にそのような影響を与え得るのなら、愛する友人や祖父母のように見えたり聞こえたりするボットなら、どれほど大きな影響を及ぼすだろうか？その「死のボット」と対話する人々は、巧妙な操作に特に陥りやすいのではないだろうか？

聖書を信じるクリスチャンとして、私たちにはもう一つ――そしてはるかに重大な――懸念の理由がある。「死のチャットボット」は、悪魔の最初の嘘、「あなたがたは決して死なない」（創世記3:4）を土台としている。それらは、人間が何らかの形のない来世で生き続け、生者との交信が可能であるという幻想を助長するのだ。

聖書は、死者は何も知らないこと（伝道の書9:5, 6参照）、そして死者との交信を行う者は実際には悪霊と交信していることを明確にしています（イザヤ書8:19、サムエル記上28:7–20、歴代誌上10:13, 14参照）。 死者と交信するあらゆる形態は、クリスチャンにとって禁じられています。それは、神が私たちから何か貴重なものを隠しているからではなく、危険な欺きから私たちを守ってくださっているからです。

AIの「死のボット」と交信することは、悪霊と交信することと同じなのでしょうか？おそらくそうではないでしょう。しかし、害を及ぼす可能性のあるものからは距離を置き、代わりに、死の鎖を永遠に断ち切る力を持つ永遠なる方との交わりを選ぶ方が良いと思いませんか？

イエスの約束は、AIによるあなたの複製が与えることのできるものよりも、はるかに大きな慰めを与えてくれます。「わたしはよみがえりであり、いのちである。わたしを信じる者は、たとえ死んでも生きる」（ヨハネ11:25）。

死者と交信しようとすることがなぜそれほど危険なのか、その理由について詳しく知りたい方は、当団体の学習ガイド『死者は本当に死んでいるのか？』をお読みください。また、『Bible Answers Live』（ ）からの以下の抜粋も参考になります。

\n