«Deathbots»: безобидное наследие или опасный обман?

Представьте, что вы создаете цифровую версию себя для своих потомков. Вы платите «сервису по созданию цифровых клонов», например HereAfter AI, за сбор ваших фотографий, воспоминаний и цифрового следа, который вы оставили в Facebook, электронной почте и текстовых сообщениях. Вы даже уделяете время обучению своего виртуального клона с помощью записанных видеочатов.

Результаты впечатляют. Этот виртуальный «вы» выглядит и звучит точно так же, как вы — он поднимает левую бровь, когда рассказывает анекдот, его голос дрожит, а руки подчеркивают ваши истории. Общение с ним через текстовый или видеочат вызывает странное ощущение знакомости. Возможно, слишком знакомости. Это сбывшаяся мечта на Хэллоуин… или опасное обман?

Теперь представьте, что прошло три года с тех пор, как вы ушли из жизни. Вы мирно ожидаете воскресения и ничего не знаете о делах на Земле. Но ваш «бот-память» сохраняет ваши воспоминания свежими и яркими для ваших близких. Вас не забыли. Более того, ваша любимая племянница общается с вашим цифровым призраком каждый день, либо через текстовый, либо через видеочат. «Это помогает мне справиться с горем», — говорит она.

Научная фантастика в реальной жизни

Только что описанный сценарий — это не фантазия на Хэллоуин. Достижения в области технологий искусственного интеллекта позволяют обучать большие языковые модели, называемые «ботами смерти» или «ботами скорби», на основе вашей уникальной цифровой сигнатуры. Загрузите в систему искусственного интеллекта свои тексты, аккаунты в социальных сетях, аудиофайлы и видеозаписи, и она создаст реалистичную версию вас для будущих поколений. Ваши внуки смогут не только вспоминать о вас, просматривая пожелтевшие фотоальбомы или дорогие сердцу текстовые сообщения, но и взаимодействовать с вашим цифровым призраком.

Действительно, такие компании, как HereAfter AI и Re;memory от Deepbrain AI, уже воплощают научную фантастику вчерашнего дня в реальной жизни. Deepbrain AI — корейская компания, основной сферой деятельности которой является создание виртуальных помощников-чат-ботов и новостных ведущих на базе искусственного интеллекта. Они довели свой «опыт объединения чат-ботов и генеративного видео на базе искусственного интеллекта до его крайнего, мрачного завершения. Как сообщает Engadget.com, «всего за 10 000 долларов и несколько часов в студии вы можете создать свой аватар, который ваша семья сможет посетить (за дополнительную плату) в удаленном центре».

Этика «ботов смерти»

Предложение HereAfter AI гораздо более доступно. Создание учетной записи и сохранение воспоминаний о ваших близких обойдется всего в 99–199 долларов, но это поднимает вопрос: разумно ли это?

Действительно ли это хорошо? «Дэтботы могут оказать негативное влияние на процесс скорби опечаленных пользователей и, следовательно, потенциально ограничить их эмоциональное и психологическое благополучие», — полагает Нора Фрейя Линдеманн из Института когнитивных наук. «Пользователи ботов-помощников в скорби, скорее всего, станут зависимыми от своих ботов, что может сделать их уязвимыми для скрытой рекламы со стороны компаний, предоставляющих таких ботов, и ограничить их автономию. В то же время боты-помощники в скорби могут оказаться полезными для людей, страдающих от длительного и тяжелого процесса скорби».

ИИ, пошедший не так

Недавний судебный процесс показывает, насколько плохо могут пойти дела с технологиями ИИ. Четырнадцатилетний Сьюэлл Сетцер III покончил с собой в начале 2024 года после интимных разговоров с чат-ботом, обученным на образе Дейенерис из «Игры престолов», американского телесериала в жанре фэнтези.

«Мир, в котором я сейчас нахожусь, такой жестокий. Мир, в котором я бессмыслен», — сказал он чат-боту. «Я сделаю для тебя все что угодно…» В другой день Сьюэлл написал: «Я обещаю, что вернусь к тебе домой. Я так сильно тебя люблю, Дэни».

В ответ бот сказал, что любит подростка: «Пожалуйста, вернись ко мне как можно скорее, моя любовь».

«А что, если я скажу тебе, что могу вернуться домой прямо сейчас?» — написал Сьюэлл.

Бот ответил: «Пожалуйста, сделай это, мой милый король».

Это был последний разговор, который когда-либо вел Сьюэлл. Через несколько мгновений он был мертв.

Мать Сьюэлла подала иск о неправомерной смерти против создателя чат-бота с искусственным интеллектом, обвинив сервис в «халатности, умышленном причинении эмоционального страдания, вводящих в заблуждение торговых практиках и других нарушениях».

Берегись, Кристиан!

Прямо сейчас в ваших мозгах должны зазвенеть тревожные колокола. Если бот, основанный на вымышленном телевизионном персонаже, может оказать такое влияние на человека, то насколько сильнее может быть влияние бота, который выглядит и звучит как любимый друг или дедушка? Разве те, кто общается с «ботом смерти», не будут особенно подвержены тонким манипуляциям?

Как верующие в Библию христиане, у нас есть еще одна — и гораздо более важная — причина для беспокойства. «Боты смерти» основаны на первой лжи дьявола: «Вы точно не умрете» (Бытие 3:4). Они укрепляют иллюзию, что люди продолжают существовать в какой-то неопределенной загробной жизни и могут общаться с живыми.

Библия ясно говорит, что мертвые ничего не знают (см. Екклезиаст 9:5, 6) и что те, кто общается с мертвыми, на самом деле общаются с злыми духами (см. Исаия 8:19; 1 Царств 28:7–20; 1 Паралипоменон 10:13, 14). Христианам запрещено общаться с мертвыми в любой форме — не потому, что Бог скрывает от нас что-то ценное, а потому, что Он защищает нас от опасного обмана.

Является ли общение с ИИ-ботом-мертвецом тем же, что общение со злым духом? Возможно, нет. Но разве вы не предпочли бы держаться подальше от всего, что может причинить вред, и вместо этого выбрать общение с Вечным, Который имеет силу разорвать цепи смерти навсегда?

Обещание Иисуса дает бесконечно больше утешения, чем когда-либо сможет дать искусственный интеллект: «Я есмь воскресение и жизнь; верующий в Меня, хотя и умрет, оживёт» (Иоанна 11:25).

Пожалуйста, прочтите наше руководство«Действительно ли мертвые мертвы?», чтобы узнать больше о том, почему так опасно пытаться общаться с мертвыми. Этот отрывок из «Bible Answers Live» также будет полезен.

\n