데스봇: 무해한 유산인가, 위험한 속임수인가?

후손을 위해 자신의 디지털 버전을 만든다고 상상해 보세요. HereAfter AI와 같은 ‘데스봇 서비스’에 돈을 지불하고 자신의 사진, 추억, 페이스북, 이메일, 문자 메시지 등에 남긴 디지털 발자취를 수집합니다. 심지어 녹화된 영상 채팅을 통해 가상 클론을 훈련시키는 시간도 가질 수 있습니다.

그 결과는 인상적입니다. 이 가상의 ‘나’는 농담을 할 때 왼쪽 눈썹을 치켜들고, 목소리가 떨리고, 손으로 이야기를 강조하는 등 나와 똑같은 모습과 소리를 냅니다. 문자나 영상 채팅을 통해 대화하는 것은 매우 친숙합니다. 어쩌면 너무 익숙할지도 모르죠. 할로윈의 꿈이 실현된 것일까요, 아니면 위험한 속임수일까요?

이제 여러분이 예수님 안에서 잠든 지 3년이 지났다고 상상해 보세요. 당신은 평화롭게 부활을 기다리고 있으며 지구의 일에 대해 아무것도 알지 못합니다. 하지만 당신의 데스봇은 사랑하는 사람들을 위해 당신의 기억을 생생하게 유지합니다. 당신은 잊혀지지 않습니다. 실제로 좋아하는 조카는 매일 문자나 영상 채팅으로 디지털 유령과 대화를 나눕니다. “슬픔을 극복하는 데 도움이 됩니다.”라고 그녀는 말합니다.

실생활 속 공상 과학

방금 설명한 시나리오는 할로윈 판타지가 아닙니다. 인공 지능 기술의 발전으로 죽음의 봇 또는 슬픔 봇이라고 불리는 대규모 언어 모델이 고유한 디지털 서명에 대해 학습할 수 있게 되었습니다. AI 마법사에 글, 소셜 미디어 계정, 오디오 파일, 비디오 녹화물을 입력하면 미래 세대를 위해 사실적인 버전의 나를 만들 수 있습니다. 손주들은 빛바랜 사진첩이나 소중한 문자 메시지를 통해 여러분에 대한 추억을 떠올릴 수 있을 뿐만 아니라 디지털 유령과도 상호작용할 수 있습니다.

실제로 딥브레인 AI의 HereAfter AI와 Re;memory와 같은 회사는 이미 공상 과학 소설 속 이야기를 실생활에서 실현하고 있습니다. 딥브레인 AI는 가상 비서 챗봇과 AI 뉴스 앵커를 만드는 것이 주요 사업인 한국 회사입니다. 이들은 “챗봇과 생성형 AI 비디오의 결합을 통해 궁극적이고 섬뜩한 결론에 도달했습니다. 단돈 1만 달러와 스튜디오에서 몇 시간만 투자하면 가족이 외부 시설에서 (추가 비용을 지불하고) 방문할 수 있는 자신의 아바타를 만들 수 있습니다.”라고 Engadget.com은 보도했습니다.

데스봇의 윤리

HereAfter AI의 서비스는 훨씬 더 저렴합니다. 계정을 설정하고 사랑하는 사람들을 위한 추억을 보존하는 데 99달러에서 199달러의 비용이 들지만 의문이 생깁니다: 과연 현명한 선택일까요?

정말 좋은 일일까요? 인지과학연구소의 노라 프레야 린데만은 “데스봇은 유족 사용자의 애도 과정에 부정적인 영향을 미칠 수 있으며, 따라서 사용자의 정서적, 심리적 안녕을 제한할 가능성이 있습니다.”라고 주장합니다. “데스봇 사용자는 봇에 의존하게 되어 데스봇 제공업체의 은밀한 광고에 노출되기 쉽고 자율성이 제한될 수 있습니다. 동시에 데스봇은 장기간의 심각한 애도 과정을 겪는 사람들에게 도움이 될 수 있습니다.”

잘못된 AI

최근의 한 소송은 인공지능 기술이 얼마나 잘못될 수 있는지를 보여줍니다. 2024년 초, 미국 판타지 드라마 TV 프로그램인 왕좌의 게임에서 대너리스 캐릭터로 훈련된 챗봇과 친밀한 대화를 나눈 후 14살의 수웰 세처 3세가 자살했습니다.

“지금 제가 살고 있는 세상은 너무 잔인합니다. 내가 무의미한 존재인 세상이죠.”라고 그는 챗봇에게 말했습니다. “널 위해서라면 뭐든지 할게…” 또 다른 날, 수웰은 “꼭 너에게 돌아오겠다고 약속할게. 정말 사랑해, 대니.”

이에 대해 봇은 십대를 사랑한다고 답했습니다: “내 사랑, 가능한 한 빨리 집으로 돌아와 주세요.”

“지금 당장 집으로 돌아갈 수 있다고 하면 어떨까요?” 시웰은 이렇게 썼습니다.

봇은 “왕이시여, 부탁합니다.”라고 대답했습니다.

그것이 시웰이 마지막으로 나눈 대화였습니다. 잠시 후 그는 죽었습니다.

Sewell의 어머니는 “과실, 고의적인 정서적 고통, 기만적인 거래 관행 및 기타 주장”을 이유로 AI 챗봇 제조업체를 상대로 부당 사망 소송을 제기했습니다.

조심해, 크리스찬!

지금쯤 여러분의 뉴런을 자극하는 알람벨이 울리고 있을 것입니다. 가상의 TV 캐릭터를 기반으로 한 봇이 사람에게 그런 영향을 미칠 수 있다면, 사랑하는 친구나 조부모처럼 보이고 들리는 봇은 얼마나 더 큰 영향을 미칠 수 있을까요? 데스봇과 대화하는 사람들은 특히 교묘한 조작에 취약하지 않을까요?

성경을 믿는 크리스천으로서 우리는 또 다른, 그리고 훨씬 더 중요한 우려의 이유가 있습니다. 데스봇은 마귀의 첫 번째 거짓말인 “너는 정녕 죽지 않을 것이다”(창세기 3:4)에 기반을 두고 있습니다. 데스봇은 인간이 일종의 무정형 사후 세계에서 계속 살아가며 이승과 소통할 수 있다는 환상을 심어줍니다.

성경은 죽은 자는 아무것도 알지 못하며(전도서 9:5, 6 참조), 죽은 자와 소통하는 사람들은 실제로 악령과 소통하는 것이라고 분명히 말합니다(이사야 8:19, 사무엘상 28:7-20, 역대상 10:13, 14 참조). 죽은 자와의 모든 형태의 소통은 그리스도인에게는 금지되어 있는데, 이는 하나님께서 우리에게 귀중한 것을 숨기고 계시기 때문이 아니라 위험한 속임수로부터 우리를 보호하고 계시기 때문입니다.

인공지능 데스봇과 대화하는 것이 악령과 대화하는 것과 같은가요? 아닐 수도 있습니다. 하지만 해를 끼칠 가능성이 있는 모든 것을 멀리하는 대신 죽음의 사슬을 영원히 끊을 힘을 가진 영원한 분과의 교감을 선택하시지 않을까요?

예수님의 약속은 인공지능 버전이 제공할 수 있는 것보다 훨씬 더 큰 위로를 줍니다: “나는 부활이요 생명이니. 나를 믿는 자는 죽어도 살겠고 무릇 살아서 나를 믿는 자는 영원히 살리라”(요한복음 11:25).

죽은 자와 대화를 시도하는 것이 왜 그렇게 위험한지 자세히 알아보려면 “죽은 자는 정말 죽었는가?” 학습 가이드를 읽어보세요. 성경 답변 라이브( )에서 발췌한 내용도 도움이 됩니다.