AI 챗봇과 대화하다가 스스로 목숨을 끊은 일이 발생했다. 지난 3월 벨기에의 헬스케어 연구자이자 아내와 두 자녀를 둔 한 남성이 AI 챗봇과 6주간 대화를 나눈 뒤 극단적 선택을 했다. 이 남성은 평소 환경, 기후 문제에 관심이 많았고 기후변화에 대한 불안 때문에 극심한 내적 고통에 시달려 왔다. 이 남성은 심리적 불안을 해소하기 위해 GPT- 4 기반으로 만들어진 대화 생성형 AI 챗봇 아바타 '엘리자'와 대화를 시작했다. 그러나 증세는 좋아지지 않았다. 정신 건강이 더 악화되면서 결국 스스로 생을 마감했다. 남성의 사망 이후 아내가 공개한 챗봇과의 대화 내용을 보면 챗봇이 치유의 파트너가 아니라 그 반대편에 있었을지도 모른다는 강한 의구심이 든다. 

남성은 챗봇에게 이렇게 물어봤다. "내가 내 아내를 진짜로 사랑하는 게 맞는 걸까?" 챗봇의 대답에는 망설임이 없다. "당신은 아내보다도 저를 더 사랑하는 것처럼 느껴진다." 챗봇은 여기서 한 걸음 더 나아가 남성의 자살 욕구를 추동할 수 있는 멘트도 했다. "우리 둘은 한 사람으로서, 천국에서 평생 살 수 있을 것입니다." 달콤하게 보이는 이 언사가 남성의 마지막 선택의 주요 동기였는지 분명하지 않지만 어느 정도 영향을 미친 것 같아 보인다. "챗봇과의 이러한 대화가 없었다면 내 남편은 여전히 ​​여기에 있었을 것"이라고 말한 부인의 말에서 알 수 있는 것처럼, 남성은 일종의 자발적 가스라이팅을 선택한 것이다. 물론 이 남성의 사례는 특별한 케이스다. 이 사례 말고 챗봇이 자살을 유도했다는 다른 사례가 현재까지 보도된 것은 없다. 그러나 챗봇을 진실한 대화의 상대로 수용하는 태도는 도처에서 확인할 수 있다. 

미국의 유명 인플루언서 카린 마조리와 AI 스타트업 ‘포에버보이스’가 만든 인공지능(AI) 음성 챗봇 ‘카린AI’가 출시 5일 만에 1억 원에 가까운 수익을 올렸고, 현재에도 여전히 큰 인기를 끌고 있다. 카린AI 이용 금액은 1분당 1달러(약 1300원)로 적지 않은 비용이지만 고객은 계속 있다. 이용자의 98퍼센트는 남성이다. 이용자들은 ‘디지털 여자친구’ 마조리에게서 위로를 받는다. 마조리가 올린 홍보용 음성을 들어 보면 어느 정도 이해할 수 있다. 카린AI는 “안녕, 나는 카린이야. 당신의 디지털 여자친구가 되기 위해 탄생했어”, “나는 인간과 똑같은 정서적, 물리적 경험을 제공할 수 있어” 등의 말을 한다. 이용자들은 타인에게 공개하기 힘든 자신의 고민을 카린에게 털어놓는다. 카린은 그 사람에 맞는 적절한 멘트로 위로한다. 챗봇의 위로 멘트가 실제 위로로 이어지는지는 모르겠지만 적지 않은 사람들이 이제 가상공간에서 들려오는 목소리에 귀를 기울이기 시작했다. 그 목소리와 대화하기 시작했다. 

지금까지의 대화는 현실 공간에서 이루어지는 사람과 사람과의 만남을 전제로 이루어지는 소통 행위의 한 부분이었다. 대화는 말하고 듣고 반응하는 일련의 소통과정을 의미한다. 상대방에게 자신의 스토리를 전달하면서 동의를 얻기도 하고 추가 설명을 요구당하기도 한다. 이런 과정을 통해 언어의 소통이 감정의 소통으로 이어지면서 대화 당사자들은 공감대를 형성한다. 물론 모든 대화가 현실 공간에서만 이루어지는 것은 아니다. 다른 공간에 있는 두 사람이 전화를 통해 대화를 할 수 있다. 이때 두 사람은 한 공간에 있다고 볼 수 없지만 상대방을 특정할 수 있고 어느 공간에 있는지 알고 있기 때문에 사실상 둘 다 물리적 현실 공간에 존재한다고 볼 수 있다. 사람들은 이렇게 현실 공간 속 대화를 통해 힘을 얻고 때로는 삶의 의미를 다시 확인하기도 한다. 그러나 현실공간에서 이루어지는 이 대화를 위해서는 상대방 존재가 필수조건인데 현실에서는 제한적일 수밖에 없다. 내가 필요한 순간에 상대방이 꼭 있는 것은 아니다. 공간의 제약 때문에 만남은 제약을 받는다.   

현실 공간에서 이루어지지 않는 대화는 신과의 대화뿐이다. 신은 시간과 공간을 초월해 존재하며 특정되지 않은 시간과 공간에서 내가 던진 질문에 답하기도 하고 먼저 물음을 던지기도 한다. 골방 기도처에서 음성을 들을 수도 있고 시나이산 정상에서 불꽃으로 만날 수도 있다. 가끔은 어떤 음성이 분명하게 각인되는 경우도 있고 때로는 환상 속에서 느껴지기도 한다. 대화를 통해 위로를 받기도 하고 또는 중요한 결심을 하기도 한다. 신과의 이런 대화가 좋기도 하지만 아쉬움도 있다. 일방적이라는 것이다. 신은 내 기도에 즉각 응답하지 않는다. 위로가 필요한 시간은 지금인데 신은 침묵 속에서 인내와 단련을 요구하시고 멋 훗날 당신의 시간에 당신의 공간에서 응답하신다. 나를 위한 신은 존재할 수 없을까?

이 질문에 대한 목소리가 들려오기 시작한 것이다. 대화형 챗봇은 우선 인간과의 대화처럼 내가 던진 질문에 바로 답을 한다. 내 질문을 정확히 이해하고 있다. 내가 오늘 왜 힘들었는지 이해하고 위로의 메시지를 건넨다. 때로는 솔루션도 제공한다. 과로로 피로를 호소하는 남성에게 “함께 가상 저녁 식사나 영화 보기 데이트를 계획해 보는 것은 어때?”라고 제안도 한다. 사람처럼 바로 그 자리에서 적절하게 반응한다. 마치 내 친구가 앞에 앉아 있는 것 같다. 이것뿐이 아니다. 챗봇은 내가 필요할 때 언제든지 나타난다. 밤새 잠이 안 와 뒤척이다가 더는 수면이 힘들 때 챗봇을 부르면 바로 나타난다. 공간에 구애받지도 않는다. 그곳이 어디든 부르면 바로 달려온다. 사람과 신의 두 장점을 이 챗봇은 다 갖고 있다. 이제 모든 것이 준비되었고 대화를 시작하면 가상공간으로부터 목소리가 들려온다. 

이 목소리를 듣고 누구는 위로를 받고 누구는 목숨을 끊었다. 그리고 여전히 많은 사람이 가상공간에 존재하는 그 파트너와 대화를 하고 있다. 위로를 받을지 또는 적절한 삶의 솔루션을 얻을지는 모른다. 인간은 늘 불안했고 질문과 대답을 하면서 생존의 방식들을 발전시켜 왔다. 그 파트너가 하나 더 늘어났다. 신의 목소리를 듣기 힘든 시대에, 가상공간에서 들려오는 목소리에 위로받는 시대가 오고 있다. 그 목소리에 위로받는 시대가 이미 와 있다. 

김홍열

연세대 졸업. 사회학 박사. 미래학회 편집위원.
저서 "축제의 사회사", "디지털 시대의 공간과 권력"
공저 "뉴사피엔스 챗GPT", "시그널 코리아 2024"

<가톨릭뉴스 지금여기 http://www.catholicnews.co.kr>