인공지능과 민주주의, 인간의 책임 다시 묻다

기술의 깨달음이라는 역설

지난 8일 오후, 명동대성당 영성센터에서 열린 ‘한국천주교회의 미래–전문가’ 컬로퀴엄 두 번째 시간은 ‘AI와 민주주의 그리고 종교’를 다루었다. 황경훈 연구원이 발제하고 참가자 토론이 이어졌다. 강연에 앞서 참가자들은 2012년 영화 '인류멸망보고서'의 단편 ‘천상의 피조물’을 함께 시청했다.

영화는 로봇이 인간의 노동을 대체한 미래를 배경으로, 스스로 깨달음을 얻어 설법을 하는 가이드 로봇 RU-4(인명 스님)의 이야기다. 제작사 UR은 로봇을 인류의 위협으로 간주해 해체하려 하지만, 승려들은 그를 깨달음에 이른 부처로 여기며 반대한다. 그러나 인명 스님은 자신으로 말미암아 인간들 사이의 분쟁이 일어나는 것을 보고 스스로 회로를 차단해 작동을 멈춘다. 천상사 주지를 비롯해 승가 공동체 전체는 이를 “열반”으로 받아들인다. 황 연구원은 이 서사가 인공지능 시대의 철학적·윤리적 딜레마를 압축한다고 설명했다.

발제 – 유발 하라리의 "넥서스"와 인간 존재 재정의

유발 하라리의 신작 "넥서스"는 인류 문명의 궤적을 ‘정보 연결망’이라는 새로운 관점에서 조명하며, 이전 저작인 "사피엔스"와 "호모 데우스"의 논지를 더 정교하게 통합한다. 현재 그는 배우자와 함께 사회적 기업 ‘사피엔스십’을 설립하고, 세계가 직면한 가장 중요한 문제를 논의하는 공론장을 활성화하려 노력하고 있다. "넥서스"는 이러한 그의 학문적, 사회적 기여 의지를 명확히 보여 준다.

황 연구원은 "넥서스"를 토대로, 인류 문명이 허구(fiction)와 정보 연결망 위에서 형성되어 왔다고 설명했다. 돈, 국가, 종교와 같은 개념은 물리적 실체보다 집단이 공유하는 이야기로 존재하며, 오늘날 인공지능과 알고리즘이 새로운 ‘허구 생성자’가 되고 있다는 것이다.

그는 인간이 생물학적 실재(몸·유전자), 정보 연결망(사회·언어), 허구적 서사(정체성·신앙)라는 세 층위에서 구성된다고 분석한다. 기술 정보망이 점차 인간의 판단을 대체하고, 심지어 인간의 ‘허구’ 없이도 자율적으로 작동하는 현실이 민주주의에 심대한 영향을 미칠 수 있다고 경고했다.

황 연구원은 하라리가 20대부터 상좌불교의 위빠사나를 수행해온 ‘불자’이기도 하다면서, ‘허무’(fiction)와 ‘상호주관적 현실’(inter-subjective reality) 같은 <넥서스>의 주요 개념이 무아나 연기 같은 부처의 근본 사상을 바탕으로 한다고 설명했다. 다만, 네트워크나 ‘데이터 교’에 의해 지배되는 현실과 그로부터 자유로울 수 있는 대안으로 제시하는 불교적 깨달음이 여전히 이원론에 머물고 있다고 덧붙였다. 그는 ‘인명 스님’의 서사가 기술이 깨달음과 윤리를 갖출 수 있는지를 묻는다고 말했다. 이는 인공지능과 인간의 차이를 정의하는 일이 단순한 과학 기술 문제가 아니라, 인간 존재 자체를 이해하는 문제임을 보여 준다.

교황청 신앙교리부도 지난 1월 발표한 인공지능에 관한 문헌 ‘옛것과 새것’에서, 인공지능의 목적·수단·관점을 함께 점검해 인간 존엄과 공동선을 증진하도록 보장해야 한다고 밝혔다.(42항) 또한 인공지능 관련 결정의 최종 책임은 인간에게 있으며, 책임 전가를 기계에 돌릴 수 없다고 못박는다.(44, 111항) 이는 발제가 강조한 ‘기술의 자율성보다 인간 판단의 우위’와 같은 맥락이다.

황 연구원은 나아가 인공지능과 민주주의의 관계에 대해 세 가지 주요 과제를 제시했다.

첫 번째는 데이터 권력의 집중 문제다. 소수의 거대 기술 기업이 방대한 데이터를 축적하고, 이를 통해 여론 형성과 의사 결정 과정에 영향력을 행사할 경우, 민주적 참여의 토대가 약화될 수 있다.

두 번째는 정보 생태계의 왜곡이다. 인공지능 알고리즘이 생성·추천하는 정보가 특정 이익에 맞춰 조정되면, 시민들은 충분한 사실 검증 없이 편향된 정보를 소비하게 되어, 숙의 민주주의가 무너질 위험이 있다.

세 번째는 감시사회로의 전환 가능성이다. 인공지능 기술이 대규모 개인 데이터 수집과 추적에 활용되면, 개인의 사생활과 표현의 자유가 위축될 수 있다. 이와 관련해 교황청 신앙교리부 문헌은 설계와 활용 단계의 투명성과 책임성을 요구하고(46항), 과도한 통제를 막기 위한 독립적 감독과 공적 책임을 강조한다.(93항) 더불어 데이터와 권력 집중이 민주주의를 잠식할 위험을 경고하고 있다.(53–54항)

토론 – 인공지능 시대, 종교와 민주주의의 과제

이어진 조별 토론에서는 인공지능이 인간과 종교, 민주주의에 미칠 영향과 교회의 대응 방향이 심도 있게 논의됐다.

공통으로 제기된 우려는 인공지능이 인간의 종교적·윤리적 판단을 대체할 가능성이었다. 즉각적인 답을 주는 인공지능의 특성 때문에 사람들이 문제 해결을 위해 하느님보다 인공지능을 먼저 찾게 될 수 있으며, 이는 수도 생활과 신앙 공동체의 신뢰를 약화시킬 수 있다는 것이다.

이에 대해 문헌은 현행 인공지능이 ‘사고(진리 탐구)’ 능력을 갖지 못하며, 도덕·종교적 감수성과 내면성 같은 인간 경험의 폭넓은 차원을 포함하지 못한다고 지적한다.(11–12항) 또한 인간 지성은 ‘사실 축적’이나 ‘과업 수행’으로 환원될 수 없다고 강조한다.(29항)

교육 측면에서는 비판적 사고력, 분별력, 공감 능력, 공동체적 가치 학습이 약화될 수 있다는 우려가 나왔다. 연구자 감소와 지식 생산 위축, 교권 약화 가능성도 지적됐다.

반면, 인공지능을 단순한 도구가 아닌 공존의 동반자로 인식하며, 인간이 인공지능에 어떤 목적과 정보를 부여하느냐가 핵심이라는 견해도 있었다.

한 참가자는 인공지능 시대에 교회의 역할을 설명하며, ‘마리아가 가브리엘 천사를 만났을 때 곰곰이 생각하고 예라고 응답’했던 복음서의 수태고지를 예로 들었다. 종교는 사람들에게 곰곰이 생각하는 공간과 시간을 제공하는 기능을 해야 하지 않겠냐는 의견이었다.

또한 교회의 대응 속도가 느리다는 지적과 함께, 청년 세대를 설득하려면 인공지능 관련 교리·윤리 교육을 체계화하고, 가톨릭 전례와 공동체성, 신앙 체험과 같이 인공지능이 대체하기 어려운 영역을 강화해야 한다는 제안이 이어졌다.

토론 말미에 참가자들은 인공지능이 대체할 수 없는 전례와 공동체 경험, 그리고 인간의 기본 욕구를 신앙 안에서 충족시키는 과제를 교회가 수행해야 한다는 데 뜻을 모았다.

이번 주제 2의 자료는 아래와 같다.

- "넥서스", 유발 하라리, 김영사, 2024.
- '"곧 5년 안에 AI 특이점 온다" 더이상 인간에게 남은 시간은 없습니다(박태웅 의장/풀버전)', 신사임당 유튜브. https://youtu.be/2WN1NJUZItQ?si=gH4f3mhDh8_WT4nj
- '[인문학 강연] 유발 하라리 내한 강연 250413방송 (AI시대 인간의 길)', 빅퀘스천 Big Questions 유튜브. https://youtu.be/9deB6qoCGaQ
- 'AI가 깨달음을 얻게 된다면 (결말 포함)', 그냥심심해서그래 유튜브. https://youtu.be/aH-XBapYTd0

<가톨릭뉴스 지금여기 https://www.catholicnews.co.kr>