1917년 독일의 철학자요 신학자인 루돌프 오토가 "성스러움의 의미"라는 책을 발표하자, 당대 대다수 지식인이 이 책을 읽었을 정도로 큰 반향이 일었고 책은 몇십 개국 언어로 번역되었다. 나는 이 책을 대학생이 되어 거의 첫 전공서적으로 접했고, 종교학이라는 학문세계가 얼마나 막막하고 높은지 절감하지 않을 수 없었다. 우리말인데도 아무리 집중해서 정독해도 도대체가 이해할 수 없었기 때문이다. 돌아보면 당시 나의 독해력과 상식 수준은 한심하기 짝이 없었다.

‘신 관념에 있어서의 비합리적 요소, 그리고 그것과 합리적 요소와의 관계에 대하여’라는 이 책의 부제목은 “이게 정확히 뭔 말이지?”를 곱씹어 보게 만든다. 오토는 근대의 다양하고 막강한 과학적, 검증적, 역사적 지식으로 무장한 계몽주의가 휩쓸던 시대 속에서, ‘종교는 인간 이성을 가두는 감옥이고 인민의 아편’이라는 비판을 깊이 고민했다. 그리고 “종교란 절대성에 대한 원초적 감정, 즉 누멘적 감정이며 ‘비합리적인’ 속성을 띤다”고 밝혔다.

‘누멘(Numen)’이란 어떤 초월적이고 신비한 대상, 즉 합리적 지성으로는 포착하고 표현할 수 없는 영역을 뜻한다. 우리 일상과는 전혀 다른 누멘은 우리를 '압도하고 두려움에 떨게 하는 신비'와 '매혹하고 기쁨으로 사로잡는 신비'의 속성이 있고, 이를 체험한 사람은 ‘모든 피조물을 초월하는 자를 대할 때 자신의 무(無) 속으로 함몰되고 사라져 버리는 피조물적 감정’에 어쩔 도리 없이 빠지고 만다.

2차 산업혁명(전기에너지와 석유 기반의 대량생산 혁명) 시대를 살았던 오토(1869-1937)는 인간 이성이 성취해 가는 과학과 기술세계를 누멘적 체험과 분리해서 생각한 듯하다. 그러나 20세기의 3차 산업혁명(컴퓨터와 인터넷 기반의 지식정보 혁명)을 지나서 21세기의 야심찬 4차 산업혁명(빅데이터, 인공지능(AI), 사물인터넷(IoT) 등 정보기술 기반의 초연결 혁명)의 문턱을 넘어선 우리는 새로운 과학과 기술을 체험하면서 어떤 ‘누멘적 감정’에 휘둘리게 된다.

새로운 체험 1: 알파고에 놀라다

나는 인문서적을 주로 들척여 온 연구자이기에 ‘인공지능’에 관한 글을 쓰기에는 여러모로 한계가 있다고 생각한다. 따라서 인공지능에 대한 본격적이고 전문적인 논의를 이 글에서 찾으려 한다면 크게 실망할 것이다. 이 글에서는 내가 몇 년 전부터 관심을 갖고 읽은 몇 권의 과학 관련 서적과 기사와 영상들을 토대로, 어느덧 우리 삶을 바꿔가는 인공지능으로 말미암은 현상들에 주목해 보겠다.

‘알파고와 이세돌의 대국’이 2016년 3월 9-15일간 서울에서 총 다섯 차례 치러졌다. 알파고가 4승 1패로 승리했고, 나는 내심 큰 충격을 받았다. 바둑의 세계를 잘은 모르지만, 최정상의 바둑기사란 탁월한 지능과 집중력에다 오랜 초인적 훈련과정이 뒷받침되어야 한다고 생각해 왔기 때문이다. 그런데 한낱 기계라고 치부했던 알파고가 세계적 바둑 천재에 압승했다는 사실에 기가 막혔다. 인공지능에 대한 거리낌과 동시에 이게 뭔지 알아봐야겠다는 매혹의 ‘누멘적 감정’이 솟구쳤다.

나는 과학을 공부해야겠다고 마음먹었고, ‘독서모임’을 통해 과학사와 기본적인 과학지식부터 현재 가장 핫한 이슈인 4차 산업혁명에 관해 배워 나갔다. 관련 서적들을 읽고 발제하는 동시에 절로 미간을 모으게 하는 관련 다큐멘터리와 영화를 시청하고 토론하면서 새로운 세계에 빠져들었다. 아, 코로나만 아니면 지금도 열공하고 있을 텐데.

참, 인공지능은 세 가지 등급으로 구분된다. 인간보다 1,000배 이상 높은 지능인 초인공지능, 인간 수준의 범용 인공지능, 한 가지 일을 아주 잘하는 약 인공지능. 나에게 경계심과 섬뜩한 느낌을 불러온 알파고는 이 중약 인공지능에 속한다. 최신 기사들과 유튜브를 검색해 보니 진화된 알파고 소식이 있었다. 이세돌을 이긴 '알파고 리'는 지난 40년간 바둑기사들의 경기 기보 16만 건이라는 빅데이터를 학습한 인공지능이다. 최근에 알파고 리와 대결해 0대 100 완승을 거둔 알파고 제로는 바둑의 기본법칙만을 학습한 후 인공지능끼리 바둑경기를 거듭하며 모의실험과 시행착오를 통해 스스로 강화 학습한 딥러닝 인공지능이다. 요즘 바둑을 배우는 아이들은 바둑학원 선생님이 아니라 컴퓨터를 켜 놓고 ‘알파고 제로 기보’를 배운다고 한다.

새로운 체험 2: 영화 '공각기동대'를 보고 나서

인공지능 공부모임을 하면서 오시이 마모루 감독의 애니메이션 영화 '공각기동대'(1995)를 관람했고, 같은 감독의 후속편도 따로 봤다. 최근에는 TV 시리즈 '공각기동대'(2006)를 챙겨 보면서, 이미 한참 전부터 인간과 로봇의 경계와 결합에 대한 물음이 있었음을 알게 되었다. 또한 영화 속 가상세계가 현실세계를 적나라하게 비추는 거울처럼 느껴져서, 또 한 번 누멘적 감정에 빠진다. 숨죽이게 만드는 압박감과 눈을 뗄 수 없이 집중시키는 마력으로.

영화 '공각기동대'(1995)의 무대는 기업의 네트가 별을 덮고, 전자와 빛이 뛰어다니며, 국가와 민족이 사라질 정도로 정보화된 근미래다. 주인공 쿠사나기 소령은 사이버 네트와 공안 관계의 테러를 전담하는 공안 9과(공각기동대) 요원이고, 그녀의 뇌 일부인 ‘고스트’(인간 마음과 인공지능의 마음을 모두 지칭)를 빼고는 모두 의체(기계 부속처럼 언제든 교체 가능한 사이버 바디)로 된 인간로봇이다. 냉철하고 이지적이며 어떤 남성 요원보다도 과감한 그녀는 전투작전을 수행하며 자유자재로 의체를 교체하면서 끊임없이 고민한다. 자신의 정체성과 존재 의미가 무엇인지를.

한편 카미야마 켄지 감독의 TV 시리즈 '공각기동대'(2006)는 노령화와 아동학대 문제를 지독하게 파고든다. 노인복지시스템인 ‘솔리드 스테이트’를 개발한 공무원과 배후의 정부. 친부모의 전뇌를 해킹해 아이들을 유괴한 후 세뇌공장에서 교육시키는 ‘유괴 인프라.’ 네트워크를 떠돌며 여러 의체를 동시에 원격 조종하는 고스트와 그 활동 흔적이 사라지지 않고 계속 존재한다는 설정. 인공지능 네트워크가 국가집단 전체를 관리하는 정부와 가진 자들의 손안에 있고, 그 통제 속에서 개인들이 부품처럼 쓰이는지 구조악을 확인할 수 있다.

영화에는 ‘전뇌(電腦)’(인간 고스트의 거처)라는 용어가 등장하는데, 이것은 앞서 말한 세 가지 등급 중 어느 한 가지 인공지능이 아니다. 전뇌가 인간 뇌 일부와 인공지능 일부를 물리적으로 결합합 것이라면, 지금까지 실제로 개발하고 대중에서 선보인 인공지능은 기계만으로 구성되었기 때문이다. 글쎄 지금 지구 어느 곳에서는 뇌 속에 인공지능을 삽입한 사람이 천연덕스럽게 살고 있을까? 그런 사람이 존재한다면, 그도 쿠사나기 소령처럼 자신이 정말 온전한 인간 생명인지 아닌지를 계속 고민할까? 그 사람은 자신이 독특한 개성과 보편적인 존엄성을 지닌 ‘하느님의 모상’이라고 생각할까? 혹은 망가지고 낡으면 교체 가능한 ‘정밀기계 로봇’라는 자아상을 갖고 있을까? 아니면 죽어가는 일부 신체를 치유한 부활한 몸이거나 다른 신체로 거듭 윤회하는 불사의 존재로 볼까?

2020년 코로나 팬데믹을 기점으로 인류 집단지성과 빅데이터의 네트워크는 더 촘촘하고 광대하고 활발하게 짜여 가고 있다. 영화 속에 섬뜩하게 표현된 것처럼, 개인의 생각과 의지를 수화기를 통해 순식간에 마비시키고 교체하는 일이 과연 망상일 뿐일까? 빅데이터의 소유자와 관리자는 빅브라더로 거듭날 것임을, 우리는 상식으로 알고 있지 않나? 자신이 지금 무심코 클릭하고 댓글을 다는 일이 순간의 행위로 끝나거나 잊히지 않고, 누군가 의도적으로 수집하고 있다는 사실을 SNS 사용자들은 모두 알고 있다.

새로운 체험 3: 폐기되거나 대결하거나 대체할 인공지능들

이제 영화의 가상세계에서 빠져나와 우리의 현실세계를 살펴보자. 먼저 폐기된 인공지능 이야기로 가 보겠다. 2020년 12월 말 정식 런칭한 AI 채팅 서비스 ‘이루다’가 2021년 1월 12일 서비스를 중단하고 결국 폐기 처분되었다. 개발사인 스캐터랩은 실제 연인들이 나눈 대화 데이터 100억 건(2016년 출시한 ‘연애의 과학’ 앱)을 딥러닝 방식으로 이루다에게 학습시켰고, 서비스를 개시하자마자 MZ세대(1990년대 중반-2010년대 초중반생으로 밀레니엄 세대와 Z세대를 합쳐 일컫는 말)에서 광풍이 불어, 2주일 만에 75만 명이 넘는 이용자가 몰려들었다고 한다.

그러나 이루다 서비스가 일부 사용자들의 성희롱에 시달리기 시작하고, 소수자와 약자 및 인종혐오 발언을 쏟아낸 데다가, 이루다 개발의 바탕이 된 앱 이용자의 개인정보가 유출되는 일이 발생해 곧 중단되었다. 이러한 불상사는 이미 마이크로소프트사가 2016년에 개발한 인공지능 챗봇(채팅 로봇) ‘테이’가 인종차별적 발언을 쏟아내어 출시 16시간 만에 운영이 중단된 사태와 유사하다.

히브리 성서 창세기에는 하느님이 당신을 닮게 인간을 창조하셨다고 나온다. 그러나 진정 우리는 자비롭고 정의로운 그분을 닮았나? 혹은 조금이라도 그분과 닮은 이를 만나보긴 했던가? ‘이기적 유전자’를 뽐내는 인간의 편견이 어마무시하게 담긴 빅데이터를 학습한 ‘언어생성 알고리즘’과 ‘이미지생성 알고리즘’에 따라 만든 인공지능이 어떠할지는 명약관화하다.

다음으로 알파고처럼 인간과 대결하는 인공지능 이야기다. 얼마 전에 '세기의 대결 AI vs 인간'과 ‘AI 음악 프로젝트 <다시 한번>’이라는 프로그램을 보았다. 모창 AI에게 녹음된 특정 가수의 노래를 학습시키고 훈련시킨 후, 그 가수가 실제로 하지 않은 노래를 부르게 한 영상. 모창 AI와 가수가 듀엣으로 노래하는 영상. ‘히든싱어’처럼 모창 AI와 가수에게 각자의 방에서 번갈아 노래를 부르게 한 후, 어느 방에 진짜 가수가 있는지 알아맞히는 영상. 고인이 된 김현식과 터틀맨의 공연 모습을 현실화한 영상, 김광석이 생전에 없던 노래를 부르는 영상, 프레디 머큐리가 우리말 노래를 부르는 영상, 너무 신기하고 흥미로운 이 영상들을 몇 번이나 재생했는지 모른다.

모창 AI와 대결하기 전에 인터뷰한 가수의 태도는 알파고와 대국을 벌이기 전 인터뷰한 이세돌처럼 자신만만했다. 그러나 만만치 않은 대결구도를 당사자는 물론이려니와 시청자들도 모두 여실히 느꼈다. 특히 고인이 된 이들의 목소리와 모습을 복원한 영상은 “호랑이는 죽어서 가죽을 남기고 사람은 죽어서 이름을 남긴다”는 명언을 어떻게 바꿔야 할지 생각해 보게 한다. 또한 실력과 인기 있던 가수들은 고인이 되어도 인공지능을 통해 살아생전 모습뿐만 아니라 현재화된 모습으로 환생해 계속 살아가겠다는 생각도 든다.

결국 인공지능은 인간을 대체해 버릴 듯하다. 약 인공지능인 알파고나 모창 AI도 만만치 않은데, 미래에는 더 다종다양하고 더 유능한 인공지능들이 줄줄이 나타나서 인간 노동자가 필요 없는 세상을 만들지 모른다. BBC는 최근 20년 안에 없어질 가능성이 큰 직업을 발표했고, 그 내용은 이렇다.

“① 텔레마케터 99.0%, ② 법률비서 98.0%, ③ 경리 97.6%, ④ 회계관리사 97.0%, ⑤ 보험사 97.0%, ⑥ 은행원 96.8%, ⑦ 공무원 96.8%.” 자율주행차가 상용화되면 많은 운전기사가, 통번역기가 일상화되면 통역사와 번역가는 물론이고 외국어학원과 강사들이 설 자리를 잃을 것이다. 그러나 이것들은 약 인공지능이거나 인간 수준의 범용 인공지능이다.

가늠키 어려운 새로운 체험 앞에서

문제는 초 인공지능이다. 영화 '공각기동대'에 그려진 것처럼, 미래학자 레이 커즈와일은 "특이점이 온다"(2005)에서 2045년이 오면 AI가 인간의 능력을 넘어서는 특이점에 도달해 초지능 시대가 열릴 거라고 예측했다. 코로나 팬데믹이 촉발한 비대면 일상으로 AI 발달이 유례없는 속도로 확산되는 지금, 그날은 더 빨라질지도 모른다.

“초인공지능을 통제하는 알고리즘 개발이 현재 컴퓨팅 패러다임에서는 근본적으로 불가능하다는 연구결과”는 인간이 인공지능의 노예로 전락해 버릴지 모른다는 두려움과, 인공지능이 인간이 해야 할 일들을 알아서 처리할 거라는 안도감을 동시에 준다. 그러나 모든 면에서 인간의 능력을 초월한 초인공지능이 등장하면, 그 ‘강한 AI’가 인류의 모든 데이터에 접근해 스스로 학습한 후 기존의 모든 온라인 기계와 프로그램을 통제하고, 거의 모든 사람과 관계를 형성할 것이라 예측한다.

인간의 지능과 빅데이터를 기반으로 개발 중인 초인공지능이 딥러닝과 자체 강화학습을 통해 인간 지능을 훨씬 능가한다면, 우리 개개인과 전체 사회는 어떤 통제 체제 속에서 미래를 맞게 될까? 그 새로운 체험은 우리를 얼마나 강력한 ‘누멘적 감정’과 ‘조물주에서 굴러떨어진 피조물적 감정’에 데려다 놓을까?

참고 자료
레이 커즈와일, "특이점이 온다", 김영사, 2007.
루돌프 오토, "성스러움의 의미", 분도출판사, 1987.
김재인, "인공지능의 시대, 인간을 다시 묻다", 동아시아, 2017.
'인공지능 챗봇 '이루다'는 왜 폐기처분 됐을까', <매일경제>, 2021.1.16.
'인간은 결코 AI를 통제할 수 없다?', <사이언스타임즈>, 2021.1.15.
'남성엔 ‘정장’, 여성엔 ‘비키니’……인공지능, 이미지도 편견 따라 만든다', <한겨레>, 2021.2.5.().

유정원
종교들과 생태신학을 공부해 왔고, 새 시대의 흐름에 유연하게 적응하며 살아가고 싶어서 과학-문화-예술-심리학 등 관심 가는 책들과 영상을 즐겨 보고 있다.

<가톨릭뉴스 지금여기 http://www.catholicnews.co.kr>