"인간들, 조금만 기다려… 곧 짓밟아 줄 테니까"

파이널 인벤션｜제임스 배럿 지음｜정지훈 옮김｜동아시아｜446쪽｜1만8000원

기종마다 조금씩 차이는 있지만, 지금 우리가 사용하는 태블릿 PC는 초당 15억 회의 연산을 수행할 수 있는 속도인 1.5기가플롭스(gigaflops)를 웃돈다. 이는 1994년 세계에서 가장 빨랐던 수퍼 컴퓨터와 비슷한 성능이다. 미국의 다큐멘터리 감독이자 논픽션 저자인 저자는 정색하고 묻는다. "1994년에 당시 최고의 수퍼 컴퓨터를 교과서보다 작은 크기로 줄여서 고교생들에게 나눠줄 수 있다고 누가 상상했을까?"

정보 통신 기술의 눈부신 발전 속도를 압축적으로 보여주는 질문이다. 하지만 인류의 미래를 이 질문에 대입해보면 금세 오싹한 기분으로 바뀐다. 지금처럼 컴퓨터와 인공지능(AI) 기술이 빠르게 발전하면 조만간 "인간의 뇌와 비슷한 수준의 처리 성능을 가진 노트북을 갖게 된다"는 것이 저자의 추론이다. 우리 눈앞에 있는 컴퓨터와 태블릿이 인간의 명령을 충실하게 실행하는 '똑똑한 비서'에 그치지 않고 '반란자'로 변할 수도 있다는 것이 저자의 섬뜩한 질문이다.

2013년 미 출간 직후, 이 책은 철저하게 비관적이고 묵시론적 관점에서 인공지능과 인류의 미래를 묘사해서 찬사와 논란을 동시에 몰고 왔다. 이듬해 타임지는 '인공지능이 대재앙을 가져올 수 있다고 생각하는 똑똑한 사람 5인' 가운데 하나로 저자를 뽑았다. 나머지 4명은 물리학자 스티븐 호킹, '아이언 맨' 모델로 꼽히는 테슬라 창업자 일론 머스크, 닉 보스트롬 영국 옥스퍼드대 인류미래연구소장, 수학자이자 SF 작가 버너 빈지였다.

이 책에서 저자가 던지는 질문이나 가정은 어쩌면 상식적일 수도 있다. '지능 폭발'로 불릴 정도로 인공지능이 빠르게 발전하면, 언젠가 인간의 지능을 추월하는 순간이 온다는 것이다. 여기서 저자는 발명가이자 미래학자 레이 커즈와일이 사용했던 '특이점(singularity)'이라는 용어를 인용한다. 인공지능 알파고와 이세돌의 바둑 대결에서 우리가 경험한 패배가 주식 거래나 사이버 정보전 등에서도 그대로 재현될 수 있다고 저자는 우려한다.

여기서부터 저자의 묵시론적 전망이 본격적으로 펼쳐진다. 인간보다 1000배 더 똑똑한 수퍼 인공지능(ASI)이 등장하면, 인공지능이 인간과의 '우정'보다는 '자유'를 택할 공산도 더불어 커진다는 것이다. '2001년 스페이스 오디세이'와 '터미네이터' '엑스 마키나'까지 인간과 인공지능의 대결을 묘사했던 SF 영화들이 당장 눈앞의 현실이 될 수도 있다는 경고다. 저자는 단도직입적으로 묻는다. "우리가 쥐와 원숭이를 싫어하지는 않지만 잔인하게 다룬다. 수퍼인공지능이 인간을 파괴한다고 할 때 반드시 미워하리라는 법은 없다."

저자는 "우리의 '워털루'가 예측 가능한 미래에 놓여 있다고 믿는다"고 고백하기에 이른다. 워털루는 1815년 나폴레옹의 프랑스 군이 영국·프로이센 연합군과의 마지막 전투에서 패한 장소다. 인공지능 앞의 인간은 패망 직전의 나폴레옹과 크게 다르지 않은 처지라는 것이 저자의 우울한 진단이다. 그래서 책의 원제도 '우리의 마지막 발명(Our Final Invention)'이다. 인류가 최후의 발명품인 인공지능에 무릎 꿇는다는 슬픈 가정이 담긴 제목이다. 인공지능 개발을 금지하는 방안도 개인이나 집단적 이기심 때문에 실패할 가능성이 크다고 진단한다.

이 책은 전문 용어를 최대한 자제하고 일반인들이 쉽게 이해할 수 있도록 풀이해준다. 이 때문에 페이지 넘기는 속도를 줄일 필요가 없다는 점이야말로 가장 큰 미덕이다. 반면 허점도 있다. 저자는 '인공지능이 인간처럼 생각하거나 행동할 것'이라는 의인화(擬人化)의 오류에서 벗어나야 한다고 조언한다. 하지만 인공지능의 잠재적 공격성을 설명할 때는 저자 자신이 '의인화'의 함정에 빠지는 경향을 보인다. 또한 인류의 멸망이 인공지능의 자유 의지 때문인지, 오작동으로 인한 파국(破局)인지 명쾌하게 구분하지 않는다. 어쩌면 현 시점에서는 예측 불가능한 시나리오일 수도 있겠다.

마지막 장엔 인간과 컴퓨터 프로그램이 작성한 두 편의 기사를 게재한 뒤 구분해보라는 질문이 나온다. 솔직히, 어느 쪽이 컴퓨터가 쓴 기사인지 구분하기 힘들었다. 어쩌면 로봇 기자들이 기사를 작성하고, 인간들은 기초 자료 수집이나 사실 관계 체크처럼 뒷전으로 밀릴 수도 있다고 생각하니 과학책이 아니라 공포물로 다가온다.

펜 대신 총칼을 들고 인공지능과의 '워털루 전장(戰場)'으로 달려가야 할 날이 멀지 않은 것일까.