왜 머스크는 인공지능車 만들면서 AI는 위험하다고 할까

특이점의 신화

장가브리엘 가나시아 지음 | 이두영 옮김｜글항아리 사이언스 200쪽｜1만5000원

"특이점이 도래해 AI가 인간을 지배한다는 주장은 SF 소설에나 나올 법한 종말론이다."

도발적이다. 지난 2년 사이 인공지능(AI)의 위험을 경고했던 스티븐 호킹, 마이크로소프트 창업자 빌 게이츠, 테슬라의 일론 머스크가 죄 틀렸다는 주장이다. 기계가 인간의 능력을 초월하는 기술적 특이점(singularity)이 오면 인류는 열등해진다는 논리가 힘을 얻고 있는 시점에 무슨 동떨어진 소리일까.

17세기 갈릴레오 갈릴레이의 지동설을 부정한 그 시대의 바보 중 한 명 같지만, 1970년대부터 인공지능을 연구해 온 대학교수의 말이다. 저자 장가브리엘 가나시아(62)는 인공지능 전문가이자 철학자로 파리6대학 정보과학 교수. 인공지능 연구팀을 20년 동안 이끌어오면서 '정신을 가진 기계' 같은 저서를 낸 전문가다. 그는 "특이점은 절대로 일어나지 않는다고 할 순 없지만 정말로 일어날 것 같진 않다"고 말한다.

그는 '특이점'의 개념을 대중에게 널리 알린 미래학자 레이 커즈와일을 비판하며 포문을 연다. 커즈와일은 2005년 저서 '특이점이 온다'에서 "오는 2030년이면 인공지능이 인간의 지능에 접근하고 2045년에는 불멸의 삶을 살 수 있을 것이다"고 주장했다. 그리고 그 논거로 '무어의 법칙'을 들었다. 커즈와일은 컴퓨터 연산 능력이 18~24개월 만에 2배로 증가한다는 무어의 법칙을 인류 발달사에도 적용시킨다. 생명의 탄생, 호모 에렉투스 등장, 호모 사피엔스 등장, 인쇄술, 컴퓨터의 등장 등 문명사적 주요 사건도 무어의 법칙을 따른다는 것이다. '무어의 법칙'과 인류 발전을 결부시키는 이 논리는 커즈와일 이후 여러 미래학자와 토머스 L. 프리드먼 같은 언론인도 활용했다.

그러나 가나시아는 '무어의 법칙'이 단순 경험칙일 뿐 과학적 근거가 없다고 지적한다. 귀납적으로 얻은 일종의 트렌드에 불과한 것을 커즈와일이 진화사에 적용하면서 편의적으로 특정 사건을 끼워 맞춘 것에 불과하다는 것이다. 가나시아는 "당장 지난 대여섯 번의 대멸종 시기를 놓고 보면 무어의 법칙은 예측력이 없음이 드러난다"고 썼다.

AI 개발이 예상처럼 빨리 이뤄지지 않자, 특이점이 도래할 순간을 슬쩍 뒤로 밀어내는 방법은 마치 '휴거'를 주장하는 사이비 종교와 닮았다는 것. 커즈와일은 애초 2045년에 특이점이 올 것이라 했지만 최근에는 21세기 후반에야 특이점이 도래할 것이라는 식으로 의견을 수정했다. 몇몇 사이비 종교가 휴거(携擧)일에 아무 일도 없자 종말의 날짜만 바꿨던 것과 닮았다는 것이다.

그렇다면 왜 이런 특이점 제창자가 힘을 얻을까. 그는 "사람들은 스티븐 호킹과 같은 과학자나 일론 머스크와 같은 유명한 경영자의 명성에 이끌려 믿는 것일 뿐"이라고 밝힌다. 또 '꿈 같은 이야기에 연구비를 지급하는 관례'도 이유라는 것. 유럽에서는 12억 유로(약 1조6000억원)를 EU에서 출자받아 2024년까지 인간 뇌 기능을 수퍼컴퓨터로 시뮬레이션하겠다는 '인간두뇌프로젝트'가 거의 현실화될 뻔했다. 1960년대 AI를 개발하기 위해 필요한 기간이 100년은커녕 10년이면 충분하다고 주장했던 연구팀 일화도 있었다.

특이점 제창자, 또는 AI 종말론을 펼치는 이들은 '방화범인 동시에 소방관'이기도 하다. 일론 머스크의 테슬라 전기차는 AI에 의지해 사실상 자율주행이 가능한 기술로 유명하다. 동시에 머스크는 2015년 AI의 위험성을 연구하는 재단에 1000만달러(약 100억원)를 기부하기도 했다. 앞장서서 AI를 개발하면서 동시에 AI가 인류를 지배할 것이니 조심해야 한다는 모순적 행동. 가나시아는 이런 행동이 "공포스러운 기술을 인간적인 것으로 만들어 인류에 공헌하는 기업 이미지를 만들기 위한 것"이라고 본다.

가나시아는 하이테크 기업이 '특이점'을 도구로 사업을 확장하고 있음을 우려한다. 정부와 시민사회가 '특이점'에 압도돼 세상에서 벌어지는 변화에 제대로 대응하지 못하는 사이, 구글·페이스북 같은 인터넷 기반 기업들은 정부 이상으로 개인정보를 수집하고 있다. 동시에 비트코인 같은 암호화 화폐는 국가가 통제해온 화폐 정책을 훼손한다. 그는 "특이점이라는 엉뚱한 공상 뒤에 이러한 변화가 초래할 위험성을 숨기고 있다"고 지적한다. 이는 '4차 산업혁명' 도깨비방망이를 휘두르는 한국에서 더 값진 문제제기일 것이다.