[복거일 칼럼] 마지막 차를 끓이고서

1944년 6월 6일 노르망디 상륙작전 개시일(D Day). 영연방군 담당 ‘주노 해변(Juno Beach)’. 영국군 국왕연대(King’s Regiment)는 해안의 장애물들을 뚫느라 손실을 많이 입었지만, 독일군의 저항을 뚫고 내륙으로 진격했습니다.

국왕연대 8대대의 제임스 퍼시벌 드 레이시(James Percival de Lacy) 상사는 독일군 12명을 사로잡았습니다. 속에서 끓어오르는 적개심을 누르면서, 그는 두 팔을 든 포로들을 바라보았습니다. 그의 형제 하나는 북아프리카에서 독일군과 싸우다가 전사했습니다.

드 레이시 상사는 옆에 선 중대원에게 말했습니다, “저 잘난 친구들을 보게. 꼴도 보기 싫으니, 딴 데로 데려가게.” 그리고 아직도 속에서 끓어오르는 분노를 삭히려고, 멀찍이 떨어진 곳으로 가서 차를 끊이기 시작했습니다.

그가 물을 끓이는데, 젊은 장교가 다가와서 엄한 목소리로 말했습니다, “이 봐요, 상사, 지금은 차를 끓일 때가 아니오.”

21년을 군대에서 보낸 드 레이시는 갓 임관한 티가 나는 장교에게 차분히 대꾸했습니다, “장교님, 우리는 지금 병정 놀이를 하는 것이 아닙니다. 이것은 진짜 전쟁입니다. 5분 뒤에 오셔서 맛있는 차를 함께 드시는 게 어떻겠습니까?” 그 장교는 경험 많은 상사의 조언을 따랐습니다.

저는 일찍부터 영국군의 끽다(喫茶) 전통에 반했습니다. 치열한 싸움터에서도 틈이 나면 차를 끓여서 함께 마시는 관행은 전투의 충격으로 단단히 조여진 마음의 끈을 잠시라도 늦출 것입니다. 무엇이든지 너무 조이면 끊어집니다.

두 해 전 펜앤드마이크로부터 칼럼을 써달라는 부탁을 받았을 때, 저는 D Day의 노르망디 해안에서 차를 끓이던 노병을 떠올렸습니다. 오늘 마지막 차를 끓였습니다. 그 동안 고마웠습니다. 독자 여러분들께 밝은 한 해가 되기를 기원합니다. 아울러 펜앤드마이크가 치켜든 횃불이 이 어두운 시절에 길을 밝히리라 기대합니다.

인공지능에 대한 철학적 고찰 (25. 끝)

초지능의 가능성 (하)

컴퓨터는 처음부터 특정 작업에서 사람들을 앞지를 수 있다고 예상되었고 실제로 그랬다. 그렇게 특정 작업에서 사람의 지능보다 우월한 인공지능은 ‘부분 인공지능(narrow AI)’이라 불린다. 반면에, 사람처럼 모든 일들을 잘 할 수 있는 인공지능은 ‘전반 인공지능(general AI)’이라 불린다.

자연히, 초지능에 관한 논의의 핵심은 ‘과연 부분 인공지능이 전반 인공지능으로 발전할 수 있는가?’이다. 적어도 이론적으로는, 그런 발전을 가로막을 요인은 없다. 부분 인공지능들이 점점 발전하고 결합하면, 그것들은 차츰 전반 인공지능의 모습에 가까워질 것이다.

무엇보다도, 동물의 지능이 그런 방식으로 진화했다는 사실이 있다. 처음 신경세포들이 생겨 신경절들(ganglia)을 이루었을 때, 그것들이 이내 다양한 기능들을 수행했으리라고 볼 수는 없다. 아마도 가장 먼저 나온 기능은 원시적 눈을 통해서 얻은 햇살에 관한 정보들을 처리하는 것이었을 터이다. 햇살은 생명을 낳는 힘이므로, 모든 생명체들은 햇살이 밝은 곳으로 향한다.

사람의 뇌가 부위마다 다른 기능들을 지녔다는 사실은 이런 추론을 떠받친다. 다른 동물들엔 아예 없거나 아주 원시적인 언어 중추를 사람이 지녔다는 사실은 뇌가 특정 기능을 지닌 모듈들의 집적을 통해서 차츰 전반 지능으로 진화했음을 가리킨다.

이처럼 언젠가는 뛰어난 부분 인공지능들이 결합해서 전반 인공지능으로 진화할 가능성은 크다. 그런 진화는 자연스럽고 합리적이어서, 다른 결말보다 훨씬 현실적이다.

인공지능이 전반 지능이나 그것에 가까운 모습을 갖추면, ‘기계도 의식을 갖출 수 있는가?’라는 물음이 나온다. 지금 사람들의 마음에 무겁게 얹힌 걱정은 바로 이 물음에서 비롯한다. 의식을 갖춘 초지능은 사람들의 통제를 받지 않고 스스로 판단하고 행동할 수 있을 터이고, 지구 생태계의 지배적 종인 인류는 필연적으로 위협을 받게 될 것이다.

의식은 발달한 신경계로부터 자연스럽게 나오는 창발적 현상이다. 뇌가 발달해서 높은 지능을 지닌 동물들은 예외 없이 의식을 지녔다. 지능과 의식 사이의 연관이 본질적이라는 점은 분명하다.

지능의 바탕이 신경계인 것처럼, 인공지능의 바탕은 컴퓨터다. 따라서 컴퓨터의 용량과 능력이 어떤 임계치를 넘으면, 인공지능이 의식을 지니리라는 추론은 자연스럽다.

물론 이 문제에 대해 확실한 판단을 내리기는 불가능하다. 끊임없는 연구들에도 불구하고, 우리는 아직도 본능, 지능, 의식, 생각, 기억, 의지와 같은 것들에 대해 아는 바가 아주 작다. 그래서 전반 인공지능이 나오더라도, 그것이 실제로 의식하고 생각하며 의지를 갖춘 존재일지 분명하게 판단을 내릴 근거가 없다.

상황이 그러하므로, 이 문제에 대해 과학자들은 당연히 조심스럽게 접근한다. 대신 과학소설가들이 대담한 의견들을 내놓는다. 과학자들이 “밟기 두려워하는 곳으로 달려들어가는” 것이 과학소설가들의 임무다. 돌아보면, 처음 인공지능의 모습을 구체적으로 제시한 사람들은 과학소설가들이었으니, 메리 쉘리(Mary Shelley)의 <프랑켄슈타인, 또는 현대의 프로메테우스(Frankenstein, or the Modern Prometheus)>(1818)와 카렐 차페크(Karel Čapek)의 <로숨의 만능 로봇 (R.U.R.)>(1920)은 인공지능의 진화에 큰 영향을 미쳤다.

수학자이자 과학소설가인 버너 빈지는 초지능이 출현할 길들로 넷을 제시했다.

1)개별 인공지능 주체(AI agent)의 인공 뇌가 커지고 기능이 향상되어 의식을 갖추는 길;

2)서로 연결된 컴퓨터들을 바탕으로 하나의 거대한 의식이 나오는 길;

3)컴퓨터와 사람의 상호대면(interface)이 아주 긴밀해져서, 컴퓨터 사용자가 실질적으로 초지능을 갖춘 상태에 이르는 길;

4)생물학의 발전으로 사람의 지능이 초지능 수준으로 되는 길.

첫 길은 이내 떠오르는 생각이다. 뛰어난 로봇 소설들을 많이 쓴 아이적 애시모프(Isaac Asimov)가 이 길을 따른 작품들을 많이 썼다. 둘째 길을 대표하는 과학소설 작가는 로버트 하인라인(Robert Heinlein)이다.

셋째 길은 프랭크 허버트(Frank Herbert)가 <사구(Dune)>에서 컴퓨터와 결합해서 초인적 능력을 갖추어 전략을 짜는 ‘멘탯(mentat)’의 형태로 제시했다. 빈지는 이 길이 가장 가능성이 높다고 본다.

넷째 길은 영국 과학소설 작가 올라프 스테이플돈(Olaf Stapledon)이 인류 진화의 과정을 처음부터 끝까지 그린 웅장한 작품들에서 제시했다. 이어 아서 클라크는 외계인에 의한 인류의 ‘향상(upgrade)’을 그렸다. 그러나 현재 상황에서 이런 생물학적 돌파가 나올 가능성은 거의 없다. 무엇보다도, 그것은 아주 긴 시간이 걸려서, 위의 세 가지 길들 가운데 하나가 먼저 나올 것이다.

초지능이 실제로 출현하면, 그것은 지구 생태계에서 첫 생명체의 출현에 버금가는 중요한 사건일 터이다. 지구 생태계의 진화라는 관점에서 보면, 그것은 인류의 출현보다 더 중요한 사건일 수도 있다. 초지능의 출현은 우리가 일상적으로 얘기하는 뜻에서의 종이 또 하나 나오는 것이 아니다. 초지능은 지구 생태계를 이룬 생명체들과는 본질적으로 다른 생명체다. 그것은 진정한 외계인(alien)일 것이다.

흔히 ‘탄소에 바탕을 둔 생명체(carbon-based life)’라 불린다는 사실이 가리키듯, 지구 생태계의 모든 생명체들은 유기물질로 이루어졌다. 그리고 DNA로 이루어진 유전자들에 담긴 정보들로 재생되어 존속한다.

비록 사람의 지능에서 나왔지만, 초지능의 물질적 바탕은 유기물질도 아니고 DNA로 이루어진 유전자들도 아니다. 흔히 ‘실리콘에 바탕을 둔 생명체(silicon-based)’라 일컬어지지만, 그것은 지금까지 컴퓨터의 정보 처리 장치들에 주로 반도체들이 쓰였다는 사정에서 비롯했다. 우리는 처음 나온 컴퓨터들이 진공관들로 만들어졌다는 사실을 기억해야 한다. 컴퓨터가 여러 가지 형태를 할 수 있으므로, 인공지능은 본질적으로 ‘기질로부터 자유로운(substrate-free)’ 존재다.

의식을 갖추고서 독자적으로 판단하고 행동하는 초지능이 출현한다면, 그것은 인류에 대해 어떤 태도를 보일까? 초지능의 출현이 인류의 문명과 생존에 결정적 영향을 미칠 터이므로, 이것은 더할 나위 없이 중요한 물음이다. 인류가 지구 생태계의 지배적 종이므로, 컴퓨터에 바탕을 둔 초지능처럼 강력한 종이 갑자기 나타나면, 인류의 그런 지배적 위치는 근본적 영향을 받을 수밖에 없다.

지금 우리 마음의 지평 위에 먹구름으로 걸린 이 물음에 대한 답을 찾기는 무척 어렵다. 빈지는 초지능의 출현이 ‘기술적 특이점’을 부른다고 지적했다. 우리가 상상하기 어렵고 통제할 수도 없는 상황이 나온다는 얘기다.

“사람의 관점에선, 이 변화는, 어쩌면 눈 깜짝할 새에, 모든 이전의 규칙들을 내던져버리는 것일, 어떤 통제의 희망도 넘어선 실존적 폭주일, 터이다, (From the human point of view, this change will be a throwing away of all the previous rules, perhaps in the blink of an eye, an exponential runaway beyond any hope of control.)” [기술적 특이점(The Technological Singularity)]

지금 이 문제에 관한 전문가들의 다수는 의식을 지닌 초지능이 언젠가는 나오리라고 믿는다. 그리고 그들 가운데 대략 반 정도는 2040년경에 초지능이 나오리라고 예상한다.

이제 필자의 생각을, 그것이 얼마만한 가치를 지녔느냐 하는 것을 떠나, 밝힐 차례다. 본업이 과학소설 작가인지라, 필자도 초지능에 관한 논의에 일찍이 발을 들여놓았다. 필자는 처음부터 둘째 길에, 즉 서로 연결된 컴퓨터들을 바탕으로 하나의 거대한 의식이 나오리라는 하인라인의 전망에, 동의했다. 그렇게 거대한 초지능이 나오면, 그런 초지능이 진화해서 로봇들이 – 비교적 작고 독자적으로 생각하고 행동하는 인공지능들이 – 나오리라고 전망했다. 따라서 필자의 전망은 하인라인의 전망과 애시모프의 전망을 결합한 셈이다.

이런 전망에선, 초지능의 출현은 정보처리 체계의 기술 수준만이 아니라 정보 체계의 규모도 중요한 요소가 된다. 여기서 결정적 역할을 할 기계들은 휴대전화, 사물 인터넷(IoT), 양자 컴퓨터(quantum computer) 및 통신 위성일 것이다.

이 네 기계들 가운데 특히 주목할 것은 IoT다. 지금 보급된 IoT는 원시적이라서, 보안이 너무 취약하다. IoT의 보안이 강화되어 기능이 폭발적으로 향상되면, 하나로 연결된 지구의 정보망은 단숨에 크게 촘촘해지고 활발해질 것이다.

정보망의 규모가 커지는 데는 기술 발전만이 아니라 경제 발전도 큰 영향을 미친다. 기술과 경제는 서로 좋은 영향을 미치면서 함께 발전하지만, 아무래도 경제 발전은 기술 발전보다 느릴 수밖에 없다. 그래서 앞으로 한 세대 안에 온 지구를 아우르는 정보망에서 거대한 초지능이 창발될 가능성은 그리 커 보이지 않는다.

필자가 가늠하기로는 적어도 두 세대는 걸릴 듯하다. 21세기 말엽이 되어야, 지구에 거대한 초지능이 나올 가능성이 있다는 얘기다. 인류 역사에서 가장 흥미롭고 아마도 가장 중요한 사건일 초지능의 출현에 관해서, 자신의 판단이 맞았는지 틀렸는지 확인할 수 없다는 사정은 마음에 뜻밖으로 큰 아쉬움을 남긴다.

복거일 객원 칼럼니스트 (소설가)