[복거일 칼럼] 인공지능에 대한 철학적 고찰 (13)
[복거일 칼럼] 인공지능에 대한 철학적 고찰 (13)
이 기사를 공유합니다

복거일 객원 칼럼니스트
복거일 객원 칼럼니스트

[지난 달 초순에 러시아의 인권운동가 류드밀라 알렉세예바(Lyudmila Alexeyeva)가 서거했습니다. 향년 91세. 압제적인 소비에트 러시아에서 인권운동을 하면서, 온갖 박해를 받은 분이 그리 오래 산 것은 경이적입니다.

그녀는 1960년대 후르시초프(Nikita Khrushchev) 정권 시절에 인권 운동을 시작했습니다. 그녀는 “소비에트 헌법을 존중하라!”는 구호가 적힌 플래카드를 들었습니다. 그런 구호를 외치는 것이 어떤 고난을 가져올까 생각하면서, 플래카드를 들었다고 뒤에 술회했습니다.

놀랍지 않게도, 그녀의 예상은 적중했습니다. 그녀는 16년간의 유배를 포함한 갖가지 형태의 박해를 받았습니다. 그러나 그녀는 지치지 않고 인권과 자유를 위해 투쟁했습니다. 러시아가 공산주의 체제에서 벗어나 덜 압제적인 사회가 되면서, 그녀는 인권 운동의 원로로 대접을 받았습니다.

말년엔 그녀는 푸틴(Vladimir Putin) 대통령에게 인권 문제에 관해 조언하는 조직에 참여했습니다. 물론 그녀는 푸틴이 그녀의 명성을 이용하려 한다는 것을 잘 알았습니다. 그녀도 푸틴을 통해서 인권을 유린당한 사람들을 구하려 했습니다. 그리고 한 사람을 감옥에서 구할 때마다 그녀는 보람을 느꼈습니다.

푸틴이 그녀의 90회 생일을 축하하러 찾아오자, 그녀는 억울하게 감옥에 갇힌 사람을 풀어달라고 요청했습니다. 그리고 압제적 지도자인 푸틴에게 “단 한 사람이라도 구하는 것은 그렇게도 큰 기쁨”이라고 설명했습니다.

그녀의 그런 태도에 저는 감복했습니다. 훌륭한 업적을 남긴 사람들 가운데엔 그런 태도를 지닌 사람들이 많습니다. 그녀가 평생 박해를 받으면서 꺾이지 않고 인권 운동을 할 수 있었던 비결이 어쩌면 거기 있는지 모르겠다는 생각이 들었습니다.

먼 땅에서 힘든 삶을 마친 위대한 자유주의자를 추모하면서, 문득 밀튼의 시구가 떠올랐습니다. 지금 우리에겐 참을성이 필요하다는 생각에서였을까요?

그저 서서 기다리는 자들도 또한 신을 섬기는 것이다.

They also serve who only stand and wait.]

인공지능 생태계

인공지능에 관한 논의들은 거의 언제나 인공지능이 개별적으로 존재하고 작동한다는 가정 아래 진행된다. 인공지능들이 서로 연결되는 사물인터넷(Internet of Things)가 곧 실현된다고 얘기하면서도, 그런 가정을 당연하게 여긴다. 인공지능들이 서로 연결되어 사회를 이루고 나름의 문화를 창출할 가능성은 좀처럼 논의되지 않는다.

이런 태도는 분명히 비현실적이다. 컴퓨터 프로그램들은 이미 서로 촘촘히 연결되었고 멀리 않은 미래에 모든 인공지능들은 서로 연결되어 움직일 것이다. 그럴 가능성을 무시하는 태도는 상상력의 부족에서 나온다. 인공지능들이 많아지고 서로 연결되면, 인공지능 사회가 나오고 독자적 문화도 따라서 나온다고 상상하는 것이 합리적이다.

그런 상황은 당연히 인류 사회에 근본적 영향을 미칠 것이다. 우리는 인공지능을 갖춘 개체들이, 흔히 로봇이라 불리는 인공지능 개체들이, 사회를 이룰 가능성에 대해 생각해야 하고, 인공지능이 이룰 사회의 모습과 성격에 대해 논의를 시작해야 한다. 특히 그런 사회에서 나올 문화의 모습에 대해서, 다수의 로봇들이 따를 ‘밈 복합체들(Memeplexes)’에 관해서, 진지하게 생각해야 한다. 편향과 오류 투성이인 사람들의 생각을 그대로 반영한 밈 복합체들을 인공지능이 지니게 되는 것보다 더 두려운 일도 드물다.

독자적 사회를 이루고 나름의 문화를 창출하면, 인공지능은 실질적으로 독립된 종을 이룰 것이다. 이런 상황을 상정하고서, 과학소설 작가들은 ‘호모 로보티쿠스(Homo roboticus)’라는 이름을 이미 마련해 놓았다.

독자적 종으로 사회를 이루고 문화를 창출한 인공지능과 인류가 함께 살아가는 모습은 상상하기가 쉽지 않다. 대부분의 과학소설들에서 인공지능을 갖춘 컴퓨터나 로봇은 개별적으로 사람들과 상대하며 서로 어울리지 않는다. 이런 상황은 분명히 비현실적이지만, 호모 로보티쿠스와 인류가 교류하고 공존하는 모습을 현실적으로 상상하기는 무척 어려울 수밖에 없다.

인공지능이 인류의 문화에서 나온 현상이고 호모 로보티쿠스의 사회와 문화도 인류 문화의 한 부분으로 출발했으리라는 사실은 두 종들 사이의 관계 정립을 아주 복잡하고 미묘하게 만들 것이다. 이것은 근본적 중요성을 지닌 일이지만, 이런 주제를 다룬 과학소설 작품들은 아직도 드물다. 그런 작품들은 쓰기가 정말 어렵다.

쓰기도 훨씬 쉽고 인기도 훨씬 높은 것은 인류와 로봇들이 서로 싸우는 상황을 그린 작품들이다. 이런 주제를 다룬 전형적 작품은 미국의 천체물리학자이자 과학소설 작가인 그레고리 벤포드(Gregory Benford)의 <은하계 중심 이야기 (Galactic Center Saga)> 연작이다. 우리가 살고 있는 은하계(Milky Way Galaxy) 전체를 무대로 삼은 이 웅장한 연작에선 전자기계적 생명체(electromechanical life)가 생물적 생명체(biological life)를 멸종시키려고 시도한다.

은하계 전체에서 벌어지는 이 궁극적 투쟁에서 인류가 대표하는 ‘생물적 생명체’는 ‘전자기계적 생명체’에 차츰 밀려서 파멸의 위기를 맞는다. 그때 물질에 바탕을 둔 이들 생명체들과는 달리, 에너지에 바탕을 둔 생명체가 나타나서, 간접적으로 인류를 돕는다. 작가는 그처럼 에너지에 바탕을 둔 생명체가 고대 문명 시기에 인류가 처음 만나 신으로 숭상한 존재였을 가능성을 내비친다.

신을 에너지에 바탕을 둔 존재로 상정하면, 오래 세월에 걸쳐 수많은 사람들이 신이라 부른 존재의 속성들이 꽤 많이 설명된다. 벤포드가 플라스마를 연구하는 물리학자라서, 그런 상상을 더욱 그럴 듯하게 한다. (벤포드는 한 세대 전에 노벨 물리학상을 받을 가능성이 가장 큰 과학소설 작가로 꼽혔다.)

인공지능의 개체들이 크게 늘어나면, 인공지능은 사회의 수준을 넘어서, 독자적 생태계를 이룰 수도 있다. 무기질로 제작된 인공물과 거기 깃든 지능으로 이루어진 인공지능 개체들이 이룬 생태계는 생물들로 이루어진 지구 생태계와는 근본적 수준에서 다른 독자적 생태계일 것이다.

실은 인공지능은 이미 원초적 생태계를 이루었다. 생태계라는 개념은 명확히 정의하기 힘들지만 (아직 알려진 생태계가 지구 생태계 하나뿐이니, 생태계의 본질과 주요 특질들이 무엇인지 알기 어렵다), 적어도 두 개 이상의 종들이 있어야 생태계라는 말이 어울릴 것이다. 지금 인공지능 사회는 컴퓨터 프로그램들과 거기 기생하는 컴퓨터 바이러스들로 이루어졌다.

비록 컴퓨터 바이러스들은 거의 다 사람들이 악의적으로 만든 것들이지만, 인공지능 사회에 새로운 종이 출현한 것은 사실이다. 나아가서, 인공지능 생태계에 기생하는 바이러스들이 자연스럽게 나타날 것이다.

로봇 공학의 선구자 한스 모라벡(Hans Moravec)은 이미 1988년에 그런 자연적 바이러스의 선구적 존재들이 나타났다고 지적했다.

우리의 점점 복잡해지는 체계들은 그들 자신의 놀라운 것들을 창조할 수 있고, 때가 되면 우리는 우리의 지능적 기계들에서 이미 존재하는 부분들의 예상치 못한 상호작용이나 돌연변이의 결과인 충격적으로 독창적인 ‘그렘린’들이 자생적으로 나오리라고 기대할 수 있다. 몇 가지 움직임들이 이미 관찰되었다.

[<마음의 자식들: 로봇의 미래와 인간 지능(Mind Children: The Future of Robot and Human Intelligence)>]

모라벡이 그런 ‘움직임들(stirrings)’의 예로 꼽은 것은 미국 국방부 산하 ‘고등연구사업청(Advanced Research Projects Agency)’이 1960년대에 만든 컴퓨터 망으로 인터넷의 전신인 ARPAnet에서 나온 장애들이었다. 1972년 로스앤절러스 지역의 한 컴퓨터로 망통신의 통신들이 갑자기 몰려서 망이 느려졌다. 이 컴퓨터는 각 사이트들이 ARPAnet에 접속하기 위해 거치는 Interface Message Processor(IMP)라는 소형 컴퓨터들 가운데 하나였다.

간단한 것으로 보인 장애였는데, 예상과 달리, 모든 응급 조치들이 효과가 없었다. 결국 망 전체를 정지시키고 망을 이루는 컴퓨터들의 기억들을 모두 삭제한 뒤 다시 가동시키고서야 문제가 사라졌다.

사후 조사는 이 사건의 경위를 밝혀냈다. 문제의 초점이 된 로스앤절러스의 IMP가 기억에서 오류가 생겨 그것의 경로제어표(routing table)에 잘못된 자료가 입력되었다. 그래서 그 경로제어표는 그 IMP를 통하는 전문들이 큰 ‘음 지연(negative delay)’을 겪으리라고, 즉 정상보다 훨씬 빨리 전달되리라고, 가리켰다.

그러자 둘레의 IMP들이 전문들을 자신이 직접 보내는 것보다 그 IMP를 통해서 보내는 것이 오히려 빠르리라고 판단했다. 다음엔 그 IMP들과 접속된 IMP들이 같은 판단을 했다. 이런 과정을 통해서 문제의 IMP로 통신들이 몰린 것이었다.

같은 성격의 사건이 1980년에 보스턴에서 다시 일어났다. 모라벡은 이들 두 사건들은 워낙 문제가 커서 사람들의 눈길을 끌었지만, 영향이 작아서 사람들의 주목을 받지 못한 사건들이 더 있으리라고 시사했다. 그리고 둘레에 미치는 부정적 영향이 작아서 오래 생존하는 그런 오류나 바이러스가 자연선택 과정을 통해서 널리 퍼지게 되리라고 지적했다.

컴퓨터 바이러스의 출현과 번창은 점점 큰 문제가 되어간다. 해커들과 테러리스트들이 제기하는 위협은 이제 일상적 조건이 되었다. 더욱 위협적인 것은 엄청난 능력을 지닌 국가 기관들의 활동이다. 2010년 이란의 핵무기 개발을 방해하는 데 성공한 Stuxnet은 이런 상황을 극적으로 보여주었다. 북한의 비밀 해커 조직은 이미 오래 전부터 돈을 탈취하거나 정치적 보복을 할 목적으로 세계를 상대로 해킹을 해왔다.

생태계 진화의 관점에서 보면, 그래도 그런 상황은 자연스럽다. 인공지능 사회에 기생하는 존재들은, 자연적으로 나왔든 사람들이 일부러 만들었든, 궁극적으로 인공지능 생태계의 진화를 촉진할 것이다.

지구 생태계의 역사는 이 점을 뚜렷이 보여준다. 숙주와 기생충들은 끊임없이 경쟁하게 되어, 공진화 관계에 놓인다. 그래서 갖가지 혁신들이 끊임없이 나온다. 성의 발명은 대표적이다. 인공지능 사회에서도 거의 확실하게 같은 상황이 나올 것이다.

복거일 객원 칼럼니스트(소설가)

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 4
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.