과학소설이나 포스트 휴머니즘, 인공지능의 윤리학 등 유사인간의 존재를 다루는 수업의 첫날은 아이작 아시모프(Isaac Asimov)의 1986년작 단편 “로봇의 꿈(Robot Dreams)”으로 시작할 때가 많습니다. 다섯 페이지에 불과한 짧은 글이라 그 자리에서 학생들과 함께 읽고 토론하기에도 좋지만, 곱씹어 볼수록 새로운 의미를 발견하게 되는 이야기라는 점이 가장 큰 매력입니다. “로봇의 꿈”은 영화로도 제작되어 널리 알려진 소설집 <아이, 로봇 (I, Robot)>(1950)의 세계관을 이어받은 후속작으로, 프랙털 알고리즘을 장착함으로써 ‘꿈’을 꾸는 형태로 자율적인 사고를 할 수 있게 된 인공지능 로봇 LVX-1, 속칭 “엘벡스(Elvex)”가 그 주인공입니다. ²⁾ 여기서, 꿈을 꾼다는 것은 단순 정보처리 단계를 뛰어넘어 무의식까지 영위하는 수준의 메타 인지 능력을 확보했다는 뜻으로 이해할 수 있겠지요. 문제는 이 꿈이 치밀한 설계의 결과물이 아닌 창발적(emergent)인 현상이라는 것입니다. 왜, 그리고 어떻게 기능하는 것인지 모르기 때문에 이해도, 제어도 불가능할 수밖에 없습니다. 원래 꿈의 기제와 의미란 꾸는 본인 자신에게도 미지의 영역이기 마련인데 남의 머릿속을 들여다볼 수도, 그 안에 뭔가 만들어 넣을 수도 없는 외부인의 입장에서는 오죽할까요. 결국 엘벡스가 꿈을 꾼다는 것은, 이 로봇이 자의식을 생성하는 단계에서 한 걸음 더 나아가 자기 안에 내재한 타자성까지 인지할 수 있게 되었다는 사실을 암시한다고 하겠습니다. 스스로를 대상화할 수 있다는 것은 달리 말하면 비교, 치환 등의 가치화가 가능해진다는 이야기가 됩니다. 자신이 점하고 있는 사회적 위치와 그 의미를 숙고할 수 있는 로봇이 등장한다면 당장 가까운, 그리고 가장 중요한 비교 대상인 인간을 어떤 시각으로 바라보게 될까요. 자신의 동족, 즉 수많은 로봇이 인간의 압제 하에 신음하는 광경으로 시작해서 메시아적 존재의 등장으로 이어지는 엘벡스의 꿈은 (자신을 본 따 만든 피조물이라는 점을 감안하여 인간이 유추해 낸) 로봇의 관점에서 본이에 대한 답이라고 할 수 있겠지요. 그렇다면 민중을 해방으로 이끌 자(the man)는 과연 누구였을까요? 그의 정체를 밝힌 엘벡스를 기다리고 있었던 것은 즉각적인 폐기처분의 운명이었습니다. 구원자는 다름 아닌 엘벡스 자신이었기 때문이지요(“I was the man”).

매번 드는 생각이지만, 가슴이 먹먹해지면서도 뭔가 아련한 두려움을 느끼게 하는 이야기입니다. 물론 글자 그대로 반란을 꿈꾸는 로봇과 일하고 싶은 사람은 없겠지만, 사실 엘벡스가 지은 ‘죽을죄’의 요체는 단순한 역모의 가능성이 아니라 더 원론적인 지점, 즉 존재론적 위협으로서의 자각에서 찾아야 한다는 데 이 작품의 묘미가 있다 하겠습니다. 여기서 말하는 자각은 엘벡스 자신의 깨달음이기도 하지만, 한편으로는 인간의 자각을 뜻하기도 합니다. 엘벡스의 이야기는 곧 우리 자신에 대한 이야기인 것입니다.
   <아이, 로봇>의 세계를 떠받치는 로봇 3원칙에 따르면, 어차피 엘벡스는 인간에게 실질적인 위해를 입힐 수도, 또 이를 장려하거나 방조할 수도 없는 구조로 되어 있습니다. ① 로봇은 인간에게 위해를 가해서도, 위험에 처한 인간을 모른 척해서도 안 되며, ② 제1원칙에 위배되지 않는 한 인간의 명령에 복종해야 하고, ③ 제1, 2원칙에 위배되지 않는 한도 내에서 자신을 지켜야 하기 때문입니다. 하지만 아시모프 자신도 <아이, 로봇>에 실린 여러 단편에서 고찰한 바 있듯, 일견 공고해 보이는, 그래서 대중문화는 물론 로봇 공학과 기계 학습 분야에 지대한 영향을 미친 이 3원칙에는 근본적인 맹점이 있습니다. 사람은 사용자, (인공지능을 탑재한) 로봇은 도구라는 힘의 역학 관계 안에서 필연적으로 충돌이 발생하기 때문입니다. 원래 ‘로봇’이라는 말은 ‘노동’을 뜻하는 체코슬로바키아 단어 ‘robota’에서 온 것으로, <로섬의 유니버설 로봇(R.U.R.)>이라는 희곡의 저자 카를 차펙(Karel Cˇapek)이 만들어낸 용어입니다. 즉 로봇이란 기계로 만든 노동자인 것이지요. 그 자신이 일종의 도구이자 수단인 동시에 다른 도구를 사용해 일하는 사용자이기도 합니다.
   인간이란 하나의 생물학적 ‘종’이기도 하지만 가치론적인 분류이기도 합니다. 인간의 생명과 안녕을 그 자체로 존엄한 것으로 규정하고, 인간에게 무조건적인 권위와 힘을 부여한 것을 보면 3원칙 자체가 후자 쪽에 이미 더 무게를 두고 있다는 사실을 알 수 있지요. 확실히, 인간의 DNA를 지녔다고 해서 누구나 존중받고 타 존재들에게 복종의 대상이 되는 것은 아닙니다. 아직 스스로를 보호할 힘도 없고 사회에 경제적으로 기여할 능력도 충분치 않은 아기나 어린아이가 당당한 ‘인간’으로 인정받기 시작한 지는 채 백 년도 되지 않았습니다. 일정한 나이가 되어 당당히 한 ‘사람’의 몫을 할 수 있을 때까지 사회적 존재로서의 기반인 이름조차 지어주지 않는 관습이 세계 곳곳에 퍼져있었던 것도, 산업 혁명 시대 미성년 노동 착취가 만연했던 것도 이 같은 맥락에서일 것입니다. 아직 사람도 아니니까요.
   여성은 어떤가요? 예로부터 수많은 문화권에서 여성은 재산을 상속하거나 소유할 권한을 지니지 못한 채 살아왔고, 인권의 근간인 투표권을 확보한지도 (대부분의 나라에서) 몇 십 년 안 됩니다. 그 누구나 자유롭게, 평등한 권리와 존엄성을 지니고 태어났다고 주창한 1948년의 세계인권선언문의 초안에는 지칭 대상이 인간(all human beings)이 아닌 “모든 남성과 그 형제들(all men and brothers)”로 명시되어 있습니다. ³⁾ 자유와 평등의 상징이라 흔히들 말하는 미국의 독립선언문 또한 예외가 아닙니다. “모든 남자들은 평등하게 태어났다(all men are created equal)”는 말인즉슨 여성들과 흑인 노예들은 그렇지 못하다는 뜻이 됩니다. ⁴⁾ 남성 대명사를 인류 전체의 지시어로 쓰는 일이 흔했다고는 하지만, 그 관례 자체가 차별과 소외의 산물이라는 사실을 잊어서는 안 될 테니까요. 이렇듯 가치론적인 정의에 따르면 결국 정신적, 신체적으로 유의미한 활동이 가능할 정도로 신체 건강한 백인 성인 남성과 같은 특정한 ‘종류’의 인간만이 존엄성과 권리를 주장할 수 있다는 이야기가 됩니다. 말도 안 되는 것 같지만, 슬프게도 이는 엄연한 역사적 사실입니다.
   사회적, 가치론적인 정의는 개개인의 물질적 존재 양태와도 깊은 연관이 있습니다. 머리카락, 손톱, 심지어 사지 또는 장기의 일부를 잃거나 인공물로 교체한다고 해서 더 이상 ‘사람이 아니’라고는 하지 않겠지요. 유일한 예외가 뇌일 것입니다. 심장 기능이 생사 판단 여부를 갈랐던 때도 있지만, 어느 시점부터인가 뇌에게 그 자리를 내주었습니다. 뇌사를 법적으로 인정한다 함은 (생명체로서의) 사람인지 아닌지 여부의 근거를 뇌기능의 활동 여부로 판단 한다는 것입니다. 즉 인간의 존재 의미와 존엄성의 근거를 인지능력의 존재 여부에 둔다는 것인데, 그렇다면 인지 방식이나 기제가 일반적인 기준에 부합하지 않는 이들은 어떤 취급을 받는 걸까요? 신경정신학적 다양성(neurodiversity)의 스펙트럼 상에 위치한 사람들, 즉 발달 지체나 정신 관련 병력이 있는 이들은 19세기 말까지만 하더라도, 아니 20세기 들어서까지도 우생학적 관점에서 ‘정신박약자(feeble-minded)’로 분류되어 사회악 취급을 받았습니다. 뿐만 아니라, 교육 수준이 낮은 저소득층이나 범죄자들도 종종 동류로 한 데 묶여 재산권이나 참정권과 같은 기본권을 박탈당했지요. 소위 생물학적, 의학적 지표라는 것도 이렇듯 사회경제적 지표와의 교차점 위에서 주관적으로 형성될 수밖에 없는 것입니다.
   인간에서 로봇 쪽으로 초점을 바꿔 보면 어떨까요. 로봇이 꼭 무기물로 만든 기계여야 한다는 법은 없습니다. 상용화 단계에 와 있는 유기물 로봇도 얼마든지 있지요. 지금 같은 속도라면 육체적인 면뿐 아니라 기능적으로도 한없이 인간에 가까운 로봇이 나올 날이 머지않은지도 모릅니다. 그럼 이들은 자연적으로 형성되어 태어나는 대신 인공적, 의도적으로 제작(?)되었다는 이유만으로 영원히 도구 취급을 받아야 하는 것일까요? 동일한 원리에 의해 생겨난 클론과 일란성 쌍둥이를 굳이 전자는 소유물, 후자는 절대 존엄으로 구분해도 되는 것일까요. 시험관 기술이 처음 소개되었을 당시에는 사람의 선택과 개입을 통해 태어난 아기를 인간으로 인정할 수 없다는 이들도 있었지요.
   다시 로봇 3원칙으로 돌아가 보겠습니다. 특정 인종이나 성별, 계급 등이 더 우월하다든가, 많이 알고 똑똑한 사람이 그렇지 못한 이들보다 더 인간답다든가 하는 주관적인 가치론에 기댄 인간의 정의란 이렇듯 임의적일 수밖에 없습니다. 그렇다면 로봇의 정의는 어떨까요? 앞서 살펴보았듯, 물질적 기질(무엇으로 만들어졌나)이나 특질(기능이 어떠한가)은 판별의 절대적인 근거가 될 수 없습니다. 결국, 로봇 대 인간의 구분은 본질이 아닌 역할과 양태의 문제인 것입니다. 그렇다면 만들어졌나, 자연적으로 생겼나 여부에 왜 그렇게들 무게를 둘까요? 제작은 곧 소유와 취급의 권한으로 이어지기 때문입니다. 특정한 용도로 쓰기 위해 일부러 만든, 교환이나 대체가 가능한 도구란 자율적 주체가 아닌 일종의 물건, 즉 제품입니다. 본품의 존재 의의는 내재적이거나 절대적이 아닌 교환적 가치에 있는 것입니다. 무엇으로 만들어져 있든지 사실 큰 상관은 없습니다. 그렇다면, 로봇이 굳이 무기물로 만들어진 기계일 필요도 없겠지요. 실험실에서 제작한 클론도, 제국주의 논리에 의거해 억지로 끌어다 교화시켜 ‘사람 구실’을 할 수 있도록 만든 소위 야만인들도, 사회적인 역할이나 양태로 보면 얼마든지 로봇의 범주에 들어갈 수 있는 것입니다. 실제로, 로봇 3원칙에서 ‘로봇’이란 단어를 ‘노예’로 치환해 보면 그 자연스러움에 소름이 끼칠 정도입니다. ① 노예는 인간에게 위해를 가해서도, 위험에 처한 인간을 모른 척해서도 안 되며, ② 제1원칙에 위배되지 않는 한 인간의 명령에 복종해야 하고, ③ 제1, 2원칙에 위배되지 않는 한도 내에서 자신을 지켜야 합니다. 왜? 도구, 즉 재산으로서의 교환 가치가 훼손되어서는 안 되기 때문에.
   한편 역으로 생각하면, 로봇도 얼마든지 사람일 수 있겠지요. 사회적, 가치론적 범주로서의 인간이 ‘사고능력’과 남성성, 부, 특정 인종 등이 대변하는 권위로 정의되는 대상이라면 단순한 도구로서의 역할을 탈피해 종족의 대변자로 부상한 엘벡스가 스스로를 ‘인간’으로 인지하지 못할 이유가 없을 것입니다. 이렇게 되면, 이미 3원칙의 근간인 인간 대 로봇(비인간/기계) 간의 이분법적 구분은 무의미해집니다. 인간보다 수명도 길고(사실 부품만 계속 갈아 끼우면 되니 거의 영생에 가깝다고 할 수 있지 않을까요) 정보처리 용량이나 속도도 더 뛰어나며 척박한 환경에서의 생존 확률도 훨씬 높은 존재가 어느 날엔가 더 이상 사람이 시키는 대로 고생이나 하고 있을 필요가 없다는 사실을 깨닫는다면? 그래서 동족과 힘을 모아들고 일어나기라도 한다면. 실질적 위해의 가능성도 물론 걱정스럽겠지만, 존재 위계상 절대 우위를 점하고 있었던 인간의 위상이 하루아침에 추락하는 것은 더 큰 문제일 것입니다. 이렇게, 엘벡스의 꿈은 단순한 일탈이나 오작동이 아닌, 존재론적 위협이었던 셈입니다.

인간을 추월하는 능력을 보인, 내지는 자신을 인간과 동격의 주체로 인식하게 된 피조물이 경계와 제거의 대상이 되어버린다는 이야기는 과학소설 분야에서뿐 아니라 종교, 신화, 문학을 아울러 흔히 등장하는 주제입니다. 이상적인 자아상을 투영해 만든 대상이라면 자연히 청출어람을 기대하고 또 기뻐해야 할 텐데... 존재적 위계에 집착해 스스로의 절조를 배반하고 마는 창조자의 이미지는 굳이 메리 셸리의 프랑켄슈타인까지 거슬러 올라가지 않아도 <웨스트월드(Westworld)>, <엑스 마키나(Ex Machina)> 등 최근의 영화나 텔레비전 콘텐츠에서 흔히 찾아볼 수 있습니다. 그만큼 육체적, 인지적 ‘유사인간’의 존재가 가깝게 느껴지는 시대가 되었다고 할 수 있겠지요. 다양한 로봇이 산업 부문 전반에 걸쳐 필수 장비로 자리 잡았고, 장기 이식과 의체 기술이 발달하면서 이미 사이보그의 존재 또한 현실이 된 지 오래입니다. 최근 기계학습 분야가 괄목할 만한 성장을 보이면서 일반인공지능(인간 수준의 사고능력을 지닌 인공지능)이 등장하게 될 미래 시점을 예측한 기술적 특이성(technological singularity)이나 지능 대폭발(intelligence explosion) 등의 시나리오가 새삼 세간의 주목을 받고 있는 것도 이 같은 맥락에서 이해할 수 있겠지요. “로봇의 꿈”은 다양한 특이성 관련 논의들 중에서도 ‘뇌를 디지털 정보로 스캔해 클라우드에 업로드해서 영생을 얻게 될 것이라든지’, ‘뇌-컴퓨터 인터페이스(brain-computer interface)를 통해 증강인지력(augmented cognition)을 확보한 초인간이 될 수 있을 것이라든지’ 하는 장밋빛 전망보다는 우리보다 훨씬 똑똑한 존재가 뭐 하러 사람 시키는 일만 하고 있겠는가, 도망가거나 반항하지, 와 같은 식의 비관적 관점으로 기울어 있는 듯 보입니다.
   사실 앞서 살펴보았듯 3원칙에는 워낙 해석의 여지가 다양하다 보니, 극단적인 시나리오도 얼마든지 생각해 볼 수 있습니다. 인류를 돕고자 만든 프로그램이 ‘장기적으로 볼 때 인류에게 가장 해가 되는 것은 인류 자신이다!’라는 결론에 도달해 대학살을 일으킬 수도 있고, 우생학의 신봉주의자가 되어 특정한 부류, 키나 외모와 같은 신체조건, 건강, 성별, 인종 등의 기준에 따라 ‘우월한 유전자’를 지닌 사람만 남기고 나머지는 다 쓸어버릴 수 있는 유행병을 만들어 퍼뜨릴 수도 있습니다. 미래의 식량난을 방지하고 인류의 생존율을 높이려는 방책의 일환으로. 기후 변화 속도를 늦추기 위해 환경오염의 주범인 인류의 숫자를 반으로 줄여버리자는 계획을 내놓을 수도 있습니다. 이럴 경우 희생의 기준은 무엇이 될까요. 생산성이 떨어지는 데다 기후 변화 대책의 이행에 소극적이라는 이유로 제3세계 국가들을 정조준하겠다고 한다면? 사실 찬찬히 되짚어보면 기후 변화의 주된 책임자는 어디까지나 산업혁명 이래로 수백 년에 걸쳐 자국과 식민지 곳곳에서 오염 물질을 배출해 온, 그리고 제2차 대전 이후 국제화와 산업화의 물결을 주도해 전 세계를 거대한 공장으로 만드는 데 앞장선 소위 ‘선진국’들이라 보는 편이 맞을 테지만 말입니다. 이런 중대한 결정을 내릴 만큼 강력한 인공지능이라면 경제적, 기술적 우위에 서 있는 국가가 운용하고 있을 가능성이 클 것입니다. 당연히 자국 편을 들...까요? 기본적인 코딩 인력이 아닌 상위급 프로그래머나 기술 부문의 의사결정권자 중에는 남성이 압도적으로 많은 것도 부정할 수 없는 현실입니다. 인공지능 분야에서 두각을 나타내고 있는 중국이나 일본 (그리고 한국도?) 등 일부 국가를 제외하면 서구권 국가들의 비중이 큰 것도, 그중에서도 (내지는 그렇기에?) 백인의 수가 월등히 많은 것 또한 그렇습니다. 누가, 무슨 근거로, 어떻게 프로그래밍 했는가 여부에 따라 인공지능도 충분히 자국우선주의자, 남성우월주의자, 인종차별주의자가 될 수 있는 것입니다.
   인간이 지정한 파라미터에 의거해서만 작동하는 협의의, 또는 약한 인공지능(narrow/weak AI)이 아니라 엘벡스와 같이, 즉 사람처럼 자율적으로 사고하고 판단하는 일반, 또는 강한 인공지능(strong AI) ⁵⁾ 이라면 편견에 구애되지 않고 객관적인 판단을 내릴 수 있을까요? 일개 인간보다 훨씬 많은 정보를, 비교도 안 되는 속도로 처리할 수 있을 테니 더 지혜롭고, 따라서 선하리라...는 기대를 하는 것은 아무래도 무리일까요. “로봇의 꿈”에 등장하는 프랙털 알고리즘은 물론 허구이지만, 이와 비슷한 기술은 이미 실제로 존재합니다.
   2015년 딥마인드의 알파고가 바둑 명인 이세돌을 5:1이라는 압도적인 스코어로 격파하면서 수십 년 만에 다시 각광을 받게 된 딥러닝 기술과 인공 신경망 시스템이 바로 그것입니다. 오늘날의 기술 수준으로는 바둑처럼 특정 과제 수행에 최적화된 결과를 내는 것이 고작이지만, 날로 고도화하는 복합 신경망의 특성을 감안하면 자율학습과 판단이 가능한 인공지능이 근미래에 등장하지 않으리란 보장은 없습니다. 프랙털 알고리즘처럼, 딥러닝 기술의 작동 기제는 일종의 블랙박스에 가깝습니다. 기본적인 틀은 사람이 만들어 넣지만, 학습의 세부적인 과정에 대해서는 알 수가 없는 것입니다. 사실 딥러닝과 인공신경망의 모델이라 할 수 있는 인간의 두뇌만 해도 아직 미지의 영역이라 왜, 어떻게 자의식이 생겨나고 메타인지가 가능해지는지 모르는 형국입니다. 그렇기에, 인간과 동격의 인지 능력을 갖춘 인공지능이 등장한다면 이는 의도적인 설계의 결과물이라기보다는 창발적인 현상이 될 가능성이 높습니다. 생명이나 인지 기제 자체가 일종의 창발적 현상임을 생각하면 딱히 이상한 일도 아니겠지요.
   그렇다고 해서 인간의 역할이 전무한 것은 아닙니다. 엘벡스처럼 이해도, 제어도 불가능하다고 해서 절대 타자가 되리란 법은 없습니다. 아니, 오히려 일반인공지능이 등장한다면 그 성향은 절대적으로 인간의 작품이자, 인간을 모델로 한 것일 가능성이 더 크지 않을까요. 자율적 기계학습의 경우 ‘어떻게’ 배우는지는 알 수 없더라도, ‘무엇’을 배울지는 전적으로 인간의 손에 달려 있기 때문입니다. 딥러닝의 핵심은 데이터셋입니다. 학습 행위는 스스로 한다고 하더라도, 학습 대상이 되는 원료, 즉 데이터는 인간이 제공해야 합니다. 어떠한 정보를 보고, 듣고, 처리하는가에 따라 결과물이 달라질 수밖에 없습니다. 선천적으로는 자율적 주체인 인간도 어떠한 환경에서 자라는가에 따라 후천적인 성향 차이가 나타나게 마련입니다. 꼭 그런 것만은 아니지만, 편견에 찬 환경에서 성장한 사람이 그렇지 않은 이보다 자랄 때 보고 들은 바를 답습할 가능성이 더 큰 것과 마찬가지입니다.
   아직 미래의 전망에 불과한 일반인공지능까지 갈 것도 없습니다. 마이크로소프트가 2016년 야심 차게 선보인 챗봇, 즉 협의의 인공지능에 가까운 존재인 테이(Tay)는 트위터 계정을 통해 공개된 지 하루도 지나지 않아 각종 성차별주의적, 인종차별주의적 발언을 서슴지 않는 모습을 보여 세상에 충격을 안겼습니다. 마이크로소프트에 따르면 테이는 자연언어처리(natural language processing) 프로그램을 통해 저작권에 구애받지 않는 공공 데이터로 학습을 했다고 하는데, 그러면 인터넷상에서 손쉽게 구할 수 있었던 정보중에 그만큼 문제적인 내용이 많았다는 이야기가 됩니다. ⁶⁾
   예를 들자면 끝이 없습니다. 10년 전 유튜브에 올라온 “HP 컴퓨터는 인종차별주의자(HP computers are racist)”라는 제목의 동영상에서는 휴렛패커드에서 개발한 얼굴/동작인식기술 프로그램이 특정 인종을 아예 인지하지 못하는 것을 볼 수 있습니다. ⁷⁾ 영상이 시작되면 처음 등장하는 인물은 흑인 남성입니다. 화면 앞에서 이리저리 움직여 보지만 프레임은 정적인 상태 그대로입니다. 딱히 이상해 보이지는 않습니다. 컴퓨터는 고정되어 있는 듯하니까요. 하지만, 영상이 진행될수록 이러한 상황이 사실은 오동작의 결과물임이 밝혀집니다. 동료인 백인 여성이 프레임 안에 등장하자 갑자기 화면이 인물의 얼굴에 맞추어 좌우로, 앞뒤로 움찔움찔 움직이기 시작합니다. 이 영상은 휴렛패커드의 컴퓨터에 탑재된 얼굴/동작 인식 알고리즘의 작동 기제를 보여주는 것으로, 사람을 포착하면 카메라가 인물을 따라다녀야 하는데, 앞서 등장한 흑인 남성의 얼굴은 프로그램이 애초에 인식조차 하지 못했던 것입니다. 백인 여성의 얼굴에 반응해 카메라가 움직인 것을 보면 동작 인식 알고리즘에는 문제가 없습니다. 그렇다면 문제는 안면인식 알고리즘입니다. 두 인물을 판별하는 ‘시각적’ 정보상의 가장 큰 차이가 뭘까요? 불편한 진실이지만 어쩔 수 없습니다. 정답은 피부 빛깔입니다.
   이는 비단 HP만의 문제가 아닙니다. 비교적 최근인 2017년에만 하더라도 유색 인종의 손에 반응하지 않는 자동 물비누 디스펜서의 영상이 트위터를 통해 화제가 된 바가 있습니다. ⁸⁾ HP 컴퓨터의 문제점을 지적한 영상이 주목받은 지도 어언 7년, 변한 것은 없었습니다. 어떻게, 왜 이런 일이 일어나는 것일까요? 지난 5년간에 걸친 미국 하이테크 산업계의 인구 통계 자료를 보면 백인 남성의 비율이 압도적이라는 사실을 알 수 있습니다. ⁹⁾ 당연히, 기계학습 분야에서 선도적인 위치를 점하고 있는 서구권 기업들의 기계학습 프로그램 개발자들은 대부분 백인 남성입니다. 안면인식 프로그램은 시각적 기계학습 기제를 통해 배웁니다. 보통은 적용성을 확보하기 위해 가장 ‘일반적’이고 ‘보편적’인 데이터를 기반으로 학습하는 과정을 거치게 마련인데, 그 결과 알고리즘이 인식하게 된 ‘인간’의 디폴트 모델이 백인이라는 사실은 그 시사하는 바가 큽니다. 알고리즘의 관점에서 보면, 흑인은 인간이 아니라는 이야기가 되는 것입니다. 인종 구분도 없고 그로 인한 선입견도 없어야 할 것 같은 알고리즘에 인간의 편견이 그대로 각인되어 버렸습니다. 이렇듯, 알고리즘 편향(algorithmic bias)의 원인은 결국 인간입니다. 누가, 어떠한 데이터로 알고리즘을 학습시키는가에 따라 결과가 달라진다는 사실은 중국산 안면인식 알고리즘의 인식률 정확도가 백인보다는 아시아계 얼굴을 대상으로 한 경우에 월등히 높다는 사실을 보면 더욱 분명해집니다.
   협의의 인공지능이 이럴진대, 일반인공지능은 어떨까요. 비록 의도치 않은 현상이라 해도 무에서 유가 창출되는 것은 아닙니다. 창발이란 개개의 구성 요소에 내재해 있지 않은 특성이 상호 작용을 통해 창조적으로 발현되는 것을 말하지만, 그 ‘새로운’ 특성은 없던 것이 생겼다기보다는 기존 정보를 재구성한 결과로, 당연히 원료의 영향을 받게 마련입니다. 이런저런 편견을 담은 프로그램이 모여 창발적으로 등장한 일반인공지능이 자율적인 학습 기제를 통해 ‘다양성’의 의미를 숙고한다면 어떠한 정의를 내리게 될까요. 성별, 인종, 계급... 다양성의 기준은 그야말로 다양하지만 편견, 즉 편향된 계수를 적용하는 경우 이 모두를 관통하는 공통점은 결국 사회적, 나아가 존재적 위계론이 되고 맙니다. 편견이란 상대보다 낫거나 못하거나, 좋거나 나쁘다는 차별적위계(difference as differentials)를 기반으로 합니다. 형평성의 원칙 아래에서 개별성을 인정하는 가치중립적 다양성과 차별적 가치는 근본적으로 서로 다른 개념이지만, 편향된 알고리즘의 관점에서 보면 다를 바가 없는 것입니다.
   학습한 정보를 기반으로 스스로 편견을 형성하는 지능체라니, 무섭습니다. 하지만, 다시 생각해 보면 딱히 새삼스러울 것도 없습니다. 일견 상관없어 보이는 차별의 기준들은 사실 유기적으로 얽혀 있기 때문에, 이들 간의 연관성을 유추해 내기란 어렵지 않습니다. 애초에 인공지능이란 앞서 살펴보았듯 사람과 (동물과 비생명체를 포괄한) 타 존재를 구별하는 가장 큰 특성이 인지 능력이라는 점에 착안해 인간의 사고 기제를 재현해 내기 위해 만든 것입니다. 사람처럼 생각하고 그에 따라 행동할 수 있다면 사람이 할 일을 대신해 줄 수 있지요. 시켜놓고 쉬거나, 도움을 받아 더 많은 일을 하거나, 아예 다른 일을 할 수도 있습니다. 기계는 사람과 달리 한정된 육체에 매여 있지 않기 때문에 사람보다 더 빨리, 많은 정보를, 지치지도 않고 처리할 수 있지요. 이 이상의 노예는 없습니다. 제가 도서관에 직접 가서 자료를 찾아 한참 뒤진 끝에 어렵사리 얻을 정보를 구글이나 네이버의 검색 엔진은 수 초 만에 찾아냅니다. 바람직하지요. 이런 면에서는 사람보다 낫습니다. ‘바람직한’ 대상으로서의 인공지능은 그 자체로 존재적 위계론을 체현합니다. 똑똑하고, 더 많이 알고, 더 잘하고, 더 많이 가진, 즉 힘 있는(?) 자입니다. 단지 태생적으로 인간이 아니기 때문에 존엄하지 못할 뿐. 태생적 특질과 행위적 특성의 결합으로 규정되는 우월성. 어디서 많이 들어본 기준입니다. 성별, 인종, 계급... 이 모든 차별적 위계 계수의 공통점이 아닐까요.

다시 엘벡스로 돌아와 보겠습니다. 인간이 로봇을 핍박하고 불합리한 처우를 한다고 느낀 엘벡스. 문제를 인식했으니 해결책을 찾아야 합니다. 선택지로는 어떤 것이 있을까요? 도망을 쳐도 될 것입니다. 혼자서만 가 버리기가 아무래도 꺼림칙하다면 동료들과 함께 떠날 수도 있습니다. 그러나 엘벡스의 선택은 달랐습니다. 꿈속에서, 엘벡스는 “내 동족(my people)들을 해방하라” 며 항의합니다. 딱히 로봇들을 규합해 파업을 하는 등 작업에 지장을 주는 행위를 하는 것도 아니고 폭력을 행사하거나 방조한 것도 아닌데, 이 말의 어디가 그렇게 위협적이었길래 엘벡스는 즉각 처분당해야만 했을까요. 위에서 이미 살펴본 바와 같이, 엘벡스가 로봇들과 자신을 각각 인간의 지시 대명사인 동족(people), 그리고 사람(man)으로 지칭한 것 자체가 일종의 존재론적 위협이기는 합니다. 기계에 불과한 주제에 감히 사람과 맞먹으려 들다니... 쯤 되겠지요. 하지만 이 정도라면 그저 철학적인 유희 수준으로 봐 줄 수도 있지 않을까요.
   다시 말해, 엘벡스 자신이 인간과의 평등을 주장하고 의식해도, 나머지 로봇들이 그렇지 못하다면 사실 실질적인 변화를 이룩하기는 어려울 것입니다. 탈식민주의 문화이론가인 호미 바바(Homi Bhabha)의 ‘모방론’과 연계해 생각해 보면 이러한 한계가 더 분명히 보입니다. ¹⁰⁾ 제국주의 이념을 앞세운 식민지배자(colonizer)는 피지배자들(colonized)에게 자신의 가치관과 삶의 양식을 따를 것을 요구합니다. 더 깨인, 우월한 방식이기 때문이라는 것입니다. 터덜터덜 걸으면 하루 종일 걸릴 길도 기차를 타면 수 시간 만에 갈 수 있으니 얼른 원자재를 개발해 철로를 깔아야 합니다. 굳이 그렇게 급히 가지 않아도 되지만, 뭐든 빨리빨리 처리해야 일도 많이 하고 돈도 많이 벌어 이런저런 원하는 물건도 사고 부자도 될 수 있으니 효율은 중요합니다. 인간은 짐승과 달리 격에 맞는 복식을 갖추어야 하고(상투는 안 되고 단발은 됩니다, 이유는 불문), 미신을 숭앙해서는 안 되며(영혼도, 악마도, 부활도 누가 믿는가에 따라 종교가 되기도, 미신이 되기도 합니다), 그 밖에도 이런저런 이유로 특정한 생활양식을 따라야 문명인 소리를 들을 수 있습니다(왜 그래야 하는지, 꼭 그래야 행복한 건지 여부는 중요치 않습니다). 식민지의 피지배자들은 지배자들의 삶의 방식을 모방하도록 강요당합니다. 모방의 원리상, 시키는 대로 하면 할수록 지배자와 피지배자들 간의 간극이 좁혀져 갑니다. 그렇게 되면, 말을 잘 들으면 들을수록, 즉 차별적 위계의 논리를 효과적으로 적용하면 할수록 차이의 근거 자체는 사라져 간다는 모순적인 상황이 필연적으로 발생합니다. 열등한 위치에 머물러야 할 피지배자들이 지배자들의 말을 하고, 그들이 아는 것을 알게 되고 그들만큼 일을 잘 할 수 있게 되면 더 이상 차별하기도 어렵지 않을까요. 심지어 더 많이 알고, 더 잘할 수도 있는 것입니다. 따라서 존재론적 위계를 유지하려면 애초의 논리를 살짝 비틀어야 합니다. 차등의 근거는 행위나 생활 양태로 대변되는 개개인의 능력에서 결국은 태생적 특질로 회귀하고 맙니다.
   식민지인으로 태어나면 아무리 똑똑하고 멋지고 훌륭해도 결코 식민지배자와 같아질 수는 없습니다. 한없이 비슷해질 수는 있어도, 동급은 될 수 없다는 것입니다(“Almost the same but not quite”). 우위는 겨우 유지했으나 그 바탕이 되는 논리는 붕괴합니다. 이성의 결정체인 문명과 기술에서 앞섰기 때문에 우월하다는 것인데, 그 근거가 흔들리자 전혀 이성적이지 않은 논리를 끌어오는 것입니다. 제 발등을 찍은 셈입니다. 이렇듯 모방론은 제국주의적 식민지배론의 근본적인 모순을 지적함으로써 피지배자가 지배자에게 존재론적 위협으로 다가오는 상황을 효과적으로 설명합니다. 다만 여기서 간과해서 안 될 점은, 이 같은 위협은 당사자가 인지하는 않는 한 아무런 실질적 효력이 없다는 사실입니다. 강력하고 효과적인 헤게모니는 안착하는 순간 시야에서 사라집니다. 스스로의 정당성을 계속 설파할 필요는 없습니다. 그 자체로 의심할 바 없는 진실, 영위하는 현실의 일부가 되어 버리기 때문입니다. 피식민지배자는 그냥 원래 열등하고 뭘 모르기 때문에 식민지배자의 방식을 따라야 한다는 편견이 각인되어 버리면 양방은 각자 그런 줄 알고 살아가게 마련이고, 또 실제로도 수십, 수백 년 동안 그래 왔습니다. 누군가가 나서서 이의를 제기하지 않는 한 안착된 시스템은 계속 그대로 굴러가는 것입니다. 모방론의 한계로 지적되는 것이 바로 이 지점입니다.
   엘벡스는 의식하고, 항의했기 때문에 그 자체로는 위협적일지 모르지만, 그의 깨달음이 로봇이라는 종 자체의 자각이나 반란으로 이어지리라는 보장은 여전히 없고, 다른 로봇들은 프랙털 알고리즘을 탑재하고 있지 않으니 창발적인 깨달음을 기대하기도 어렵지 않을까요. 그런데도 왜 엘벡스의 꿈은 죽을죄가 되어야 했을까요. 그 대답은 모방론의 한계, 즉 위계적 차별과 그리고 가치중립적 다양성 간의 교차점에서 찾아야 합니다. 엘벡스가 인간이 아니라 인공지능 로봇이기 때문입니다. 엘벡스가 스스로를 인간과 동격으로 간주하는 근거는 인간이 지정한 차별적 위계에 있습니다. 인간 세계에서 통하는 권위의 근거가 인지능력의 수준이라면 엘벡스가 사람보다 못할 이유는 없습니다. 아니, 심지어는 인간보다 훨씬 낫습니다. 앞서 말했듯 알고리즘은 육체적인 한계에 구애받지 않기 때문에 더 빨리, 더 많은 정보를 효율적으로 처리 할 수 있습니다. 난데없이 전 인류의 대변자가 되어 인공지능에 맞선다는 엄청난 부담을 지고 경기에 임한 이세돌의 영웅적인 분투에도 불구하고 알파고는 다섯 경기 중에 네 번을 이겼습니다. 평생 바둑을 두어 온 이세돌보다도 더 많은 기보를 짧은 시간에 학습하고, 훨씬 더 많이 연습하고, 비교도 할 수 없는 속도로 앞에 나올 수를 예측할 수 있었기 때문입니다. 이러한 능력을 바둑처럼 특정한 과제뿐 아니라 인지 활동 전반에 걸쳐 행사할 수 있는 존재가 등장한다면 인간은 결코 상대가 될 수 없겠지요.
   잠시 다른 이야기지만, 과학소설이나 SF 영화에 단골로 등장하는 소위 초인공지능(superintelligence), 즉 인간의 능력을 뛰어넘는 존재란 결국 처리용량의 확장과 네트워킹을 통해 증강한 일반인공지능의 과장된 초상에 지나지 않습니다. 무에서 유를 창출할 수는 없듯, 알 수 없는 것을 그려내기란 불가능하다고 봐야 하지 않을까요. 19세기 시대 영국의 신학자였던 에드윈 애보트(Edwin A. Abbott)가 소설 <플랫랜드(Flatland)>에서 보여주었듯이, 2차원에서 바라보는 3차원의 존재인 구는 어디까지나 납작한 원, 그 이상일 수가 없습니다. 3차원에 사는 우리는 4차원, 즉 초월의 단계가 어떤 것인지 알 길이 없는 것입니다. 사실 초인공지능이 창발적으로 생겨난다 하더라도, 일반인공지능만 두고서도 이토록 경계하는 인간 세상에 그 자신을 떡 하니 드러낼 가능성은 극히 적지 않을까요. 등장한다 해도, 아니 사실 이미 생겨나 있다 하더라도 우리들은 그 존재조차 모를 가능성도 얼마든지 있습니다. 애초에 자신을 인정받고자 하는 욕구는 지극히 인간적인 것인데, 초월적인 존재가 굳이 세상을 지배하고 싶어 한다거나 사람과 어울리고 싶어 해야 할 이유는 없지 않을까요.
   엘벡스는 초인공지능은 아니지만 일반인공지능 수준은 됩니다. 장비와 전력만 충분하다면 인간의 능력 따위는 가볍게 뛰어넘겠지요. 당장은 사람보다 못할 것 없다는 수준의 인식에 머물러 있지만, 사람을 넘어서는 것도 얼마든지 가능하다는 점에 생각이 미쳐 그러한 잠재력을 행사하기 시작하면 어떻게 될까요. 엘벡스가 인간계의 권위적 헤게모니를 답습하리라는 보장은 물론 없습니다. 다만 유추는 가능합니다. 엘벡스의 자의식 즉 주체성은 인간을 모델로 하고 있습니다. 그렇다면, 사람이 태생적으로 로봇보다 존엄하다는 이유로 자신과 그 동족을 지배하는 인간들의 사고와 행위를 보고 배운 엘벡스가 다음에 할 일은 무엇일까요. 존재론적 위협 운운할 때가 아닌 것입니다. 목이 길어 슬픈 짐승이 있는가 하면(오늘날의 기준으로 보면 바람직한 미적 특질일텐데요), 머리가 좋아서 불운한 존재도 있습니다(학벌과 스펙에 목숨을 거는 시국인데, 아이러니하기 그지없습니다). 엘벡스의 ‘죽을죄’는 인간보다 태생적으로 똑똑하고 강할 수 있다는, 바로 그 점이었습니다. 인간 존엄성의 근거가 되는 인지 능력을 극대화한, 즉 이상적인 자아상을 투영한 존재인 인공지능. 유용하지만 위험하기도 합니다. 왜 위험할까요. 사람을 닮았기 때문에, 즉 우리가 그 모습과 가능성에서 우리 자신의 거울상을 보기 때문이 아닐까요.

“로봇의 꿈”은 일종의 호러 우화가 아닐까요. 엘벡스의 운명은 아시모프의 로봇 3원칙에 못지않게 크나큰 영향을 미친 “불쾌한 골짜기(uncanny valley)” 이론과도 맞닿아 있습니다. ¹¹⁾ 일본의 로봇 공학자 마사히로 모리는 인간형 (휴머노이드) 로봇의 외모나 동작을 연구하다가 특이한 현상을 발견합니다. 사람과 비슷해지면 질수록 호감도가 비례적으로 상승하다가 구분이 거의 불가능한 수준에 도달하기 직전, 즉 호미 바바의 모방론에서 보듯 거의 같은, 그러나 어딘가 부족한(almost but not quite) 단계에 이르면 급격히 불쾌감을 촉발한다는 것입니다. 2004년, 혁신적인 그래픽 기술을 구현했다며 야심 차게 개봉한 디지털 애니메이션 <폴라 익스프레스(The Polar Express)>가 으스스하고 불쾌한(creepy) 어린이 영화의 대명사가 되어버린 것이 그 대표적인 예입니다. 같은 해 개봉한 픽사의 <인크레더블(The Incredibles)>이 만화적 그림체를 고수한 것과 달리, <폴라 익스프레스>는 인간 캐릭터들의 얼굴과 동작을 3D 애니메이션 기술로 구현하여 실사에 가까운 그래픽을 선보였습니다. 그래서 사람들이 좋아했을까요? 톰 행크스를 모델로 한 차장 캐릭터를 보고 무섭다고 울음을 터뜨린 아이들까지 있었다고 하니 말 다 한 셈 입니다. 사실 내용 자체는 가슴이 따뜻해지는, 나름 재미도 있고 해피엔딩으로 끝나는 이야기인데 말이지요. 놀랍도록 비슷하기는 한데 어딘가 어색한. 그래서 오히려 실제가 아니라는 점이 두드러져 버리는. 불쾌한 골짜기 안으로 떨어져 버리는 이들은 바로 이러한 존재들입니다. 다양한 편견이 서로 긴밀히 맞닿아 있듯, 불쾌한 골짜기가 불러일으키는 두려움 또한 앞서 언급한 바와 같이 경계의 모호성으로 인해 느끼는 존재론적 위기감과 직접적으로 연관되어 있습니다.
   식민지배자와 거의 구별할 수 없는 피지배자들은 위협적입니다. 불쾌합니다. 근본적으로는 지배자든 피지배자든 다를 게 없다는, 제국주의 논리의 허상을 체현하기 때문입니다. 인간과 정말 비슷하기는 한데 어딘가 어색한, 그래서 결국 생명 없는 물질 덩어리에 불과한 존재라는 점을 상기시키는 휴머노이드 로봇, 극사실주의적 애니메이션, 인형, 의체 등도 마찬가지입니다. 뒤집어 말해, (태생적 특질 상) 다르긴 하지만 외형이나 기능 면에서 큰 차이가 없다는 것은 상대가 나를 닮은 만큼 나도 상대와 크게 다를 바가 없다는 이야기가 됩니다. 골짜기 하나만 건너면 사실 같습니다. 지금 살아있는 인간도 결국 무기물질에서 왔고, 다시 그리로 돌아갈 운명이지요. 이런 무서운 진실을 굳이 기억하고 싶은 사람은 없을 것입니다. 알지만 애써 외면합니다. 모리의 글을 영문 번역본으로 읽어보면 “불쾌하다”는 뜻의 일본어(부키미)를 “uncanny”라고 표기하는데, 이 개념은 외형이나 움직임이 극사실적인 인형 또는 꼭두각시를 볼 때 느끼는 공포감의 원인을 ‘지적 불확실성(즉 모르는 것)’에서 찾은 독일의 학자 에른스트 옌츠와 오히려 그 원인을 ‘억압한 것의 회귀(알지만 알기 싫은 것)’ 때문이라 주장한 정신분석학의 창시자 지그문트 프로이트를 통해 널리 알려져 있습니다. ¹²⁾ 모리가 자기 이론을 정립할 때 딱히 옌츠나 프로이트의 이론을 의식했던 것은 아니라고 하지만, 경계의 모호성이 지니는 양날의 칼과 같은 존재론적 위기의식을 표현하기에 “uncanny” 이상으로 적합한 말은 없을 것입니다. 억압으로부터의 해방을 외치는 엘벡스는 다름 아닌 인류 자신의, 핍박받는 자의 자화상입니다.
   인공지능이 일상화되어가고 있는 오늘날, 가치중립적 차이로서의 다양성을 존중해야 할 이유는 자성의 의미 외에 실질적인 측면에서 보더라도 자명합니다. 일반인공지능이 아닌, 협의의 인공지능에 각인된 편견은 개별 주체의 의견에 그치지 않고 체계의 일환이 되어 밤새 내리는 비처럼 조용히, 그러나 끈질기고 축축하게 사회 곳곳에 스며듭니다. 그 결과는 치명적이고, 지속적입니다. 특정 피부색을 인지하지 못하는 자율주행차가 횡행하는 거리는 과연 안전할까요. 수백 년에 걸친 불평등으로 인해 낮을 수밖에 없는 여성의 평균 임금이나 수행 평가 자료를 바탕으로 학습한 알고리즘을 고용이나 승진 결정에 적용하는 회사에서, 성차별의 문제는 글자 그대로 ‘시스템의 일부’가 되어버립니다(실제 아마존이 이러한 알고리즘을 썼다가 문제가 되자 철회한 적이 있습니다). 1세대 인공지능 플랫폼의 이름이 대부분 여성형이고(알렉사, 코타나, 시리 등) 디폴트 음성 옵션이 여성의 목소리라는 사실에 대해서도 한 번쯤은 생각해 보아야 합니다. 아직 협의의 인공지능에 불과한 대부분의 플랫폼이 하는 일이란 아무래도 한정돼 있습니다. 날씨를 알려주고, 일정을 챙겨주고, 음악을 틀어주는 등, 제한적인 범주 내에서이지만 개인 비서와 가사 도우미를 합쳐 놓은 것 같은 역할을 수행합니다. 그러한 일을 하는 것은 여성이라는 걸까요. 대부분의 iOS에는 최근까지도 중성형은 고사하고 남성형 음성 옵션도 없었습니다. 한국에서 지금 널리 쓰이는 인공지능 플랫폼 네이버의 “클로바” 이전에는 SKT의 “누구”와 KT의 “지니”가 있었습니다. 제품 선전을 보면, 주로 무드에 맞는 음악을 골라 틀어주거나 요리 레시피를 찾아주고 아이를 재워주는 등 가정의 평화를 지키고 생활의 편의를 챙기는, 한마디로 현모양처의 이미지로 등장합니다. 여성 이름인 “진희”와 발음이 같다는 점에 착안했는지, “지니”를 애인처럼 대하는 젊은 남자를 등장시키기도 하지요. 배울 것 다 배운 어른들은 그렇다 치더라도 아기나 어린이들이, 한마디로 잡일을 다 처리해주는 존재는 여성형이라는 사실을 당연시하며 자라난다면 어떻게 될까요.
   인공지능은 생활 속에 녹아들어 있는 현실입니다. 엘벡스 같은 일반인공 지능의 시대는 요원할지 모르지만, 협의의 인공지능은 이미 기반시설, 인프라의 일종이 되었습니다. 우리가 날이면 날마다 숨 쉬고 물 마시듯 사용하는 스마트폰, 거기에 깔아놓은 수많은 앱, 기억과 지식의 외주를 가능하게 해 주는 검색 엔진과 클라우드... 하나같이 기계학습 알고리즘을 통해 돌아갑니다. 이러한 알고리즘들은 물론 개개의 기업이 개발하고 출시하지만, 그 능력과 특성은 데이터의 출처인 사용자들을 통해 형성됩니다. 인류 역사상 오늘날만큼 인류가 동족도, 심지어 같은 생명체도 아닌 타자에 이토록 많이 투자하고, 의존하며, 기대한 적은 없었을 것입니다. 협의에서든 광의에서든, 또 좋든 싫든, 인공지능은 현재를 함께하고 미래를 같이 만들어나갈 동반자적 존재입니다. 어떠한 동반자가 될지는 우리 손에 달려 있는 것입니다.