촌평

실라 재서노프 『테크놀로지의 정치』, 창비 2022

구글은 왜 ‘사악해지지 말자’라는 구호를 만들었을까?

박범순 朴範淳

카이스트 과학기술정책대학원 교수 parkb@kaist.edu

다시 선거의 계절이 돌아왔다. 대선 후보들은 과학기술을 어떻게 보고 있을까? 과학기술은 보편적이고 합리적이며 개인의 삶과 국가의 안위를 위해 꼭 필요한 것이기에 정치적 이해관계를 떠나 적극적으로 지원해야 하는 가치중립적인 것으로 생각하는 경향이 있는 것 같다.

과학기술과 정치의 관계를 이런 관점에서 바라보는 사람들은 실라 재서노프(Sheila Jasanoff)의 『테크놀로지의 정치: 유전자 조작에서 디지털 프라이버시까지』(The Ethics of Invention: Technology and the Human Future, 2016, 김명진 옮김)를 불편하게 느낄 수 있다. 도대체 과학기술을 어떻게 보라는 것인지 혼란스럽고, 심지어는 반(反)과학적 메시지를 던지는 것은 아닌지 의심스러울 수도 있다. 몇 페이지를 읽고 이런 생각이 조금이라도 드는 독자일수록 오히려 책을 천천히, 끝까지 완독하기를 권한다. 20세기 들어 과학의 창의성에 기반해 눈부시게 발전한 기술의 물질적 힘과 사회적 영향력에 대해 근본적인 질문을 던지는 이 책을 통해 새로운 깨달음을 얻을 수 있기 때문이다. 인간은, 인간이 만든 민주주의라는 제도와 이 제도에서 나온 법은 과연 기술을 통제하고 있는가?

이 질문은 기술혁신을 둘러싼 세가지 통념—기술결정론, 기술관료제, 의도하지 않은 결과—에 대한 근본적인 문제제기에서 나왔다. 우선 기술결정론(technological determinism)은 기술개발자 사이에서 흔히 볼 수 있는데, 혁신적인 기술이 발명되어 사회에서 쓰이기 시작하면 새 기술은 사회의 요구에 맞춰 진화하는 모멘텀을 가진다는 관념이다. 자전거, 자동차, 기차, 비행기 등 이동수단의 발전과 이와 함께 일어난 사회적 변화를 고려하면 일견 수긍이 갈 수도 있다. 하지만 인간의 발명품이 오히려 인간에게 해를 끼치고 인류를 지배할 수 있다는 상상은 여러 SF의 소재가 되었을 뿐 아니라 실제 기술개발자들의 예언자적인 경고에도 묻어났다. 재서노프는 이러한 기술결정론에 기반한 담론들의 맹점을 지적한다. 기술이 개발자의 손을 떠나는 순간 나름의 자율성을 가진다는 생각은 환상에 불과하며 기술로 발생할 수 있는 문제의 책임을 개발자에게서 사용자에게로 손쉽게 넘기는 효과를 낳을 수 있기에 위험하다는 것이다. 그는 “기술이 결코 인간의 욕망과 의도에서 독립되어 있지 않고 처음부터 끝까지 사회적 힘들에 종속되어 있다고 본다.”(35면) 다시 말해 인간의 가치가 기술의 설계에 반영되고 기술을 변화시킬 수 있기에 어디에 가치를 둘 것인가의 문제가 중요하다는 것이다.

기술개발과 진화의 메커니즘을 시장에 맡겨두지 않고 정부가 전문가의 도움을 받아 적극적으로 개입해야 한다는 기술관료제(technocracy)는 후진국이 선진국 기술 수준을 따라잡을 수 있는 좋은 수단이면서 기술결정론의 문제점을 극복할 대안처럼 보인다. 일본, 한국, 중국 등의 국가가 전문성을 갖춘 기술관료에 힘입어 첨단산업의 리더로 등장했고, 기술실패로 인해 큰 사고가 났을 경우 전문가로 구성된 위원회를 통해 그 원인과 대책을 마련하는 것이 일반적으로 받아들여진다. 하지만 재서노프는 전문가에 대한 과도한 의존이 가져올 수 있는 전문가 중심주의에 대한 경계를 늦추지 않는다. 전문가의 위험평가는 영속성보다는 변화를 선호하고 장기적 안전보다는 단기 안전에 관심을 두며, 개발자 이득 보호에 높은 가치를 두어 ‘안심 보증의 서사’를 만드는 경향이 있기 때문이다. 또한 위험평가는 사전에 계산할 수 있는 확률에 의존하기에, 확률은 매우 낮지만 결과는 상상을 초월할 정도로 심각한 재난의 경우 그 효용도가 크게 떨어질 수 있다. 전문가 위원회의 많은 실패 사례들에 대한 분석을 통해 저자가 역설하는 것은 기술관료와 이를 뒷받침하는 전문가 집단이 필요 없다는 것이 아니라, 그 한계, 특히 위험평가의 프레이밍 방식의 한계를 직시하자는 메시지다.

마지막으로 기술혁신의 스토리텔링에서 좋은 결과는 일반적으로 의도된 것으로 서술하는 반면, 사고나 재난과 같이 나쁜 것은 ‘의도하지 않은 결과’(unintended consequences)라고 표현하는 경향이 있는데, 재서노프는 여기에도 문제가 있다고 지적한다. 과연 ‘의도하지 않은’이라는 용어는 무엇을 뜻하는가? 이는 개발자가 설계하고 의도한 대로 기술이 사용되지 않았음을 의미할 수도, 개발자가 생각했던 범위 밖에서 문제가 발생함을 뜻할 수도 있다. 전자의 경우 사용자에게 책임을 지울 수 있겠지만, 후자의 경우 책임 소재를 가리기 어려워진다. 시간이 지남에 따라 기술이 진화하고 사회의 도덕적 규범이 변하는 상황에서 ‘의도’를 고정된 것으로 보는 것 자체가 문제일 수도 있다. 그렇다면 사용법의 변화를 추적하고 새롭게 발생할 위험과 오용의 가능성을 검토하는 일은 누구의 책임인가? 재서노프는 민주사회에서 ‘기술격차’(technology gap)보다 더 중요한 ‘책임의 격차’(responsibility gap)를 메우는 작업을 누군가는 해야 하며, 할 수 있어야 한다고 주장한다.

기술이 사회를 역동적으로 변하게 함에 따라 우리 인간은 한층 더 커진 기대와 두려움을 가지고 살아가고 있다. 재서노프의 말대로, “인간의 능력을 향상하기 위한 계약이 반드시 파우스트의 계약이어야 하는 것은 아니다.”(49면) 인간 본성과 자연의 가치를 모두 던져버리고 통제받지 않은 기술에 우리의 권리를 위임할 필요는 없다. 각종 전문가 위원회, 기술영향평가와 같은 일회적인 거버넌스로 필요한 민주주의적 절차를 다 거쳤다고 보는 것도 위험하다. 기술혁신에 대한 기대의 비대칭성이 있기 때문이다. 재서노프는 여기서 기술의 문제보다도 근본적인 민주주의의 결핍을 우려한다. “모든 실천적 목표에서 기술을 통치하는 게임의 규칙을 정하는 힘은 자본과 산업에 있고 노동대중, 소비대중, 그리고 종종 고통받는 대중을 대변하는 정치적 대표자들에게 있지 않다”(349면)고 보기 때문이다. 예컨대 혁신기업의 아이콘으로 떠오른 구글은 ‘사악해지지 말자’(Don’t be evil)라는 구호를 회사의 행동강령으로 채택한 것으로 유명하지만, 2015년 사업의 다각화를 위해 모회사로 설립한 ‘알파벳’에서는 이 구호를 찾아볼 수 없다.

재서노프의 책들은 어렵고 까다롭기로 유명하지만, 『테크놀로지의 정치』는 일반 대중을 위해 썼고 번역도 수준급이다. 한가지 흥미로운 점은 제목과 부제를 원저의 것과 완전히 다르게 한 점이다. 기술에 대한 민주적 통제를 강조하고 기술혁신에 대응하는 새로운 민주주의를 모색한다는 점에서 한국판 제목은 적절해 보인다. 다만 여기서 저자가 여러 차원의 ‘책임’을 논의했다는 것에 주목할 필요가 있다. 과학기술학에 관심있는 독자는 이 지점에서 재서노프의 구성주의와 브뤼노 라뚜르(Bruno Latour)의 행위자연결망이론(Actor-Network Theory) 사이의 차이점을 흥미롭게 볼 수도 있겠다. 공학 윤리를 공부하고 가르치는 사람이라면 이 책을 통해 책임있는 공학자가 몇가지 체크리스트를 충족한다고 완성되는 것이 아니라 근본적으로 기술과 사회에 대해 깊이 이해해야 함을 알 수 있을 것이다. 과학사학자도 이 책에서 20세기 후반 이후 과학, 기술, 사회의 관계 변화에 대한 매우 유용한 사례를 찾을 수 있을 것이다. 그러나 무엇보다도 과학이나 공학을 전공하지 않은 인문학자, 사회과학자, 예술가들도 이 책에서 과학중심주의나 기술결정론 이상의 새로운 시각을 배울 수 있다고 확신한다.