창비주간논평
늦었다고 생각될 때에는 너무 늦은 거다?: 무스타파 술레이만 『더 커밍 웨이브』
인공지능 분야 관련 연구를 하는 사람으로서, 챗지피티(ChatGPT)의 출시 이후 요즘 서점가를 휩쓰는 인공지능 관련 대중서적들을 보면 묘한 기시감이 들곤 한다. 특히, 주변 학생들이나 친구들이 “요즘 ×라는 책이 나왔는데, 네 연구 분야랑 관련 있어 보이던데 읽어봤어?”라고 묻는 질문에 가장 흔한 대답은 “응, 그렇구나. 아직 못 읽어봤네”이다. 바로 연구자의 딜레마랄까. 이미 알고 있는 기술의 역사나 발전 과정을 재확인하는 것보다 최전선의 기술 관련 정보를 담은 학술논문이나 학회지를 탐독하는 것이 훨씬 중요하고 급한 일이기 때문에 사실 관련 주제의 대중서를 읽을 시간적, 정신적 여유는 거의 없게 된다. 특히, 최근의 인공지능 분야와 같이 빠르게 발전하는 분야에서는 쏟아지는 논문들을 따라잡기에도 벅찬 상황인지라, 대중서적까지 섭렵하기란 사실상 불가능에 가깝다.
그럼에도 불구하고 다음의 두가지 기준 중 하나라도 만족하는 대중서에 대해서는 기꺼이 시간을 투자하려고 노력한다. 첫째, 저자가 해당 기술의 최전선에서 활동하면서도, 이미 내가 익숙한 기술 자체보다는 그 주변부의 영향에 대해 설명하는 책이어야 한다. 둘째, 주변의 최전선 연구자들이 적극적으로 추천해준 책이어야 한다. 무스타파 술레이만의 『더 커밍 웨이브』는 오랜만에 이 두가지 조건을 모두 만족시킨 책이었다. 국내에는 이세돌 9단을 이긴 “알파고"로 알려진 회사인 딥마인드(DeepMind)의 공동 창업자이자 인플렉션 에이아이(Inflection AI)의 CEO인 저자의 경험과 통찰력에 대한 기대감, 그리고 동료 연구자들의 적극적인 추천은 나의 모자란 시간을 과감히 투자하는 데에 확신을 주었다.
책의 내용을 간략히 소개하자면, 이 책은 크게 네 부분으로 구성되어 있다. 1부에서는 수천년에 걸친 기술의 역사와 확산 패턴을 분석하며 ‘기술 억제의 문제’를 제기한다. 급속도로 발전하는 기술을 어떻게 통제할 수 있을지에 대한 질문은 이 책의 핵심 주제이다. 2부에서는 인공지능과 합성생물학이라는 두가지 범용기술을 중심으로 다가오는 기술의 물결을 자세히 묘사한다. 로봇공학, 양자 컴퓨팅 등 관련 기술들의 발전 양상과 억제의 어려움을 네가지 특징―범용성, 빠른 진화, 비대칭적 영향, 자율화―을 통해 설명한다. 3부는 억제되지 않은 기술의 물결이 가져올 권력 재분배의 정치적 함의를 다룬다. 국민국가의 위기, 새로운 형태의 폭력, 허위정보 확산 등의 문제를 제기하며 중앙집중화와 탈중앙화의 역설적인 공존 가능성을 제시한다. 마지막 4부에서는 기술 억제를 위한 10단계 계획을 제안하며, 딜레마에서 벗어날 가능성을 모색한다.
정책대학원에 근무하는 연구자다 보니 개인적으로 특히 눈길을 끈 부분은 “14장. 억제를 위한 10단계”였다. 저자가 제시한 10단계 억제전략은 기술발전의 속도와 파급력을 고려할 때 시의적절하고 현실적이긴 하지만, 미국 중심의 시각을 담고 있다 보니 우리나라의 입장에서 다시 생각하며 음미하게 되었다. ‘안전’과 ‘감사’ 단계에서 강조하는 외부감사 및 레드팀 운영은 국내에도 매우 필수적이다. 최근 미국의 기업들이 모델을 오픈소스 형태로 공개하고, 앤트로픽(Anthropic)과 같이 모델 내부 작동 원리를 연구하는 기업 내부의 움직임은 고무적이라고 할 수 있다. 나아가, 연구자들은 기술적 연구뿐 아니라 대중과 정부에 대한 적극적인 소통 노력을 기울여야 한다고 주장한다.
또한, ‘제작자의 노력’ 부분에서 기술 비평가의 역할 또한 중요함을 언급한다. 실무감각을 갖춘 비평가들은 단순한 비판을 넘어 실질적인 대안을 제시해야 한다는 주장에 공감할 수 있었다. 덧붙여, 실패를 용인하고 이를 통해 문제점을 보완해나가는 문화의 형성이나, 다양한 관련 시민운동의 확산 등도 비단 미국뿐만 아니라 우리나라에게도 해당되어, 앞으로 우리 사회가 다같이 깊게 고민해봐야 할 부분들이라는 생각이 들었다.
아쉽게도, 저자의 제안들 중 “초크포인트”(choke-point) 전략 즉, 수출통제는 미국의 이익을 위한 전략으로 변질될 우려가 크다는 점에서 공감하기 어려웠다. 최근 미중 간의 수출통제에서 보여주듯, 기술 억제라는 명분 아래 특정 국가의 기술 독점을 강화하고, 글로벌 기술협력을 저해할 가능성이 높기 때문이다. 진정한 기술 억제를 위해서는 국제적인 협력과 공동연구가 필수적이며, 특정 국가의 이익보다는 인류 공동의 이익을 우선시하는 접근방식으로 해결해야 한다는 생각이다.
그럼에도 불구하고, 열가지 제안 중 특히 ‘정부’의 역할에 대한 저자의 주장에는 저절로 고개가 끄덕여졌다. 저자와 마찬가지로 나 역시 우리 정부의 두루뭉술한 대응들에 답답함을 느껴왔기에 깊이 공감했던 것 같다. 저자는 정부가 기술개발, 기준 설정, 역량 강화에 적극적으로 개입해야 하며, 외부 기관에 대한 의존을 줄이고 자체적인 전문성을 확보해야 한다고 주장한다. 하지만 개인적 경험에 따르면, 최근 정부 부처에서 인공지능 규제 관련 논의가 활발해지고 있지만, 실질적인 기술적 이해가 부족해 구체적인 정책으로 이어지지 못하는 경우가 많다. 특히 우리나라는 공무원 채용 시스템의 특성상 최신 기술에 대한 전문성을 갖춘 인력이 부족한 실정이다. 따라서 인공지능, 합성생물학과 같은 핵심 분야에 업계/학계 전문가를 적극적으로 정규직 직원으로 특별 영입하여 정책 기획 및 운영을 주도하도록 해야 한다는 생각이다.
또한, 기업의 책임 면에서도 국내의 인공지능 정책은 지나치게 기술개발 및 도입에만 집중하면서 인공지능의 윤리 및 안전에 관한 규제나 대응은 상대적으로 많이 부족한 모습들을 보여주고 있다. 기업의 자발적인 노력도 중요하지만, 산업혁명 시대의 아동노동이 보여주었듯이, 자율규제에만 의존하는 것은 한계가 있다. 본문에서 언급된 페이스북의 감독위원회와 같은 자체적인 노력은 긍정적이지만, 모든 기업이 이러한 노력을 기울일 것이라고 기대하기는 어렵다. 명확한 법적, 제도적 장치를 마련하여 기업의 책임있는 기술 개발을 유도해야 한다.
책을 덮으면서 문득 인기 예능이었던 <무한도전>에서 박명수가 말했던 유행어가 떠올랐다: “늦었다고 생각할 때에는 너무 늦은 거다.” 기술변화의 속도에 비해 개인의 사고방식과 사회 시스템의 변화는 더디기 마련이다. 이러한 간극에서 발생하는 허위정보 확산 등의 사회문제는 이미 심각한 수준이다. 지금이라도 국가와 사회 차원에서 어서 문제의 심각성을 인지하고, 사회적 합의를 바탕으로 제도와 정책을 개혁해야 할 때이다. 바로 이러한 점에서 『더 커밍 웨이브』는 다가오는 기술의 물결 앞에서 우리가 어떤 선택을 해야 할지, 그리고 그 선택의 결과가 무엇일지 날카롭게 보여주는 중요한 책이라고 할 수 있다.
* 이 글은 세교연구소의 서평웹진 <잔다리서가>에 소개된 서평입니다.
박재혁 / KDI 국제정책대학원 교수
2025.3.25. ⓒ창비주간논평·잔다리서가
