창비주간논평
딥페이크, N번방에서 바뀐 것과 바뀌지 않은 것
김소라
N번방을 추적한 추적단 불꽃은 책 『우리가 우리를 우리라고 부를 때』(이봄 2020)에서 N번방과 함께 ‘지인능욕’이라고 불리던 딥페이크 문제 역시 지적했다. 이에 따르면 누군가 친구, 동료, 가족, 전/현 연인 등 아는 여성의 사진을 텔레그램 대화방에 올리면, ‘능력자’로 불리는 이들이 이를 나체 사진이나 포르노그래피와 합성해서 유포하는 일이 반복되었다. 하지만 당시 이는 ‘진짜’가 아닌 합성된 ‘가짜’이자 ‘허위’라는 이유로 덜 심각한 문제로 여겨졌다. 불법촬영 등 다른 디지털 성범죄와 달리 소지·저장·시청 행위를 처벌하지 않고, 딥페이크 성착취물을 제작한 경우라도 유포를 목적으로 하지 않았다면 처벌을 피할 수 있도록 한 2020년 ‘성폭력범죄의 처벌 등에 관한 특례법’(이하 성폭력 처벌법) 개정안은 이를 잘 보여준다.
그리고 올해 5월 서울대학교에서 발생한 딥페이크 성착취물 사태가, 8월 말에는 인천의 한 대학에 딥페이크 성착취물을 제작·유포한 1,200명 규모의 텔레그램 대화방이 존재한다는 사실이 언론을 통해 보도되었다. 얼마 지나지 않아 AI봇이 돈을 받고 딥페이크 성착취물을 제작해주는 22만명 규모의 텔레그램 대화방, 아는 여성에 대한 정보와 이미지를 찾을 수 있도록 학교별 대화방이 있는 1,300여명 규모의 텔레그램 채널, 군인, 기자, 교사 등 특정 직업을 가진 여성이나 엄마, 누나, 여동생, 사촌 등 가족을 대상으로 딥페이크 성착취물이 만들어지는 텔레그램 대화방 등이 피해자와 활동가들의 고발로 잇달아 드러났다. 문제는 ‘진위 여부’가 아니라 그것이 여성의 이미지를 ‘포르노’로 만드는 데 있다는 점이 다시 확인되었고, 2020년 성폭력 처벌법 개정으로 만들어진 ‘허위 영상물’이라는 법적 용어는 그 존재감을 찾아볼 수 없다.
몇년 사이에 무엇이 변했고, 무엇이 변하지 않은 것일까. 무엇보다 달라진 것은 인공지능을 이용한 합성기술의 상용화와 대중화, 그리고 피해자 규모의 확대다. 이전에는 주로 합성과 변형기술을 사용할 수 있는 ‘능력자’들이 돈이나 가상화폐, 그도 아니면 찬양과 인정을 댓가로 딥페이크 성착취물을 제작했다. 텔레그램뿐 아니라 소셜미디어에서 돈을 받고 이미지나 영상을 합성해주는 계정을 찾기도 어렵지 않았다. 비용 때문에 딥페이크 성착취물 제작 의뢰에는 약간의 장벽이 존재했고, 제작 의뢰-제작-소비 사이에 시간차가 있었다. 하지만 인공지능을 이용한 합성기술이 ‘AI봇’과 같이 자동화된 형태로 상용화되면서 누구든 쉽게 딥페이크 성착취물을 제작할 수 있게 되었고, 여기에 걸리는 시간은 짧아지고 비용은 낮아졌다. 이제 이미지의 합성에는 5초, 영상의 합성에는 20~30분이면 충분하다.
이는 기술의 대중화로 이어졌다. 아는 이들끼리 여성의 외모를 품평하거나 모욕하고 이미지를 공유했던 이전의 단톡방 성폭력은, 이제 지역이나 학교, 직업을 중심으로 모인 대규모 대화방에서 동시에 아는 여성(‘겹지인’)을 찾고 이미지를 공유해 딥페이크 성착취물을 만드는 것으로 양상을 달리하고 있다. 이와 함께 딥페이크 성착취물의 피해자가 유명인에서 일반인으로 확대되고 피해자의 규모가 증가하지만, 자동화된 기술을 경유해 손쉬워진 딥페이크 성착취물 제작은 오히려 디지털 성범죄에 가담하고 있다는 감각을 희석하고 이를 장난으로 정당화하기 쉽게 한다.
여전히 바뀌지 않은 것도 있다. 딥페이크 성착취물 사태에 대한 각종 대책에서 확인되는 성평등을 포함한 장기적 시야의 부재가 그것이다. 먼저 해외에 서버를 두고 있는 텔레그램의 특성상 가해자 특정이 어렵고, 피해자가 미성년자가 아니라서 위장수사도 힘들다는 이유로 피해자의 신고에도 수사가 진척되지 못했고, 결국 피해자와 활동가들이 대화방에 직접 잠입해 가해자 정보를 수집해야 했다는 사실 등이 알려지면서 여러 법적 대책이 강구되고 있다. 가해자를 특정하더라도 유포를 목적으로 딥페이크 성착취물을 제작하지 않았다는 이유로, 또는 소지·저장·시청하지 않았다는 이유로 법망을 빠져나간 사례들 또한 법적 대책의 마련을 촉구했다. 그리고 지난달 26일 국회 본회의에서 딥페이크 성착취물의 구매·소지·저장·시청 행위와 함께, 유포 목적이 입증되지 않은 제작 행위도 처벌하는 내용의 성폭력 처벌법 개정안이 통과되었다.
딥페이크 성착취물의 제작·유포와 소지·저장·시청은 분리할 수 없는 행위라는 점에서, 이는 법적 처벌의 공백을 메우는 의미가 있다. 하지만 처벌을 위한 법적 근거를 마련하고 엄중한 처벌을 강조한다고 해서 현실이 쉽게 바뀌지는 않는다. 2020년 성폭력 처벌법 개정 이후 딥페이크 성착취물의 제작과 유포 등으로 기소된 이들 중 집행유예 처벌을 받은 이가 가장 많았고(「2020년 딥페이크 성착취물 처벌 강화법 시행 이후 판결 전수분석… 집행유예 40% 육박」, 경향신문 2024.9.4), 잡히지 않을 것이라는 확신 속에 딥페이크 사건을 보도하는 여성 기자들의 성착취물을 제작하는 대화방이 운영되기도 했다는 사실은 엄벌만큼이나 일관성있고 확실한 처벌이 중요하며 이를 가능케 하는 형사사법체계라는 조건이 뒷받침되어야 함을 보여준다.
법적 대책과 함께 인공지능을 이용한 생성물에 의무적으로 워터마크와 같은 식별표시를 하도록 하는 등의 기술적 대책도 제안되고 있다. 범죄 두려움으로 인해 여성들이 온라인 활동을 줄이지 않도록 하는 효과가 있겠지만, 역시 근본적 해결책이라고 보기는 어렵다. 인공지능 생성물에 적용하는 식별표시 기술만큼이나 이를 지워주는 기술이 계속해서 등장하고 있고, 무엇보다 딥페이크 성착취물을 만드는 사람과 이를 유포하고 소비하는 사람 모두 그것이 ‘가짜’라는 사실을 이미 알고 있기 때문이다. 딥페이크 성착취물의 ‘진짜 같음’은 사람들이 진위를 판단하기 어렵게 하기 위해서가 아니라 이를 소비하는 이들의 몰입과 정서적 만족을 위해 중요하다. 때로는 ‘가짜’임이 명백한 부자연스러운 딥페이크 성착취물이 여성을 조롱하고 모욕하기 위해 제작·소비되기도 한다는 점에서, 기술적 대책은 미봉책에 그칠 수밖에 없다.
딥페이크 성착취물을 제작·유포·소비하는 이들의 상당수가 10대라는 사실 때문에 교육의 필요성과 대책 마련이 요구되고 있기도 하다. 그런데 과연 이 사태가 단지 교육의 부재와 이로 인한 인식 부족 때문일까? 애초에 가해자들은 이를 ‘지인능욕’이라는 이름으로 불러왔고, 이 이름은 피해자를 선정하는 방식과 쾌락을 얻는 이유를 드러낸다. 내가 아는 이를 성적으로 괴롭히고 고통스럽게 하면서 즐거움을 얻고, 여기에 많은 사람이 호응해 여성에게 공포와 불안을 조성하고 여성을 통제할 수 있다는 우월감을 느낄 때 쾌락이 커진다. 딥페이크 성착취물은 그것이 ‘허위’라는 사실을 모두가 알고 그 사실을 굳이 감추려고 하지 않지만, 이를 제작하고 소비할 수 있는 집단적 공모 속에서 영향력을 확보한다. 이것이 ‘범죄’이고 누군가를 괴롭히는 것인지 몰랐다는 말을 곧이곧대로 믿을 수 없는 이유다.
법적, 기술적, 교육적 대책에 효과를 기대하기 위해서는 성차별적 구조가 딥페이크 성착취의 원인임을 인정하고, 젠더폭력을 가능하게 하는 구조의 변화와 성평등을 목표로 해야 한다. 사건을 축소하거나 문제를 제기하는 이들을 비난하는 정치, 폭력의 심각성을 축소하는 형사사법기관의 행태, 구조적 성차별의 존재를 부인하고 디지털 기술에서 원인을 찾는 정부의 태도가 반복되는 한, 변화는 요원하다. 특히 한국정부는 딥페이크 성착취물 사태의 책임에서 절대 벗어날 수 없다. 2022년 대통령 선거 당시 윤석열 대통령 후보자는 한국사회에 구조적 성차별은 없다며 젠더 정책의 주무 부처인 여성가족부 폐지를 주장했고, 당선된 뒤에도 성차별 구조가 여성을 대상으로 한 폭력의 원인이라는 주장을 쓸데없이 사회분열을 유발하는 요인으로 치부했다. 이것이 딥페이크 성폭력을 규탄하는 집회에서 ‘성평등 퇴행시킨 정부가 공범이다’라는 구호가 나온 이유다. 여성들은 ‘너희는 우리를 능욕할 수 없다’라며 더이상 피해자의 자리에 머물지 않겠다는 의지를 드러냈다. 이제 정부와 정당들이 엇비슷한 대책을 쏟아내기보다 성평등을 향한 확고한 의지를 표명해 이에 응답할 차례다.
김소라 / 제주대학교 사회학과 강사
2024.10.8. ⓒ창비주간논평
커버이미지: 지난 21일 여성혐오폭력규탄공동행동의 '딥페이크 성착취물 엄벌 촉구' 시위. 연합뉴스
