창작과비평

AI 시대, 하락하는 팩트의 가치가 문제다



박상현



지난해 가을, 허리케인 헬린이 미국 동남부를 강타했을 때의 일이다. 온라인상에 한 아이의 이미지가 공유되며 미국인들 사이에 크게 화제가 되었다. 홍수가 난 마을에서 구조된 것으로 보이는 아이는 자기 체구보다 훨씬 큰 구명조끼를 입고 강아지를 품에 안은 채 울음이 터질 듯한 표정을 하고 있었다. 비에 젖어 헝클어진 아이의 머리카락과 강아지의 털은 상당히 사실적이지만, 인공지능(AI)이 생성한 이미지에 익숙한 사람들은 이것이 진짜 사진이 아님을 금방 눈치챘다. 배경이 지나치게 흐린 것이나 과장된 표정 등 생성형 AI 특유의 묘사가 곳곳에 보였기 때문이다. 하지만 AI 생성 콘텐츠를 잘 모르는 사람들은 이를 알아채지 못했고, 그런 사람들이 공유한 것만으로도 해당 이미지는 며칠 동안 인터넷에 도배되었다.

이미지 출처: NPR

챗GPT를 비롯한 일련의 AI가 혜성처럼 등장해서 세상을 놀라게 했을 때 전문가들은 생성형 AI가 쏟아낼 허위정보가 사회에 큰 위협이 될 거라고 경고했다. 딥페이크 기술을 이용해 정치지도자에 관한 가짜뉴스를 만들어 유권자들을 속이고 선거결과에 영향을 미치거나 특정집단에 대한 혐오를 조장해 폭력으로 이어지는 상황을 우려한 것이다. 암암리에 유통되는 딥페이크 포르노를 제외하면, 현재 다수의 사람들을 속이는 건 위의 어린아이 이미지처럼 사회에 직접적인 위협은 되지 않아 보이는 것들이다. 그렇다면 아직은 안심해도 되는 걸까?

우리는 어쩌면 AI의 위협을 잘못 이해하고 있을 수 있다. 수해에서 구출된 아이의 이미지로 돌아가보자. 흥미로운 건 이 이미지가 진짜인 줄 알았던 사람은 물론이고, 가짜라는 것을 아는 이들도 개의치 않고 공유한 경우가 많았다는 사실이다. 그들은 실제로 많은 사람이 죽고, 다치고, 집을 잃었는데—허리케인 헬린은 250명의 사망자를 낸 엄청난 규모의 재해였다—그걸 알리는 데 AI가 만든 이미지를 사용한들 무슨 큰 문제가 되느냐고 했다. 그들은 AI 이미지라 해도 ‘더 깊은 진실’을 전달한다면 가짜뉴스가 아니라고 생각했다. 그들에게 더 깊은 진실이란 무엇이었을까? 당시 허리케인에 대한 바이든 행정부의 대비와 복구 노력이 미흡했다는 것이다. 아이의 이미지가 트럼프 지지자들 사이에 크게 퍼진 것도 바로 그 때문이었다. 이 이미지는 실제로 바이든 행정부에 대한 반감을 증폭시키는 데 기여했고, 결과적으로 정치적 영향을 미쳤다.

뉴스를 많이 소비하는 층, 특히 주류 미디어의 소비층은 상대적으로 가짜뉴스를 잘 가려낸다고 알려져 있지만 이런 일은 정치적 성향을 가리지 않는다. 최근 소셜미디어의 사용 빈도는 정치적 성향과 무관하게 높기 때문이다. 게다가 뉴스 채널별로 정치적·이념적 성향이 다르고 시청률 경쟁이 극심한 미국에서는 언론보도에 허위정보가 숨어들 틈이 더욱 커졌다.

그렇다면 팩트체크는 과연 AI의 시대를 감당할 수 있을까? 얼마 전 키아누 리브스와 일론 머스크가 나란히 선 한 사진을 챗GPT, 제미나이, 퍼플렉시티 세 AI에 업로드해 진위 여부를 직접 물어보았다. AI가 창의적 분야에서도 인간을 능가할 것이라는 머스크의 주장에 대해 키아누 리브스가 멋진 말로 반박했다는 일화를 퍼뜨리며 (주로 머스크에 비판적인) 사람들 사이에서 큰 인기를 끈 이미지이다. 하지만 실제로 두 사람은 만난 적이 없었고, 사진은 조작된 것이었다. 챗GPT와 제미나이는 해당 이미지가 가짜임을 맞췄지만, 퍼플렉시티는 그러지 못했다. 그 차이는 신뢰할 만한 매체에서 이 이미지를 언급했는지 여부를 AI가 확인했는지, 아닌지에 따라 나타났다. 실제 유명인 두 사람이 만났다면 언론보도가 있을 가능성이 높았던 것이다. 챗GPT와 제미나이는 소셜미디어 외에도 언론보도를 참고했고, 퍼플렉시티는 그러지 않았다.

사실 여부를 확인하기 위해 인간이라는 에이전트(agent)에 의존한 AI는 맞혔고, 그렇게 하지 않은 AI는 틀렸다는 사실에서 AI 시대에도 인간의 역할이 여전히 중요하다는 희망적인 메시지를 읽을 수도 있을 것이다. 하지만 현실은 간단하지 않다. 팩트체크의 중심축이었던 언론은 인터넷시대에 들어선 이후 수익이 급격하게 감소했고, 이제는 사람들이 웹 검색도 아니라 곧바로 AI에 물어볼 수 있게 되면서 생존의 위기에 직면했다. 기자가 사라지면 누가 현장에서 진실을 확인하고, 우리가 궁금한 것을 대신 찾아줄까? 언론이 무너진 세계에서 AI 생성 콘텐츠의 진실은 밝혀질 수 있을까?

작년 말, 윌 더피(Will Duffy)라는 목사가 ‘지구 평면설(지평설)’이 과학적으로 틀렸음을 증명하기 위해 공개 실험을 제안했다. 지평설을 믿는 사람들은 극지방에서 여름에 해가 지지 않는다는 사실을 ‘지구 구형론자들’이 지어낸 거짓말로 생각한다. 직접 보고 판단하자는 제안에 동의해 남극에 간 사람들은 정말로 해가 지지 않는 것을 보고 자기 생각이 틀렸음을 인정했다. 하지만 인터넷을 통해 스트리밍한 영상만 본 사람들은 화면이 조작되었다며 믿기를 거부했고, 남극에 갔던 이들을 커뮤니티에서 몰아냈다.

따라서 우리가 ‘지구 평면설’을 믿는 커뮤니티 전체의 생각을 바꾸려고 한다면 방법은 있다. 그들을 모두 남극 대륙에 데려가는 것이다. 이건 보르헤스가 「과학의 엄밀함에 대하여」에서 그린 이야기와 다르지 않다. 정확한 지도를 만들려고 하다가 결국 일대일 축적 지도, 즉 영토의 넓이와 똑같은 크기의 지도를 제작하게 된 어느 제국의 이야기 말이다. 가짜뉴스를 막는 가장 확실한 방법은 모든 사람이 사건이 일어나는 그 시간, 그 현장에 존재하는 것이다. 이는 물론—보르헤스의 지도와 마찬가지로—물리적으로 불가능한 일이다. 그렇기에 우리는 이를 대신할 기관을 만들고 신뢰하는 방법을 사용해온 것이다. 하지만 21세기에 들어 언론사는 경제적 생존기반을 잃고 있을 뿐 아니라, 정치인과 유권자 모두에게서 신뢰를 잃고 그 존재가치를 의심받고 있다. 사실을 확인해줄 에이전트가 사라지는 세상에서 우리는 각자 믿고 싶은 것, 자기에게 유리한 것만 받아들인다.

문제는 대중만이 아니다. 과거 정치지도자들은 세상 누구보다 정확한 정보를 원했다. 기독교 성경에는 이스라엘의 왕이 인구조사를 실시하려다가 선지자에게 질책을 받는 이야기가 있다. 그럼에도 불구하고 그는 통치에 도움이 될 정확한 정보를 찾으려 한다. 20세기의 독재자들이 국민을 상대로 불법 사찰과 정보수집을 한 것도 같은 이유다. 지금은 다르다. 트럼프 대통령은 이민자들이 동네 반려동물을 잡아먹는다는 가짜뉴스를 믿고, 윤석열은 중국인들이 선거관리위원회에 침입했다는 허위정보를 믿는다. 21세기의 독재자형 권력자들은 정확한 정보보다 허위정보가 권력 유지에 도움이 된다고 생각한다. 실제로 미국 소셜미디어에서 AI 생성 이미지를 가장 활발히 퍼뜨리는 사람은 트럼프다.

트럼프가 공유하는 이미지들을 보면 대부분 AI가 만들어낸 것임을 누구나 쉽게 알 수 있다. 교황의 모습을 한 트럼프의 이미지가 사실이라고 믿는 사람은 없다. 하지만 그런 이미지에 끊임없이 노출되면서 사람들이 생각하는 ‘팩트’의 가치는 꾸준히 떨어진다. 현장을 찾은 기자의 사진보다 더 깊은 진실을 전달하는 이미지를 선호한다면, AI가 생성하는 이미지는 굳이 완벽할 필요가 없다. 우리가 정말로 걱정해야 할 것은 AI의 성능 향상 속도가 아니라, 팩트의 가치 하락 속도다. 특정 사안과 관련한 정확한 팩트는 대개 길고 복잡하며 이해하는 데 많은 노력이 들어가는 반면, 자신의 평소 생각에 부합하는 가짜 이미지는 직관적으로 동의할 수 있기 때문에 온라인에서 쉽게 공유된다. ‘메타’ 같은 소셜미디어에서는 클릭률이 높은 후자를 선호하게 되고, 콘텐츠를 만들어 파는 미디어기업 입장에서는 굳이 시간과 비용을 들여 (공유되지도 않을) 팩트를 추구할 동기가 사라진다. 이게 팩트가 가치를 잃게 되는 과정이다.

허위정보의 위협에 노출되지 않는 사람은 없다. 우리는 우리에게 쏟아지는 모든 정보를 직접 확인할 수 없기 때문에 정보를 신뢰할지 여부를 끊임없이 결정해야 한다. 누구나 기억해야 할 단순한 원칙은 ‘사람은 자기의 평소 생각과 신념을 강화하는 허위정보에 속는다’는 것이다. 내 신념에 반대되는 정보를 접했을 때 드는 망설임과 조심스러운 자세를 내 신념에 부합되는 정보에도 동일하게 적용한다면 우리는 AI 시대의 허위정보 홍수에도 살아남을 수 있다. 그러는 사람들이 늘어날 때, 팩트의 가치는 다시 올라갈 수 있을 것이다.

박상현 / 오터레터 발행인

2025.5.20. ⓒ창비주간논평

커버 이미지: NPR