창작과비평

[메가 프로젝트 열풍을 진단한다 ⑥] 국방 AI, 사람을 표적으로 삼는 기술도입에 ‘속도전’은 위험하다



강성현

2026년 9월 2일, 국방부는 ‘신뢰받는 국방 인공지능: 미래전장을 주도하는 책임있는 혁신’이라는 전략 포럼을 열고 인프라와 데이터, AI 모델을 하나로 연결하는 ‘한국형 국방 인공지능 공통운영체계’를 만들겠다는 구상을 발표했다. 그리고 이 글이 나가는 9월 16일에는 ‘국방첨단전력사업에 관한 법률안’(김병주·유용원 대표발의)의 국회 입법예고가 끝난다. AI, 드론 등 첨단전력을 빠르게 확보하겠다는 취지의 법안이다. 

국방 AI란 무엇인가

올해 6월 29일 3대 메가 프로젝트가 발표된 뒤 AI 중심의 사회경제 개편이 가속화되고 있다. 그리고 그 AI가 쓰이는 곳 가운데 하나가 군사영역이다. 국방부가 전략 포럼에서 발표한 공통운영체계도 그 하나이다.

군사 AI는 무기의 종류만을 말하지 않으며, 겹겹의 층이 맞물린 구조다. 우선 평택·용인·서남권에 삼성전자와 SK하이닉스가 건설을 추진하는 반도체공장이 있고, 그곳에서 생산된 반도체가 군사 AI 연산기계에도 쓰이게 될 것이다. 실제 군사분야의 핵심 반도체인 고대역폭 메모리(HBM)의 세계 공급 대부분을 이 두 회사가 담당하고 있다. 반도체를 통한 군사 센서는 흩어져 있는 데이터를 묶으며 사람과 건물을 ‘범주’화하고, 그 위에서 표적의 ‘명단’이 만들어진다. 팔레스타인 가자지구에 대한 공격도 이렇게 이루어졌다. 이스라엘군은 라벤더와 가스펠이라는 AI·데이터 분석 소프트웨어를 활용해 사람과 시설을 식별하고 표적 목록을 만들었다. 실제 타격은 이런 하부 기반을 통해 이루어진다. 

여러 해에 걸쳐 이 구조를 처음 만든 곳은 미국이고, 이스라엘군이 가자에서 그대로 운영했다. 한국은 이 구조의 설계자가 아니다. 그러나 맨 아래를 채우는 반도체는 한국에서 나온다. 이제는 그 위의 작동도 한국에 들어서기 시작했다.

지난 7월 3일 진주에서 열린 ‘영남권 첨단산업 발전비전 국민보고회’에서 한화는 경남 창원에 10조원 이상을 들여 외부망과 차단된 폐쇄형 ‘국방 AI 데이터센터’를 짓겠다고 발표했다. 여기에 2조원을 더 들여 전장 데이터를 학습하는 ‘국방 AI 모델’을 만들고 K9 자주포와 무인수상정, 자율형 드론에 연결하겠다는 계획도 발표됐다. 이 행사 사흘 전 청와대에서 이용철 방위사업청장은 연내에 국방첨단전력사업법을 제정하겠다고 밝힌 바 있다. 기업이 무엇을 만들지 발표한 주에, 정부는 그것을 뒷받침할 법을 연내에 만들 것을 약속한 셈이다.

기업의 투자계획은 바뀔 수 있다. 바뀌지 않는 것은 계약이다. 7월 31일 국방부가 발주한 초거대 인공지능 기반 지휘통제체계 기술개발 사업의 우선협상 대상자로 한화시스템과 네이버클라우드 컨소시엄이 선정되었다. 사업규모 242억원, 사업기간은 2026년 9월부터 2030년 2월까지다. 이 개발사업은 크게 둘로 나뉜다. 하나는 합동참모본부 등의 전장 데이터를 모아 표준화하는 것이고, 다른 하나는 그 데이터로 언어모델을 만들어 위협을 평가하고 대응방책을 만들고 무기체계를 추천하게 하는 것이다. 앞의 것이 ‘범주’가 정해지는 대목이라면, 뒤의 것은 ‘명단’이 만들어지는 대목이다.

한화는 자신이 만들 모델을 ‘디펜스 OS’라 부르고, 국방부는 자신이 갖출 기반을 ‘국방 인공지능 공통운영체계’라 부른다. 그러나 나는 반도체에서 데이터 통합을 거쳐 표적 후보 명단까지 이어지는 이 구조 전체를 ‘AI 전쟁 운영체제’라고 불러야 마땅하다고 본다. 평시에 갖춰지고 평시에 돌아가지만 하는 일은 전쟁이기 때문이고, 그 구조 전체를 보아야 무엇을 규율해야 하는지가 드러나기 때문이다. 

물론 군사적 판단과 실행에는 ‘사람의 결재’가 필요하고, 이를 통해 충분히 견제할 수 있지 않느냐는 반문도 가능할 것이다. 그러나 어떤 사람과 어떤 시설이 어떤 범주에 들어가는지가 정해진 뒤 이루어지는 사람의 결재는 이미 나온 답에 도장을 찍는 일에 불과하다. 가자에서 표적 하나를 검토한 시간이 20초였다는 보도가 뜻하는 바가 그것이다. 

반도체와 전력과 물이 흘러가는 끝에 무엇이 있는지를 메가 프로젝트는 말하지 않는다. 그 끝 가운데 하나가 군이라는 점은 분명하다. 창원에 공장과 데이터센터가 들어서고 일자리가 생긴다. 수익도 지역으로 돌아올 수 있다. 그러나 그 시설에서 만들어질 표적의 명단은 되돌릴 수 없을 것이다.

검증은 멈추고 규율은 사라진다

2026년 1월 22일 시행된 인공지능기본법에서는 국방과 국가안보 목적의 AI를 적용에서 제외했다. 그러나 이처럼 민간을 규율하는 법이 군에는 미치지 않고 있다. 가령 지난 2월 소프트웨어 중심 무기체계 획득 특별법안이 발의된 바 있는데, 이때는 적어도 규율 대상을 명시하고 사업평가 결과를 국회에 제출하도록 하는 등의 규율을 두었다. 이에 따라 국회는 무기 시험·평가 전담기관을 만들기도 했다. 그런데 그로부터 반년도 지나지 않아 발의된 국방첨단전력사업법안은 실사용평가만 마치면 시험평가를 실시한 것으로 본다고 정한다. 

나아가 방위사업법 개정안에서도 사업타당성조사 면제를 확대하고, 면책 조항을 두었다. 이 개정안이 여는 문은 대기업만을 향하지 않는다. 중소기업 전용 사업트랙 등을 통해 기술력을 갖춘 중소기업을 우선 선정하고, 규제 없이 실증할 수 있게 한다. 특히 첨단전력체계에 군용 총포나 화약류가 포함되면 계약자가 이를 취급할 수 있게 하는 조항도 붙어, 방산업체로 지정되지 않은 기업이 화약류를 다루는 길과 민간기술이 군으로 들어오는 통로가 열렸다. 

9월 2일 포럼으로 돌아가보자. 국방부가 주최했고, 국방부 국장이 공통운영체계 구상을 설명했다. 지휘통제체계를 어떻게 만들 것인가에 대한 발표는 한달 전 우선협상 대상자로 뽑힌 컨소시엄 기업의 임원이 맡았다. 국방위원장과 여야 의원들이 축사했다. 발주하는 쪽과 수주하는 쪽과 법을 만드는 쪽이 한자리에 있었다. 규범의 공백은 대립이 아니라 합의에서 생긴다.

국방 AI, 군사영역만의 문제가 아니다

국방첨단전력사업법안에는 첨단전력체계를 군과 공공분야에서 함께 쓸 수 있도록 국방부장관이 다른 행정기관과 협력한다는 조항이 있다. 그런데 적과 아군, 위협과 위협 아닌 것을 가르도록 설계된 군사적 범주가 행정으로 건너올 때 어떤 위험이 생기는지에 대한 검토는 법안 어디에도 없다.

우리는 이미 그런 일을 겪었다. 2021년 법무부 출입국심사에서 모인 내·외국인 얼굴 사진 1억 7천만여건이 당사자 동의 없이 AI 식별·추적 기술개발사업에 제공된 바 있다. 그때 내세운 정부의 목적도 출입국 심사 고도화를 위한 ‘조속한 기술개발’이었다. 1월에 발의된 ‘국방인공지능법안’은 국방 AI 학습데이터를 만들고 모으는 일을 촉진할 것을 정하면서도 어떤 데이터들을 합하고 모을 수 있는지를 정하지 않았다. 한국에는 이미 보안기관의 신원자료를 비롯해 많은 기록이 쌓여 있으며, 그 가운데 상당수는 기록이 만들어질 당시부터 법에 어긋난 것이었다. 무엇과 무엇이 국방 AI를 위해 학습될 수 있는지를 법이 규율하지 않는다면, AI 기술개발의 속도에 휘둘릴 수밖에 없다. 

2024년 12월 3일 계엄의 밤에도 명단이 있었다. 수첩에 적혀 있었고, 통화를 받아 적은 메모로도 남았다. 그렇듯 사람의 손으로 적힌 것이었기에 집행되기 전에 드러났고, 드러났기 때문에 멈출 수 있었다. 그러나 자동으로, AI로 갱신되는 위험에는 드러날 시점이 없다.

빨리 가야 한다고 말하는 쪽이 그 속도대로 해도 안전하다는 것을 보여야 하지만, 지금은 반대로 되어 있다. 우려하는 쪽이 위험을 입증해야 한다. 빨리 가려는 쪽은 정해진, 이미 많은 것이 생략된 절차를 따랐다는 사실만으로 책임이 면제된다. 인프라는 완성되기 전에만 통제할 수 있다. 그러니 요구는 하나로 좁혀진다. 사람의 생사를 가르는 판단이 포함된 체계는 빠른 도입을 허용하는 특례에서 빼야 한다. 새로운 규범을 만들자는 것이 아니다. 국회가 민간 AI를 규율하며 이미 해둔 구분을, 군에도 똑같이 적용해야 한다.

강성현 / 성공회대 평화월딩연구소 소장

2026.9.16. ⓒ창비주간논평