[엔트로피타임즈 황상규 칼럼니스트]

국방과 안보 분야에서 인공지능(AI) 기술의 도입은 오랫동안 '완벽한 전쟁'을 가능하게 할 게임 체인저로 추앙받아 왔다. 인간의 감정과 피로를 배제한 채, 방대한 데이터를 실시간으로 분석하여 적을 정밀 타격하는 기술은 군사 지도자들에게 거부할 수 없는 유혹이었다. 특히 재집권 이후 압도적인 군사력과 효율성을 강조해 온 도널드 트럼프 행정부는 미 국방부의 핵심 AI 사업인 '프로젝트 메이븐(Project Maven)'을 비롯한 민간 빅테크 기업들의 최첨단 AI 모델을 전장(戰場)에 전면 배치하는 모험을 감행했다.

 

  알고리즘 맹신이 불러온 전쟁의 비극

 

  미국-이스라엘-이란 전쟁과 중동 지역에서 전개된 군사 작전의 결과는 호르무즈 해협 봉쇄 등으로 예상과 달리 전쟁의 장기화와 미국의 고전(苦戰)으로 귀결되고 있다. 전쟁 기술의 완성도에 대한 과도한 확신과 알고리즘에 대한 맹신이 전쟁 상황을 어느 방향으로 몰고 가며, 어떻게 참혹하고 비인도적인 재앙과 안보적 패배를 초래하는지 여실히 보여주고 있다. 트럼프의 'AI 만능주의'가 맞이한 실패는 현대전에서 기술의 한계를 명확히 인식하고, 인간 중심의 통제를 회복하는 것이 왜 시급한 과제인지 뼈아픈 교훈을 남겨주고 있다.

 

베네수엘라 내정 간섭과 이란 전쟁에서 드러난 트럼프 행정부의 AI 오용 사례는 국제 사회에 많은 과제를 던지고 있다. 미국은 베네수엘라 내정 개입 작전과 이란 내 혁명수비대 무장세력 및 핵 인프라를 겨냥한 공습 작전(일명,‘Operation Epic Fury’)에서 AI 중심의 타격 시스템을 전면에 내세웠다. 위성 이미지, 드론 감시 영상, 레이더 신호, 전자 통신 감청 데이터 등 가용한 모든 정보가 팔란티어(Palantir)의 데이터 융합 기술과 국방부의 스마트 시스템을 통해 실시간으로 처리되었다.

 

트럼프 대통령은 이 시스템이 '센서에서 타격(Sensor-to-Shooter)'으로 이어지는 시간을 획기적으로 줄여줄 것이라며 장담했다. 실제로 AI 시스템은 적의 예상 위치와 타격 경로, 최적의 무기 체계까지 완벽한 수학적 계산의 결과물처럼 쏟아냈다. 그러나 전장의 불확실성과 역동적인 인간의 행동 변수는 알고리즘이 학습한 고정된 데이터의 범위를 아득히 벗어나 있었다. AI의 판단을 과도하게 신뢰한 트럼프와 군 지휘부는 현장 정보에 대한 면밀한 인간적 검증 없이 무리한 공습 승인을 연이어 단행했다.

 

  안보 압박 속 ‘앤트로픽’의 저항과 ‘OpenAI’의 전개과정

 

  이 과정에서 생성형 AI 시장을 주도하는 프론티어 기업들은 트럼프 행정부의 강한 안보 압박 속에서 각기 다른 노선을 걸었다. 기술적 안전판과 정렬(Alignment)을 강조해 온 앤트로픽(Anthropic)은 자사의 대형언어모델(LLM) '클로드(Claude)'가 프로젝트 메이븐의 정보 분석 및 데이터 동기화 모듈에 통합되자 강하게 반발했다. 앤트로픽은 클로드가 자율형 살상 무기 시스템의 표적 선정이나 대규모 국내 감시에 활용되는 것을 명시적으로 차단할 것을 요구했다. 이에 트럼프 행정부는 앤트로픽을 국가 안보에 비협조적인 '공급망 위험(Supply Chain Risk)' 기업으로 규정하고 강력한 제재와 압박을 가하며 기술적 양보를 종용했다.

 

반면, OpenAI는 이러한 안보 우선주의 정세 속에서 기민하게 움직였다. 군사적 목적의 이용을 전면 금지하던 기존의 사용 정책을 전격 수정하고, 법이 허용하는 합법적 범위 내에서 자사 모델을 군에 공급하는 계약을 체결했다. 이들은 앤트로픽이 고수하려 했던 엄격한 안전 가이드라인을 우회하여 펜타곤의 핵심 기술 공급업체 자리를 차지했다. 행정부의 강력한 안보 논리와 기업의 비즈니스 이해관계가 결합할 경우, 기술적 제어 장치가 전장에서 얼마나 쉽게 무력화될 수 있는지 잘 보여주고 있다.

 

  죄의식 없이 자행되는 비인도적 공격

 

  AI 시스템에 대한 무조건적인 신뢰는 결국 최악의 비인도적 재앙으로 이어졌다. 이란 공습 과정에서 AI 타격 알고리즘은 군사 기지로 오인되거나 과거에 일시적으로 군사적 징후가 포착되었던 민간인 건축물들을 대거 표적 리스트에 포함시켰다.

 

AI는 숫자의 상관관계만을 계산할 뿐, 데이터 이면에 존재하는 민간인의 잔류 가능성이나 인도주의적 가치를 고려하지 못했다. 결과적으로 민간인 거주 구역과 학교 등이 정밀 타격 대상으로 지정되어 수백 명의 어린이를 포함한 무고한 민간인 사상자가 대거 발생했다. 이는 군사적 이익보다 민간인의 피해가 과도해서는 안 된다는 국제법상의 '비례성의 원칙'을 정면으로 위반한 처사였다. 트럼프 행정부는 신속하고 정밀한 타격에 성공했다고 자평하려 했으나, 부수적 피해가 걷잡을 수 없이 커지면서 국제 사회의 격렬한 비난을 직면했고 안보적 명분마저 완전히 상실하는 실패를 맛보았던 것이다.

 

  빅테크 기업들의 윤리 가이드라인

 

  이번 이란 참상이 발생하기 전부터 빅테크 기업들은 대중적 비판을 피하기 위해 각자 고유한 윤리 가이드라인을 수립해 왔다. 그러나 트럼프 행정부의 안보 압박 속에서 이 가이드라인들은 제대로 작동하지 못하고 무용지물이 되어버리는 상황에 내몰렸다.

 

□ Google : 명문화된 'AI 원칙'과 안보 논리 앞에서의 후퇴

 

  구글은 2018년 프로젝트 메이븐 초창기 참여 당시 내부 직원들의 거센 반발을 겪은 후, 사회적 유익성, 편향 방지, 안전 설계 등을 골자로 한 명문화된 'AI 원칙(AI Principles)'을 제정했다. 초기 지침에는 사람에게 상해를 입히는 무기 개발과 국제 규범을 위반하는 감시 기술에 자사 기술을 공급하지 않는다는 강력한 제한 조항이 있었다. 그러나 트럼프 행정부의 압박과 기술 패권 경쟁이 심화되자, 구글은 무기 개발 금지라는 구체적인 문구를 삭제하고 "민주주의 국가들의 안보를 지원한다"라는 모호한 표현으로 정책을 대폭 수정했다. 결국 가이드라인 스스로 빗장을 풀며 군사 협력의 길을 열어주었다.

 

□ OpenAI : 사용 정책(Usage Policies)의 변화와 변칙적 가이드라인

 

  OpenAI는 무기 개발 및 조달, 사용을 전면 금지하는 '사용 정책(Usage Policies)'을 유지해 왔다. 하지만 미 국방부와의 대규모 기술 공급 계약 체결 과정에서 이 조항을 완화했다. 이들은 자율형 살상 무기에 직접 탑재되는 형태의 배포는 금지하고 자사 클라우드 내부에서만 모델이 구동되도록 제한하는 기술적 대안을 제시했으나, 이는 결국 '합법적 목적'이라는 명분 하에 고도의 정보 분석과 공세적 사이버전에 자사 기술이 동원되는 것을 허용하는 변칙적인 가이드라인 수정을 낳았다.

 

□ Microsoft : 다층적 거버넌스의 작동과 '비살상'의 함정

 

  마이크로소프트는 공정성, 신뢰성, 안전성, 책무성 등 6대 원칙을 바탕으로 '책임 있는 AI 원칙(Responsible AI Principles)'을 강제하고 있다. 사내에 '책임 있는 AI 실무단(AETHER)'과 '책임있는 AI 오피스(ORA)'를 두고 인권 침해 가능성을 사전 검증하는 다층적 거버넌스를 구축했다.

 

그러나 군사 통신망이나 물류 체계 고도화 등 '비살상 영역'이라는 명목 하에 진행되는 트럼프 행정부의 군사 사업에는 이 검증 기구들이 관대하게 작용하여, 결과적으로 군사력 강화에 전방위적으로 기여하는 모순을 보여주었다.

 

□ Meta : 오픈소스 생태계 가이드라인의 구조적 한계

 

  메타는 AI 모델 'Llama(라마)'를 오픈소스로 개방하며, 외부 사용자가 무기 제조나 테러, 인권 침해에 기술을 쓰지 않겠다고 동의하는 '개발자 행동 강령'과 '책임 있는 사용 가이드'를 배포해 왔다. 그러나 오픈소스의 특성상 트럼프 행정부나 방산 업체들이 코드를 다운로드받아 안전장치를 임의로 제거(Jailbreak)하고 군사적 목적으로 재학습시키는 행위를 메타가 실시간으로 감시하고 통제하는 것은 원천적으로 불가능했다. 가이드라인이 선언적 수준에 그치는 구조적 한계를 노출한 것이다.

 

  공격용 목적과 방어용 목적

 

  현행 가이드라인의 치명적 한계는 방어용과 공격용의 경계의 모호성에 있다. 주요 빅테크 기업들의 윤리 가이드라인은 국가 안보라는 거대한 명분과 막대한 방산 계약이라는 자본의 논리 앞에서 여지없이 무력화되었다. 특히 현대전에서 방어용 기술과 공격용 기술의 경계는 지극히 모호하다.

 

앤트로픽이 국가안보국(NSA)에 공급한 '미토스(Mythos)' 모델의 사례처럼, 적의 네트워크를 교란하는 공세적 사이버 작전이나 정밀 타격을 위한 정보 융합은 언제나 "국가를 방어하기 위한 선제적 조치"라는 명목으로 포장된다. 결국 빅테크의 윤리 가이드라인은 트럼프 행정부의 강권과 군사적 수요에 맞추어 끊임없이 재해석되었으며, 실질적인 살상 행위와 무분별한 기술 오용을 막지 못하는 서류상의 면죄부로 전락하고 말았다.

 

AI 기술이 방어 체계의 효율성을 높이고, 군의 통신이나 물류 시스템을 최적화하는 '방어적·보조적' 수단으로 제한되어 활용되는 것은 전장의 비극을 줄이는 보완재가 될 수 있다. 그러나 트럼프 행정부의 실패가 보여주었듯, 인간의 인지적 개입 없이 AI가 판단한 결과만을 맹신하여 표적을 식별하고 타격 여부를 결정하는 '공격용 무기'의 핵심으로 AI를 활용하는 것은 완전히 다른 차원의 재앙을 낳는다. 데이터의 통계적 상관관계만을 계산하는 AI는 결코 인간 생명의 존엄성이나 국제법상의 인도주의적 가치를 종합적으로 성찰할 수 없다.

인간 중심의 통제와 보편적 규제의 필요성

 

  전장의 짙은 불확실성 속에서 무고한 민간인의 생명과 직결된 최종 결정을 AI에게 그냥 내맡겨서는 안되며, 반드시 종합적인 인간의 개입(Human-in-the-loop)과 책임 있는 판단이 유지되어야 한다. 트럼프 행정부가 보여준 무분별한 AI의 군사적 활용과 공격용 AI 알고리즘의 오·남용은 개선되어야 하며, 국제 사회의 강력한 규제 체제 속으로 편입되어야 한다. 이를 위한 몇가지 과제를 제시해 보면 다음과 같다.

 

무엇보다 중요한 것은 구속력 있는 국제 규범 수립이 필요하다. 제네바 협정에 준하는 새로운 'AI 군사 이용 규제 조약'을 체결하여, 완전 자율형 살상 무기와 무고한 민간인 피해를 유발하는 표적 선정 알고리즘의 전장 도입을 원천 금지해야 한다.

 

두 번째로는 인간 개입 의무화를 법제화해야 한다. 모든 무기 체계와 타격 승인 단계에는 반드시 인간의 이성적 판단과 최종 서명이 개입되도록 기술적·법적 강제 장치를 마련해야 한다. 테크 기업의 책무성 및 독립성 강화: 정부의 정치적 압박이나 안보 논리에 밀려 빅테크 기업들이 자체 윤리 가이드라인을 임의로 수정하지 못하도록, 시민사회와 학계가 참여하는 독립적인 AI 윤리 감시 기구를 제도화해야 한다.

 

마지막으로, AI 기술이 인간을 소외시키고 살상의 효율성만을 극대화하는 괴물로 전락하지 않도록 하고, 그 동안의 전쟁 교훈을 거울삼아 AI 적용 알고리즘에 인류 보편의 윤리와 인간의 통제권을 확고히 구축해 나가야 할 것이다.

황상규 칼럼니스트
ESG평가연구소장,  ISO26000한국전문가포럼 공동대표, 전 환경운동연합 사무처장, 독일 프랑크푸르트(괴테)대학 환경윤리학 박사 수료, , ‘사회책임의 시대‘(2013) 저자