기술은 언제나 전쟁의 양상을 바꿔 왔다. 화약은 중무장한 기사(騎士)를 고꾸라뜨렸고, 철도와 전신은 총력전을 가능하게 했으며, 원자폭탄은 전쟁의 대가를 인류가 감당 못 할 수준까지 끌어올렸다. 그러나 인공지능(AI)은 이전의 기술들과 결정적으로 다르다. 이전의 기술들이 인간의 능력을 ‘확장’했다면, AI는 인간의 역할 자체를 ‘대체’한다. 운명을 가르는 순간에 인간이 개입할 여지가 점점 좁아지고 있다. 인간이 사라져 가는 전쟁에서, 인류는 과연 최종 승자가 될 수 있을까?

신간 ‘인간 없는 전쟁’(북트리거)은 이 물음에 응답하려는 시도다. 저자인 최재운 광운대 경영학부 빅데이터경영 전공 교수는 기술과 전쟁이 얽혀 온 역사를 개괄하고, 우크라이나와 중동 등 최근의 전쟁터에서 AI가 어떻게 활용되고 있는지 톺아본다. 인간의 손아귀에서 점차 벗어나고 있는 기술이 야기할 윤리적 딜레마를 찬찬히 짚어 보고, 우리에게 주어진 ‘새로운 프로메테우스의 불’을 어떻게 다뤄야 할지 고민한다.

‘인간 없는 전쟁’은 인공지능(AI)이 현대 전쟁의 핵심 요소로 자리 잡으며 초래하는 윤리적·사회적 문제를 심층 분석한 책이다. 저자는 “AI는 이전 기술과 달리 인간의 역할을 대체하며 전쟁의 판도를 근본적으로 재편하고 있다”고 경고한다.

AI의 발전과 군사적 활용은 막을 수 없는 흐름이다. 저자는 이러한 현실감각을 바탕으로, 우리가 선택할 수 있는 것이 무엇인지 되묻는다. AI 전쟁의 가장 큰 문제는 책임 소재의 불분명성이다. AI 오작동으로 무고한 희생자가 발생해도 법적·윤리적 책임을 물을 대상이 없다.

원격 전쟁에 익숙해진 병사들은 ‘일상과 전투의 괴리’로 인해 오히려 심리적 스트레스가 증가한다는 연구 결과도 소개된다. “AI는 생사 결정의 주체를 기계로 전환하며, 책임 소재마저 모호하게 만든다”고 지적한다. 섣부른 기술 낙관주의나 묵시록적인 비관주의, 양쪽 모두와 거리를 두고 ‘AI 시대의 인간다움’을 재고하기를 요청한다.

2023년 하마스와 휴전 중인 이스라엘군은 AI 시스템 ‘라벤더’(패턴 분석), ‘가스펠’(목표 특정), ‘웨얼스 대디’(위치 추적)를 활용해 표적을 식별하고 폭격을 수행한다. 인간 장교는 AI가 생성한 살생부를 20초 만에 승인하는데, 이는 “남성 여부만 확인하고 공격 결정을 내리는 수준”이라고 책은 전한다.

러시아-우크라이나 전쟁은 ‘드론 전쟁’의 실험장이다. 양측은 유선 드론, 엣지 AI 기술 등으로 통신 차단 상황에서도 자율 작전을 펼치며, AI 참모가 전략·전술을 제안하는 단계에 이르렀다.

AI 드론부대는 통신 두절 시 스스로 최적의 작전을 수립한다. LLM 기반 AI는 정세 분석과 여론 조작까지 담당하며, 딥페이크 영상 유포와 사이버 공격이 일상화됐다. 저자는 “SNS 피드와 알고리즘도 전쟁의 첨병으로 변모했다”며 “트로츠키의 경구처럼 이제 전쟁은 우리에게 직접 다가오고 있다”고 경고한다.

실리콘밸리 기업들(팔란티어, 구글 등)은 AI 기술을 군사 목적으로 확대하며, 일론 머스크의 ‘스타링크’ 지원 사례처럼 민간 기업이 전쟁을 좌우하는 시대가 도래했다. 저자는 “국제적 협약은 무력화됐고, AI 군비경쟁은 불가피하다”고 진단한다.

저자는 안전한 AI를 만들기 위한 몇 가지 기술적 원칙을 제시한다. AI의 목표와 행동을 인간의 가치와 일치시키고, 의사 결정 과정을 추적할 수 있게끔 작동 프로세스를 투명화하고, AI를 즉각 중지할 수 있는 킬 스위치를 구비하고, 인간이 주도적으로 판단할 수 있도록 설명 가능한 인터페이스를 구현해야 한다는 것이다.

하지만 기술적 해결만으로는 부족하다. 저자는 “시민이 기업의 AI 개발 목적과 정부 정책의 투명성을 요구해야 한다”며 “작은 질문과 행동이 변화를 만들 것”이라 강조한다. 저자는 “AI 시대의 전쟁은 화면 너머 인간의 고통을 망각하게 만든다”며 “생명을 다루는 결정에는 반드시 인간적 책임이 동반되어야 한다”고 역설한다.