군대가 AI를 채택함에 따라 과대광고는 무기가 됩니다

May 24, 2023

작년에 ChatGPT와 MidJourney와 같은 이미지 엔진이 출시된 이후 생성 인공 지능에 대한 관심이 극에 달했습니다. 그러나 현재 신기술의 적용에 대한 기쁨이나 불안은 곧 미래에 대한 더 크고 실존적인 예측으로 이어집니다. "특이점"과 AI가 인류를 직접 대체하는 것을 제외하고는 AI가 전쟁에 미칠 수 있는 영향만큼 불안감을 불러일으키는 결과는 없습니다. 자율 무기와 전략 로봇이 민간인을 억압하고, 인간 조작자를 무시하거나, 심지어 제3차 세계대전을 일으킬 수도 있을까요?

세계의 지도자들이 행동을 보여주고 있습니다. 60개 주에서는 올해 2월에 만나 군대의 "책임 있는 AI 사용" 목표를 수립했습니다. 국무부는 모든 자율 무기의 설계 및 작동에 계속 참여하고 "명시적이고 잘 정의된 용도"로 설계하고 모든 안전 기능을 주의 깊게 감시하는 고위 장교를 포함하는 미국 원칙에 대한 정치적 선언을 발표했습니다. 무기의 전체 수명 동안 사용하고 편견을 피하기 위해 노력합니다. 그러나 Human Rights Watch는 이러한 목표 중 어느 것도 아직 법적 구속력이 없으며 운영자가 완전히 이해하지 못하는 정교한 시스템의 개발을 지연시키지 않는다고 지적했습니다.

참신함에도 불구하고 이러한 최근의 발전은 18세기 유럽의 상비군 형성과 함께 첫 번째 큰 도약을 이룬 국가 폭력 자동화의 최신 단계에 불과합니다. 기관총, 탱크, 전투기가 이 과정의 더 친숙한 상징이지만, 개인의 감정을 제거하고 지휘관에게 속도와 신뢰성을 높이기 위해 보병을 훈련시키는 것은 준비되지 않은 적군에 비해 그러한 군대에 첫 번째 주요 이점을 제공했습니다.

매주 목요일 받은 편지함에서 JSTOR Daily의 최고의 기사를 받아보세요.

개인 정보 보호 정책 연락처 귀하는 마케팅 메시지에 제공된 링크를 클릭하여 언제든지 구독을 취소할 수 있습니다.

디

그 이후로 국가들은 자동화 이점이 뒤처지는 것을 두려워해 왔으며, 이것이 뉴스 매체에서 미국이 군사 AI를 더 빨리 채택하도록 촉구하는 병행 담론이 있는 이유입니다. 생성적 AI가 비밀 수준의 데이터 분석을 훨씬 더 효율적으로 수행하는 방식에 대한 놀라운 기능은 어떤 제한도 중국군에 유리할 것이라는 엄중한 경고와 함께 실행됩니다. New York Times는 AI 군사 계약자에게 무료 논평 공간을 제공합니다. AI 드론이 목표를 달성하기 위해 가상 훈련에서 운영자를 죽였다고 주장한 대령이나 미군이 AI 무기를 "유대교-기독교적 가치" 때문에 더 윤리적으로 취급한다고 말한 장군과 같이 우연적인 것처럼 보이는 실수조차도 ,”(즉, 중국과 달리)는 모두 군사 AI 개발이 본격적으로 진행되고 있다는 메시지를 세계에 강화합니다.

특히 지능 분석에서 AI의 적용은 여전히 ​​매우 가설적입니다. 현재로서는 과대 광고 자체가 지정학적 패권을 주장하는 사람들을 경고하는 무기인 것 같습니다. 하지만 군 사령관들이 실제로 전시 의사 결정 자체를 자동화하려고 노력할 것입니까?

실제 군 장교들이 군수 산업 계약자나 싱크탱크 관련 언론보다 더 많은 주의를 요구하는 경우가 많다는 것은 일리가 있습니다. 3명의 미국 장교는 PRISM의 2018년 기사에서 2024년에 가동되는 중국과 미국의 자동화된 전략 시스템이 단 2시간 만에 분쟁을 "제한된 핵 교환"으로 확대할 수 있다고 제안하면서 요점을 바로 지적합니다.

그들의 시나리오에 따르면 위기는 남중국해에서 베트남 어선과 중국 선박 사이의 우발적인 충돌로 시작됩니다. 이 사건은 주식 시장 지수의 하락과 소셜 미디어에서 양측에 대한 불리한 논평의 증가를 포함하여 사이버 공간에서 겉보기에 무관해 보이는 일련의 연쇄 반응을 촉발합니다. 이러한 징후는 양측의 IT 인프라에 대한 인터넷 공격에 대한 AI 경고 시스템을 트리거하고 이후 실제 군사 행동을 시작합니다. 그들의 시나리오에서는 중국이 먼저 공격하지만, 저자들은 수백만 명의 잠재적인 살인에 대한 책임이 양측의 상호 작용에 있다고 생각합니다.