냉전 시대에 미국과 구소련 등은 군사력의 확산을 막기 위해 핵미사일을 중심으로 무기을 제한하는 협정을 맺었고 핵폭탄의 경우 상당 부분을 폐기했다.
그러나 인공지능의 경우 이러한 제한이 사실상 불가능하다. 한마디로 어떤 형태의 점검이나 조정 없이 더 많은 지능과 자율성을 모든 종류의 군사 무기에 부여함으로써 결국 인간의 제어능력은 현저하게 저하되기 마련이다.
이는 그동안 인간들이 견지해오던 기본 습성과 매우 다른 면으로 진행된다는 것을 의미한다. 인간의 기본은 한 단계 한 단계 더 나아가면서 진보하기 위해 우리 자신을 투여하는 의지를 덕목으로 삼는다. 그런데 인공지능을 도입한 군사용 무기는 비록 적군이기는 하지만 인간을 몰락시키는데 집중적으로 투여된다는 점이다.
군사 작전의 경우 업무 상태는 명쾌하다. 군대에서의 명령은 인간 전투요원 또는 기계 전투 요원에게 전달되고 인간은 기계처럼 네트워크를 통해 조종되고 유도되는 시스템의 단순 요소에 불과하다. 이것은 하나의 의사 결정기구 즉 대통령, 컴퓨터 혹은 네트워크에 분산된 의사 결정 사항을 수집하는 하나의 기구에 집중될 수 있음을 보여준다.
명령이나 지시가 정보망을 통해 전투 요원에 전달되면 인간이건 로봇이건 그들의 역할은 단순히 주어진 명령을 정확히 수행하는 것이다. 이때 그들에게 요구되는 것은 어떤 지능도 아니며 오로지 명령을 수행하는 것뿐이다. 이 말은 주어진 명령에 의문을 가져서는 안 되며 그들의 생명은 정보망에서 결정된 전반적인 목표나 표적을 얻기 위해 희생될 수 있다.
다소 현실적인 미사일로 설명하면 미사일은 특정한 파괴 목표물을 향해 발사되고 전투요원이나 무인전투기 등 공격용 드론은 아군의 종합적인 이익, 그리고 적군에게 피해를 줄 파괴적인 목적을 덕목으로 한다. 여기에서 인공지능이 탑재된 드론 전투기, 자율탱크, 로봇 전투요원들은 인간 병사보다 월등한 실력을 갖는다는 것을 전제로 한다. 그런데 이를 일사불란하게 관리하는 것은 네트워크를 기본으로 하는 군사 시스템이다.
여기에서 딜레마가 생긴다. 과연 누가 기계에 의한 전쟁 정보망을 제어할 수 있느냐이다. 현재는 제어권이 컴퓨터와 통신시스템을 관장하는 인간에게 있지만, 전쟁이라는 속성 상 벼랑 끝 의사 결정에서 인공지능 로봇에 더 큰 역할을 부여하도록 유도한다는 것이다.
이는 아군의 인공지능 로봇이 적군보다 한발 앞서게 만드는데 중요한 관건임은 물론이다. 여기에서 군사적인 면을 감안한다면 적군 표적에 대한 단순한 컴퓨터 제어 기능뿐만 아니라 발사부터 관리해야 하는 미사일을 염두에 두지 않을 수 없다. 이 경우 인간은 배제되고 오로지 새롭고 치명적인 군사 체계의 틀에서만 움직인다는 내용이다.
필자소개
고려대학교·대학원 졸업, 프랑스 페르피냥대학에서 공학박사 학위 및 과학국가박사 학위
한국과학기술연구원(KIST), 한국에너지기술연구원에서 연구 활동
저서: 「침대에서 읽는 과학」, 「4차 산업혁명과 미래 직업」, 「로봇은 인간을 지배할 수 있을까?」, 「유네스코 선정 한국의 세계문화유산」, 「유적으로 보는 우리 역사」 등 100여권
