29일(목) 민홍철 의원 '군(軍)의 무인무기체계 발전 방안 세미나' 주최
저출생 여파로 20세 남성 인구는 올해 23만명→2040년 14만명 급감 전망
'병력 중심'의 양적 전력에서 벗어나 AI 기반의 질적 전력으로 전환할 필요
예측불가성과 오작동 위험 등을 방지하기 위해 안전성·신뢰성 확보해야
국제표준 검·인증 체계, 데이터 품질 관리, 운용환경 시험평가 등 제언
민 의원 "지금이 바로 무인무기체계를 설계하고 도약할 골든타임"

경찰찰일보 이성효 기자 = 우리 군(軍)의 병력 감소에 대응하기 위해 안전성과 신뢰성을 확보한 인공지능(AI) 기반의 유무인복합체계를 구축해야 한다는 제언이 나왔다.

29일(목) 국회의원회관 제2간담회의실에서 민홍철 더불어민주당 의원 주최로 열린 '인구절벽시대 K-방산의 질적 성장을 위한 군(軍)의 무인무기체계 발전 방안 세미나'에서다. 토론자로 나선 김진우 국방기술품질원 지능SW팀장은 "국방분야의 AI 기술 적용과 맞춤형 정책 추진이 시급하다"며 이같이 밝혔다.

저출생 여파로 병력 자원이 급감하고 있다. 병무청에 따르면 20세 남성 인구는 올해 23만명에서 2036년 22만명 이하로 줄어든 뒤, 2040년에는 14만명까지 감소할 전망이다. 우리 군이 유지해 온 상비병력(장교·부사관·병사) 규모도 50만명 아래로 떨어졌다. 2023년 기준 상비병력은 47만 7천여명으로 5년 새 15.1% 감소했다. 미래 국방력 강화를 위해서는 '병력 중심'의 양적 전력에서 벗어나 AI와 자율기술을 기반으로 질적 군사력을 확보해야 한다는 지적이 나온다.

김 팀장은 AI 기반 무기체계의 필요성을 강조하며 핵심은 시스템의 안전성과 신뢰성을 확보하는 것이라고 강조했다. AI 자율무기체계는 복잡한 전장환경과 머신러닝(기계학습) 기반 알고리즘의 한계로 행동 예측이 어렵고, 의도치 않은 오작동이나 사고가 발생할 수 있다는 것이다. 특히 AI가 학습한 데이터에 내재된 편향이 생길 경우, 특정 집단에 대한 차별적 판단과 오판을 유발해 민간인 피해 등 심각한 결과로 이어질 수 있다.

그는 "입력 데이터 조작(적대적 공격)이나 자동화된 사이버 공격에 취약해 시스템 무력화 또는 오작동을 유발할 수 있다"며 "AI가 자율적으로 무력 사용을 결정할 때 도덕적·법적 책임 소재가 불분명하고, AI 기반 감시·식별 기술은 프라이버시 침해 등 사회적 불안정을 유발할 수 있다"고 말했다.

김 팀장은 기술적·제도적 대응 과제로 ▲AI 시스템의 위험관리, 경영시스템 등 국제표준에 기반한 검·인증 체계를 도입할 것 ▲데이터의 정확성, 일관성, 오류·편향 최소화 등을 위한 데이터 품질 관리를 강화할 것 ▲추가 시험·분석을 통한 운용환경 시험평가를 마련할 것 ▲AI의 치명적 결정에 대비해 인간의 통제원칙을 준수할 것 ▲사이버 보안과 통신 인프라 등 시스템의 내구성·안정성을 확보할 것 등을 제언했다.

김형준 한화시스템 유무인복합체계 팀장은 "유무인복합체계로의 점진적 전환에 대비해 무기체계의 각 분야별로 임무, 교리, 편제를 포함한 운용개념을 재정립할 필요가 있다"며 "오는 2027년까지 무인체계 전투지휘통제, 초연결 통신체계, 지능형 지휘결심지원 등의 핵심 기술을 확보해야 한다"고 말했다. 

박삼준 국방기술진흥연구소 AI PD는 기존 시스템의 단계적 성능 향상을 위해 ▲센서에 AI 기능을 탑재한 상황인식 능력 증대 ▲실시간 의사결정 능력 강화 ▲자율적 임무수행 ▲AI 기반 통합시스템으로 초연결 전투능력 확보 등을 언급하며 국가 차원의 데이터 통합 관리와 함께 보안성 확보를 위한 민간 AI 인프라 활용 정책을 마련해야 한다고 제언했다.

심병섭 한국항공우주산업 AI 개발 팀장은 무인 파일럿 도입을 위해 "센서 융합 기술과 AI 알고리즘을 결합한 높은 수준의 상황인식이 필요하다"며 "군집 자율비행 기술로 다수의 무인기들이 분산형 네트워크를 형성해 자율적으로 협력할 수 있어야 한다"고 말했다.

토론회를 주최한 민홍철 의원은 "병력 감소가 피할 수 없는 현실이 된 지금, AI 기반 자율무기, 드론, 무인기와 같은 무인무기체계는 미래전의 게임체인저가 될 것"이라며 "지금이 바로 그 체계를 설계하고 도약할 골든타임"이라고 말했다. 

경찰일보 이성효 기자