아래 기사에서 다음 구절은 의미심장하다:

"그들의 논문에서 혁신적인 알고리즘과 프레임워크를 공개했다."

물론 완전히 세세한 공개는 아니겠지만 미국 정도면 엄청난 힌트를 얻을 수 있다. 중국은 미국이 힌트를 얻어 따라해도 이득이고 따라 안 해도 이득이라는 계산이 있는 것 같다. 전자라면 안 그래도 부족한 미국의 방산연구개발인력과 방산연구개발비를 분산시키는 압력을 발휘한다. 후자라면 선두 지위가 유지되기 쉬우니 이득이다. 끊임없이 쏟아져 나오는 중국발 기술적 돌파구나 혁신 기사도 일종의 작전인 것이다. 이 작전의 기본 전제는 미국과의 군비경쟁에서 이길 수 있다는 자신감이다. 미국은 아무리 돈이 많아도 돈 쓸데가 너무나 많고 제조업 기반이 부실하다.
--

https://www.scmp.com/news/china/science/article/3262175/breaking-black-box-chinese-scientists-solve-big-tough-challenge-us-air-forces-ai-project

블랙박스 깨기: 중국 과학자들이 미 공군의 AI 프로젝트 '큰 난제'를 해결하다

🌑 연구자들은 전투 중에 내린 결정을 인간에게 설명 할 수있는 스마트 공중 전투 시스템을 만들고 있다

🌑 그것은 AI 군비 경쟁 와중의 미군과 중국군 모두에게 장애물이었던 '블랙 박스' 문제를 극복한다

베이징에서 스티븐 첸
게시: 2024년 5월 12일 오전 10시
-
-
가장 강력한 왕조를 탄생시킨 중국 북서부의 고대 도시 시안에서 과학자들이 이전에는 볼 수 없었던 군사용 인공지능(AI) 형태를 만들면서 새로운 파워가 부상하고 있다.

그 스마트 공중전 시스템은 치열한 전투 중에 자신이 내리는 결정을 설명하고 그 움직임의 동기를 인간과 공유할 수 있다.

이 기술적 혁신은 중국이 수년간 군을 당황하게 했던 장애물을 극복했음을 의미한다. 이것은 또한 워싱턴과 베이징 간의 AI 군비 경쟁이 점점 더 치열해지고 있음을 의미한다.

미국은 중국보다 먼저 공중전에서 AI 적용을 테스트하기 시작했다. 중국이 여전히 인간이 조종하는 드론과 AI가 조종하는 드론 간의 실제 하늘 전투에 참여하고 있는 동안, 미국 시험 조종사는 이미 시험을 위해 공중전 AI를 하늘로 가져갔다.

그러나 미국이 새로운 AI 기반 F-16 전투기에서 중국이 그것이 가지고 있다고 말하는 AI 장애물을 해결했는지 여부는 확실하지 않지만, 중국 과학자들의 획기적인 연구는 미래 공중전의 양상을 바꿀 것이 확실하다.

심층 강화 학습 및 대규모 언어 모델과 같은 널리 사용되는 AI 기술은 블랙박스처럼 작동한다. 작업이 한쪽 끝으로 들어가고 다른 쪽 끝에서 결과가 나오는 반면, 인간은 내부 작업에 대해 어둠 속에 남아 있다.

그러나 공중전은 삶과 죽음의 문제이다. 가까운 미래에 조종사는 AI와 긴밀하게 협력해야 하며 때로는 이러한 지능형 기계에 자신의 생명을 맡겨야 할 수도 있다. 블랙박스 문제는 기계에 대한 사람들의 신뢰를 약화시킬 뿐만 아니라, 기계 간의 깊은 소통을 방해하기도 한다.

시베이공업대학(西北工业大学) 항공학과 부교수인 Zhang Dong이 이끄는 팀이 개발한 새로운 AI 전투 시스템은 단어, 데이터, 심지어 차트를 사용하여 비행 관제사에게 보내는 각 지시를 설명할 수 있다.

또한 이 AI는 현재 전투 상황, 관련된 특정 비행 기동 및 그 뒤에 있는 전술적 의도와 관련하여 각 지침의 중요성을 명확하게 표현할 수 있다.

Zhang의 팀은 이 기술이 인간 조종사가 AI와 상호 작용할 수 있는 새로운 창을 열어준다는 것을 발견했다.

예를 들어, 시뮬레이션된 전투 후 검토 세션 중에 노련한 조종사는 AI의 자체 표현에서 실패로 이어진 단서를 식별할 수 있다. 그런 다음 효율적인 피드백 메커니즘을 통해 AI는 인간 팀원의 제안을 이해하고 후속 전투에서 유사한 함정을 피할 수 있다.

Zhang의 팀은 인간과 "마음으로부터" 소통할 수 있는 이 종류의 AI가 단지 약 20,000회의 전투 훈련만으로 거의 100%의 승률을 달성할 수 있다는 것을 발견했다. 이와 대조적으로 기존의 "블랙박스" AI는 50,000 라운드 후에만 90%의 승률을 달성할 수 있으며 더 개선하기 위해 고군분투한다.

현재 Zhang의 팀은 이 기술을 지상 시뮬레이터에만 적용했지만 향후 적용은 "더 현실적인 공중전 환경으로 확장될 것"이라고 4월 12일에중국 학술 저널인 Acta Aeronautica et Astronautica Sinica에 게재된 동료 검토 논문에서 썼다.

미국에서는 과거 "블랙박스" 문제가 조종사에게 문제가 된다고 언급된 바 있다.

미국의 공중전 시험은 공군과 국방고등연구계획국(DARPA) 사이에서 진행되고 있다. DARPA 고위 장교는 "블랙박스" 문제로 인해 모든 공군 조종사가 이 아이디어를 환영하는 것은 아니라는 점을 인정했다.

"여기 DARPA에서 내가 해결하려는 가장 어려운 과제는 전통적으로 설명할 수 없는 블랙박스로 간주되었던 이 시스템에 대한 신뢰 관리를 구축하고 유지하는 방법이다"라고 DARPA 전략기술실 관리자인 Dan Javorsek 대령은 2021년 National Defense Magazine과의 인터뷰에서 말했다.

DARPA는 조종사가 "블랙박스"에 대한 우려를 극복하도록 지원하기 위해 두 가지 전략을 채택했다. 한 가지 접근 방식을 사용하면 AI는 초기에 록된 표적의 속성을 기반으로 가장 적합한 무기를 자동으로 선택하여 조종사가 버튼을 한 번만 눌러 발사할 수 있도록 하는 등 더 간단하고 낮은 수준의 작업을 처리할 수 있다.

또 다른 방법은 고위 장교들이 AI 전투기에 직접 탑승해 자신감과 결의를 보여주는 방법이다.

중국의 J-20 스텔스 전투기에는 2인승 변형이 있는데, 한 명의 조종사가 AI가 조종하는 무인 윙맨과 상호 작용하는 전담 임무를 맡는다.

이달 초 프랭크 켄달 공군장관은 에드워드 공군기지에서 인공지능이 조종하는 F-16을 타고 1시간 동안 비행을 했다. 착륙하면서 그는 비행 중에 전쟁에서 무기를 발사할지 여부를 결정할 수 있는 능력을 가진 이 "여전히 학습 중인" AI를 신뢰할 만큼 충분히 보았다고 AP 통신에 말했다.

Kendall은 AP에 "그것을 갖지 않는 것은 보안상 위험하다. 현 시점에서 우리는 그것을 가져야 한다"라고 말했다.

안보위험은 중국이다. 미 공군은 AP통신과의 인터뷰에서 AI가 미래에 점점 더 강력해지는 중국 공군에 맞서 승리할 수 있는 기회를 제공한다고 말했다. 당시 보고서는 중국이 AI를 보유하고 있지만 시뮬레이터 이외의 테스트를 수행할 수 있는 방법을 발견했다는 징후는 없다고 밝혔다.

그러나 Zhang 팀의 논문에 따르면, 중국군은 AI에 대한 엄격한 안전성 및 신뢰성 평가를 시행하고 있으며, "블랙박스" 수수께끼를 풀어낸 후에만 AI가 전투기에 통합되어야 한다고 강조한다.

심층 강화 학습 모델은 종종 인간에게는 불가사의한 의사 결정 결과를 생성하지만 실제 응용에서는 뛰어난 전투 효율성을 보여준다. 인간이 기존 경험을 바탕으로 이 의사 결정 프레임워크를 파악하고 추론하는 것은 어렵다.

Zhang과 그의 동료들은 "이것은 AI의 결정에 신뢰 문제를 제기한다"라고 썼다.

"인간이 전략적 의사결정 과정을 식별하고, 드론의 기동 의도를 파악하고, 기동 결정에 신뢰를 둘 수 있도록 '블랙박스 모델'을 디코딩하는 것은 공중전에서 AI 기술 엔지니어링 적용의 핵심이다. 이것은 또한 우리 연구 발전의 주요 목표이다"라고 그들은 말했다.

Zhang의 팀은 연구에서 여러 사례를 통해 이 AI의 우수성을 보여주었다. 예를 들어, 패배 시나리오에서 AI는 처음에 올라가서 코브라 기동을 실행한 다음 일련의 전투 회전, 에일러론 롤 및 루프를 수행하여 적 항공기와 교전하고 다이빙 및 수평 유지와 같은 회피 기동으로 마무리된다.

그러나 노련한 조종사는 이 급진적인 기동 조합의 결함을 신속하게 식별할 수 있다. AI의 연속적인 상승, 전투 선회, 에일러론 롤 및 다이빙으로 인해 교전 중 드론의 속도가 급락하여 결국 적을 떨쳐내지 못했다.

그리고 논문에 적힌 대로 AI에 대한 인간의 지시는 다음과 같다. "연속적인 급진적인 기동으로 인한 속도 감소가 이 공중전 손실의 원인이며 앞으로는 그러한 결정을 피해야 한다."

인간 조종사라면 전형적으로 적 항공기를 파괴하기 위한 효과적인 위치를 찾기 위해 측면 와인딩 공격과 같은 방법을 채택하는 또 다른 라운드에서는 AI가 적을 유도하기 위해 큰 기동을 사용하고 조기에 측면 와인딩 단계에 진입했으며 적을 오도하기 위한 마지막 단계로 수평 비행을 사용했으며 그 다음 갑작스런 큰 기동으로 결정적인 승리를 거두었다.

연구원들은 AI의 의도를 분석한 후 교착 상태에서 중추적인 것으로 입증된 미묘한 기동을 발견했다.

Zhang의 팀은 AI가 "속도와 고도를 유지하면서 수평유지 및 선회 전술을 채택하여 적을 급격한 방향 변경을 실행하도록 유인해 잔여 운동 에너지를 고갈시키는 방식으로 후속 루프 기동을 위한 길을 열어 반격을 가했다"라고 썼다.

시베이공업대학은 중국의 가장 중요한 군사 기술 연구 기지 중 하나이다. 미국 정부는 그곳에 엄격한 제재를 가하고 그곳의 네트워크 시스템에 침투하려는 시도를 거듭해 중국 정부의 거센 항의를 불러일으켰다.

그러나 미국의 제재 조치는 Zhang의 팀과 그들의 해외 상대들 간의 교류에 뚜렷한 영향을 미치지 않은 것으로 보인다. 그들은 글로벌 컨퍼런스에서 미국 과학자들이 공유한 새로운 알고리즘을 활용했으며 그들의 논문에서 혁신적인 알고리즘과 프레임워크를 공개했다.

일부 군사 전문가들은 중국군이 미국군보다 AI와 인간 전투기 간의 관시(연결) 구축에 더 큰 관심을 갖고 있다고 믿고 있다.

예를 들어, 중국의 스텔스 전투기인 J-20은 2인승 변형을 자랑하며, 한 명의 조종사가 AI 제어 무인 윙맨과 상호 작용하는 데 전념하고 있는데, 이것은 현재 미국 F-22 및 F-35 전투기에는 없는 기능이다.

그러나 문제의 민감성 때문에 이름을 밝히지 말 것을 요청한 베이징의 한 물리학자는 새로운 기술이 인간과 기계 간의 경계를 모호하게 만들 수 있다고 말했다.

"판도라의 상자를 열 수 있다"고 그는 말했다.