AI 모델을 중국은 열고 미국은 닫아 걸고 있다. 왜 여는 것이 좋은지 조목조목 잘 설명해 준다.

--

OpenAI보다는 Open AI를 사용하자 (아쉬토시 조갈레카르)

* 출처: 3 Quarks Daily / 2025년 1월 20일

https://3quarksdaily.com/3quarksdaily/2025/01/rather-than-openai-lets-open-ai.html#more-271664

-

-

작년 10월, 찰스 오펜하이머와 나는 AI 군비 경쟁을 막을 수 있는 유일한 방법은 시스템을 개방하는 것이라고 주장하는 글을 Fast Company에 기고했다. 냉전 초기 핵무기 확산을 막기 위한 혁신적인 제안인 Acheson-Lilienthal 보고서를 바탕으로, 우리는 과학과 기술에는 똑똑한 과학자들과 기술자들에게 충분한 시간이 주어져도 발견될 수 없는 진정한 "비밀"따위는 없기 때문에 비밀을 통해 안보를 확보하는 것은 근본적으로 불가능하다고 주장했다. 원자폭탄이 바로 그런 경우였다. 미국의 정치인과 장군들이 미국이 수십 년, 어쩌면 영원히 핵 패권을 유지할 것이라고 자랑했지만, 러시아는 2차 세계대전이 끝난 지 불과 4년 만에 첫 핵무기로 대응했다. 영국, 중국, 프랑스 등 다른 국가들도 곧 뒤를 따랐다. 비밀의 신화가 깨진 것이다.

--

글을

https://www.fastcompany.com/91205768/how-a-cold-war-plan-to-stop-nuclear-proliferation-could-protect-the-world-from-an-ai-arms-race

--

기사가 작성된 후 기다렸다는 듯이 2024년 12월, 중국에서 DeepSeek v3라는 새로운 대규모 언어 모델(LLM)이 출시되었다. DeepSeek v3는 중국에서 교육을 받은 중국인 기업가가 만든 완전히 자체 개발한 모델이다(마지막 요점은 사소하지만 중요하지 않은 것은 아니다. 중국 최고의 인재들이 점점 더 고국을 떠나지 않고도 뛰어난 능력을 발휘할 수 있다는 점이다). 이 모델은 많은 사람들이 선구적인 LLM 모델에서 최첨단으로 간주하는 OpenAI의 GPT-4와 경쟁 관계에 있었기 때문에 즉시 주목을 받았다. 실제로 DeepSeek v3는 중요한 파라미터 측면에서 경쟁력이 훨씬 뛰어나다: GPT-4는 약 1조 개의 훈련 파라미터를 사용했고, DeepSeek v3는 6,710억 개의 훈련 파라미터를 사용했으며, GPT-4는 1조 개의 토큰을 사용했고, DeepSeek v3는 거의 15조 개의 토큰을 사용했다. 가장 인상적인 점은 DeepSeek v3의 훈련 비용이 558만 달러에 불과한 반면, GPT-4는 약 1억 달러에 달했다는 점이다. 이는 질적으로 중요한 차이이다: 자금력이 가장 뛰어난 스타트업이나 대형 기술 기업만이 AI 모델 학습에 1억 달러를 투자할 수 있지만, 558만 달러는 많은 소규모 스타트업도 충분히 감당할 수 있는 수준이다.

아마도 가장 큰 차이점은 DeepSeek v3는 오픈 소스인 반면 GPT-4는 그렇지 않다는 점일 것이다. 미국의 오픈 소스 모델은 Meta에서 개발한 Llama가 유일하다. DeepSeek v3의 이 특징징이 미국 공학자들과 정치 지도자들의 머릿속에 큰 경종을 울리지 않는다면, 반드시 그래야 한다. 과학과 기술에 기술 선진국이 조만간 발견하지 못할 비밀은 거의 없다는 우리의 중심적 논점을 다시 한 번 확인시켜주는 사례이다.

누군가는 DeepSeek v3를 훈련시키는 데 최고의 LLM 모델들을 훈련시키는 데 든 비용의 일부만 든 것은 그것이 이 거인들의 어깨 위에 서 있었기 때문이라고 주장할 수 있을 것이다, 그러나 바로 그것이 요점이다: 다른 소프트웨어와 마찬가지로, LLM 모델도 한계 비용의 급격한 감소라는 표준 규칙을 따른다. 더 중요한 것은, DeepSeek v3의 오픈-소스, 저-비용 성격은 수백만 개의 조직과 사용자가 DeepSeek v3를 자신들의 AI 구축의 기반으로 삼으면서 중국이 미국에 앞서 세계 LLM 시장을 획득할 수 있는 역량을 갖추게 되었다는 것을 의미한다는 것이다. 다시 한 번, 비밀을 통한 보안과 기술 우위의 추구가, 핵무기의 경우처럼, 일시적인 것으로 판명된 것이다.

DeepSeek v3의 등장은 큰 틀에서 무엇을 가리킬까? 세 가지 신화를 불식시키고 몇 가지 주요 질문에 답하는 것이 중요하다.

그것은 개방성 자체에 관한 것이 아니라 표준에 관한 것이다.

개방성은 단순히 좋은 것이 아니다. 오픈 소스 비판자들은 종종 오픈 소스를 반대하는 가장 큰 두 가지 논거로 경쟁에서의 불이익과 보안 위험을 꼽는다. 하지만 AI의 경우 이것은 사실이 아닐 뿐만 아니라 진짜 요점을 놓치고 있다. 오픈 소스 모델을 보유한 국가는 다른 국가가 자체 모델과 데이터 프레임워크를 구축하는 표준을 설정한다. 그 국가는 생태계를 소유한다. 이것은 경쟁 불리가 아니라 경쟁 우위로 이어진다. 얼마나 많은 국가가 도구와 서비스를 구축하는 데 선호하는 운영 체제로 Linux를 채택했는지 생각해 보라. 마찬가지로 오픈 소스 LLM은 각 국가가 자체적으로 도구와 서비스를 확산할 수 있는 표준을 설정할 것이다. 그러나 미국은 모델을 폐쇄 소스로 만들면 미래의 모든 AI가 구축되는 표준을 잃을 위험이 있으며, 미국 기업가들은 자국 플랫폼이 아닌 다른 AI 플랫폼용 도구를 만들어야 할 것이다. 이 분야의 매우 빠른 발전을 고려할 때, 자신들의 AI를 오픈 소스화하는 국가들이 표준을 확고히 정립하는 데는 그리 오랜 시간이 걸리지 않을 것이다.

보안 위험과 관련하여 일반적으로 우려되는 것은 국가든 비국가든 악의적인 공격자가 시스템의 개방적인 특성을 악용하여 잘못된 정보를 퍼뜨리거나 멀웨어를 심는 데 기술을 악용할 수 있다는 것이다. 최악의 경우 이 시스템을 악용하여 국가 기반 시설에 대한 사이버 공격을 감행할 수도 있다. 그러나 실제로는 소프트웨어가 독점적인 경우 국가가 지능형 LLM 기반 AI에 대해 효과적으로 반격을 가할 수 없을 위험이 더 크다.

중국이 미국에 대한 사이버 공격을 감행하는 두 가지 가상 시나리오를 생각해 보겠다. 한 시나리오에서는 독점적인 폐쇄 소스 LLM이 사용되고, 다른 시나리오에서는 오픈 소스 LLM이 공격의 기반이 된다. 독점 LLM을 사용하면 미국은 공유 기반이 없기 때문에 공격의 성격을 분석하고 이해하는 데 어려움을 겪게 되어 불리한 입장에 처하게 되고 대응이 가능하기 전에 심각한 피해를 입을 가능성이 있다. 반대로 공격이 오픈 소스 LLM(미국도 접근할 수 있는 시스템)을 활용하면 공격을 해독하고 대응하며 방어 또는 반격 전략을 위한 도구의 용도를 변경하는 것이 훨씬 쉬워진다.

오픈 소스와 국가 보안은 완전히 양립할 수 있다.

오픈 소스를 공개하고 모든 사람이 동일한 코드와 인프라를 볼 수 있게 하는 것이 공격을 저지하기 쉬울 뿐만 아니라 공격자가 효과적인 반격이 존재한다는 것을 알면 애초에 공격할 가능성이 낮아지고 따라서 그들의 노력이 무의미해질 수 있기 때문에 국가 안보에 더 낫다는 것이 위의 요지의 분명한 결론이다. 핵무기와 동일한 억지력의 원리가 여기에도 존재한다.

오픈 소싱에 대한 또 다른 일반적인 우려는 중요한 비밀이 공개될 수 있다는 것이다. 개발 중인 모델을 공개하면 민감한 금융 정보나 국가 안보 정보가 노출될 위험이 있지 않을까? 대답은 '아니오'이다. 모델을 공유한다고 해서 모델을 학습시키는 데 사용된 기초 데이터나 모델이 활용되는 특정 애플리케이션을 공유하는 것은 아니다. 분자 시뮬레이션의 예를 들어보면, 신약 개발에 사용되는 시뮬레이션을 실행하기 위한 모든 코드를 공유한다고 해도 시뮬레이션에 정보를 제공한 데이터나 해당 시뮬레이션을 사용하여 개발된 신약의 세부 사항을 공개하는 것은 아니다. 지적 재산은 생성하고 보호할 수 있지만, 그 재산을 생성하는 데 사용된 도구는 누구나 사용할 수 있다.

기본 모델 아키텍처를 공유할 수 있을 뿐만 아니라 민감한 정보를 공개하지 않고도 모델을 비교할 수 있는 방법도 있다. 이러한 방법 중 하나는 영지식 증명을 사용하는 것으로, 연구자들이 주장 자체의 세부 사항을 공개하지 않고도 주장의 타당성을 입증할 수 있게 해준다. 원래 암호화를 위해 개발된 이 기술은 핵탄두 검증과 같은 응용 분야에 창의적으로 적용되었다. 유사한 접근 방식을 AI 모델에 확장할 수 있다는 것은 전적으로 그럴듯한 이야기이다. 중요한 세부 정보를 보호하면서 공통 기반을 구축할 수 있는 충분한 데이터를 공유한다는 아이디어는 실현 가능할 뿐만 아니라 이미 실행되고 있다. 예를 들어, 앞서 언급했듯이 많은 모델의 토큰 수, 매개변수, 학습 비용 등의 정보가 공개되어 있다. 이러한 공개는 특정 애플리케이션에서의 모델 사용이나 모델 학습에 사용된 데이터의 세부 사항은 공개하지 않으면서도 모델의 기초에 대한 귀중한 통찰력을 제공한다.

--

핵탄두 검증

https://www.nature.com/articles/nature13457

--

오픈 소스와 기술 우위는 서로 상반된 목표들이 아니다.

미국이 기술 분야에서 글로벌 리더로서의 지위를 유지하는 가장 효과적인 방법은 전 세계 조직, 국가, 개인이 미국의 기술을 널리 채택하고 활용하도록 하는 것이다. AI의 경우, 그 목표는 글로벌 기술 개발의 토대가 되는 미국 표준을 설정함으로써 달성할 수 있다. 오픈 소스 모델에 의해 설정된 표준은 확산되는 반면, 폐쇄 소스 모델에 의해 설정된 표준은 구현에 대한 재정적, 기술적 장벽으로 인해 시들해질 것이다.

기술 개발은 제로섬 게임이 아니다. 미국이 이기기 위해 중국이 질 필요는 없으며, 그 반대의 경우도 마찬가지이다. 경쟁과 협력의 적절한 조합을 통해 양쪽 모두 번영할 수 있다. 2차 세계대전 이후 미국의 자동차 제조업체와 산업 전문가들은 기술, 경영 관행, 제조 기법을 일본과 공유하는 데 중요한 역할을 했다. 그 결과 일본이 자동차 제조 분야에서 우위를 점했을 뿐만 아니라 모든 사람이 더 저렴하고 신뢰할 수 있는 자동차를 이용할 수 있게 되었다. 또한 미국 자동차 업계에 혁신에 대한 압력을 가하기도 했지만, 그 압력은 현재 글로벌 표준을 설정하고 있는 미국 전기 자동차 회사의 출현으로 이어졌다. 도요타와 테슬라는 전 세계에 혜택을 주고 있다. 경쟁과 협력은 모두 글로벌 혁신으로 이어진다.

중국, 미국, 그리고 전 세계의 가장 큰 목표는 AI가 혼란을 일으키는 전쟁을 막는 것이다. 이것은 도덕적 의무일 뿐만 아니라 실용적이고 경제적인 의무이기도 하다. 냉전 시대 내내 대통령과 총리들은 이 두 가지 목표를 실현하기 위해 세계를 더 안전하게 만들고 국민을 더 번영하게 하는 무기 조약과 감축을 추진했다. 인공지능을 위한 조약은 진지하게 고려해야 하지만, 복잡하고 시행하기 어렵고 이행에 오랜 시간이 걸리며 혁신을 저해할 위험이 있다. AI 연구의 최전선에 있는 기업들이 일방적으로 소프트웨어를 오픈 소스로 공개하는 것도 똑같이 매력적인 차선책이다. 국가들이 기술 군비 경쟁에서 서로를 앞지르기 위해 대부분의 시간을 보내는 불평등하고 폐쇄적인 AI 환경은 무익한 노력일 뿐만 아니라 세상을 더 위험한 곳으로 만들 수 있다. 대안은 잘 정의된 제약 조건 내에서 모델과 코드가 최대한 자유롭게 공유되어 모두에게 혜택을 주는 혁신을 촉발하고 전쟁이 아닌 평화를 배경으로 AI의 황금기를 여는 세상이다. 우리가 살고 싶은 세상은 분명해야 한다.