인공지능 시대의 반도체를 대비하고 있는 삼성전자 - (1)

인공지능 특허 분석을 하다

 작년에 6개월 동안 회사업무로 인공지능에 관련한 특허분석을 해야했다. 특허분석을 진행한다고 함은 순전히 인공지능에 대한 특허검색키워드 혹은 인공지능에 관한 특허분류코드를 입력하고 출력되는 특허데이터를 단순히 취합하여 통계를 내는 단순한 작업은 아니다.

 FM대로 말할 순 없지만, 특허분석의 기본 골격이 되는 기술분류체계 (인공지능을 구성하고 있는 기술들을 계층적 -hierarchical - 으로 분리하고, 동일한 계층의 기술분야는 최대한 서로 연관되지 않게 -exclusive- 작성)를 구성하는 것 부터 시작을 혼다. 그 이후 기술분류체계의 최하단에 있는 기술분야 각각에 대하여 검색키워드를 조합하여 특허를 검색한 후 검색된 특허를 정말 기술분야에 포함되는 기술인지 그렇지 않은지를 검토하는 유효데이터 선별작업을 수행하게 된다. 

 기술분류체계는 검색을 수행하는자 임의대로 작성할 수도 있으나 후일 해당 특허분석 및 보고서가 공개될 경우 공신력이 떨어지는 우려를 피하기 위하여 인공지능 관련하여 저명하신분들을 섭외하여 해당 기술분류체계를 공신력있게 만드는 작업을 수행한다. 이런 과정을 거쳐서 인공지능에 관련된 기술분야를 크게 AI HW와 AI SW로 분할하고, HW와 SW를 구성하는 요소기술들을 계층적으로 분리하여 기술분류체계를 완성하였다.

 인공지능 SW는 소프트웨어에 관한 기술로 삼성전자, SK하이닉스, 마이크론, 및 INTEL 등의 전통적인 반도체 종합 생산업체와는 조금은 다른 Google이나 MICROSOFT, IBM, BAIDU, TENCENT 등의 플랫폼기업들 위주라서 이번 포스팅에서는 제외하도록 하고 이번 포스팅에서는 인공지능 HW에 대한 특허 분석을 통한 인공지능 HW의 트랜드 변화에 대해서 알아볼 수 있도록 하겠다. 먼저 인공지능 HW 관련하여 몇개월에 걸쳐 토론하여 작성된 기술분류체계부터 확인해보자.

 대한민국 정부의 공급망 보안과 관련하여 인공지능 분야에서 대한민국이 나아가야 할 방향을 검토하기 위한 하나의 정보로서 특허를 분석해보자는 의견이 나왔었고, 해당 의견에 따라 많은 수는 아니나 국내 산업이나 학계의 연구진/교수진들과이 논의끝에 인공지능 HW를 범용, 전용, 구현소자로 나누는게 적합하다고 논의했었고, 범용, 전용, 소자 각각의 하부에 수퍼컴퓨팅, GPU, GPGPU - 범용 - 와 PIM(Processing in Memory), NEUROMORPHIC, NPU - 전용 - 및 소자로 구분하였다. (기술분류체계는 사람마다 다르게 생각할 수 있으며 정답이 없다. 그러므로 되도록이면 많은 분들이 참여하여 의견교환을 한 후에 모든 분이 만족할 수는 없겠지만 나름 많은 분들이 신뢰할 수 있도록 타협점을 찾아가면서 작성이 되어진다.)

기술분야별 기술정의

 소분류별로 인공지능 HW를 구성하는 요소기술을 나열하고 나열된 요소기술을 포함하는 분류를 중분류로 하여 인공지능 HW의 기술분류체계를 완성하였다. 관련 기술분야의 특허를 도출하기 위해 각 기술에 대한 기술적 정의를 먼저 내리는 작업을 수행한다.

■ 수퍼컴퓨팅: 대규모 병렬처리와 고성능 컴퓨팅 자원을 활용하여 복잡하고 계산 집약적인 AI 모델의 훈련 및 실행을 지원하는 컴퓨팅 인프라이며, AI 특화형 수퍼컴퓨터는 일반적인 HPC와 달라 AI 워크로드에 최적화된 아키텍쳐 포함

■ GPU(Graphic Processing Unit): 원래는 그래픽 작업을 위해 설계되었으나, 고속 병렬 연산 능력을 활용하여 AI 워크로드(특히 딥러닝) 에서 중요한 역할을 하는 프로세서

■ GPGPU(General Purpose GPU): 그래픽 이외의 일반적인 데이터 병렬 연산에 활용하는 기술 혹은 개념으로 주로 과학적 계산, 데이터 분석, 머신러닝, 딥러닝 등 범용 계산 작업에 활용

■ PIM(Processing in Memory): 데이터를 메모리에서 직접 처리하여 데이터 이동 병목을 줄이고 AI 워크로드 성능과 에너지 효율성을 향상시키는 기술, 전통적인 폰 노이만 구조를 탈피하여 메모리 내에 연산 유닛을 통합하여 프로세서-메모리간 전송지연을 감소

■ NEUROMORPHIC: 인간의 뇌 신경망을 모방한 아키텍쳐와 프로세싱 방법을 채택하여 효율적인 AI 처리를 목표로 하는 하드웨어 기술. 이벤트 기반 처리와 스파이킹 뉴럴 네트워크 모델 등을 활용하여 에너지 효율 높은 병렬 연산을 제공

■ NPU(Neural Processing Unit): 인공신경망 연산에 최적화된 하드웨어 가속기. 주로 에지 컴퓨팅 환경에서 저전력 및 실시간 AI처리를 목표로 설계되며 신경망 가중치의 효율적인 처리를 지원. Google TPU, APPLE의 Neural Engine 등

인공지능 HW 분야의 특허분석

(작년초 -2023년-에 분석을 시작하여 통계적인 의미는 21년에 출원된 특허까지가 특허가 공개되어 있어 부득이하게 21년까지의 특허를 대상으로 하였음)

 전체 분야 중 점유율이 가장 높은 분야는 MRAM과 GPU분야이다. MRAM은 예전부터 STT-MRAM 연구개발을 해왔으며 차세대 메모리로서의 가능성으로 특허출원량이 많은 상태이다, GPU(GPGPU포함)는 NVIDIA와 AMD 등에서 연구개발을 오랫동안 해온 분야이므로 특허수가 많은 상태로 여겨진다. GPU와 GPGPU는 2016년부터 인공지능 분야에 활용될 목적보다는 그래픽 처리를 위한 프로세서로 기술개발이 진행되어 현재 병렬 처리에 최적화된 GPGPU로의 발전을 거듭하여 기술개발 결과 및 특허 점유율이 높은 상태이다.

 우리가 위 차트에서 눈여겨 볼 필요가 있는 기술은 최근 상승정도 즉 부상도가 높은 분야이다. NPU와 PIM, 및 뉴로모픽컴퓨팅 분야로서 모두 차세대 반도체로서 관심이 집중되는 분야이며 미래에 적용될 것으로 여겨지는 반도체 기술이다. NPU 또한 2016년부터 특허 출원이 증가하고 있으며 최근까지 지속적인 특허수의 증가를 보인다.

 PIM분야는 특허 건수에서는 앞선 분야에 비해 미치지 못하나 가장 최근에도 증가추세에 있는 분야로 기존의 폰 노이만 구조의 컴퓨팅 아키텍쳐를 탈피하여 메모리 내에 프로세서를 포함시켜 메모리와 프로세서 간의 데이터 통신 지연을 줄이는 미래형 메모리로서 현재의 HBM 보다도 훨씬 높은 대역과 처리 속도를 달성할 것으로 보이며 향후 반도체 개발의 큰 목표가 될 것으로 예상된다.

 NPU 분야는 탈 NVIDIA를 꿈꾸는 다른 Big Tech. 기업들(구글, 애플, 마이크로소프트, 브로드컴, 메타 플랫폼스 등등)의 기술개발 확대 및 지원강화를 고려한다면 NVIDIA와 AMD 및 INTEL 주도의 GPU/GPGPU 분야를 상회하는 결과물을 내놓을 가능성이 높다고 판단된다.(아직인 CUDA에 종속적인 환경으로 NVIDIA를 넘어설 수 있는 단계는 아닌 것으로 판단)

 다음 시간에는 각 기술분야에서 어느 기업이 강세를 보이고 있으며, 삼성전자는 미래의 인공지능 HW에 어떻게 대처하고 있는지 특허로 살펴보고 위의 제목처럼 삼성전자가 기술개발을 바탕으로 어떻게 향후 인공지능의 시대를 HW 측면에서 대응하고 있는지 확인해 보겠다.