"퓨리오사AI의 개발 철학, 핵심은 하드웨어·소프트웨어의 유기적 결합입니다"

IT동아 · 2023.09.21 13:17:20

[IT동아 남시현 기자]

“최고의 소프트웨어는 최고의 하드웨어에서 나온다”

퓨리오사AI의 박준영 시니어 하드웨어 아키텍트가 항상 마음에 담아두고 있는 말이라고 한다. 퓨리오사AI는 인공지능 연산에 최적화된 인공신경망 반도체(NPU) 기업으로, 현재 1세대 반도체인 ‘워보이(WARBOY)’를 양산하고 내년 초 2세대 반도체인 ‘레니게이드(Renegade)’ 출시를 앞두고 있다. 박준영 아키텍트는 2021년 퓨리오사AI의 하드웨어 팀으로 합류해 레니게이드의 아키텍처를 설계했고, 차세대 반도체 구상에도 참여하고 있다.

퓨리오사AI 박준영 시니어 하드웨어 아키텍트 / 출처=IT동아

아키텍트(Architect)란 건축물을 설계하고 시공하는 건축가를 뜻하는 말로, IT업계에서는 시스템을 기획, 설계, 관리, 감독하는 직책을 의미한다. 그중에서도 AI 반도체 분야의 하드웨어 아키텍트는 반도체의 중추인 NPU의 코어를 설계하고, 시스템온칩(SoC)과 인터페이스 구성 등의 물리적 구성 요소를 조율하고 소프트웨어, 컴파일링 등 무형의 자산까지 효율적으로 적용할 수 있도록 구성하는 일을 한다. 박준영 아키텍트에게 AI 반도체란 무엇인지, 아키텍트가 어떤 역할을 하는지 들어보는 시간을 가졌다.

“시스템 반도체 만들겠다는 꿈, 퓨리오사AI에서 실현하고 있다”

박준영 아키텍트는 NPU 시스템 전반에 대한 설계부터 하드웨어, 소프트웨어 팀을 조율하는 역할까지 하고 있다 / 출처=IT동아

박준영 아키텍트가 퓨리오사AI에서 일하게 된 계기는 어린 시절 만져본 그래픽 카드로부터 시작한다. 그는 “어린 시절부터 컴퓨터에 관심이 많았고 그래픽 카드를 써보면서 언젠가 GPU를 만들어보고 싶다는 꿈을 갖게 됐다. 그래서 전자공학과 컴퓨터공학을 복수전공 하고, 삼성전자 시스템 LSI 사업부에 입사해 시스템 반도체 등과 관련된 설계부터 애플리케이션 프로세서(AP)에 탑재되는 GPU 설계팀까지 일하며 꿈을 이뤄왔다”라며 설명을 시작했다.

이어서 “직무와 관련해 인공지능(이하 AI) 관련 교육을 받는 중, AI 연구에 엔비디아를 비롯한 기업들의 하드웨어가 필수라는 점을 알게 됐다. 그때부터 AI 기반 산업이 세상을 바꿔놓을 것이고, 글로벌 AI 생태계에 합류하고 싶다는 생각을 갖게 됐다. 그러던 중 우연찮게 퓨리오사AI에 근무하는 후배를 통해 대표님과 만나게 되면서 확신을 갖고 합류했다”라고 말했다. 대기업에서 스타트업으로 이직하는 것을 두고 끊임없이 고민했으나, 많은 업계의 인연들과 퓨리오사AI의 방향성에 대한 확신을 갖고 NPU 아키텍트라는 길을 택했다고 한다.

하드웨어 팀과 소프트웨어 팀이 시스템 구성을 위한 회의를 진행하고 있다 / 출처=IT동아

하드웨어 팀의 구성은 어떨까? 박준영 아키텍트는 “하드웨어 팀은 NPU를 비롯한 시스템 전반의 요소를 설계하는 아키텍처 팀, NPU와 다른 하드웨어 구성 요소를 통합하여 하나의 칩으로 설계하는 시스템 온 칩(SoC) 팀, 하드웨어 설계 검증 팀, 메모리 및 인터페이스 팀, 칩 외적인 부분을 맡는 시스템 팀으로 나뉜다. 아키텍트 팀은 하드웨어 팀은 물론 소프트웨어 팀과도 협업하며, 이런 전반적인 영역을 모두 파악하고 시스템을 설계하는 역할을 한다”라고 말했다.

아키텍트 팀의 ‘설계’는 구체적으로 어떤 일일까? 박준영 아키텍트에게 예시를 부탁했다. “반도체는 어떤 목적을 수행하기 위해 만든다. 예를 들어 GPT와 같은 대형언어모델용 반도체를 만든다면, 서비스를 위해 사용되는 매개변수의 양과 사용된 시간을 파악하고, 여기에 필요한 메모리 성능과 초당 연산량 등의요구 사항을 구체적으로 정의해야 한다. 그다음 이를 달성하기 위한 하드웨어를 구성하고 소프트웨어가 사용할 수 있는 구조를 만들어야 한다. 아키텍처 팀이 그 중심에서 작업을 조율하고 제품과 절차를 설계한다”라고 설명했다.

퓨리오사AI의 NPU는 어떻게 엔비디아의 GPU에 맞설까

퓨리오사AI가 주목받는 이유는 AI 산업의 성장세와 밀접한 관련이 있다. 챗GPT의 흥행 덕분에 AI 반도체가 기업 및 연구기관의 핵심 자산으로 떠오르기 시작했고, 엔비디아의 GPU가 품귀현상을 빚고 있다. 하지만 엔비디아의 점유율이 80~90%에 달하고, 사실상 가격을 통제하고 있어서 대체제에 대한 목소리가 커지고 있다. 퓨리오사AI의 NPU가 그 역할을 할 수 있다. 박준영 아키텍트에게 퓨리오사AI의 NPU가 어떻게 GPU를 대체할 수 있을지 물어봤다.

박준영 아키텍트는 NPU와 GPU의 목적은 같지만, 효율성 측면에서 다르다고 설명했다 / 출처=IT동아

박준영 아키텍트는 “엔비디아의 GPU는 그래픽 픽셀을 병렬로 처리하는 반도체인데, 이 병렬 연산 기능을 일반 작업 용도로 확장하면서 AI 반도체로 쓰게 됐다. 하지만 AI 작업은 예측 가능한 목표를 수학적으로 처리하는 과정이어서 GPU로 처리할 수는 있지만, GPU 기능을 가장 효율적으로 쓰는 것은 아니므로 전력 사용이나 자원 활용에 있어서 비효율적이기도 하다. NPU는 AI 개발에 필요한 과정에 맞춰 최적화된 반도체로, 필요한 자원만 활용해 데이터를 처리하는 식으로 동작한다. 덕분에 하드웨어 가용량이나 소비전력, 메모리 등을 관리하는데 훨씬 효과적이다”라고 말했다.

그는 “GPU와 NPU의 작업 과정을 쉽게 얘기하면 우주 탐험과 비슷하다. GPU는 우주탐사선과 같아서 다양한 목적을 수행하기 위한 자원과 에너지를 풍부하게 갖고 시작한다. 비용은 많이 들어도 어떤 경로로든 자유롭게 이동하는 식으로 목적을 달성한다. NPU는 탐사선이 개척한 경로를 효율적으로 운항하는데 최적화된 쾌속선과 같다. 정해진 목적을 수행하므로 자원과 에너지를 효율화하고 그만큼 비용도 적게 든다. 엔비디아가 시장을 독점하고 있어도 각각의 AI 반도체 기업들이 성장할 수 있는 이유가 이런 개념이다”라고 덧붙였다.

1세대 워보이와 2세대 레니게이드는 어떤 제품인가?

현재 주력 모델인 워보이, 그리고 2세대 NPU인 레니게이드에 대한 설명을 부탁했다. 그는 “워보이는 기초적인 데이터를 처리하는 정수 계산용 반도체(Integer)지만 퓨리오사AI 입장에서는 기술적으로나 상업적으로 큰 의미를 가지는 제품이다. 워보이를 기준으로 소량 생산에서 양산 단계에 접어들었고, 구체적인 제품 가격과 성능을 입증했다. AI 반도체의 스펙을 보면 연산량이나 메모리 대역폭이 얼마냐 하는 문제가 있는데 이것이 구체적인 성능을 보증하는 건 아니다. 하지만 양산 제품이 있으니 이를 실질적으로 증명할 수 있다”라며 설명을 시작했다.

박준영 아키텍트가 1세대 반도체 워보이를 소개하고 있다 / 출처=IT동아

박준영 아키텍트는 “단순히 하드웨어만 만드는 게 전부가 아니다. NPU로 개발을 하려면 여러 컴퓨터 언어로 작동할 수 있게 컴파일을 해야 하고, 여기에 맞는 소프트웨어도 필요하다. 퓨리오사AI는 컴파일러와 소프트웨어가 효율적으로 동작하도록 소프트웨어 개발 도구(SDK)를 비롯한 데이터를 직접 배포하고 있고, 또 해당 부서가 하드웨어 개발에도 관여하고 있다. 이렇게 소프트웨어와 하드웨어가 발을 맞춰 개발하는 게 퓨리오사AI의 핵심 전략이자 개발 철학”이라고 말했다.

실제 서버 상에서 구동되고 있는 워보이 / 출처=IT동아

2세대 레니게이드에 대한 설명도 부탁했다. 그는 “레니게이드는 대형언어모델을 위한 개발 도구 중 엔비디아의 그래픽 카드를 대체할 수 있는 대안 중 하나다. NPU의 빠르고 효율적인 데이터 처리와 HBM3 기반의 높은 메모리 성능, 그리고 이를 지원하는 소프트웨어까지 모두 준비하고 있다. 현재 시점에서는 전체 칩 설계가 완료돼 최종 검증 단계에 있고, 다음 달 반도체 공정의 시작을 앞두고 있다”라고 간략하게 말했다. 물론 시제품이 나오면 기대 성능과 실제 성능을 대조하고, 하드웨어를 효율화하는 작업과 소프트웨어와의 조율은 계속 해야 한다고 덧붙였다.

“3세대 NPU 작업 한창··· 미래 수요 예측하고 설계해야”

그가 준비하고 있는 것은 그다음 세대의 NPU다. 박준영 아키텍트는 “레니게이드를 설계하면서 느꼈지만, AI 시장의 변화가 너무 빠르다. 차세대 반도체가 시장 수요에 부합하기 위해서는 현재 기업과 학회에서 연구되고 있는 것들을 파악해서 선반영하고, 장래에 어떤 기능과 서비스가 필요할지 예측해서 설계해야 한다”라고 말했다.

박준영 아키텍트는 반도체를 설계하는 과정이 현재가 아닌 미래를 위한 설계라고 말한다 / 출처=IT동아

차세대 반도체가 입지를 다지기 위해서는 지금 유행하는 서비스가 아닌 앞으로 유행할 서비스를 예측해서 설계해야 한다는 말이다. 그러면서 “엔비디아 같은 거대 자본과 조직, 생태계를 갖춘 곳과 경쟁하는 것은 어려운 일이지만, 소프트웨어와 알고리즘 등의 조직과 자유롭게 의사소통하고 빠르게 의사 결정을 내리면서 가능성을 만들어 나가고 있다”라고 말했다.

마지막으로 박준영 아키텍트는 “AI는 거의 모든 첨단기술 분야에서 사용되고, 또 더 널리 쓰이게 될 것이다. 이를 이끌어나가는 생태계에 속해있다는 것만으로도 개인적인 성취이며,훌륭한 동료들과 최고 수준의 경쟁력을 가진 제품을 만들고 있다는 것 자체에 큰 자부심을 느낀다. 더 욕심을 내자면 우리가 앞으로 선보일 결과물들이 원하는 대로 만들어지고, 세계 시장과 인류사에 기록될 제품이 되길 바란다. 퓨리오사AI가 그런 기업이 될 수 있도록 노력하겠다”라고 말했다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
3013	[스케일업] 지엠씨랩스 [3] 패스파인더넷 “하나의 길을 선택하고 집중하라”	IT동아	23.09.27	153	0
3012	다해줘테크 “상생과 혁신 품은 OA기기 렌탈 플랫폼” [스타트업in과기대]	IT동아	23.09.26	155	0
3011	가상자산 거래소, 거래 환경 개선 등 내실 다지기에 집중 [1]	IT동아	23.09.26	580	0
3010	추석 연휴 최장 6일··· 알아두면 좋은 '의료·반려동물·교통·통신 대책' [2]	IT동아	23.09.26	961	2
3009	[뉴스줌인] 에이수스의 프리미엄급 크롬북, 기존 편견 넘을까	IT동아	23.09.25	159	0
3008	AI 독주 노리는 마이크로소프트, 윈도우 11에 '코파일럿' 도입 [3]	IT동아	23.09.25	544	2
3007	에너지 프로슈머, 전기를 직접 생산하고 소비하며 판매한다?	IT동아	23.09.25	144	0
3006	[스타트업人] 건설 근로자와 숨쉬는 금융, 웍스메이트 '핀테크 개발자' 이야기	IT동아	23.09.25	129	0
3005	스마트폰에 저장된 주소록 백업·복원하려면 이렇게![이럴땐 이렇게!] [1]	IT동아	23.09.25	347	0
3004	옐토 "브랜드·캐릭터 통해 장애인 인식 개선에 기여한다" [동국대학교 캠퍼스타운]	IT동아	23.09.25	127	0
3003	[스케일업] 내일의쓰임, 옐토, 챕터서울, 케어포유 “좋은 기회였습니다”	IT동아	23.09.25	127	0
3002	창립 50주년 마크레빈슨 '하이파이 오디오 시장 개척한 브랜드' [10]	IT동아	23.09.22	4564	0
3001	AI법, “고위험 영역 조정하고 저작권침해 면책해줘야” [79]	IT동아	23.09.22	4677	10
3000	유용한 생성형 AI, 어떤 것들이 있나?	IT동아	23.09.22	179	0
2999	[르포] '반 세기 걸친 혁신의 역사 한 눈에···' 인텔 본사 박물관 가보니	IT동아	23.09.22	142	0
2998	[스케일업] 반프 [2] 패스파인더넷 “대표는 내부 구성원에게 솔직해야 합니다”	IT동아	23.09.22	135	0
2997	[농업이 IT(잇)다] 제로나인메트리얼 “삶의 질 높일 LED·PBM 선도화”	IT동아	23.09.22	642	0
2996	[스타트업人] 디지포레 이현진 책임 “메타버스 속 콘텐츠를 개발하고 있습니다”	IT동아	23.09.21	190	0
2995	탄소중립의 핵심 ‘탄소포집’, 무르익는 글로벌 시장[K비즈니스 가이드]	IT동아	23.09.21	124	0
2994	스페이스앤빈, 전자파와 방사선을 막아내는 ‘스쿠텀’ [스타트업in과기대]	IT동아	23.09.21	538	3
	"퓨리오사AI의 개발 철학, 핵심은 하드웨어·소프트웨어의 유기적 결합입니다" [1]	IT동아	23.09.21	566	0
2992	케어포유 "반려동물이 편히 쉴 수 있는 공간, 케어펫 뮤트" [동국대학교 캠퍼스타운]	IT동아	23.09.21	128	0
2991	[IT하는법] 어르신들도 안심? 전화 통화와 대중교통 안내를 원터치로!	IT동아	23.09.20	450	0
2990	[스타트업리뷰] 초지향 스피커 시대 열 제이디솔루션 ‘브릭’	IT동아	23.09.20	128	0
2989	[IT신상공개] 필름 카메라 FM2 감성 잇는 미러리스 '니콘 ZF' [9]	IT동아	23.09.20	1079	3
2988	인텔, 2024년 20A 넘어 18A까지 도전··· '반도체 주도권 미국으로' [5]	IT동아	23.09.20	1738	3
2987	웍스앤피플 “K팝 댄스 업계의 ‘배민’ 꿈꾼다” [동국대학교 캠퍼스타운]	IT동아	23.09.19	126	0
2986	ESG 간편시작, 칼렛바이오 스텝포넷제로 EL606 택배봉투[스타트업리뷰]	IT동아	23.09.19	112	0
2985	AMD·엔비디아도 밀고있는 반도체 기술, '칩렛'이란? [4]	IT동아	23.09.19	1399	10
2984	[IT애정남] 간편하게 동영상 자르고 붙이는 방법 알려주세요 [1]	IT동아	23.09.19	574	1
2983	서울과기대 창업지원단 “제조 창업 도전자에게 우리의 경험과 노하우를 전달합니다”	IT동아	23.09.18	137	0
2982	[스케일업] 위닝아이 [2] 서울대기술지주 “글로벌 진출, 혼자 아닌 협업으로 풀어라“	IT동아	23.09.18	126	0
2981	[IT신상공개] 35mm 센서·L 마운트 무장한 ‘블랙매직 시네마 카메라 6K’ [1]	IT동아	23.09.18	508	0
2980	[주간투자동향] 이그니스, 348억 원 규모의 시리즈B 투자 유치	IT동아	23.09.18	149	0
2979	개정된 개인정보보호법… 어떤 내용이 담겼나?	IT동아	23.09.15	151	0
2978	팀프레시 새벽시장 “음식점을 위한, 싸고 편리한 식자재 주문 서비스입니다”	IT동아	23.09.15	128	0
2977	[농업이 IT(잇)다] 주식회사빙고 “주문형 신선식품 냉동 창고를 집 앞에”	IT동아	23.09.15	128	0
2976	[자동차 디자人] 브랜드 미래를 그리다…BMW i 디자인 총괄 ‘카이 랭어’	IT동아	23.09.15	135	0
2975	[스타트업-ing] 티온랩테라퓨틱스 “지속성·표적성 약물 전달체로 환자 삶의 질 높인다” [1]	IT동아	23.09.15	1499	0
2974	초등컴퓨팅교사협회 “게임도 교실에서 하면 교육이 됩니다”	IT동아	23.09.14	177	1
2973	[리뷰] 크리에이터 위한 고성능 노트북, 에이수스 젠북 프로 14 OLED	IT동아	23.09.14	212	0
2972	어도비 파이어플라이 정식 공개··· 크레딧 도입하고 서비스 확장 노려 [3]	IT동아	23.09.14	978	0
2971	[스타트업人] 건설 근로자 위한 웍스메이트 '기능인등급제 서비스 기획자' 이야기	IT동아	23.09.14	111	0
2970	[뉴스줌인] 차세대 인터페이스 '썬더볼트5' 발표, 뭐가 달라졌을까?	IT동아	23.09.13	118	0
2969	세계 5위 창업도시 도약을 위한 자리 ‘트라이 에브리싱 2023’	IT동아	23.09.13	165	0
2968	[IT신상공개] 1억 화소·8K 영상 중형 카메라 ‘후지필름 GFX100 II’ [5]	IT동아	23.09.13	2102	5
2967	[스케일업] 옐토 [4] 최동석 작가 “이모티콘 캐릭터, 메시지 담아 도전 거듭”	IT동아	23.09.13	103	0
2966	애플, 아이폰 15·15 프로 시리즈 공개··· '티타늄, C타입 통할까?' [2]	IT동아	23.09.13	497	4
2965	이디씨 “드론 활용한 산불확산방지 솔루션, ESG까지 더했다” [스타트업in과기대]	IT동아	23.09.12	106	0
2964	[IT신상공개] 생동감 넘치는 조명 효과, JBL 펄스 5	IT동아	23.09.12	105	0
뉴스	박나래-화사, 남다른 우정 과시…“굳이 연락하지 않아도 마음속에 있어” (놀토)	디시트렌드	18:00

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

“시스템 반도체 만들겠다는 꿈, 퓨리오사AI에서 실현하고 있다”

퓨리오사AI의 NPU는 어떻게 엔비디아의 GPU에 맞설까

1세대 워보이와 2세대 레니게이드는 어떤 제품인가?

“3세대 NPU 작업 한창··· 미래 수요 예측하고 설계해야”

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결