‘연 단위 출시, 네트워크 대역 확장’ 인공지능 가속기 경쟁 달아오른다

IT동아 · 2024.06.04 22:04:55

[IT동아 강형석 기자] 인공지능 가속기 경쟁이 뜨거워진다. 엔비디아와 AMD가 신제품을 주기적으로 투입, 기업의 인공지능 학습ㆍ추론 수요에 대응하기로 입을 모았기 때문이다. 심지어 폭발적으로 증가하는 인공지능의 데이터 처리량을 처리하기 위한 네트워크 시스템 구축 경쟁도 함께 이뤄질 전망이다. 단순히 보면 인공지능 장비를 시작으로 넓게 보면 데이터센터 인프라 전반에 걸친 경쟁이 시작되는 것이다. 여기에 가우디 제품군으로 경쟁을 선언한 인텔까지 가세할 경우 경쟁은 과열될 가능성이 높다.

인공지능 시장을 놓고 반도체 기업이 치열한 경쟁을 펼칠 예정이다. / 출처=IT동아

2024년 6월 2일, 엔비디아는 컴퓨텍스 2024를 앞두고 기조연설을 진행했다. 젠슨 황 엔비디아 최고경영자(CEO)는 자사의 인공지능 시장 리더십을 강조했다. 동시에 인공지능 가속기와 관련한 청사진까지 제시했다. 현재 시장의 인기를 얻고 있는 호퍼(Hopper) 플랫폼의 뒤를 이어 블랙웰(Blackwell), 그리고 그 다음 플랫폼인 루빈(Rubin)까지 공개했다. 그 사이에는 ‘울트라(Ultra)’로 명명된 성능 개선 제품군을 투입한다는 계획도 언급했다.

AMD도 마찬가지다. 2024년 6월 3일에 진행한 기조연설에서 리사 수 AMD CEO는 현행 인스팅트(Instint) MI300X에 뒤를 이어 올해에는 MI325X를 선보이고 이어 MI350과 MI400 등을 차례로 선보인다. MI300 계열 제품의 성능을 꾸준히 높이고 2026년에는 새로운 반도체 설계 구조를 앞세워 세대교체를 이뤄가는 식이다.

인텔은 가우디 인공지능 가속기로 시장을 공략한다. / 출처=IT동아

인텔은 2024년 6월 4일에 진행한 2일차 기조연설에서 가우디 인공지능 가속기의 ‘경제성’을 강조하며 틈새시장을 공략할 예정이다. 경쟁사 대비 최대 1/3 수준의 가격 우위를 가짐에도 성능은 경쟁사 못지 않다는 입장이다. 특히 가우디 3 인공지능 가속기는 8192개의 연산 클러스터로 동급 규모의 엔비디아 H100 플랫폼 대비 학습 시간을 최대 40% 정도 단축 가능하다고 강조했다. 다만 이후의 구체적인 제품 청사진은 언급되지 않았다.

2년마다 새 반도체 설계 적용하고 그 사이에 성능 개선 제품 투입

엔비디아와 AMD의 인공지능 가속기 전략의 핵심은 ‘1년마다 신제품 투입’에 있다. 이는 과거 인텔이 썼던 전략과 유사하다. 인텔은 틱-톡(Tick-Tock)이라는 이름으로 한 번은 반도체 설계를, 그 다음에는 미세공정을 바꾸며 제품을 선보였다. 1년에 한 번 신제품을 출시할 수 있고 상황에 따라 제품 개발과 구성을 유연하게 가져갈 수 있었다.

엔비디아는 블랙웰 다음 루빈을 공개하며 시장의 주목을 받았다. 그 사이에 성능을 개선한 제품을 선보인다. 출시 주기는 1년이다. / 출처=IT동아

두 기업도 완전히 같다고 볼 수 없지만, 비슷한 면이 있다. 2년 주기로 새로운 반도체 설계를 적용하고 그 사이에 성능 개선을 이룬 제품을 투입하는 식이다. 엔비디아는 올해 호퍼에서 설계를 바꾼 블랙웰을 선보인다. 호퍼 출시 2년 만이다. 블랙웰 다음 출시될 루빈(Rubin)은 2년 뒤인 2026년에 출시될 예정이다. 그 사이에 울트라가 투입된다.

AMD는 조금 다르지만 2024년 이후 행보는 엔비디아와 같다. 먼저 2023년 하반기에 공개한 MI300X에서 1년 단위로 업그레이드를 단행한다. MI325X와 MI350이 그 예다. 올해 4분기 중 출시될 MI325X는 HBM3e 모듈을 채택해 데이터 처리량을 늘리고, 내년 하반기에 출시할 MI350에서는 성능을 더 끌어낸다는 계획이다. 마지막 2026년에는 새로운 반도체 설계를 적용한 신제품을 내놓는다. 이 때 AMD는 엔비디아 루빈 플랫폼과 경쟁하게 된다.

AMD도 1년 주기로 인공지능 가속기를 선보일 예정이다. / 출처=IT동아

두 기업은 1년 단위 제품 출시 흐름을 가지고 치열하게 눈치 싸움을 벌일 전망이지만, 당분간은 직접 경쟁하지 않을 가능성이 높다. 엔비디아는 높은 시장 점유율과 뛰어난 성능을 강점으로 내세우지만, 공급에 대한 우려가 남아 있다. AMD는 성능과 함께 제품 도입 공백 문제를 해결할 대안이라는 점을 내세우며 빈틈을 노리는 전략이 유리하다.

과거 2년 주기가 아닌 1년 주기로 제품을 선보이기로 결정한 데에는 수요가 그만큼 증가할 것이라는 것을 예상한 결과다. 실제 인공지능 서비스 기업은 데이터센터 확대를 진행 중이다. 마이크로소프트는 미국 위스콘신주, 구글은 영국에 데이터센터 구축을 위한 투자를 시작했다. 테슬라와 아마존 등도 인공지능 패권 경쟁을 위해 데이터센터 및 기존 장비 업그레이드 등에 심혈을 기울이고 있다. 이 과정에서 많은 물량의 장비가 필요하기 때문에 자연스레 1년 단위 출시가 이뤄져도 소화에 문제가 없다고 판단했을 것이다.

엄청난 속도로 증가 중인 데이터, 네트워크 속도 경쟁도 뜨거워진다

네트워크 시스템과 관련 인프라 구축에 대한 기업의 관심도 높아지는 중이다. 점점 방대해지는 인공지능 관련 데이터를 시스템간 주고받는 것은 물론이고 일반에게 제공하려면 결국 빠르고 유연한 네트워크 전송 구조를 갖춰야 한다. 이 부분에서 엔비디아와 AMD는 다른 길로 접근했다.

엔비디아의 데이터센터 네트워크 장비는 인공지능 가속기 솔루션들과 짝을 이루는 식이다. / 출처=IT동아

엔비디아는 스펙트럼(Spectrum)-X로 대응하고 있다. 블랙웰 플랫폼에는 스펙트럼-X800 이더넷 스위치와 퀀텀(Quantum)-X800 스위치가 호흡을 맞춘다. 스펙트럼-X는 인공지능 가속기가 처리한 데이터를 순차적으로 처리했던 기존 네트워크 전송 방식이 아닌 가속기간 상호 연동을 통해 속도를 높인다. 빠른 데이터 전송을 위해 블루필드(BlueField)-3 네트워크 가속기(SuperNIC)를 쓴다. 이 장치는 1초에 400Gb를 전송할 수 있다. 또한 스펙트럼-X800 스위치 장비는 64개 네트워크 단자를 제공하며 단자당 초당 800Gb 데이터 전송을 지원한다.

현재 사양을 끌어 올리면서 루빈 플랫폼이 적용되는 시점에는 데이터 전송량을 최대 2배 끌어 올리는 것이 엔비디아의 계획이다. 기기간 데이터 전송을 지원하는 NV링크(NVLink)도 6세대에 와서는 초당 3600GB를 전송하는 게 목표다.

AMD는 인공지능 처리용 네트워크 구성을 위해 여러 기업들과 손을 잡는 것을 선택했다. / 출처=IT동아

AMD도 인공지능 가속기에서 처리되는 데이터 전송 속도를 높이기 위해 초 가속 연결(Ultra Accelerator Link) 그룹을 결성했다. 인텔, 브로드컴, 마이크로소프트, 메타, 구글, HP 등 8개 기업이 참여해 데이터센터 내 인공지능 시스템을 위한 고속ㆍ저지연 통신 기술을 논의한다. 이미 울트라 이더넷 컨소시엄(UE Consortium)을 통해 초기 기술을 개발한 것으로 알려졌다. 기본적으로 인공지능 시스템 내에서 최대 1024개 가속 연결을 지원하고 각 장치간 메모리 접근과 저장이 가능하다. 이 기술은 2024년 3분기 이후부터 적용될 예정이다.

인공지능 가속기 시장을 둘러싼 하드웨어와 인프라 경쟁은 이미 시작됐다. 시장이 빠르게 흘러갈수록 관련 기업도 발 빠르게 움직일 것으로 예상된다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
3906	컴퓨텍스 2024에서 눈에 띈 강소기업들 “한국시장 기대 커” [1]	IT동아	06.07	472	0
3905	[생성 AI 길라잡이] 생성 AI 학습 과정에서 발생하는 빈번한 분쟁	IT동아	06.07	230	0
3904	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 14	IT동아	06.07	227	0
3903	글로벌 기업도, 유망 스타트업도…“어도비 서브스턴스 3D로 디지털 혁신 가능해”	IT동아	06.07	1113	0
3902	[농업이 IT(잇)다] 그랜트 “농업인의 고민 해결하는 친환경 과일 포장재, 딴딴박스”	IT동아	06.07	194	0
3901	노랑풍선, "NHN두레이 전사 도입으로 조직 내 업무 환경 통일했죠"	IT동아	06.07	195	0
3900	국내 장수 만화 IP 비즈니스의 모범 사례가 되길... '열혈강호' 30주년 콜라보 카페 방문기 [24]	IT동아	06.07	2589	2
3899	시놀로지 “눈 높은 한국 고객들 의견 수렴하며 성과 거둬”	IT동아	06.06	219	0
3898	노트북 출시 20주년 맞은 MSI, 컴퓨텍스 부스도 ‘노트북 풍년’ [14]	IT동아	06.06	7582	4
3897	‘모든 곳에 인공지능’을 위한 시작, 인텔 AI 서밋 서울 개최	IT동아	06.05	263	0
3896	시놀로지, 엔터프라이즈 솔루션 강화 ‘잰걸음’	IT동아	06.05	198	0
3895	[시승기] ‘K5 LPG 하이브리드’로 500km 주행 후 실연비 살펴보니	IT동아	06.05	557	0
3894	퀄컴 스냅드래곤X 시리즈, AI PC넘어 AI 산업도 노린다	IT동아	06.05	217	0
3893	국내 가상자산 커뮤니티 “텔레그램·카카오톡 활성화, 단기 시세에 민감”	IT동아	06.05	190	0
3892	“디지털 혁신 이끈 3D 기술, AI로 문턱 더 낮아질 것“…어도비 서브스턴스 데이에서 엿본 미래	IT동아	06.05	189	0
3891	딥엑스, 엣지 AI용 NPU 'DX-M1'으로 중국·대만 시장에서 두각	IT동아	06.05	214	0
3890	SK하이닉스, 컴퓨텍스 2024서 GDDR7, 자체 컨트롤러 등 전시	IT동아	06.05	202	0
3889	MSI, 컴퓨텍스 2024에 ‘AI+ PC’ 대거 선보이며 ‘기선제압’	IT동아	06.05	166	0
	‘연 단위 출시, 네트워크 대역 확장’ 인공지능 가속기 경쟁 달아오른다	IT동아	06.04	181	0
3887	인텔 컴퓨텍스 2024 부스 가보니··· 'AI PC 사례·제온 6 공개 눈길' [2]	IT동아	06.04	1690	0
3886	컴퓨텍스 2024 MSI 부스, ‘클로’ 8인치와 ‘AMG’ 노트북 공개로 ‘북적’	IT동아	06.04	162	0
3885	펫 겔싱어, "2030년 세계 2위 파운드리 목표··· 다음 주 18A 칩 구동"	IT동아	06.04	225	0
3884	인텔 제온6·가우디3·루나레이크까지 총 출동··· '시장 주도권 노린다'	IT동아	06.04	194	0
3883	전기차 캐즘에도 정면 돌파 택한 ‘현대차그룹’	IT동아	06.04	162	0
3882	"AI PC 시대, 피처폰에서 스마트폰 전환만큼 혁명적 도약" [1]	IT동아	06.03	737	1
3881	韓 자동차 등대공장 0개...제조공정 혁신 시급	IT동아	06.03	185	0
3880	3세대 라이젠 AIㆍ라이젠 9000 시리즈, AMD 새 CPU 제품군 대거 공개 [7]	IT동아	06.03	756	1
3879	6월부터 달라진 통신3사 요금·혜택 살펴보니 [1]	IT동아	06.03	1519	0
3878	[정구태의 디지털자산 리터러시] 1. 지금 당신이 디지털자산에 관심을 가져야할 이유	IT동아	06.03	159	0
3877	[주간투자동향] 벤디트, 80억 원 규모 프리 시리즈A 투자 유치	IT동아	06.03	800	2
3876	여름철 필수품 '선풍기', 용도·기능에 맞춰 고르는 법! [이럴땐 이렇게!]	IT동아	06.03	197	0
3875	블랙웰 다음 루빈, 엔비디아 차기 인공지능 가속 플랫폼 공개 [2]	IT동아	06.03	2095	1
3874	베일에 싸였던 구글의 '검색 알고리즘'…유출 문건으로 실체 드러나	IT동아	05.31	242	0
3873	가비아, 한국마사회에 클라우드 PC ‘가비아 DaaS’ 공급	IT동아	05.31	194	0
3872	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 13	IT동아	05.31	202	0
3871	외산 솔루션 가격 인상, 국산 가상화 시장 훈풍 기대	IT동아	05.31	187	0
3870	[리뷰] 게이밍-홈시네마 넘나드는 전천후 빔프로젝터, 뷰소닉 LX700-4K	IT동아	05.31	1226	1
3869	[생성 AI 길라잡이] 1분 만에 영상·이미지 제작 ‘브이캣’ [2]	IT동아	05.31	5311	5
3868	[농업이 IT(잇)다] 실내 수직형 스마트팜으로 생산량 극대화하는 ‘플랜티팜’ [1]	IT동아	05.31	566	0
3867	페라리 DNA 담은 12기통 2인승 '12 칠린드리'…아시아 최초 공개	IT동아	05.30	224	0
3866	블랙웰에 FOPLP 조기 도입 고려 중인 엔비디아, 미세공정 넘어 생산 경쟁 유도하나?	IT동아	05.30	259	0
3865	북블라 “창업의 꿈, 가천대 코코네스쿨에서 이뤄”	IT동아	05.30	212	0
3864	스페이스앤빈 “뉴스페이스로의 전환, 상용 부품 적용 물꼬부터 터야”	IT동아	05.30	160	0
3863	[리뷰] AFMF로 가성비 게이밍 환경 구축, AMD 라데온 RX 7700 XT [8]	IT동아	05.30	5834	5
3862	[스타트업 첫걸음] 스타트업, 창업 아이디어는 어떻게 시작할까	IT동아	05.30	163	0
3861	KT클라우드, 엔비디아 GPU 기반 학습 서비스 'AI Train' 출시	IT동아	05.30	146	0
3860	캐딜락, 브랜드 최초 순수 전기 SUV ‘리릭’ 출시 [2]	IT동아	05.30	565	1
3859	SBA 유망 스타트업의 면모 확인, ‘2024 연합 데모데이’ 이모저모	IT동아	05.29	136	0
3858	AI 구심점으로 떠오른 '컴퓨텍스', 올해 주목할만한 기업 별 소식은? [2]	IT동아	05.29	535	0
3857	[IT애정남] 로봇청소기 고를 때 고려할 점은?	IT동아	05.29	932	0
뉴스	제니, 솔로로 코첼라 입성	디시트렌드	11.21

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

2년마다 새 반도체 설계 적용하고 그 사이에 성능 개선 제품 투입

엄청난 속도로 증가 중인 데이터, 네트워크 속도 경쟁도 뜨거워진다

▶ 인텔 컴퓨텍스 2024 부스 가보니··· 'AI PC 사례·제온 6 공개 눈길'▶ 컴퓨텍스 2024 MSI 부스, ‘클로’ 8인치와 ‘AMG’ 노트북 공개로 ‘북적’▶ 펫 겔싱어, "2030년 세계 2위 파운드리 목표··· 다음 주 18A 칩 구동"

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결