‘연 단위 출시, 네트워크 대역 확장’ 인공지능 가속기 경쟁 달아오른다

IT동아 · 2024.06.04 22:04:55

[IT동아 강형석 기자] 인공지능 가속기 경쟁이 뜨거워진다. 엔비디아와 AMD가 신제품을 주기적으로 투입, 기업의 인공지능 학습ㆍ추론 수요에 대응하기로 입을 모았기 때문이다. 심지어 폭발적으로 증가하는 인공지능의 데이터 처리량을 처리하기 위한 네트워크 시스템 구축 경쟁도 함께 이뤄질 전망이다. 단순히 보면 인공지능 장비를 시작으로 넓게 보면 데이터센터 인프라 전반에 걸친 경쟁이 시작되는 것이다. 여기에 가우디 제품군으로 경쟁을 선언한 인텔까지 가세할 경우 경쟁은 과열될 가능성이 높다.

인공지능 시장을 놓고 반도체 기업이 치열한 경쟁을 펼칠 예정이다. / 출처=IT동아

2024년 6월 2일, 엔비디아는 컴퓨텍스 2024를 앞두고 기조연설을 진행했다. 젠슨 황 엔비디아 최고경영자(CEO)는 자사의 인공지능 시장 리더십을 강조했다. 동시에 인공지능 가속기와 관련한 청사진까지 제시했다. 현재 시장의 인기를 얻고 있는 호퍼(Hopper) 플랫폼의 뒤를 이어 블랙웰(Blackwell), 그리고 그 다음 플랫폼인 루빈(Rubin)까지 공개했다. 그 사이에는 ‘울트라(Ultra)’로 명명된 성능 개선 제품군을 투입한다는 계획도 언급했다.

AMD도 마찬가지다. 2024년 6월 3일에 진행한 기조연설에서 리사 수 AMD CEO는 현행 인스팅트(Instint) MI300X에 뒤를 이어 올해에는 MI325X를 선보이고 이어 MI350과 MI400 등을 차례로 선보인다. MI300 계열 제품의 성능을 꾸준히 높이고 2026년에는 새로운 반도체 설계 구조를 앞세워 세대교체를 이뤄가는 식이다.

인텔은 가우디 인공지능 가속기로 시장을 공략한다. / 출처=IT동아

인텔은 2024년 6월 4일에 진행한 2일차 기조연설에서 가우디 인공지능 가속기의 ‘경제성’을 강조하며 틈새시장을 공략할 예정이다. 경쟁사 대비 최대 1/3 수준의 가격 우위를 가짐에도 성능은 경쟁사 못지 않다는 입장이다. 특히 가우디 3 인공지능 가속기는 8192개의 연산 클러스터로 동급 규모의 엔비디아 H100 플랫폼 대비 학습 시간을 최대 40% 정도 단축 가능하다고 강조했다. 다만 이후의 구체적인 제품 청사진은 언급되지 않았다.

2년마다 새 반도체 설계 적용하고 그 사이에 성능 개선 제품 투입

엔비디아와 AMD의 인공지능 가속기 전략의 핵심은 ‘1년마다 신제품 투입’에 있다. 이는 과거 인텔이 썼던 전략과 유사하다. 인텔은 틱-톡(Tick-Tock)이라는 이름으로 한 번은 반도체 설계를, 그 다음에는 미세공정을 바꾸며 제품을 선보였다. 1년에 한 번 신제품을 출시할 수 있고 상황에 따라 제품 개발과 구성을 유연하게 가져갈 수 있었다.

엔비디아는 블랙웰 다음 루빈을 공개하며 시장의 주목을 받았다. 그 사이에 성능을 개선한 제품을 선보인다. 출시 주기는 1년이다. / 출처=IT동아

두 기업도 완전히 같다고 볼 수 없지만, 비슷한 면이 있다. 2년 주기로 새로운 반도체 설계를 적용하고 그 사이에 성능 개선을 이룬 제품을 투입하는 식이다. 엔비디아는 올해 호퍼에서 설계를 바꾼 블랙웰을 선보인다. 호퍼 출시 2년 만이다. 블랙웰 다음 출시될 루빈(Rubin)은 2년 뒤인 2026년에 출시될 예정이다. 그 사이에 울트라가 투입된다.

AMD는 조금 다르지만 2024년 이후 행보는 엔비디아와 같다. 먼저 2023년 하반기에 공개한 MI300X에서 1년 단위로 업그레이드를 단행한다. MI325X와 MI350이 그 예다. 올해 4분기 중 출시될 MI325X는 HBM3e 모듈을 채택해 데이터 처리량을 늘리고, 내년 하반기에 출시할 MI350에서는 성능을 더 끌어낸다는 계획이다. 마지막 2026년에는 새로운 반도체 설계를 적용한 신제품을 내놓는다. 이 때 AMD는 엔비디아 루빈 플랫폼과 경쟁하게 된다.

AMD도 1년 주기로 인공지능 가속기를 선보일 예정이다. / 출처=IT동아

두 기업은 1년 단위 제품 출시 흐름을 가지고 치열하게 눈치 싸움을 벌일 전망이지만, 당분간은 직접 경쟁하지 않을 가능성이 높다. 엔비디아는 높은 시장 점유율과 뛰어난 성능을 강점으로 내세우지만, 공급에 대한 우려가 남아 있다. AMD는 성능과 함께 제품 도입 공백 문제를 해결할 대안이라는 점을 내세우며 빈틈을 노리는 전략이 유리하다.

과거 2년 주기가 아닌 1년 주기로 제품을 선보이기로 결정한 데에는 수요가 그만큼 증가할 것이라는 것을 예상한 결과다. 실제 인공지능 서비스 기업은 데이터센터 확대를 진행 중이다. 마이크로소프트는 미국 위스콘신주, 구글은 영국에 데이터센터 구축을 위한 투자를 시작했다. 테슬라와 아마존 등도 인공지능 패권 경쟁을 위해 데이터센터 및 기존 장비 업그레이드 등에 심혈을 기울이고 있다. 이 과정에서 많은 물량의 장비가 필요하기 때문에 자연스레 1년 단위 출시가 이뤄져도 소화에 문제가 없다고 판단했을 것이다.

엄청난 속도로 증가 중인 데이터, 네트워크 속도 경쟁도 뜨거워진다

네트워크 시스템과 관련 인프라 구축에 대한 기업의 관심도 높아지는 중이다. 점점 방대해지는 인공지능 관련 데이터를 시스템간 주고받는 것은 물론이고 일반에게 제공하려면 결국 빠르고 유연한 네트워크 전송 구조를 갖춰야 한다. 이 부분에서 엔비디아와 AMD는 다른 길로 접근했다.

엔비디아의 데이터센터 네트워크 장비는 인공지능 가속기 솔루션들과 짝을 이루는 식이다. / 출처=IT동아

엔비디아는 스펙트럼(Spectrum)-X로 대응하고 있다. 블랙웰 플랫폼에는 스펙트럼-X800 이더넷 스위치와 퀀텀(Quantum)-X800 스위치가 호흡을 맞춘다. 스펙트럼-X는 인공지능 가속기가 처리한 데이터를 순차적으로 처리했던 기존 네트워크 전송 방식이 아닌 가속기간 상호 연동을 통해 속도를 높인다. 빠른 데이터 전송을 위해 블루필드(BlueField)-3 네트워크 가속기(SuperNIC)를 쓴다. 이 장치는 1초에 400Gb를 전송할 수 있다. 또한 스펙트럼-X800 스위치 장비는 64개 네트워크 단자를 제공하며 단자당 초당 800Gb 데이터 전송을 지원한다.

현재 사양을 끌어 올리면서 루빈 플랫폼이 적용되는 시점에는 데이터 전송량을 최대 2배 끌어 올리는 것이 엔비디아의 계획이다. 기기간 데이터 전송을 지원하는 NV링크(NVLink)도 6세대에 와서는 초당 3600GB를 전송하는 게 목표다.

AMD는 인공지능 처리용 네트워크 구성을 위해 여러 기업들과 손을 잡는 것을 선택했다. / 출처=IT동아

AMD도 인공지능 가속기에서 처리되는 데이터 전송 속도를 높이기 위해 초 가속 연결(Ultra Accelerator Link) 그룹을 결성했다. 인텔, 브로드컴, 마이크로소프트, 메타, 구글, HP 등 8개 기업이 참여해 데이터센터 내 인공지능 시스템을 위한 고속ㆍ저지연 통신 기술을 논의한다. 이미 울트라 이더넷 컨소시엄(UE Consortium)을 통해 초기 기술을 개발한 것으로 알려졌다. 기본적으로 인공지능 시스템 내에서 최대 1024개 가속 연결을 지원하고 각 장치간 메모리 접근과 저장이 가능하다. 이 기술은 2024년 3분기 이후부터 적용될 예정이다.

인공지능 가속기 시장을 둘러싼 하드웨어와 인프라 경쟁은 이미 시작됐다. 시장이 빠르게 흘러갈수록 관련 기업도 발 빠르게 움직일 것으로 예상된다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	논란보다 더 욕 많이 먹어서 억울할 것 같은 스타는?	운영자	24/09/23	-	-
이슈	[디시人터뷰] '더 인플루언서' 표은지, 귀여움과 섹시함을 겸비한 모델	운영자	24/09/26	-	-
3925	[SBA x IT동아] ‘마이크로바이옴’으로 보다 나은 삶 만들 것, 윤여민 메가랩 대표	IT동아	06.14	142	0
3924	[스타트업리뷰] 건설인력 노무관리 원 클릭 시스템, 웍스메이트 ‘가다오피스’	IT동아	06.14	137	0
3923	[농업이 IT(잇)다] 네오프로틴 “노인 건강의 핵심은 근력 개선, 해법은 마육 단백질에 있습니다”	IT동아	06.14	132	0
3922	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 15	IT동아	06.13	144	0
3921	[시승기] 세단의 승차감 구현한 캐딜락 첫 전기 SUV ‘리릭’	IT동아	06.13	145	0
3920	[SBA x IT동아] 아트랩 “피부 좋아지는 법, AI가 찾아드립니다”	IT동아	06.13	135	0
3919	[스타트업 첫걸음] 창업 아이디어 검증을 위한 고려사항	IT동아	06.13	822	0
3918	[기술영업人] AI 확산의 시작과 끝을 함께하는 'AMD코리아'의 영업 전선	IT동아	06.13	432	1
3917	토요타 등 日 5개 자동차 제조사 ‘품질 인증 조작’ 파문 [2]	IT동아	06.12	561	3
3916	[리뷰] 넷기어 MS108TUP, 2.5G 이더넷에 60W PoE까지 품은 특별한 스위치	IT동아	06.12	127	0
3915	"먹통 사태 교훈 삼아 안정성 극대화"…카카오 첫 자체 데이터센터 살펴보니 [3]	IT동아	06.12	625	0
3914	장대익 가천대 스타트업칼리지 학장 “N번째 인생 전환 이끌 기업가 정신 전파”	IT동아	06.12	132	0
3913	철저한 인텔 제품 관리의 산실, 대만 인텔 OEM 연구소 가보니 [6]	IT동아	06.12	1753	0
3912	[SBA x IT동아] 세컨드팀 “검증된 해외 개발자, 슈퍼코더에 있습니다”	IT동아	06.12	141	0
3911	[자동차와 法] 자동차와 무단횡단자의 과실 비율에 대하여 [1]	IT동아	06.11	1013	0
3910	애플, 오픈AI와 밀월 시각에 선긋기··· '제 길 가는 애플 인텔리전스' [1]	IT동아	06.11	758	0
3909	[뉴스줌인] 부쩍 커진 이동식 에어컨 시장, ‘AI’와 ‘듀얼호스’로 방점 찍은 LG전자	IT동아	06.10	611	0
3908	[정구태의 디지털자산 리터러시] 2. 자산 규제와 진흥의 균형이 필요한 시점	IT동아	06.10	157	0
3907	JC? SA? 헷갈리는 도로 표지판 숙지하기! [이럴땐 이렇게!]	IT동아	06.10	865	3
3906	컴퓨텍스 2024에서 눈에 띈 강소기업들 “한국시장 기대 커” [1]	IT동아	06.07	460	0
3905	[생성 AI 길라잡이] 생성 AI 학습 과정에서 발생하는 빈번한 분쟁	IT동아	06.07	221	0
3904	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 14	IT동아	06.07	219	0
3903	글로벌 기업도, 유망 스타트업도…“어도비 서브스턴스 3D로 디지털 혁신 가능해”	IT동아	06.07	1106	0
3902	[농업이 IT(잇)다] 그랜트 “농업인의 고민 해결하는 친환경 과일 포장재, 딴딴박스”	IT동아	06.07	186	0
3901	노랑풍선, "NHN두레이 전사 도입으로 조직 내 업무 환경 통일했죠"	IT동아	06.07	184	0
3900	국내 장수 만화 IP 비즈니스의 모범 사례가 되길... '열혈강호' 30주년 콜라보 카페 방문기 [24]	IT동아	06.07	2579	2
3899	시놀로지 “눈 높은 한국 고객들 의견 수렴하며 성과 거둬”	IT동아	06.06	210	0
3898	노트북 출시 20주년 맞은 MSI, 컴퓨텍스 부스도 ‘노트북 풍년’ [14]	IT동아	06.06	7562	4
3897	‘모든 곳에 인공지능’을 위한 시작, 인텔 AI 서밋 서울 개최	IT동아	06.05	256	0
3896	시놀로지, 엔터프라이즈 솔루션 강화 ‘잰걸음’	IT동아	06.05	192	0
3895	[시승기] ‘K5 LPG 하이브리드’로 500km 주행 후 실연비 살펴보니	IT동아	06.05	403	0
3894	퀄컴 스냅드래곤X 시리즈, AI PC넘어 AI 산업도 노린다	IT동아	06.05	209	0
3893	국내 가상자산 커뮤니티 “텔레그램·카카오톡 활성화, 단기 시세에 민감”	IT동아	06.05	182	0
3892	“디지털 혁신 이끈 3D 기술, AI로 문턱 더 낮아질 것“…어도비 서브스턴스 데이에서 엿본 미래	IT동아	06.05	182	0
3891	딥엑스, 엣지 AI용 NPU 'DX-M1'으로 중국·대만 시장에서 두각	IT동아	06.05	209	0
3890	SK하이닉스, 컴퓨텍스 2024서 GDDR7, 자체 컨트롤러 등 전시	IT동아	06.05	196	0
3889	MSI, 컴퓨텍스 2024에 ‘AI+ PC’ 대거 선보이며 ‘기선제압’	IT동아	06.05	160	0
	‘연 단위 출시, 네트워크 대역 확장’ 인공지능 가속기 경쟁 달아오른다	IT동아	06.04	171	0
3887	인텔 컴퓨텍스 2024 부스 가보니··· 'AI PC 사례·제온 6 공개 눈길' [2]	IT동아	06.04	1674	0
3886	컴퓨텍스 2024 MSI 부스, ‘클로’ 8인치와 ‘AMG’ 노트북 공개로 ‘북적’	IT동아	06.04	155	0
3885	펫 겔싱어, "2030년 세계 2위 파운드리 목표··· 다음 주 18A 칩 구동"	IT동아	06.04	219	0
3884	인텔 제온6·가우디3·루나레이크까지 총 출동··· '시장 주도권 노린다'	IT동아	06.04	181	0
3883	전기차 캐즘에도 정면 돌파 택한 ‘현대차그룹’	IT동아	06.04	155	0
3882	"AI PC 시대, 피처폰에서 스마트폰 전환만큼 혁명적 도약" [1]	IT동아	06.03	727	1
3881	韓 자동차 등대공장 0개...제조공정 혁신 시급	IT동아	06.03	178	0
3880	3세대 라이젠 AIㆍ라이젠 9000 시리즈, AMD 새 CPU 제품군 대거 공개 [7]	IT동아	06.03	742	1
3879	6월부터 달라진 통신3사 요금·혜택 살펴보니 [1]	IT동아	06.03	1279	0
3878	[정구태의 디지털자산 리터러시] 1. 지금 당신이 디지털자산에 관심을 가져야할 이유	IT동아	06.03	152	0
3877	[주간투자동향] 벤디트, 80억 원 규모 프리 시리즈A 투자 유치	IT동아	06.03	789	2
3876	여름철 필수품 '선풍기', 용도·기능에 맞춰 고르는 법! [이럴땐 이렇게!]	IT동아	06.03	184	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

2년마다 새 반도체 설계 적용하고 그 사이에 성능 개선 제품 투입

엄청난 속도로 증가 중인 데이터, 네트워크 속도 경쟁도 뜨거워진다

▶ 인텔 컴퓨텍스 2024 부스 가보니··· 'AI PC 사례·제온 6 공개 눈길'▶ 컴퓨텍스 2024 MSI 부스, ‘클로’ 8인치와 ‘AMG’ 노트북 공개로 ‘북적’▶ 펫 겔싱어, "2030년 세계 2위 파운드리 목표··· 다음 주 18A 칩 구동"

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결