네이버가 지난 3년여간 비공개로 부쳐온 1세대 거대 언어 AI '하이퍼클로바(HyperCLOVA)'의 파라미터 수가 처음으로 공개됐다.



네이버는 지난 2021년 5월 자사의 1세대 생성AI '하이퍼클로바'를 발표했다. 이어 2023년 8월에는 '하이퍼클로바'를 업그레이드한 2세대 생성AI '하이퍼클로바X'를 내놓았다. 하지만 두 제품 모두 AI 성능을 좌우하는 핵심 요소인 파라미터 수는 비공개로 유지해왔다. 파라미터 수를 공개하면 AI에 투자한 비용과 성능 등을 경쟁사에 노출할 수 있기 때문에 이를 피하려는 이유였다. 따라서 '하이퍼클로바'의 파라미터 수에 대한 추측이 무성했다.



최근 발표된 '에코시스템 그래프(Ecosystem graph)'에 따르면 '하이퍼클로바'의 파라미터는 820억 개로 밝혀졌다. '에코시스템 그래프'는 미국 스탠포드 대학이 매년 1분기에 발표하는 세계 AI 생태계 조사 보고서 'AI 인덱스'의 파운데이션 모델 근거가 된다. 올해 스탠포드 'AI 인덱스'는 세계 파운데이션 모델을 소개하면서 미국, 중국에 이어 세계 세 번째로 파운데이션 모델을 발표한 네이버를 포함시키지 않았고, 이에 대한 논란이 일었다.



'하이퍼클로바'의 820억 개 파라미터에 대해 네이버클라우드 고위 관계자는 "2021년 발표한 논문에 82B라고 밝힌 바 있는데, 이 부분이 반영된 것으로 보인다"고 설명했다. 네이버보다 앞서 2020년 6월 공개된 오픈AI '챗GPT'는 파라미터 수가 1750억 개였다. 네이버가 작년 8월 발표한 '하이퍼클로바X'의 파라미터는 이번 '에코시스템 그래프'에도 비공개(unknown)로 명기됐다.



파라미터는 사용자가 원하는 방식으로 자료를 처리하기 위해 명령어 입력 시 추가하거나 변경하는 수치 정보를 말한다. AI 모델의 성능과 직접적으로 연관돼 있다. 파라미터 수가 많을수록 메모리 용량이 커지고 성능도 향상된다. 파라미터 하나는 보통 2바이트이므로 AI 모델에 필요한 메모리는 파라미터 수 곱하기 2를 하면 된다. 예컨대 파라미터가 70억 개인 모델은 GPU가 14GB 정도 메모리를 필요로 한다.



이번에 공개된 '하이퍼클로바'의 파라미터 수는 네이버가 AI 기술 발전에 얼마나 많은 노력을 기울였는지를 보여주는 지표다. 이는 앞으로 네이버의 AI 기술이 더욱 발전하고, 글로벌 시장에서의 경쟁력을 높이는 데 기여할 것으로 기대된다.