PC 전반으로 확대되는 인공지능 서비스, 어디까지 왔나?

IT동아 · 2024.07.03 23:58:35

인공지능 서비스 경쟁에 속도가 붙고 있다. 마이크로소프트도 코파일럿을 앞세워 시장 장악에 나섰다. / 출처=마이크로소프트

[IT동아 강형석 기자] 생성형 인공지능 기술이 빠른 속도로 성장하면서 관련 서비스도 산업 전반에 걸쳐 광범위하게 적용되고 있다. 우리가 흔히 쓰는 검색, 문서 작업 등에 인공지능이 적용된 것은 기본이고 사진영상 창작과 음성 분석 등을 활용한 것도 등장했을 정도다. 과거 구글 딥마인드와 이세돌과의 바둑 대결은 인공지능 시대의 서막을 알린 사건이었다면 오픈AI 챗(Chat)-GPT의 등장은 본격적인 인공지능 시대에 들어섰음을 보여준다.

지금까지 인공지능이 서비스 성숙도에 초점을 두고 있었다면 이제 누구나 쓸 수 있는 환경 구축에 뛰어들고 있다. 온라인이 아닌 기기 자체에서 인공지능을 처리하는, 이른바 ‘온-디바이스 인공지능(On-Device AI)’을 준비하겠다는 것이다. 인텔, AMD를 주축으로 기존 PC 시스템에 신경망 처리장치(NPU)를 탑재하며 차세대 시장 경쟁을 시작한 게 대표적이다. 모바일 기기용 칩에 NPU를 탑재해 온 퀄컴도 PC 시장 경쟁을 시작했다. 독자 생태계를 구축해 온 애플도 인공지능 카드를 꺼내 들었다.

오래전부터 자체 인공지능 처리 능력을 갖추기 시작한 모바일 기기와 달리 PC 시스템은 지난해부터 본격적인 대비에 나선 상황이다. 올해는 마이크로소프트가 코파일럿+ PC를 제안하며 생태계 구성을 위한 판을 짜는 중이다. 이제 온-디바이스 서비스가 대거 등장할 차례다.

다양한 개인용 소프트웨어에서 인공지능 지원하지만, 대부분 ‘온-디멘드’ 방식

인공지능 서비스는 크게 두 가지다. 하나는 데이터를 온라인으로 처리하는 ‘온-디멘드(On-Demand) AI’와 기기 자체에서 처리하는 ‘온-디바이스(On-Device) AI’다. 각각의 장단점은 존재한다. 온-디멘드 방식은 이미 데이터 학습이 끝난 기업의 대규모 클라우드 서버를 활용해 명령어를 보내고 그에 따른 결과를 얻는다. 높은 정확도를 기대할 수 있지만, 네트워크 환경에 많은 영향을 받는다. 온-디바이스 방식은 기기 내에서 인공지능 데이터를 처리한다. 기기에서 즉시 처리하므로 처리속도는 빠르지만, 내 장치 내에 있는 한정된 자원을 가지고 인공지능을 처리하니 정확도는 아쉬울 수 있다.

스마트폰을 예로 보면 이렇다. 지금은 다양한 서비스가 있으나 초창기 온-디바이스 AI는 음성비서와 검색 등 제한적이었다. 지금은 이미지를 분석해 분류하거나 편집에 도움을 주고 통역까지 도맡는 등 활용도가 크게 확대됐다. PC는 아직 이 정도 수준에 도달한 상황은 아니다. 현재 PC 상에서 서비스되는 대부분 인공지능 서비스는 온-디바이스가 아니라 온-디멘드 방식으로 운영되고 있다. 온라인 연결이 없으면 사실상 무용지물인 셈이다.

현재 윈도우 11 운영체제 내에서 제공되는 인공지능 기능은 온라인 연결이 필요하다. 향후 일부 기능은 PC 자체에서 쓸 수 있게 될 전망이다. / 출처=IT동아

온-디바이스 AI를 경험하려면 조금 더 기다려야 된다. 마이크로소프트가 윈도우 11 내에 인공지능 기능을 대거 추가하며 편의성을 갖출 예정이다. 아직 온라인 서비스 중심으로 운영되지만, 업데이트를 통해 온-디바이스 AI 서비스를 제공할 예정이다. 대형언어모델(LLM)에 적합한 것은 지금처럼 클라우드에서 제공하고 소형언어모델(SLM)에 적합한 서비스를 온-디바이스로 구현한다는 방침이다.

대표적으로 영상 콘텐츠를 감상할 때 기기 내 신경망 처리장치를 활용, 실시간 번역을 진행한다. 그림판, 사진 앱도 기기 내에서 처리될 수 있게 바꾼다. 특히 그림판 내에 ‘이미지 크리에이터’ 기능을 추가해 인공지능 기반 그림 생성이 가능하다. 기본 제공되는 것은 아니고 신청한 사용자에 한해 체험판을 제공 중이다.

이 외 서비스 대부분은 온라인 연결이 필수다. 대표적으로 어도비 크리에이티브 클라우드(Creative Cloud) 내에 있는 라이트룸, 포토샵, 프리미어 등 주요 소프트웨어에서 인공지능 기능을 경험하려면 온라인 연결이 필요하다. 마이크로소프트 365에서도 인공지능 힘을 빌리려면 온라인 연결이 이뤄져야 한다.

국내 서비스도 마찬가지다. 한컴 오피스도 인공지능 서비스, 한컴독스 AI를 제공한다. 설치형은 인공지능 기능이 없고 브라우저를 활용해 온라인 연결 후 써야 된다. 폴라리스 오피스는 온-디바이스 오피스 AI 솔루션을 선보였는데 윈도우 PC가 아닌 맥 OS 기반 PC에서만 쓸 수 있다.

엔비디아의 챗 위드 RTX(Chat With RTX)는 PC에 설치하면 온-디바이스 AI 서비스처럼 파일을 찾거나 내용을 검색하는 식으로 활용 가능하다. 단, 지포스 RTX 30 시리즈 이상 그래픽카드가 있어야 된다. / 출처=IT동아

엔비디아가 배포하고 있는 ‘챗 위드 RTX(Chat With RTX)’는 어떻게 보면 온-디바이스 AI 서비스라 봐도 무방하다. 시스템 내에 인공지능 언어 묶음과 구동 소프트웨어를 설치하면 쓸 수 있다. 필요한 파일을 검색한다거나 내용을 정리하는 등 편리하게 쓸 수 있다. 다만 엔비디아에서 개발한 것이기에 지포스 그래픽카드, 그것도 RTX 30 시리즈 이상 그래픽카드가 필요하다는 제약이 따른다.

산업용 PC 기반 ‘온-디바이스 AI’는 제한적이지만 움직임은 있다

일반 소비자용 PC 시스템에서 온-디바이스 AI 기능은 제한적으로 구현된 상태다. 이는 산업군도 마찬가지다. 규모에 상관없이 자체 데이터센터를 구축, 온-프레미스(On-Premise) 형태로 인공지능 학습과 추론을 진행하는 수준이 아니라면 대부분 온라인 접속이 필요하다. 다만 환경은 갖춰졌으나 인공지능 개발, 적용이 어려운 시장에 대응하는 소프트웨어 수는 점차 느는 추세다.

뉴로-T 서비스의 학습 과정은 클라우드가 아닌 자체 시스템에서도 진행 가능한 구조다. 어떻게 보면 온-디바이스 형태에 가깝다. / 출처=뉴로클

뉴로클의 뉴로(Neuro)-T는 딥러닝 비전검사 솔루션으로 접속 인증과 업데이트, 기술지원 등의 절차가 온라인으로 진행되지만, 데이터 학습은 자체 보유한 장비 내에서 이뤄진다. 프로젝트 계획부터 데이터 관리, 레이블링, 검사 모델 학습, 성능 검토까지 가능하다. 별도로 인공지능 전문가를 쓰지 않아도 소프트웨어 내에서 쉽게 다룰 수 있다. 데이터 운용에 대해 보수적이거나 인공지능 적용 범위가 한정적인 시장에서는 최적의 형태다.

인공지능 적용 방식은 다른 것과 다르지 않다. 비슷한 형태의 이미지를 계속 학습시킨 후 현장에 적용하면 축적된 학습 자료를 바탕으로 결과를 내놓는다. 예로 생산현장에서 만들어진 톱니바퀴 중 불량 사례를 계속 학습시키면 추후 비슷한 사례를 바탕으로 검수해 주는 식이다.

온-디바이스 형태에 가깝다 보니까 인공지능 처리가 가능한 시스템이 필요하다. 인텔 코어 i7 급 이상 중앙처리장치(CPU), 최소 지포스 RTX 3080급 이상 또는 지포스 RTX 4080 이상 그래픽 처리장치(GPU) 등을 요구한다. 여러 데이터를 다루니 메모리 또한 64GB 가량 확보해야 된다.

이 외에 로봇, 유통 등 특수한 운용 환경에 맞춘 온-프레미스(온-디바이스) 인공지능 서비스도 존재한다. 그러나 당분간 산업용 인공지능 시장은 클라우드 서비스와 자체 운용 방식으로 양분되리라 예상된다.

아직 잠잠해 보이는 온-디바이스 AI 소프트웨어 시장. 속을 들여다보면 준비는 착실히 이뤄지고 있다. 2024년 3월, 국내 인공지능 PC 생태계 확충을 위해 인텔코리아를 중심으로 소프트웨어 및 하드웨어 기업, 교육 기관 등 총 17개 기업 및 기관이 모인 '한국 인공지능 PC 얼라이언스(K-APA)'가 결성됐다. 솔트룩스, 폴라리스 오피스, 이스트소프트 등 소프트웨어와 서비스 기업이 이름을 올린 상태다. 온-디멘드 방식 서비스 외에도 온-디바이스 기반 서비스 구현도 기대해 볼 부분이다. 생각과 접근 방식은 달라도 인공지능 시대를 향해 발 빠르게 움직이고 있는 점은 같다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	축의금 적게 내면 눈치 줄 것 같은 스타는?	운영자	24/11/11	-	-
4523	[리뷰] 10G 업링크 지원 네트워크 스위치, 넷기어 GS108MX	IT동아	18:24	11	0
4522	데이터 주권 강조하는 소버린 AI, 진정한 의미는?	IT동아	18:05	154	0
4521	[스케일업] 스쿨버스 [3] 통학버스 전문 플랫폼 개발자 인터뷰	IT동아	17:27	11	0
4520	[UDC 2024] 다양한 산업을 변화시키는 블록체인의 힘	IT동아	16:01	13	0
4519	로봇과 문화예술의 만남, 브이디컴퍼니x장 줄리앙의 종이세상	IT동아	08:09	173	0
4518	[IT애정남] 갤럭시워치를 아이폰과 연결해서 쓸 수 있나요?	IT동아	11.13	4470	0
4517	[신차공개] BMW ‘뉴 4시리즈 그란 쿠페’·로터스 ‘에메야’ 공식 출시 [3]	IT동아	11.13	4455	1
4516	[스타트업-ing] 오아시스 스튜디오 “OVP·오닉스·디보틀로 콘텐츠 에코시스템 구축”	IT동아	11.13	43	0
4515	[생활 속 IT] 취업 서류, 정부24에서 내려받는 법	IT동아	11.12	83	0
4514	기한 지나면 과태료…운전면허 적성검사 및 갱신 방법 살펴보니	IT동아	11.12	2214	3
4513	[창업도약+경북대] 준컴퍼니 “자동차 구매부터 판매까지 아우르는 모빌리티 통합 플랫폼 꿈꾼다”	IT동아	11.12	74	0
4512	[스케일업] 모넷코리아 [2] HDC랩스와 협업 통해 AIoT 기반 부동산 관리 플랫폼 고도화	IT동아	11.12	113	0
4511	[2024 고려대] R2C컴퍼니 “데이터 수요·공급자 만족 이끄는 플랫폼”	IT동아	11.12	530	0
4510	갤럭시 스마트폰의 위젯 기능, 제대로 쓰려면?	IT동아	11.12	134	1
4509	[AWS 인더스트리 위크 2024] 국내 금융/핀테크 기업에 AWS 솔루션은 이렇게 적용됐다 [1]	IT동아	11.11	1798	1
4508	'제조 스타트업 대상으로 소싱디렉팅·제품 제작까지'··· 서울과기대의 실질적 지원 들여다보니	IT동아	11.11	107	0
4507	[AWS 인더스트리 위크 2024] AWS가 실현하고 있는 인공지능 기술의 현재	IT동아	11.11	164	0
4506	한국IBM “디지털 트윈에 생성형 AI 결합…설비 자산 관리 고도화”	IT동아	11.11	92	0
4505	자동차 타이어에 적힌 숫자와 영어 의미 파악은 이렇게! [이럴땐 이렇게]	IT동아	11.11	562	1
4504	[투자를IT다] 2024년 11월 1주차 IT기업 주요 소식과 주가 흐름	IT동아	11.08	224	0
4503	스미싱 문자, 보안 앱 없이 구별할 수 있다?	IT동아	11.08	214	0
4502	복잡한 쇼핑몰에서 간편하게 매장 찾는 법, 카카오맵 실내지도	IT동아	11.08	215	0
4501	[스케일업] 스쿨버스 [2] 통학버스 전문 플랫폼 도입 ‘우촌유아학교’	IT동아	11.08	198	0
4500	[리뷰] 4K와 360Hz 골라 쓰는 게이밍 모니터, 델 에일리언웨어 27(AW2725QF) [3]	IT동아	11.08	4926	1
4499	[고려대 미래내일] 청년 일경험 성과발표회 “더 많은 기술 인재와 접점 만들 것”	IT동아	11.08	200	0
4498	김현우 SBA 대표 연임...''서울 경쟁력 혁신에 힘 보탤 것"	IT동아	11.07	223	0
4497	네이버 ‘문서 이해 도우미’로 긴 글도 세 줄 요약 [7]	IT동아	11.07	1007	1
4496	[창업도약+경북대] 별따러가자 “라이더 로그에 안전한 소형 모빌리티를 위한 고민을 담았습니다”	IT동아	11.07	253	0
4495	제트플로우 “양봉 농가 문제 해결하는 AI 기반 말벌 퇴치 장치” [동국대학교 캠퍼스타운]	IT동아	11.07	201	0
4494	[2024 고려대] ZD벤처스 “가장 젊은 스타트업 투자사” [7]	IT동아	11.07	5469	2
4493	[리뷰] 2세대 3D V-캐시로 완성도 높였다 ‘라이젠 7 9800X3D' [4]	IT동아	11.06	2140	5
4492	네이버 지도로 예상 연료비와 통행료 확인하기	IT동아	11.06	217	0
4491	성북구 1인 창조기업 지원센터 스타트업을 만나다 [2]	IT동아	11.06	243	0
4490	[스타트업-ing] 그린재킷 임시아 대표 "아직도 골프장 갈 때 현금 찾으세요?"	IT동아	11.06	414	0
4489	스팸 문자, 아이폰 기본 설정으로 간단하게 차단하자	IT동아	11.05	241	0
4488	업무 카톡으로 스트레스 받는다면? - 업무용 채팅방 분리하기	IT동아	11.05	240	0
4487	개인 소유 차량으로 수익 창출할 방안 마련된다	IT동아	11.05	234	0
4486	北, 세계 가상화폐 탈취액 3분의 1 차지…민간기업, 사이버 보안 강화 절실 [8]	IT동아	11.05	2075	2
4485	다 똑같이 생긴 USB, 색상·형태로 규격 구분 하는 방법은? [2]	IT동아	11.05	5564	7
4484	[자동차와 法] 전기차와 자율주행차 시대를 향한 자동차 보험 규정의 변화와 전망	IT동아	11.05	4556	0
4483	[KIDP 울산] 휴원스, "뇌압비 측정 장비, 디자인 개선으로 완성도 높여"	IT동아	11.05	215	0
4482	챕터코리안 “한국어 교육으로 외국인 한국 정착 지원” [동국대학교 캠퍼스타운]	IT동아	11.05	271	0
4481	[뉴스줌인] 갤럭시 S24 FE 출시, 성능∙가격 모두 좋은데 무게가 좀? [12]	IT동아	11.04	2741	0
4480	희비 교차 중인 빅테크ㆍ반도체 기업 실적, 향후 시장은?	IT동아	11.04	260	0
4479	[스케일업] 클리카 [2] AI 모델 최적화를 위한 여정, 클리카의 '딥러닝 연구원' 이야기	IT동아	11.04	221	0
4478	1종 자동면허 시험 본격 시행...기능시험에 전기차 배치도 추진	IT동아	11.04	219	0
4477	갤럭시 스마트폰 바탕 화면·앱·폴더 활용 한 눈에	IT동아	11.04	260	0
4476	어린이용 헤드폰 고를 때는 이렇게! [이럴땐 이렇게!]	IT동아	11.04	216	0
4475	[주간투자동향] 라이드플럭스, 260억 원 규모 시리즈B 투자 유치 外	IT동아	11.04	601	0
4474	고려대 “해외 특허 플랫폼 수익화, 기술 보호·발전 동시에” [4]	IT동아	11.04	2103	2

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

다양한 개인용 소프트웨어에서 인공지능 지원하지만, 대부분 ‘온-디멘드’ 방식

산업용 PC 기반 ‘온-디바이스 AI’는 제한적이지만 움직임은 있다

▶ 6G 시대 준비하는 노키아, ‘기술 비전 2030’ 선보여▶ LG유플러스 'AI 올인' 선언…"1.3조 투자해 매출 2조 달성"▶ 삼성전자, LCD 탑재한 '비스포크 AI 콤보' 신제품 출시

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결

▶ 6G 시대 준비하는 노키아, ‘기술 비전 2030’ 선보여 ▶ LG유플러스 'AI 올인' 선언…"1.3조 투자해 매출 2조 달성"▶ 삼성전자, LCD 탑재한 '비스포크 AI 콤보' 신제품 출시