PC 전반으로 확대되는 인공지능 서비스, 어디까지 왔나?

IT동아 · 2024.07.03 23:58:35

인공지능 서비스 경쟁에 속도가 붙고 있다. 마이크로소프트도 코파일럿을 앞세워 시장 장악에 나섰다. / 출처=마이크로소프트

[IT동아 강형석 기자] 생성형 인공지능 기술이 빠른 속도로 성장하면서 관련 서비스도 산업 전반에 걸쳐 광범위하게 적용되고 있다. 우리가 흔히 쓰는 검색, 문서 작업 등에 인공지능이 적용된 것은 기본이고 사진영상 창작과 음성 분석 등을 활용한 것도 등장했을 정도다. 과거 구글 딥마인드와 이세돌과의 바둑 대결은 인공지능 시대의 서막을 알린 사건이었다면 오픈AI 챗(Chat)-GPT의 등장은 본격적인 인공지능 시대에 들어섰음을 보여준다.

지금까지 인공지능이 서비스 성숙도에 초점을 두고 있었다면 이제 누구나 쓸 수 있는 환경 구축에 뛰어들고 있다. 온라인이 아닌 기기 자체에서 인공지능을 처리하는, 이른바 ‘온-디바이스 인공지능(On-Device AI)’을 준비하겠다는 것이다. 인텔, AMD를 주축으로 기존 PC 시스템에 신경망 처리장치(NPU)를 탑재하며 차세대 시장 경쟁을 시작한 게 대표적이다. 모바일 기기용 칩에 NPU를 탑재해 온 퀄컴도 PC 시장 경쟁을 시작했다. 독자 생태계를 구축해 온 애플도 인공지능 카드를 꺼내 들었다.

오래전부터 자체 인공지능 처리 능력을 갖추기 시작한 모바일 기기와 달리 PC 시스템은 지난해부터 본격적인 대비에 나선 상황이다. 올해는 마이크로소프트가 코파일럿+ PC를 제안하며 생태계 구성을 위한 판을 짜는 중이다. 이제 온-디바이스 서비스가 대거 등장할 차례다.

다양한 개인용 소프트웨어에서 인공지능 지원하지만, 대부분 ‘온-디멘드’ 방식

인공지능 서비스는 크게 두 가지다. 하나는 데이터를 온라인으로 처리하는 ‘온-디멘드(On-Demand) AI’와 기기 자체에서 처리하는 ‘온-디바이스(On-Device) AI’다. 각각의 장단점은 존재한다. 온-디멘드 방식은 이미 데이터 학습이 끝난 기업의 대규모 클라우드 서버를 활용해 명령어를 보내고 그에 따른 결과를 얻는다. 높은 정확도를 기대할 수 있지만, 네트워크 환경에 많은 영향을 받는다. 온-디바이스 방식은 기기 내에서 인공지능 데이터를 처리한다. 기기에서 즉시 처리하므로 처리속도는 빠르지만, 내 장치 내에 있는 한정된 자원을 가지고 인공지능을 처리하니 정확도는 아쉬울 수 있다.

스마트폰을 예로 보면 이렇다. 지금은 다양한 서비스가 있으나 초창기 온-디바이스 AI는 음성비서와 검색 등 제한적이었다. 지금은 이미지를 분석해 분류하거나 편집에 도움을 주고 통역까지 도맡는 등 활용도가 크게 확대됐다. PC는 아직 이 정도 수준에 도달한 상황은 아니다. 현재 PC 상에서 서비스되는 대부분 인공지능 서비스는 온-디바이스가 아니라 온-디멘드 방식으로 운영되고 있다. 온라인 연결이 없으면 사실상 무용지물인 셈이다.

현재 윈도우 11 운영체제 내에서 제공되는 인공지능 기능은 온라인 연결이 필요하다. 향후 일부 기능은 PC 자체에서 쓸 수 있게 될 전망이다. / 출처=IT동아

온-디바이스 AI를 경험하려면 조금 더 기다려야 된다. 마이크로소프트가 윈도우 11 내에 인공지능 기능을 대거 추가하며 편의성을 갖출 예정이다. 아직 온라인 서비스 중심으로 운영되지만, 업데이트를 통해 온-디바이스 AI 서비스를 제공할 예정이다. 대형언어모델(LLM)에 적합한 것은 지금처럼 클라우드에서 제공하고 소형언어모델(SLM)에 적합한 서비스를 온-디바이스로 구현한다는 방침이다.

대표적으로 영상 콘텐츠를 감상할 때 기기 내 신경망 처리장치를 활용, 실시간 번역을 진행한다. 그림판, 사진 앱도 기기 내에서 처리될 수 있게 바꾼다. 특히 그림판 내에 ‘이미지 크리에이터’ 기능을 추가해 인공지능 기반 그림 생성이 가능하다. 기본 제공되는 것은 아니고 신청한 사용자에 한해 체험판을 제공 중이다.

이 외 서비스 대부분은 온라인 연결이 필수다. 대표적으로 어도비 크리에이티브 클라우드(Creative Cloud) 내에 있는 라이트룸, 포토샵, 프리미어 등 주요 소프트웨어에서 인공지능 기능을 경험하려면 온라인 연결이 필요하다. 마이크로소프트 365에서도 인공지능 힘을 빌리려면 온라인 연결이 이뤄져야 한다.

국내 서비스도 마찬가지다. 한컴 오피스도 인공지능 서비스, 한컴독스 AI를 제공한다. 설치형은 인공지능 기능이 없고 브라우저를 활용해 온라인 연결 후 써야 된다. 폴라리스 오피스는 온-디바이스 오피스 AI 솔루션을 선보였는데 윈도우 PC가 아닌 맥 OS 기반 PC에서만 쓸 수 있다.

엔비디아의 챗 위드 RTX(Chat With RTX)는 PC에 설치하면 온-디바이스 AI 서비스처럼 파일을 찾거나 내용을 검색하는 식으로 활용 가능하다. 단, 지포스 RTX 30 시리즈 이상 그래픽카드가 있어야 된다. / 출처=IT동아

엔비디아가 배포하고 있는 ‘챗 위드 RTX(Chat With RTX)’는 어떻게 보면 온-디바이스 AI 서비스라 봐도 무방하다. 시스템 내에 인공지능 언어 묶음과 구동 소프트웨어를 설치하면 쓸 수 있다. 필요한 파일을 검색한다거나 내용을 정리하는 등 편리하게 쓸 수 있다. 다만 엔비디아에서 개발한 것이기에 지포스 그래픽카드, 그것도 RTX 30 시리즈 이상 그래픽카드가 필요하다는 제약이 따른다.

산업용 PC 기반 ‘온-디바이스 AI’는 제한적이지만 움직임은 있다

일반 소비자용 PC 시스템에서 온-디바이스 AI 기능은 제한적으로 구현된 상태다. 이는 산업군도 마찬가지다. 규모에 상관없이 자체 데이터센터를 구축, 온-프레미스(On-Premise) 형태로 인공지능 학습과 추론을 진행하는 수준이 아니라면 대부분 온라인 접속이 필요하다. 다만 환경은 갖춰졌으나 인공지능 개발, 적용이 어려운 시장에 대응하는 소프트웨어 수는 점차 느는 추세다.

뉴로-T 서비스의 학습 과정은 클라우드가 아닌 자체 시스템에서도 진행 가능한 구조다. 어떻게 보면 온-디바이스 형태에 가깝다. / 출처=뉴로클

뉴로클의 뉴로(Neuro)-T는 딥러닝 비전검사 솔루션으로 접속 인증과 업데이트, 기술지원 등의 절차가 온라인으로 진행되지만, 데이터 학습은 자체 보유한 장비 내에서 이뤄진다. 프로젝트 계획부터 데이터 관리, 레이블링, 검사 모델 학습, 성능 검토까지 가능하다. 별도로 인공지능 전문가를 쓰지 않아도 소프트웨어 내에서 쉽게 다룰 수 있다. 데이터 운용에 대해 보수적이거나 인공지능 적용 범위가 한정적인 시장에서는 최적의 형태다.

인공지능 적용 방식은 다른 것과 다르지 않다. 비슷한 형태의 이미지를 계속 학습시킨 후 현장에 적용하면 축적된 학습 자료를 바탕으로 결과를 내놓는다. 예로 생산현장에서 만들어진 톱니바퀴 중 불량 사례를 계속 학습시키면 추후 비슷한 사례를 바탕으로 검수해 주는 식이다.

온-디바이스 형태에 가깝다 보니까 인공지능 처리가 가능한 시스템이 필요하다. 인텔 코어 i7 급 이상 중앙처리장치(CPU), 최소 지포스 RTX 3080급 이상 또는 지포스 RTX 4080 이상 그래픽 처리장치(GPU) 등을 요구한다. 여러 데이터를 다루니 메모리 또한 64GB 가량 확보해야 된다.

이 외에 로봇, 유통 등 특수한 운용 환경에 맞춘 온-프레미스(온-디바이스) 인공지능 서비스도 존재한다. 그러나 당분간 산업용 인공지능 시장은 클라우드 서비스와 자체 운용 방식으로 양분되리라 예상된다.

아직 잠잠해 보이는 온-디바이스 AI 소프트웨어 시장. 속을 들여다보면 준비는 착실히 이뤄지고 있다. 2024년 3월, 국내 인공지능 PC 생태계 확충을 위해 인텔코리아를 중심으로 소프트웨어 및 하드웨어 기업, 교육 기관 등 총 17개 기업 및 기관이 모인 '한국 인공지능 PC 얼라이언스(K-APA)'가 결성됐다. 솔트룩스, 폴라리스 오피스, 이스트소프트 등 소프트웨어와 서비스 기업이 이름을 올린 상태다. 온-디멘드 방식 서비스 외에도 온-디바이스 기반 서비스 구현도 기대해 볼 부분이다. 생각과 접근 방식은 달라도 인공지능 시대를 향해 발 빠르게 움직이고 있는 점은 같다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
4556	전문가가 제시하는 스타트업 ESG 경영 전략…’2024 서울 스타트업 ESG 포럼’	IT동아	11.21	18	0
4555	수원대학교 'WoW 스타트업 브랜치 오픈이노베이션' 개최	IT동아	11.21	20	0
4554	[스타트업리뷰] 로닉 “인공지능 맞춤형 음식 도우미, AI 로봇셰프 큐브”	IT동아	11.21	2014	0
4553	[IT기획자의 탄생] 3. IT기획자에게 필요한 상상력과 글로벌 전략	IT동아	11.21	35	0
4552	[IT’s 가성비] 삼성 크리스탈 UHD TV, 2024년형/85인치 모델에 눈길?	IT동아	11.21	1785	0
4551	[스케일업] 클리카 [3] 피터 노빅과의 대담으로 살펴본 'AI 스타트업'의 방향성	IT동아	11.21	34	0
4550	[생활 속 IT] LG 가전 활용도 넓히는 'LG ThinQ' 연결 및 사용법	IT동아	11.21	28	0
4549	[생활 속 IT] 소프트웨어 활용 습관 바꿔줄 윈도 11 ‘가상 데스크톱’ [1]	IT동아	11.20	81	0
4548	[부산창경 BEF 2024] 기술로 문제 풀이와 오답 노트 작성 효율 높인 ‘프라이머스’	IT동아	11.20	49	0
4547	IBM-연세대, 슈퍼컴 능가하는 127 큐비트 양자컴퓨터 국내 첫 도입 [3]	IT동아	11.20	4764	4
4546	[주간스타트업동향] 휴머닉스, 위플로 CES 2025 혁신상 수상 外	IT동아	11.20	101	0
4545	[부산창경 BEF 2024] 만만한녀석들 “모듈형 집기로 친환경 MICE 산업 선도한다”	IT동아	11.20	48	0
4544	[부산창경 BEF 2024] 나누기월드 “외국인 유학생, 장애인 문제 해결에 기여” [4]	IT동아	11.20	255	0
4543	선박 제조업의 디지털 전환 이끄는 ‘버추얼 트윈’ 기술	IT동아	11.19	77	0
4542	에릭슨엘지 “네트워크도 API로 제공…개발자 참여 독려해야”	IT동아	11.19	77	0
4541	[IT애정남] 노트북 SSD의 OEM 파티션, 삭제해도 되나요?	IT동아	11.19	81	0
4540	[부산창경 BEF 2024] 그린에너지(주) “산업 현장 악취·유해물질 플라즈마로 해결”	IT동아	11.19	81	0
4539	[자동차와 法] 행락철 교통사고 책임과 법적 대처 방안	IT동아	11.19	670	0
4538	아이작 컨셉츠 김태영 대표, "반도체·열유체 공학의 산학협력 교두보 만들겠다"	IT동아	11.19	78	0
4537	[시승기] 돋보이는 디자인과 안전 사양 ‘KGM 액티언’ [1]	IT동아	11.18	357	0
4536	+불필요한 PC 앱, 지우려면 이렇게! [이럴땐 이렇게!] [1]	IT동아	11.18	5095	5
4535	[스케일업] 반프 [3] 정예솔 전략총괄 “반프의 가치, 글로벌 시장에서도 매력적”	IT동아	11.18	109	0
4534	[주간투자동향] 숨빗AI, 50억 원 규모 시드 투자 유치 外	IT동아	11.18	101	0
4533	[투자를IT다] 2024년 11월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	11.16	201	0
4532	[스케일업] 보라웨어 [2] 전영복ㆍ이효주 “구성원 복지ㆍ기업 성장이 공존하는 곳”	IT동아	11.15	195	0
4531	[생성 AI 길라잡이] 8종의 AI 모델 골라 쓰는 ‘SKT 에이닷’ 웹 버전	IT동아	11.15	183	0
4530	디지포레, “제조산업의 디지털 전환, ‘팩토리얼 프로’로 앞당길 것"	IT동아	11.15	176	0
4529	[리뷰] 모니터링 헤드폰의 새로운 기준점 제시, 소니 MDR-M1 [5]	IT동아	11.15	6196	1
4528	[2024 고려대] 스페이스점프 “자영업·소상공인 기자재의 모든 것, 소상공간”	IT동아	11.15	168	0
4527	퀄컴, 온디바이스 AI·차량 전동화에 초점 맞춘 최신 솔루션 선보여	IT동아	11.15	188	0
4526	[창업도약+경북대] 비빔블 “비커스ㆍ버튜디오로 상상 이상의 가상경험 제공할 것”	IT동아	11.15	145	0
4525	[AI와 미래] 기존 저작물은 AI 학습에 어디까지 활용할 수 있을까?	IT동아	11.15	1365	0
4524	[월간자동차] 24년 10월, 신차 등록 두 달 연속 증가…싼타페 판매 1위	IT동아	11.15	140	0
4523	[리뷰] 10G 업링크 지원 네트워크 스위치, 넷기어 GS108MX	IT동아	11.14	169	0
4522	데이터 주권 강조하는 소버린 AI, 진정한 의미는? [1]	IT동아	11.14	702	0
4521	[스케일업] 스쿨버스 [3] 통학버스 전문 플랫폼 개발자 인터뷰	IT동아	11.14	170	0
4520	[UDC 2024] 다양한 산업을 변화시키는 블록체인의 힘	IT동아	11.14	163	0
4519	로봇과 문화예술의 만남, 브이디컴퍼니x장 줄리앙의 종이세상	IT동아	11.14	319	0
4518	[IT애정남] 갤럭시워치를 아이폰과 연결해서 쓸 수 있나요?	IT동아	11.13	4655	0
4517	[신차공개] BMW ‘뉴 4시리즈 그란 쿠페’·로터스 ‘에메야’ 공식 출시 [3]	IT동아	11.13	4760	1
4516	[스타트업-ing] 오아시스 스튜디오 “OVP·오닉스·디보틀로 콘텐츠 에코시스템 구축”	IT동아	11.13	174	0
4515	[생활 속 IT] 취업 서류, 정부24에서 내려받는 법	IT동아	11.12	208	0
4514	기한 지나면 과태료…운전면허 적성검사 및 갱신 방법 살펴보니	IT동아	11.12	2387	3
4513	[창업도약+경북대] 준컴퍼니 “자동차 구매부터 판매까지 아우르는 모빌리티 통합 플랫폼 꿈꾼다”	IT동아	11.12	199	0
4512	[스케일업] 모넷코리아 [2] HDC랩스와 협업 통해 AIoT 기반 부동산 관리 플랫폼 고도화	IT동아	11.12	231	0
4511	[2024 고려대] R2C컴퍼니 “데이터 수요·공급자 만족 이끄는 플랫폼”	IT동아	11.12	649	0
4510	갤럭시 스마트폰의 위젯 기능, 제대로 쓰려면?	IT동아	11.12	257	1
4509	[AWS 인더스트리 위크 2024] 국내 금융/핀테크 기업에 AWS 솔루션은 이렇게 적용됐다 [1]	IT동아	11.11	2042	1
4508	'제조 스타트업 대상으로 소싱디렉팅·제품 제작까지'··· 서울과기대의 실질적 지원 들여다보니	IT동아	11.11	219	0
4507	[AWS 인더스트리 위크 2024] AWS가 실현하고 있는 인공지능 기술의 현재	IT동아	11.11	277	0
뉴스	'텐트 밖은 유럽' 공포의 활화산 앞에서 역대급 캠핑, 줄리아 로버츠도 사랑한 나폴리 피자의 맛은?	디시트렌드	11.21

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

다양한 개인용 소프트웨어에서 인공지능 지원하지만, 대부분 ‘온-디멘드’ 방식

산업용 PC 기반 ‘온-디바이스 AI’는 제한적이지만 움직임은 있다

▶ 6G 시대 준비하는 노키아, ‘기술 비전 2030’ 선보여▶ LG유플러스 'AI 올인' 선언…"1.3조 투자해 매출 2조 달성"▶ 삼성전자, LCD 탑재한 '비스포크 AI 콤보' 신제품 출시

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결

▶ 6G 시대 준비하는 노키아, ‘기술 비전 2030’ 선보여 ▶ LG유플러스 'AI 올인' 선언…"1.3조 투자해 매출 2조 달성"▶ 삼성전자, LCD 탑재한 '비스포크 AI 콤보' 신제품 출시