디시인사이드 갤러리

야간모드

야간 모드를 이용해 보세요

GPT매거진 갤러리

갤러리 이슈박스, 최근방문 갤러리

개념글 리스트

1/3
이미지
주운 카드로 골드바를? 분실카드 117번 긁었다.jpg https://youtu.be/u8-ESJTD8kk?si=oT7Jefr3QUPJweaP 주운 카드로 골드바를?…분실카드 '117번' 긁었다｜지금 이 장면주운 카드로 250만원 상당의 골드바를 사려던 한 남성이 붙잡혔습니다. 이 남성이 내민 카드가 잔액부족으로 결제가 되지 않았고 신고를 받고 출동한 경찰에 결국 덜미를 잡혔습니다. 경찰 조사 결과 이 남성은 지난 5개월 동안 분실한 카드로 117번 결제해 모두 370여만원을 쓴 걸로...youtu.be이야 근데 5개월 동안 117번 긁어서 370만원밖에 못 썼으면 가성비 ㅈㄴ안 나오네... 개잡범이네 ... 작성자 : ㅇㅇ고정닉

갤러리 본문 영역

엔비디아, PC용 개인 AI 챗봇 'Chat with RTX' 출시

GPTMAGAZINE갤로그로 이동합니다. 2024.02.14 14:21:33
조회 1191 추천 2 댓글 5




🔼 개인 AI 챗봇 'Chat with RTX'로 데이터 분석 간소화

🔼 PC 기반 개인화된 AI 대화 서비스

🔼 사용자 데이터 분석을 위한 강력한 AI 챗봇 도구로 등장









Nvidia가 오늘 'Chat with RTX'의 초기 버전을 공개했다. 이는 사용자의 PC에서 직접 동작하는 개인 AI 챗봇 데모 앱으로, YouTube 비디오 및 개인 문서를 분석하여 요약하고 관련 답변을 제공한다. 이 모든 과정은 사용자의 PC에서 로컬로 진행되며, RTX 30- 또는 40-시리즈 GPU와 최소 8GB의 VRAM이 필요하다.


한 기자는 지난 하루 동안 'Chat with RTX'를 짧게 테스트하며, 앱이 아직 초기 단계이긴 하지만, 데이터 연구에 있어 가치 있는 도구가 될 수 있음을 확인했다. 특히, YouTube 비디오의 URL을 입력하여 특정 언급을 검색하거나 전체 비디오를 요약할 수 있어, 비디오 팟캐스트를 통한 정보 검색에 이상적이라 평가했다.


그러나 YouTube 비디오 검색 기능에는 완벽하지 않은 부분이 있었다. 특정 Verge YouTube 비디오의 대본을 검색하려 했으나, 완전히 다른 비디오의 대본을 다운로드하는 오류가 발생했다. 이는 분명 초기 데모 버전의 버그 중 하나로 보인다.


그럼에도 불구하고, 정상 작동했을 때는 비디오 내 참조를 몇 초 안에 찾을 수 있었다. 기자는 FTC 대 Microsoft 사건 문서 데이터셋을 'Chat with RTX'로 분석했으며, 이를 통해 지난해 법정 사건을 커버하며 다수의 문서를 신속히 검색하는 데 도움을 받았다고 한다.


예를 들어, 챗봇은 Microsoft의 Xbox Game Pass 전략을 내부 문서를 통해 요약하는 데 뛰어난 성과를 보였다. Xbox Game Pass는 게이머가 어디서나 게임을 할 수 있게 하고, 게임 출판사가 플레이어에게 도달할 수 있는 플랫폼으로, Project xCloud와 Xbox Series X를 지원하며, 출판사가 게임을 수익화할 수 있는 기회를 제공한다. 주요 전략 목표는 Xbox Game Pass를 확대하는 것이며, 전 세계적으로 7억 5천만 명의 구독자를 목표로 하고 있다.


또한, PDF 문서를 통한 데이터 팩트 체크에도 유용하게 사용되었다. Microsoft의 Copilot 시스템은 Word 내에서 PDF를 잘 다루지 못하지만, Nvidia의 'Chat with RTX'는 문제없이 모든 핵심 정보를 추출했다. 응답 속도는 거의 즉각적이며, 클라우드 기반의 ChatGPT나 Copilot 챗봇을 사용할 때 보통 경험하는 지연이 없었다.


'Chat with RTX'의 주요 단점은 이른 개발자 데모 버전 같은 느낌이라는 것이다. 이 앱은 PC에 웹 서버와 Python 인스턴스를 설치하며, 사용자가 입력한 데이터를 쿼리하기 위해 Mistral 또는 Llama 2 모델을 활용한다. 이후 Nvidia의 Tensor 코어를 사용하는 RTX GPU를 통해 쿼리 속도를 높인다.


앱 설치는 약 30분이 걸렸으며, 앱 크기는 거의 40GB에 달했다. 한 번 실행되면, 사용자는 브라우저를 통해 'Chat with RTX'에 접근할 수 있으며, 백그라운드에서는 처리되는 내용과 오류 코드가 명령 프롬프트를 통해 출력된다.


Nvidia는 이를 모든 RTX 사용자가 즉시 다운로드하고 설치해야 할 완성된 앱으로 제공하지는 않는다. 알려진 문제와 제한 사항이 있으며, 출처 인용의 정확성에 문제가 있을 수 있다. 또한 처음에 25,000개 문서를 인덱싱하려 했을 때 앱이 충돌하는 문제가 발생했고, 설정을 초기화해야 했다.


'Chat with RTX'는 이전 질문의 맥락을 기억하지 못하므로, 후속 질문은 이전 질문의 맥락을 기반으로 할 수 없다. 또한 인덱싱하는 폴더 내에 JSON 파일을 생성하므로, Windows의 전체 문서 폴더에 사용하는 것은 권장하지 않는다.


Nvidia는 이 기술 데모를 통해 PC에서 로컬로 AI 챗봇이 할 수 있는 일의 가능성을 보여주었다. 특히 개인 파일을 분석하기 위해 Copilot Pro나 ChatGPT Plus와 같은 서비스에 구독할 필요가 없는 사용자에게 유용할 것으로 보인다.













◎GPT매거진 (https://www.gptmagazine.net)
지피티 기자 : gptmagazinebiz@gmail.com
카카오 오픈채팅방 : https://open.kakao.com/o/gLI8Wetf
페이스북 그룹 : https://www.facebook.com/groups/392367786704067

추천 비추천

2

고정닉 0

0

원본 첨부파일 2본문 이미지 다운로드

댓글 영역

전체 댓글 0개
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는? 운영자 24/06/10 - -
278 검찰, ‘AI수사관’ 도입 예정 [26] GPTMAGAZINE갤로그로 이동합니다. 03.07 6446 5
277 마이크로소프트 코파일럿, 파일 분석 기능 서비스 [11] GPTMAGAZINE갤로그로 이동합니다. 03.05 43269 5
276 챗GPT, 음성으로 답변한다 [4] GPTMAGAZINE갤로그로 이동합니다. 03.05 2597 1
275 구글, 신규 AI 모델 '젬마' 공개 [15] GPTMAGAZINE갤로그로 이동합니다. 02.28 2454 2
274 MS, 코파일럿 한글판 출시 앞당겨... [1] GPTMAGAZINE갤로그로 이동합니다. 02.26 5616 6
273 오픈AI, ChatGPT 플러그인 베타 종료 발표 [3] GPTMAGAZINE갤로그로 이동합니다. 02.26 3317 0
272 스테이블 디퓨전 3 출시 예정 [5] GPTMAGAZINE갤로그로 이동합니다. 02.23 3360 4
271 북한 해커, AI 사용해 가상화폐 거래소 공격 확대 [5] GPTMAGAZINE갤로그로 이동합니다. 02.20 5521 8
270 AI가 만든 아이스크림, 배스킨라빈스의 새로운 도전 [12] GPTMAGAZINE갤로그로 이동합니다. 02.19 2940 2
269 법조계를 혁신하는 AI 기술, 법률 분야에 새로운 가능성 제시 [8] GPTMAGAZINE갤로그로 이동합니다. 02.19 2649 3
268 구글, 차세대 AI 모델 'Gemini 1.5' 발표 GPTMAGAZINE갤로그로 이동합니다. 02.16 577 1
267 오픈AI, 텍스트를 통해 비디오 생성하는 AI 모델 'Sora' 발표 [5] GPTMAGAZINE갤로그로 이동합니다. 02.16 1747 1
266 애플의 새로운 AI 도구 '키프레이머' [9] GPTMAGAZINE갤로그로 이동합니다. 02.15 2365 1
엔비디아, PC용 개인 AI 챗봇 'Chat with RTX' 출시 [5] GPTMAGAZINE갤로그로 이동합니다. 02.14 1191 2
264 오픈AI, 챗GPT에 '기억력' 추가로 '제미나이 울트라'에 대응 [4] GPTMAGAZINE갤로그로 이동합니다. 02.14 1143 1
263 AI의 진화, 이제는 뉴스 앵커도 인공지능 시대 [27] GPTMAGAZINE갤로그로 이동합니다. 02.14 3058 4
262 '유료의 힘' 챗GPT vs '무료의 매력' 바드 [10] GPTMAGAZINE갤로그로 이동합니다. 02.13 1909 0
261 애플, 생성 이미지 편집 AI 'MGIE' 공개 [3] GPTMAGAZINE갤로그로 이동합니다. 02.08 1717 1
260 마이크로소프트, 코파일럿의 새로운 디자인 [3] GPTMAGAZINE갤로그로 이동합니다. 02.08 2663 5
259 챗GPT 도입으로 인한 데이터 라벨러 일자리 축소 현상 [6] GPTMAGAZINE갤로그로 이동합니다. 02.07 2057 2
258 멀티모달 AI, 텍스트 넘어 이미지와 음성까지 이해하는 인공지능 [6] GPTMAGAZINE갤로그로 이동합니다. 02.06 1514 0
257 오픈AI 샘알트먼, 챗GPT 성능 개선 발표 [9] GPTMAGAZINE갤로그로 이동합니다. 02.06 1791 2
256 홍콩에서 벌어진 340억 원 규모의 AI 딥페이크 사기 사건 [35] GPTMAGAZINE갤로그로 이동합니다. 02.05 8760 13
255 오픈AI, 애플 비전 프로용 새로운 챗GPT 앱 출시 [4] GPTMAGAZINE갤로그로 이동합니다. 02.05 4357 7
254 구글, 바드에서 새로운 안드로이드 앱과 함께 '제미나이'로 변경 [17] GPTMAGAZINE갤로그로 이동합니다. 02.05 4439 4
253 애플, iOS18에 AI 탑재 유력 [21] GPTMAGAZINE갤로그로 이동합니다. 02.02 2070 2
252 구글, 제미나이 프로로 한국 포함한 전 세계 언어와 국가로 확장 [6] GPTMAGAZINE갤로그로 이동합니다. 02.02 1492 1
251 행정안전부, AI기반 정보공개 민원처리 지원모델 개발 [5] GPTMAGAZINE갤로그로 이동합니다. 01.31 3804 0
250 OpenAI, 대화 중 GPT 호출 기능 출시 [3] GPTMAGAZINE갤로그로 이동합니다. 01.31 4871 1
249 메타, 무료 코드 생성 AI 'Code Llama' 출시 [4] GPTMAGAZINE갤로그로 이동합니다. 01.30 1798 2
248 서버 구축, 앱 개발? 필요 없습니다... GPT 스토어! GPTMAGAZINE갤로그로 이동합니다. 01.23 462 1
247 구글 메시지에 바드 AI 통합 [3] GPTMAGAZINE갤로그로 이동합니다. 01.22 2075 1
246 딥브레인AI, 한 장의 사진으로 AI 고인을 만드는 '리메모리2' 출시 [11] GPTMAGAZINE갤로그로 이동합니다. 01.22 4554 4
245 오픈AI, GPT-5, 사용자 맞춤형 AI로 진화 [17] GPTMAGAZINE갤로그로 이동합니다. 01.19 2560 7
244 오픈AI, GPT 스토어에 AI 여자친구 봇들 급증 [17] GPTMAGAZINE갤로그로 이동합니다. 01.17 2733 5
243 마이크로소프트, 개인용 AI 서비스 '코파일럿 프로' 출시 [3] GPTMAGAZINE갤로그로 이동합니다. 01.16 1402 1
242 빌 게이츠와 샘 알트만이 만나다. [29] GPTMAGAZINE갤로그로 이동합니다. 01.12 8512 6
241 OpenAI의 GPT Store 공식 출시 [5] GPTMAGAZINE갤로그로 이동합니다. 01.11 4685 2
240 마이크로소프트, 코파일럿 GPT-4 무료 제공에도 불구하고.. [9] GPTMAGAZINE갤로그로 이동합니다. 01.10 3953 1
239 구글, 안드로이드에서 구글 어시스턴트를 챗GPT로 교체 예정 [8] GPTMAGAZINE갤로그로 이동합니다. 01.09 1680 0
238 오픈AI, 새로운 GPT 스토어 다음 주 출시 예정 [2] GPTMAGAZINE갤로그로 이동합니다. 01.05 1305 1
237 챗GPT가 인정한 AI 대부, 힌턴 교수 [2] GPTMAGAZINE갤로그로 이동합니다. 01.05 1266 0
236 아주대, 챗GPT로 정신질환 해석 [8] GPTMAGAZINE갤로그로 이동합니다. 01.04 2439 5
235 미국 기업 AI 연구원, 놀라운 연봉 공개! [6] GPTMAGAZINE갤로그로 이동합니다. 01.03 1621 1
234 마이크로소프트 엣지, iOS 및 Android용 고급 코파일럿 출시 [11] GPTMAGAZINE갤로그로 이동합니다. 01.02 2459 15
233 마이크로소프트, 안드로이드용 '코파일럿' 앱 출시 [7] GPTMAGAZINE갤로그로 이동합니다. 23.12.29 1912 1
232 구글, AI로 인한 3만명 대규모 조직개편 예고 [11] GPTMAGAZINE갤로그로 이동합니다. 23.12.26 1707 6
231 AI가 작곡하는 시대, 코파일럿 플러그인 출시 [15] GPTMAGAZINE갤로그로 이동합니다. 23.12.20 1527 5
230 한국마이크로소프트, M365 코파일럿 한국어 지원 발표 [3] GPTMAGAZINE갤로그로 이동합니다. 23.12.19 735 5
229 GPT-4와 AI 통제: 새로운 실험 결과 발표 [1] GPTMAGAZINE갤로그로 이동합니다. 23.12.15 788 0
1234567
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8
日교원단체, 오사카 엑스포 초대 단호히 거절... 이유는 가스폭발
싱글벙글 19세기 유럽 선교사들이 본 조선.jpg

뉴스

디시미디어

디시이슈

1/2
'야인시대' 김두한 부하역 정일모 "실제 조직 보스였다" 고백, 왜
"오물 풍선이 원인?"...춘천 야산 화재에 화들짝