RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 105 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	영포티룩도 멋지게 소화할 것 같은 40대 스타는?	운영자	25/10/27	-	-
AD	할로윈 슈퍼위크~!!	운영자	25/10/23	-	-
2899454	내가 코딩 유튜버를 안믿는 이유 [5]	ㅆㅇㅆ(124.216)	10.29	148	1
2899448	이번에 PHP로 된 게시판 마이그레이션 150만에 옴 [16]	ㅆㅇㅆ(124.216)	10.29	129	0
2899446	그리고 개발문서만 본다고 전문가 되는거 아니다 [1]	ㅇㅇ(106.101)	10.29	90	1
2899445	인생은 왜 이리 매일매일 배울게많고 즐거울까 [2]	ㅆㅇㅆ(124.216)	10.29	71	0
2899444	ㅆㅇㅆ야 고생 많았따	ㅇㅇ(124.48)	10.29	103	2
2899442	좆됐다. 우주 팽창속도 감소중. [1]	프갤러(110.8)	10.29	83	0
2899441	법왜곡죄	chironpractor	10.29	44	0
2899440	오늘 2시간 동안 떠들고 4만원 받음. [2]	ㅆㅇㅆ(124.216)	10.29	93	0
2899437	지피티 코드 던져주길래 이거 안돌아갈거라니까 뭔 지랄을 하는지	ㅆㅇㅆ(124.216)	10.29	62	0
2899432	갑자기 앱 2개를 다음주 말까지 만들라함. [6]	프갤러(211.234)	10.29	107	0
2899419	금값이 다시 살살 올라가네	chironpractor	10.29	62	0
2899418	웹브라우저 tts 결국 운영체제 따라가는건가 보네 [1]	프갤러(110.8)	10.29	74	0
2899414	추모 강요는 좀 ㅇㅅㅇ [2]	류류(203.229)	10.29	72	0
2899407	무안공항은 왜 추모 안함? [9]	chironpractor	10.29	100	0
2899399	오 대박이네. 웹 브라우저에 tts 내장되어 있네	프갤러(27.170)	10.29	42	0
2899389	요새 불법충들 트렌드가 [3]	프갤러(121.185)	10.29	77	1
2899388	예전에 위키 프로젝트인가 그거 만든다던 사람 있던거 같은데 어케 됬음? [4]	프갤러(121.185)	10.29	68	0
2899386	트럼프 "부정선거는 개소리. 이재명은 훌륭한분"	야옹아저씨	10.29	103	0
2899385	마트에서 생굴 사왔음 오늘 저녁은 굴이다 [2]	chironpractor	10.29	42	0
2899384	대학원 지원했는데 만점짜리 성적표에 놀라는군 ㅋㅋ [5]	나르시	10.29	77	1
2899382	나한테 파이썬 배워두라고 알려줬던 연구실 동료였던 나딤(파키스탄인)	ㅆㅇㅆ(124.216)	10.29	76	0
2899381	아버지 수술 끝나서 한 5시간 하셔서... [2]	넥도리아(119.195)	10.29	55	0
2899380	근데 파이썬이 다양성을 포용안하면 그것도 이상한게	ㅆㅇㅆ(124.216)	10.29	53	0
2899379	이번 트럼프정부 파이썬 150만달러 이야기 봤냐 너네? [5]	ㅆㅇㅆ(124.216)	10.29	114	0
2899378	중국기사보는데 타입스크립트 배워두길 잘했더라 [2]	ㅆㅇㅆ(124.216)	10.29	94	0
2899377	근데 중국쪽 정보 보는 애들은 느끼지만 중국이 흐름따라가기 존나 편함 [3]	ㅆㅇㅆ(124.216)	10.29	68	0
2899375	코드 납품하다보면 신기한게 분명히 다 같이 지피티 쓰잖아? [6]	ㅆㅇㅆ(124.216)	10.29	109	0
2899374	장사하는데 손년놈들 중에 좆문가가 너무 많다 [9]	chironpractor	10.29	83	0
2899373	나만 코딩 유튜버는 여자 유튜버밖에 안보냐. [6]	ㅆㅇㅆ(124.216)	10.29	89	2
2899372	생각해보면 서블렛이 레알 좋은 개념인듯하노 이기 [4]	슈퍼막코더(126.179)	10.29	67	0
2899371	이 문장 되게 감성있지 않음?	ㅇㅇ1	10.29	54	0
2899370	남의 나라 국가인데 왜 난 미국 국가 들으면 울컥하는지 몰겠음	chironpractor	10.29	30	0
2899369	사무실 임대했다고 사업 잘된다고 깝쳤는데 월세 올라서 취소 [1]	프갤러(172.225)	10.29	59	3
2899368	무당 보고 왔는데 내년 3월까지 힘들대서 기분 싱숭샘숭함 [4]	ㅆㅇㅆ(124.216)	10.29	69	0
2899367	납품준비 해야겠다	ㅆㅇㅆ(124.216)	10.29	43	0
2899366	[대한민국] 트럼프 대통령 한국 방문	프갤러(121.172)	10.29	34	0
2899365	50만원 flex [7]	에이도비	10.29	78	0
2899364	Ai가 발전한 세상에서 우린 어떻게 살아갈까	ㅇㅇ(211.235)	10.29	28	0
2899363	agi는 의외로 가까울지도 모름 [1]	프갤러(211.106)	10.29	61	0
2899362	아침에 싸이렌덕에 강제 기상한 프봉이들 개추 ㅋㅋㅋㅋㅋ	타이밍뒷.통수한방(1.213)	10.29	38	1
2899361	c++교재 추천좀 [4]	ㅇㅇ	10.29	74	0
2899359	유흥에 1억썼다. 유흥 와꾸 티어 순위알려준다 [3]	ㅇㅇ(118.235)	10.29	95	0
2899357	트럼프가 찢짜이밍한테 미스터 리라고 했나보네	chironpractor	10.29	55	0
2899356	맥북 프로 16 (m3 pro, 36GB, 512GB) 중고시세 얼마보냐 [1]	임금밀린코딩몽키(1.236)	10.29	42	0
2899355	AI 창조자: 어떻게 작동하는지 모름	발명도둑잡기(118.235)	10.29	36	0
2899354	졸업작품이란 뭘까... [1]	공기역학	10.29	83	0
2899352	요새 이모티콘 보면 왤케 현기증이 나냐 [1]	프갤러(175.212)	10.29	61	1
2899351	ㅆㅇㅆ = 사이비 코더 [1]	프갤러(175.212)	10.29	78	5
2899349	플러터vs코틀린 배틀에 스위프트 합류했네 [2]	거북이속이거북	10.29	82	0
2899348	여기 장애인들 [2]	프갤러(175.212)	10.29	84	0