RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

프로그래밍 갤러리

자동 짤방 이미지

이미지가 없습니다.

자동 짤방으로 사용할 이미지를 등록해 주세요.

1/3

대장동 2심, '이재명 무죄' 재판부로 재배당 하오..... 작성자 : NiKe

RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 136 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	이성 보는 눈 없어서 걱정되는 스타는?	운영자	25/11/10	-	-
AD	겨울가전 SALE! 쿨한 겨울 HOT세일	운영자	25/11/12	-	-
2901732	ㅆㅇㅆ는 자꾸 사업 사업 거리는데 사업도 아님	프갤러(218.147)	11.09	131	7
2901731	당신이 『 냥덩이 』 잖아 [2]	♥KiTTY냥덩♥	11.09	102	0
2901730	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤ [2]	♥KiTTY냥덩♥	11.09	88	0
2901727	사업은 관계인데 성격이 모나면 좀 어렵지 [1]	프갤러(110.8)	11.09	98	0
2901726	ㄴㅐ년은 올해보다 더 바쁘겟구낭..	♥KiTTY냥덩♥	11.09	62	0
2901725	pyside 불편하네	프갤러(221.167)	11.09	67	0
2901724	슬레이어즈 트라이 주제곡이 날 겨냥하노 이기 [5]	슈퍼막코더(116.64)	11.09	105	0
2901723	나는조현병이야 나는내향적이야	손발이시립디다	11.09	71	0
2901722	ㅆㅇㅆ는 저 성격으로 사업 절대 성공못함 [1]	ㅇㅇ(93.152)	11.09	162	7
2901721	겨울 모기가 쌔긴쌔당	♥KiTTY냥덩♥	11.09	42	0
2901719	방일방이방삼방사방오방육방칠방팔 [2]	배구공(119.202)	11.09	64	0
2901718	나무식혜나무식혜나무식혜나무식혜나무식혜나무식혜	배구공(119.202)	11.09	51	0
2901717	개나리개나리개나리개나리개나리개나리개나리 [1]	배구공(119.202)	11.09	66	0
2901716	왜 나이들거나 여자 작가들은 쓸데 없는 싸구려 신파극을 꾸역꾸역 넣는걸ㄲ [2]	♥KiTTY냥덩♥	11.09	102	1
2901715	C++ 개발자는 여전히 경쟁력 높을라나 [4]	ㅇㅇ(118.235)	11.09	145	0
2901713	나님을 보면 왜 사회 지능이 높아야 하는지 알 수 있음 ㅇㅅㅇ [3]	♥KiTTY냥덩♥	11.09	101	0
2901712	사람은 어차피 [5]	루도그담당(58.239)	11.09	147	0
2901711	월 580받는 개발자인데 백준보고 개씹벽느껴지네 ㅋㅋ [9]	ㅇㅇ	11.09	166	0
2901709	☆:.｡. o(≧▽≦)o .｡.:☆	♥KiTTY냥덩♥	11.09	57	0
2901708	왜 방충망까지 살짝 열려잇엇징..	♥KiTTY냥덩♥	11.09	68	0
2901707	모기약 빼느라 창문 열어놨더니 벌레 들어온듯..	♥KiTTY냥덩♥	11.09	70	0
2901706	할짝할짝..	♥KiTTY냥덩♥	11.09	46	0
2901705	너의 췌장이 먹구시포❤+	♥KiTTY냥덩♥	11.09	37	0
2901704	떽! 모렁이 너 일루안와잇?!	♥KiTTY냥덩♥	11.09	63	0
2901703	제미니 왜 구라까냐 [1]	프갤러(182.216)	11.09	70	0
2901702	키우는 동물에 따른 차이점 빅데이터 분석	♥KiTTY냥덩♥	11.09	48	0
2901701	동우가 똑똑한건 맞는데 [5]	루도그담당(58.239)	11.09	145	1
2901700	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤	♥KiTTY냥덩♥	11.09	61	0
2901699	슬슬 저도 화가 나네요 [9]	에이도비	11.09	138	0
2901698	그런데 ㅆㅇㅆ 쟤 저러고 금방 다시옴 [2]	ㅇㅇ(124.48)	11.09	117	1
2901697	동해가서 물회랑 둠칫둠칫국 먹구싶당 [5]	♥KiTTY냥덩♥	11.09	94	0
2901696	배고프다 [8]	ㅇㅇ(122.199)	11.09	81	0
2901695	배고프다	배구공(119.202)	11.09	47	0
2901694	배고프다	ㅇㅇ(122.199)	11.09	45	0
2901693	닭가슴살은 절대 클린푸드가 아님	♥KiTTY냥덩♥	11.09	56	0
2901691	배고프다	배구공(119.202)	11.09	36	0
2901690	배고프다	배구공(119.202)	11.09	47	0
2901689	배고프다	배구공(119.202)	11.09	35	0
2901688	배고프다	배구공(119.202)	11.09	41	0
2901687	회나 구이가 은근 포만감 오래가는듯	♥KiTTY냥덩♥	11.09	42	0
2901685	돈돈초코볼	배구공(119.202)	11.09	29	0
2901684	서해에서 나는 해산물은 중국 중금속 때문에 꺼려짐	♥KiTTY냥덩♥	11.09	43	0
2901683	살 빼는데는 해산물 힘 키우는덴 육고기 [4]	♥KiTTY냥덩♥	11.09	51	0
2901682	좆솔근 따라가라 [1]	ㅇㅇ(211.196)	11.09	59	0
2901681	ㄱㄴ	배구공(119.202)	11.09	34	0
2901678	장거리 함 뛰면 후유증 생각보다 오래가는듯	♥KiTTY냥덩♥	11.09	44	0
2901677	뛰뛰하면 오히려 식욕이 감소해서 식사량 줄음	♥KiTTY냥덩♥	11.09	45	0
2901676	솔직히 애널두 모기 나오면 진짜 답 없당..	♥KiTTY냥덩♥	11.09	38	0
2901675	왜 날씨 추워지니까 오히려 모기가 더 쌔진걸깡?	♥KiTTY냥덩♥	11.09	29	0
2901673	한달에 1km 씩만 늘려야징	♥KiTTY냥덩♥	11.09	33	0