RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 148 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	대박 날 것 같아서 내 꿈에 나와줬으면 하는 스타는?	운영자	25/11/17	-	-
AD	겨울가전 SALE! 쿨한 겨울 HOT세일	운영자	25/11/12	-	-
2903048	하루에 오조오억줄 감사의 코딩 [5]	공기역학	11.17	62	0
2903047	와 내글도 실베갔네 [12]	chironpractor	11.17	111	1
2903044	이직할때 오퍼레터 여러곳 받는거 맞지? [1]	프갤러(58.231)	11.17	60	0
2903043	딱국이 보고싶노 [2]	따당	11.17	91	0
2903040	우리나라 종특인지 모르겠는데 [19]	루도그담당(58.239)	11.17	126	0
2903039	러스트를 배우지 않는다는건 이젠 범죄적 행위다. [6]	프갤러(42.24)	11.17	89	0
2903038	짐도 많고 개피곤하네	프갤러(42.24)	11.17	41	0
2903036	펌웨어 개발자 있어? [10]	프갤러(223.38)	11.17	115	0
2903035	완전히 끝났군. 이제 난 자유다. [2]	프갤러(223.38)	11.17	73	0
2903033	취미로 프로그래밍 배우고싶은데 홍정모 괜찮음? [10]	프갤러(61.43)	11.17	112	0
2903032	프로그래밍 공부해 보고싶은데 막연합니다 [3]	프갤러(112.169)	11.17	67	0
2903030	퇴사 절차 맥북 초기화 진행 ㅋㅋㅋㅋ [3]	프갤러(218.154)	11.17	89	0
2903028	드라이버 개발하다보면 cpp도 [5]	루도그담당(211.184)	11.17	125	0
2903027	러스트는 항상 승리하네 [6]	프갤러(218.154)	11.17	106	1
2903022	건물 창에 비친 또다른 건물..ㅇㅅㅇ [2]	헤르 미온느	11.17	57	0
2903021	태연 ㅇㅅㅇ	헤르 미온느	11.17	24	0
2903020	하루 한 번 헤르미온느 찬양	헤르 미온느	11.17	62	0
2903014	나는조현병이야 나는내향적이야	손발이시립디다	11.17	56	0
2903006	취미코딩 갤러리가 오픈했습니다	Mosaic	11.17	44	0
2902994	살인적인 베를린 주거비‥시민들 "민간 주택 공공 소유로 바꾸자"	발명도둑잡기(118.216)	11.17	26	0
2902992	성 ㅍㅎ 가해자가 살고있는	ㅇㅇ(123.111)	11.17	48	0
2902990	민주당 맘다니 논평 검색 결과	발명도둑잡기(118.216)	11.17	69	0
2902980	시험성적만으로는 인성에 문제있는 사람을 못 거르는데 방법은?	발명도둑잡기(118.216)	11.17	45	0
2902966	러스트 빠돌이들, 수년간 나 열라 까더니만 ㅋㅋㅋ [1]	나르시	11.17	63	0
2902965	박근혜 풍자 논란 '공주는 외로워' 김자옥 별세 11 주기	발명도둑잡기(118.216)	11.17	32	0
2902943	젤렌스키 측근 집에는 ‘황금 변기’… 우크라 비리 일파만파	발명도둑잡기(118.216)	11.17	37	0
2902939	천안 이랜드 물류센터 화재 사실상 '전소'…보험사는 '한화손보'	발명도둑잡기(118.216)	11.17	36	0
2902933	러스트를 할 줄 안다면 현상금 사냥꾼이 되어보자! [3]	에이도비	11.17	84	1
2902931	막상 오늘이 마지막 출근이라 생각하니 기분이 묘하구나. [5]	프갤러(110.8)	11.17	80	2
2902930	미국을 뒤흔드는 도박, 성산업, 마약	발명도둑잡기(118.216)	11.17	25	0
2902924	주작기 사고싶은데 어디서 구함? [1]	ㅇㅇ(118.235)	11.17	61	0
2902918	아 이제 이해했다. 요즘 왜 백엔드에 파이썬을 쓰는지. [2]	프갤러(110.8)	11.17	106	1
2902914	근데 모던 cpp는 실패할 수밖에 없어 [11]	프갤러(110.8)	11.17	125	1
2902907	나도 현역땐 왜 기업들이 모던 C++의 가치를 안알아주지? 억울해했는데 [6]	chironpractor	11.17	115	0
2902901	나도 이제 새 직장 구해야해서 잡코리아 쭉 보는데 [20]	프갤러(110.8)	11.17	152	0
2902897	불가능한거 할수있냐고하는데 [10]	ㅇㅇ(219.248)	11.16	91	0
2902893	여자한테 인기 많은 남자 특징	발명도둑잡기(118.216)	11.16	50	0
2902892	C랑 CPP도 이제 정복되나? [1]	ㅇㅇ(125.251)	11.16	90	0
2902890	법과 기관의 도움을 받는 걸 꺼리면 안돼 [3]	에이도비	11.16	78	1
2902879	전자공, 컴공, 솦웨학과 각 학과 차이점이 뭐냐? [1]	ㅇㅇ(125.251)	11.16	65	0
2902878	한국 한국은행과 기타 상업은행의 신용창출 액수 비교	발명도둑잡기(118.216)	11.16	40	0
2902875	이기적인 사람 중간, 이타적인 사람 비율 [1]	발명도둑잡기(118.216)	11.16	97	0
2902872	오래간만에 왔는데 ㅆㅇㅆ 어디감? [2]	프갤러(183.101)	11.16	88	0
2902870	ai로 코딩하니까 큰일이네	프갤러(125.131)	11.16	65	0
2902867	가난의 근본적인 해결법 당사자와 사회의 책임 다 [1]	발명도둑잡기(118.216)	11.16	76	0
2902866	가난으로 불안하고 무서워하는 사람을 위로하는 태도 전문적으로	발명도둑잡기(118.216)	11.16	29	0
2902864	토끼가	발명도둑잡기(118.216)	11.16	25	0
2902862	코인 패닉장인데 돈을벌고있어요 ㅇㅅㅇ [1]	hiya	11.16	83	1
2902859	경제 불황 시기에 인기 더 높아지는 노래, 영상 특징	발명도둑잡기(118.216)	11.16	89	0
2902856	님들 html 첨 배웠는데 [6]	2D전도사	11.16	93	0