RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 153 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	대박 날 것 같아서 내 꿈에 나와줬으면 하는 스타는?	운영자	25/11/17	-	-
AD	대학생 필수템! What's in my Bag	운영자	25/11/21	-	-
2898385	에휴 병신 그냥 그렇게 살아라... [1]	ㅇㅇ(106.101)	10.25	117	4
2898384	Os업뎃 함부러 하면 안될듯	♥벼락부자냥덩♥	10.25	100	0
2898383	아무리 술을 마셔도 취하지 않는건 무거운 인생의 무게 때문일깡..? [2]	♥벼락부자냥덩♥	10.25	81	0
2898382	저 새낀 이상하게 혼종으로 기억하노 파이댄틱쓴건 pytest썼고 [2]	ㅆㅇㅆ(124.216)	10.25	104	0
2898380	트래픽 1tb 정도 되는 사이트 운영해보신분	프갤러(118.235)	10.25	53	0
2898379	나님은 어디로 가고있는걸깡..? [3]	♥벼락부자냥덩♥	10.25	91	0
2898378	나님 넘나 낭만적이양..⭐+ [2]	♥벼락부자냥덩♥	10.25	74	0
2898376	걍 TDD 하다가 파이댄틱 쓸때 실수했다 이것만봐도 어떤 모델 넣을지 [2]	ㅆㅇㅆ(124.216)	10.25	94	0
2898375	똥발라드 시절이 그립구낭..	♥벼락부자냥덩♥	10.25	71	0
2898374	담배연기 자욱했던 환기 안되는 노래방	♥벼락부자냥덩♥	10.25	66	0
2898373	아이디어와 창의성에 가까운거 경영학과vs국문학과	돌진하자(121.175)	10.25	57	0
2898371	쾌걸춘향 함 봐볼깡?	♥벼락부자냥덩♥	10.25	53	0
2898370	노래는 알지만 얼굴은 몰랐던 가수	♥벼락부자냥덩♥	10.25	41	0
2898369	쟤는 뭔소리를 하는지 파이댄틱은 베이스 모델 만들어서하는건데 [5]	ㅆㅇㅆ(124.216)	10.25	123	0
2898367	나님 누엇어양☘+	♥벼락부자냥덩♥	10.25	87	0
2898366	그 프로젝트 보면 걍 전반적으로 실수한것들 많음 [2]	ㅆㅇㅆ(124.216)	10.25	138	0
2898365	프갤에서 다중이짓 아무리 해도 바뀌지 않는 현실 [3]	ㅇㅇ(211.234)	10.25	104	3
2898364	나님 왤케 특별하실깡..? [2]	♥벼락부자냥덩♥	10.25	77	0
2898363	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤	♥벼락부자냥덩♥	10.25	54	0
2898362	채터BBS 인코딩깨짐 해결법 [2]	파란빤스	10.25	90	0
2898360	프밍 갤러리가 아니라 나뭇잎 마을 갤러리 아니냐? [2]	루도그담당(58.239)	10.25	123	0
2898358	다중이노릇 안창피하냐? [7]	ㅇㅇ(106.101)	10.25	135	5
2898357	아무도 안쓰니까 걍 수정 안한거임 ㅇㅇ [6]	ㅆㅇㅆ(124.216)	10.25	114	0
2898356	나님 끙야하구 치카푸카 완	♥벼락부자냥덩♥	10.25	61	0
2898355	난 동우 쉴드 친 적 없다 [2]	루도그담당(58.239)	10.25	147	0
2898354	여기를 체크해봐 [29]	에이도비	10.25	202	0
2898351	나도 경험한건데 한국 사회의 문제는 부모부터 시작임.txt [1]	Kyle(103.21)	10.25	85	0
2898350	친한 외국 동기랑 얘기해본적있는데 [10]	파란빤스	10.25	134	0
2898348	ㅁㅊ;;	♥벼락부자냥덩♥	10.25	68	0
2898347	열심히들 하고 젊을때 화끈한 선택 하고 살아야되.txt [5]	Kyle(103.21)	10.25	119	0
2898346	끙야는 삶의 원천이당 By 나님	♥벼락부자냥덩♥	10.25	62	0
2898345	타인의 공격을 피하기위해 수련중 [2]	배구공(119.202)	10.25	72	0
2898344	저녁 일찍 머근거 지금 냐옹	♥벼락부자냥덩♥	10.25	71	0
2898343	나님 끙야즁❤+ [4]	♥벼락부자냥덩♥	10.25	82	1
2898342	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤	♥벼락부자냥덩♥	10.25	59	0
2898340	211.234 << 이 새낀 쫌 꺼졌으면 ㅋㅋ [30]	루도그담당(58.239)	10.25	301	0
2898338	자꾸 내가 다중이라는 조현병자 실드치는 루도그야	ㅇㅇ(211.234)	10.25	98	4
2898335	무서운거알려줄까요 [9]	파란빤스	10.25	102	0
2898334	프리랜서 뛰고있는건 대단한것도 아님. [2]	ㅆㅇㅆ(124.216)	10.25	157	0
2898333	무서운거 알려줄까? [1]	배구공(119.202)	10.25	86	0
2898331	근데 상대방이 요란한 빈수레라고 생각하면 [31]	chironpractor	10.25	188	0
2898329	회사생활을 하면 실력이 올라갈 거란 생각은 ㄴㄴ [11]	에이도비	10.25	327	0
2898328	good	파란빤스	10.25	71	0
2898326	걍 쪽팔려서 인증한거 삭제했다 좆병신들이랑 싸운게 [9]	ㅆㅇㅆ(124.216)	10.25	134	0
2898325	딱정리해준다 [6]	파란빤스	10.25	102	0
2898324	인증한거 삭제는 왜 했을까 [1]	ㅇㅇ(211.234)	10.25	98	0
2898321	나나 좆타트업인 너나 거기서 거긴데 [7]	ㅆㅇㅆ(124.216)	10.25	136	0
2898319	조현병의 허언증이 맞음 [17]	ㅇㅇ(211.234)	10.25	151	3
2898315	치킨 존나 땡기는데 [7]	루도그담당(58.239)	10.25	95	0
2898311	저격할거면 일단 네 회사부터 까봐라. ㅇㅇ 회사 못까면 지랄 말고 [1]	ㅆㅇㅆ(124.216)	10.25	72	0