RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 149 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	대박 날 것 같아서 내 꿈에 나와줬으면 하는 스타는?	운영자	25/11/17	-	-
AD	겨울가전 SALE! 쿨한 겨울 HOT세일	운영자	25/11/12	-	-
2898888	나님 끙야 느김;; [2]	♥벼락부자냥덩♥	10.27	69	0
2898885	병걸렸다는 기사에 모든댓글이 다 선플 [7]	헬마스터	10.27	137	0
2898880	과제인데 너무 어려워서 대강 방향성만 잡도록 도와주시면 감사하겠습니다.. [13]	PpPpPp	10.27	137	0
2898878	[대한민국] 돈에 환장해 나라를 팔고 있는 정치권	프갤러(121.172)	10.27	81	0
2898873	유람선에 눈깔 뒤집혀서 지하철 증차 안한 오세훈 대가리를 잘라 [1]	프갤러(218.154)	10.27	166	0
2898870	이런 도시락 어때보임? [3]	ㅁㅁ	10.27	130	0
2898869	11일날 했던 한국의 미국 vs 중국 편입 투표 결과 공개 [3]	chironpractor	10.27	131	0
2898868	내가 신호줬을 때 미국 주식 산 프붕이들 재미 보고 있재? [2]	chironpractor	10.27	87	0
2898867	G마켓 크롤링 막혔네..	프갤러(124.194)	10.27	121	0
2898866	멘헤라환영 헛소리환영 본방에도 분탕 어느정도환영	파란빤스	10.27	66	0
2898865	개피궁 졸리넹;; 제대로 잠 못잔듯;; [2]	♥벼락부자냥덩♥	10.27	110	0
2898864	자기전에 요플레를 떠먹으며 추억 한꼭지..ㅇㅅㅇ [1]	헤르 미온느	10.27	99	0
2898863	개새훈 좆씨발버러지 새끼 [1]	프갤러(218.154)	10.27	138	1
2898862	오늘도 똥싸면서 돈 버는 중 [1]	프갤러(218.154)	10.27	118	0
2898861	BBS 패치내역	파란빤스	10.27	88	0
2898860	자러간당..ㅇㅅㅇ [1]	헤르 미온느	10.27	101	0
2898859	근데 외주는 왜 이래 도박이랑 토토 관련이 너무 많냐 [5]	ㅆㅇㅆ(124.216)	10.27	152	0
2898857	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤	♥벼락부자냥덩♥	10.27	121	0
2898856	리액트는 문법이 좃같지 않나요? [3]	루도그담당(118.235)	10.27	143	0
2898855	야 근데 이거 국비 교과과정 보는데 엄청난데 [4]	ㅆㅇㅆ(124.216)	10.27	238	0
2898854	원종이는 결과라도 보여줬는데 ㅋㅋ	ㅇㅇ(110.70)	10.27	112	3
2898852	국비 커리 어떄? [7]	프갤러(118.32)	10.27	210	0
2898851	민주당은 부동산투기 정당인가 국민분노 폭팔	♥벼락부자냥덩♥	10.27	103	0
2898850	BBS GC붙엿더니 계속죽는중 [5]	파란빤스	10.27	144	0
2898849	근데 암만 이야기해도 결국 결과로 보여주는게 맞긴함 [1]	ㅆㅇㅆ(124.216)	10.27	129	0
2898848	이재명 정권인사들 갭투자로 부동산투기하고 국민들은 가만히있으라 [2]	♥벼락부자냥덩♥	10.27	116	0
2898847	여기가 어디게? ㅇㅅㅇ [5]	헤르 미온느	10.27	87	0
2898845	태연 ㅇㅅㅇ [3]	헤르 미온느	10.27	92	0
2898844	오늘도 병신 삽질하다가 개쳐맞고 있노 ㅋㅋ	ㅇㅇ(118.235)	10.27	115	0
2898843	나이가 드니까 아침에 발기가 안되는 거 같아 [5]	ㅆㅇㅆ(124.216)	10.27	144	0
2898842	하루 한 번 헤르미온느 찬양	헤르 미온느	10.27	82	0
2898837	BBS 캡챠끄고 도배당해서 도배 밴 달았어요 [5]	파란빤스	10.27	91	0
2898836	ㄴㄴ내가 맞음. 왜냐면 걍 반박해줌. 에이도비야 [1]	ㅆㅇㅆ(124.216)	10.27	169	0
2898834	이재명 정권인사들 갭투자로 부동산투기하고 국민들은 가만히있으라 [1]	♥벼락부자냥덩♥	10.27	142	0
2898833	러스트가 성공 못하는 이유는 하나밖에 없다. [2]	프갤러(218.153)	10.27	171	0
2898832	국비 (온라인vs오프라인)	프갤러(118.32)	10.27	193	0
2898831	러스트가 성공할 수 없는 이유	ㅇㅇ(114.30)	10.27	92	0
2898830	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤	♥벼락부자냥덩♥	10.27	77	0
2898824	오랜만	캐프붕	10.27	57	0
2898821	이재명 민생지원금 정책 따라하는 대만	야옹아저씨	10.27	74	0
2898820	자바 원래 ㅈ같음? [2]	ㅇㅇ(223.38)	10.27	106	0
2898792	ㄴㄴ 네가 틀렸음 [11]	에이도비	10.27	174	0
2898790	Chatter BBS 캡챠 껐습니다 [2]	파란빤스	10.26	94	0
2898778	GUI 프레임워크 추천 좀 [8]	프갤러(125.240)	10.26	115	0
2898774	와 대학원 강사 자료받았는데 심각하노 [1]	ㅆㅇㅆ(124.216)	10.26	154	0
2898769	데이터엔지니어 취업 [13]	프갤러(218.39)	10.26	309	0
2898768	개발을 잘하고 싶다 [3]	프갤러(125.240)	10.26	137	0
2898767	ㅋㅅㅋ [5]	♥벼락부자냥덩♥	10.26	109	0
2898766	내일 출근한다	ㅇㅇ(223.38)	10.26	78	0
2898762	나 k8s 이론은 아는데 바로 해볼 환경은 안되서 k3s 도전 [1]	ㅆㅇㅆ(124.216)	10.26	106	0