RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 158 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	뛰어난 운동 신경으로 남자와 싸워도 이길 것 같은 여자 스타는?	운영자	25/11/24	-	-
이슈	[디시人터뷰] 충무로가 주목하는 신예, '세계의 주인' 서수빈	운영자	25/11/24	-	-
AD	따뜻한 겨울나기! 방한용품 SALE	운영자	25/11/27	-	-
2899657	GOF 23가지 패턴 말고도 패턴들 거의 정형화되있잖아? 사실 패턴 뼈대 [2]	ㅆㅇㅆ(124.216)	10.31	169	0
2899655	나는 개발자 오래 해먹을 수 있다고 생각하는게 지금 문제는 [2]	ㅆㅇㅆ(124.216)	10.31	264	0
2899654	앞으로는 설계를 잘하는 사람보다 [7]	루도그담당(58.239)	10.31	244	0
2899653	개발자라는 직업 덕목이 아무래도 패턴 짜는거니까 어쩔수 없지 [2]	ㅆㅇㅆ(124.216)	10.31	179	0
2899652	개발자라는 직업이 참 [1]	루도그담당(58.239)	10.31	221	0
2899646	IT 자원에 돈아끼는 IT 기업은 절대 가지마라	프갤러(118.235)	10.31	159	0
2899643	프갤러들아 질문 받아라. [6]	cvs.	10.31	152	0
2899637	남들 바이브 코딩하는거봤는데 이거 4~5개 돌리던데 [2]	ㅆㅇㅆ(124.216)	10.30	174	0
2899635	저좀 도와주세요(엔트리)	프갤러(39.123)	10.30	102	0
2899618	클로드 코드 메모리 기능 업데이트하고 사실상 바이브코딩 거의 못함	ㅆㅇㅆ(124.216)	10.30	120	0
2899615	발명도둑잡기야 ㅆㅇㅆ한테 사과했냐? [4]	ㅇㅇ(106.101)	10.30	177	6
2899611	미래의 어느 역사학자들의 대화라는데 (에필로그)	프갤러(211.210)	10.30	76	0
2899610	미래의 어느 역사학자들의 대화라는데 (요약편)	프갤러(211.210)	10.30	83	0
2899609	미래의 어느 역사학자들의 대화라는데	프갤러(211.210)	10.30	105	0
2899608	핑계고에서 미미가 요즘 원숭이 귀가 유행이라고	프갤러(211.210)	10.30	135	0
2899607	아이폰이 롤리팝을 이긴 것처럼	프갤러(211.210)	10.30	88	1
2899606	화교의 속마음 [1]	프갤러(211.210)	10.30	119	0
2899604	청룡영화제 뭐 이런 단어	프갤러(211.210)	10.30	125	0
2899603	요즘 좌파 화교 특	프갤러(211.210)	10.30	110	0
2899602	기안84 수상한 건 [1]	프갤러(211.210)	10.30	168	0
2899601	알고보니 어렸을 때 치파오 입고 있었고	프갤러(211.210)	10.30	88	0
2899600	문화에 힘을 왜 쓰냐 다 구란데 [1]	프갤러(211.210)	10.30	116	0
2899599	김창욱 김제동 오은영 같은	프갤러(211.210)	10.30	97	0
2899598	부천역 bj들 내쫒는 분위기네	프갤러(211.210)	10.30	118	0
2899597	개쳐맞는것도 소통이긴함	ㅇㅇ(118.235)	10.30	91	3
2899596	ㅆㅇㅆ 지금 삶의 의지가 잔뜩 꺽였음 ㅋㅋㅋ [1]	ㅇㅇ(106.101)	10.30	198	3
2899594	나는 AI 발전이 현재 트랜스포머 구조때문에라도 개발자가 더 비싸질거라 [3]	ㅆㅇㅆ(124.216)	10.30	152	0
2899593	타로 사이트도 고졸이 하루이틀이면 만드는걸 [2]	ㅇㅇ(118.235)	10.30	160	1
2899591	잘짠다해도 반드시 사고가 터짐. 왜냐하면 코드가 몇만줄 넘으니까 [3]	ㅆㅇㅆ(124.216)	10.30	156	0
2899590	ㅆㅇㅆ가 실력 없다는건 잘 알겠다 ㅇㅇ	ㅇㅇ(118.235)	10.30	105	6
2899589	취미로 코딩하는 애들이 AI 시대 승자다 [33]	박민준	10.30	236	0
2899588	러스트하능사람들 러스트장점알려줭 [1]	무토낑(119.202)	10.30	124	0
2899587	비전공이 개발 덤벼드는거 참 이해가 안된다	ㅇㅇ(106.101)	10.30	175	0
2899586	한국 프로그래머는 노가다라기 보다는 음... 똥퍼입니다. [3]	프갤러(110.8)	10.30	104	0
2899585	러스트가 C보다 빠를숭없징? [6]	무토낑(119.202)	10.30	134	0
2899584	실력이라는게 결국은 일종의 허상이라고 생각은 함. [3]	ㅆㅇㅆ(124.216)	10.30	153	0
2899583	한국it에서는 현업자가 더 병신입니다. [1]	프갤러(110.8)	10.30	138	0
2899582	내가 쿠팡 안쓰고 배민 쓰는 이유는 딱 하나임 [1]	야옹아저씨	10.30	123	0
2899581	현업자들의 실력은 어떠냐면 [6]	박민준	10.30	168	0
2899580	ㅆㅇㅆ야 이걸 보고도 너가 성공할 수 있을거라 생각할까? [2]	ㅇㅇ(51.158)	10.30	145	4
2899578	엔비디아 회장이 왜 깐부치킨갔는지 생각해봤는데	ㅆㅇㅆ(124.216)	10.30	134	0
2899576	ㄹㅇㅆㅇㅆ 이새끼 반박할때는 쿨한척 운좋은척 다하다가 [1]	ㅇㅇ(118.235)	10.30	139	5
2899574	요즘들어 실패의 관점이 바뀜	프갤러(114.205)	10.30	109	0
2899572	초 고수 [3]	배구공(119.202)	10.30	108	0
2899570	ㅆㅇㅆ 얘는 무슨 자신감으로 이렇게 사냐 [1]	ㅇㅇ(106.101)	10.30	134	4
2899569	ㅆㅇㅆ야 니 인생 계획은 뭐냐?	ㅇㅇ(51.159)	10.30	102	3
2899567	이제 ㅆㅇㅆ 욕하는것도 노잼이네 [1]	ㅇㅇ(106.101)	10.30	145	3
2899566	내가 프갤서 느끼는건 자칭 보수 우파라는 애들은 선동과 날조가 패시브임	ㅆㅇㅆ(124.216)	10.30	105	1
2899564	내가 프론트엔드 공부하는데 [2]	호호(121.130)	10.30	155	0
2899562	자바스크립트 어렵다 [1]	호호(121.130)	10.30	120	0