디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17
조회 154 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도


결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라


결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만 


이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.


결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고


그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고


RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게


결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.


한계가 있어


추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 뛰어난 운동 신경으로 남자와 싸워도 이길 것 같은 여자 스타는? 운영자 25/11/24 - -
AD 대학생 필수템! What's in my Bag 운영자 25/11/21 - -
2899536 중국쪽 머기업 프론트 엔드 개발자 면접 질문들 정리한거 봤는 [2] ㅆㅇㅆ(124.216) 10.30 166 0
2899535 요즘 책 종종 읽는데 [2] 루도그담당(58.239) 10.30 145 0
2899534 프로그램 최고 장점이 프로그램은 인터넷에 읽을게 많아 [2] ㅆㅇㅆ(124.216) 10.30 127 0
2899533 몸이 아프질 말아야.. 모든게 의미가 있는거지 [9] 나르시갤로그로 이동합니다. 10.30 150 0
2899531 나 현역때는 기억에 의존하는 개발하기 싫어했는데 [8] chironpractor갤로그로 이동합니다. 10.30 152 0
2899529 너네 근데 깃 명령어 같은거 다 외우냐 [4] ㅆㅇㅆ(124.216) 10.30 147 0
2899526 코드 짜는건 클리셰쓰듯이 해야하는거 아닐까 싶다 항상 [2] ㅆㅇㅆ(124.216) 10.30 102 0
2899525 11시에 일어나서 밍기적대니 지금이네 ㅆㅇㅆ(124.216) 10.30 114 0
2899524 나 칫과 가는데 응원 좀 해주라 ㅠㅠ [8] 나르시갤로그로 이동합니다. 10.30 140 1
2899522 쌀 소고기 방어했다니까 진짠줄 알더라 chironpractor갤로그로 이동합니다. 10.30 128 1
2899521 무릎 아파... 그냥 지나가 .. 넥도리아(223.38) 10.30 91 0
2899520 나는 c cpp도 잘모름 [2] 배구공(119.202) 10.30 169 0
2899518 [대한민국] 김용현 장관 재판 내용 일부 프갤러(121.172) 10.30 106 0
2899517 요즘 써보는 AI 챗봇 중에 쓸만한 거 발견한 후기(무료 팁 포함) 프갤러(1.212) 10.30 118 0
2899516 ㅆㅇㅆ가 만든 타로 사이트 고졸이 하루아침에 만드는 정도인데 ㅇㅇ(121.140) 10.30 171 6
2899515 내가 병렬 프로그래밍 때문에 피시방 가야겠다 ㅠ [3] 프갤러(222.97) 10.30 157 0
2899514 대학원 자퇴하고 싸피나 오토에버 임베디드 가는거 어케 생각? [8] 프갤러(117.111) 10.30 283 0
2899513 [두산로보틱스] 로키부트캠프 AI·로봇 엔지니어 양성과정 7기 모집 (~ 프갤러(14.32) 10.30 152 0
2899512 와 ㅋㅋ [5] 에이도비갤로그로 이동합니다. 10.30 175 0
2899511 간혹 희안한 사상을 가진 애들이 있네 [9] 루도그담당(211.184) 10.30 214 0
2899509 자라 ㅇㅅㅇ [1] 헤르 미온느갤로그로 이동합니다. 10.30 115 0
2899508 근데 이재용도 이재명 빨다가 [1] 프갤러(175.212) 10.30 229 0
2899507 이제 우라나라도 핵잠 보유하는거냐? [2] 루도그담당(118.235) 10.30 128 0
2899506 아버지 수술하셔서 스트레스 받는데 아하 까지 날 건드려서 짜증남. 넥도리아2025(14.35) 10.30 101 0
2899505 침대 뭐삼 병원에서 쓰는 침대 에이스는 너무 비싸고, 넥도리아2025(14.35) 10.30 101 0
2899504 또 하나의 원종이가 각성했다기 보다 프갤러(175.208) 10.30 144 0
2899503 공원 ㅇㅅㅇ [1] 헤르 미온느갤로그로 이동합니다. 10.30 132 0
2899501 ㅈ됐다 또 하나의 원종이가 각성했다 프갤러(39.7) 10.30 125 0
2899500 태연 ㅇㅅㅇ 헤르 미온느갤로그로 이동합니다. 10.30 101 0
2899499 하루 한 번 헤르미온느 찬양 헤르 미온느갤로그로 이동합니다. 10.30 118 0
2899497 이런 회사도 있네 ㅇㅇ(106.101) 10.30 116 0
2899496 사실 ㅆㅇㅆ가 지금 행복한 이유도 [1] 프갤러(175.212) 10.30 173 5
2899495 ㅇ하 하지 마라 가비지컬렉터다. 사람 어이가 없어서, 아픈것도 애기 못해 넥도리아2025(14.35) 10.30 107 0
2899493 아베 총격범 오늘 첫 공판…방청객 700명 넘게 줄서 넥도리아2025(14.35) 10.30 100 0
2899491 요미코 알만한 사람은 다 탈갤했겠지? [3] ㅇㅇ갤로그로 이동합니다. 10.30 131 0
2899490 나는조현병이야 나는내향적이야 [1] 손발이시립디다갤로그로 이동합니다. 10.30 120 0
2899488 ㅆㅇㅆ야 행복할 수 있을 때 많이 행복해둬라 [2] ㅇㅇ(51.195) 10.30 184 3
2899479 늘 생각하지만 당장 애니메이션 구현 하나 하는것도 며칠씩 걸리고 ㅆㅇㅆ(124.216) 10.30 113 0
2899464 님들 저 잘건데 응원 부탁드립니다 [5] 공기역학갤로그로 이동합니다. 10.30 103 0
2899460 리눅스 설치하면 기존 파일들 날아감? [1] 프갤러(79.110) 10.30 131 0
2899454 내가 코딩 유튜버를 안믿는 이유 [5] ㅆㅇㅆ(124.216) 10.29 198 1
2899448 이번에 PHP로 된 게시판 마이그레이션 150만에 옴 [16] ㅆㅇㅆ(124.216) 10.29 200 0
2899446 그리고 개발문서만 본다고 전문가 되는거 아니다 [1] ㅇㅇ(106.101) 10.29 158 1
2899445 인생은 왜 이리 매일매일 배울게많고 즐거울까 [2] ㅆㅇㅆ(124.216) 10.29 121 0
2899444 ㅆㅇㅆ야 고생 많았따 ㅇㅇ(124.48) 10.29 146 3
2899442 좆됐다. 우주 팽창속도 감소중. [1] 프갤러(110.8) 10.29 168 0
2899441 법왜곡죄 chironpractor갤로그로 이동합니다. 10.29 113 0
2899440 오늘 2시간 동안 떠들고 4만원 받음. [2] ㅆㅇㅆ(124.216) 10.29 146 0
2899437 지피티 코드 던져주길래 이거 안돌아갈거라니까 뭔 지랄을 하는지 ㅆㅇㅆ(124.216) 10.29 115 0
2899432 갑자기 앱 2개를 다음주 말까지 만들라함. [6] 프갤러(211.234) 10.29 186 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

디시미디어

디시이슈

1/2