디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

에이도비야 자꾸 그리고 레디스를 언급하는게 걍 스코프가 다른거임

ㅆㅇㅆ(124.216) 2025.10.29 05:21:22
조회 164 추천 0 댓글 20

아까부터 레디스를 계에에에속 언급하는거보면


'다중 사용자' 이걸로 관점을 보는데 애초에 내 코드는 개인 사용자용임


근데 뭐가 틀리고 다른지 제대로 설명해줌


1. 벡터 DB를 인스턴스로 올리고 땡처리하는가?
->FastAPI의 lifeSpan 이벤트 핸들러를 이용해서 인스턴스 한번 생성후, 참조가 필요한곳에 필요할때마다 주입하는거임


2. 코어당 여러개 연결 있고 get해서 써야한다

->RDBMS의 커넥션 풀링인데, ChromaDB는 로컬 파일 기반 벡터 DB 클라이언트라서, 병렬 읽기 쓰레드 세이브 자동 보정임.(쓰기는 보장 안됨, 그래서 순차 쓰기 )


3.Rag 기다리는 동안 사용감이 떨어지니까 Redis 같은걸로 관리

-> RAG 결과를 캐싱하는데 Redis 쓰라고하는데, RAG 작업을 백그라운드 큐로 돌려서하는거면 모를까, 이건 단일 사용자용으로는 과도함

그냥 FastAPI기반 asyncio 정도로 충분히 비동기 처리가 가능함. 애초에 레디스 쓴다는건 대규모 스택임


4. 벡터 연결에도 스코프가 있어야한다. 그런게 없다

-> 애플리케이션 스코프가 있음. lifespan으로 관리되는 store_instance가 바로 그거임. 요청 스코프가 아니라, 애플리케이션 스코프임


5. 100개 작업 처리해달라고 하면 지금 코드로는 어떻게 하느냐?

-> 100개의 RAG는 ProcessPoolExecutor로 가능함. 자기 컨텍스트에서 새롭게 여는거고


각 병렬 작업의 DI로 동일한 store_instance 참조 받음


쓰기 작업은 지금은 필요없어서 안했고, 추후에 대화 기록을 벡터 임베딩해야하면 애초에 이걸 리듀서로 추후에 구현하면됨.


자꾸 네가 말하는 스코프는 '대규모 사용자 기반 웹 서비스'


이거고 내가 말하는건 그냥 '단일 사용자 기반 멀티 에이전트' 이 차이임.


자꾸 레디스가 나오고 이러는게 이해가 안가는게 그거고 나는 저거 서버에 올릴 생각 없어.


저건 그냥 여러 LLM API를 조합해서 하나의 골을 주면 에이전트가 조합하는거지 서버에 올리는게 아님 QT6만 봐도 답 나오잖냐


추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 해외에서 겪는 불합리한 대우에 대응 잘 할 것 같은 스타는? 운영자 25/11/03 - -
AD 저녁 뭐먹지? 오늘의 메뉴 추천! 운영자 25/10/31 - -
2899596 ㅆㅇㅆ 지금 삶의 의지가 잔뜩 꺽였음 ㅋㅋㅋ [1] ㅇㅇ(106.101) 10.30 131 2
2899594 나는 AI 발전이 현재 트랜스포머 구조때문에라도 개발자가 더 비싸질거라 [3] ㅆㅇㅆ(124.216) 10.30 122 0
2899593 타로 사이트도 고졸이 하루이틀이면 만드는걸 [2] ㅇㅇ(118.235) 10.30 115 1
2899591 잘짠다해도 반드시 사고가 터짐. 왜냐하면 코드가 몇만줄 넘으니까 [3] ㅆㅇㅆ(124.216) 10.30 103 0
2899590 ㅆㅇㅆ가 실력 없다는건 잘 알겠다 ㅇㅇ ㅇㅇ(118.235) 10.30 81 4
2899589 취미로 코딩하는 애들이 AI 시대 승자다 [33] 박민준갤로그로 이동합니다. 10.30 190 0
2899588 러스트하능사람들 러스트장점알려줭 [1] 무토낑(119.202) 10.30 77 0
2899587 비전공이 개발 덤벼드는거 참 이해가 안된다 ㅇㅇ(106.101) 10.30 85 0
2899586 한국 프로그래머는 노가다라기 보다는 음... 똥퍼입니다. [3] 프갤러(110.8) 10.30 78 0
2899585 러스트가 C보다 빠를숭없징? [6] 무토낑(119.202) 10.30 96 0
2899584 실력이라는게 결국은 일종의 허상이라고 생각은 함. [3] ㅆㅇㅆ(124.216) 10.30 105 0
2899583 한국it에서는 현업자가 더 병신입니다. [1] 프갤러(110.8) 10.30 101 0
2899582 내가 쿠팡 안쓰고 배민 쓰는 이유는 딱 하나임 [1] 야옹아저씨갤로그로 이동합니다. 10.30 81 0
2899581 현업자들의 실력은 어떠냐면 [6] 박민준갤로그로 이동합니다. 10.30 126 0
2899580 ㅆㅇㅆ야 이걸 보고도 너가 성공할 수 있을거라 생각할까? [2] ㅇㅇ(51.158) 10.30 106 3
2899578 엔비디아 회장이 왜 깐부치킨갔는지 생각해봤는데 ㅆㅇㅆ(124.216) 10.30 102 0
2899576 ㄹㅇㅆㅇㅆ 이새끼 반박할때는 쿨한척 운좋은척 다하다가 [1] ㅇㅇ(118.235) 10.30 97 5
2899574 요즘들어 실패의 관점이 바뀜 프갤러(114.205) 10.30 62 0
2899572 초 고수 [3] 배구공(119.202) 10.30 74 0
2899570 ㅆㅇㅆ 얘는 무슨 자신감으로 이렇게 사냐 [1] ㅇㅇ(106.101) 10.30 117 4
2899569 ㅆㅇㅆ야 니 인생 계획은 뭐냐? ㅇㅇ(51.159) 10.30 80 3
2899567 이제 ㅆㅇㅆ 욕하는것도 노잼이네 [1] ㅇㅇ(106.101) 10.30 102 3
2899566 내가 프갤서 느끼는건 자칭 보수 우파라는 애들은 선동과 날조가 패시브임 ㅆㅇㅆ(124.216) 10.30 90 1
2899564 내가 프론트엔드 공부하는데 [2] 호호(121.130) 10.30 91 0
2899562 자바스크립트 어렵다 [1] 호호(121.130) 10.30 80 0
2899561 같이 취미코딩 하실분 Mosaic갤로그로 이동합니다. 10.30 62 0
2899555 '19'갤꼬라지봐라시발.gif [1] 박민준갤로그로 이동합니다. 10.30 81 0
2899544 엔비디아에서 깐부치킨 광고하길래 시킬려는데 [1] 헬마스터갤로그로 이동합니다. 10.30 92 0
2899542 안녕 30 고졸 노베이스 비전공자 컴공 취준생이다 [6] 30고졸노베(125.191) 10.30 146 0
2899539 AI 바이브 코딩 인생 40 년 갈아 넣었습니다. [1] 프갤러(59.16) 10.30 102 0
2899537 리액트 루프에서 index를 키로 쓰지말라는 질문 근데 진짜 날카롭네 [2] ㅆㅇㅆ(124.216) 10.30 95 0
2899536 중국쪽 머기업 프론트 엔드 개발자 면접 질문들 정리한거 봤는 [2] ㅆㅇㅆ(124.216) 10.30 129 0
2899535 요즘 책 종종 읽는데 [2] 루도그담당(58.239) 10.30 113 0
2899534 프로그램 최고 장점이 프로그램은 인터넷에 읽을게 많아 [2] ㅆㅇㅆ(124.216) 10.30 95 0
2899533 몸이 아프질 말아야.. 모든게 의미가 있는거지 [9] 나르시갤로그로 이동합니다. 10.30 97 0
2899531 나 현역때는 기억에 의존하는 개발하기 싫어했는데 [8] chironpractor갤로그로 이동합니다. 10.30 110 0
2899529 너네 근데 깃 명령어 같은거 다 외우냐 [4] ㅆㅇㅆ(124.216) 10.30 111 0
2899526 코드 짜는건 클리셰쓰듯이 해야하는거 아닐까 싶다 항상 [2] ㅆㅇㅆ(124.216) 10.30 81 0
2899525 11시에 일어나서 밍기적대니 지금이네 ㅆㅇㅆ(124.216) 10.30 77 0
2899524 나 칫과 가는데 응원 좀 해주라 ㅠㅠ [8] 나르시갤로그로 이동합니다. 10.30 112 1
2899522 쌀 소고기 방어했다니까 진짠줄 알더라 chironpractor갤로그로 이동합니다. 10.30 101 1
2899521 무릎 아파... 그냥 지나가 .. 넥도리아(223.38) 10.30 83 0
2899520 나는 c cpp도 잘모름 [2] 배구공(119.202) 10.30 124 0
2899518 [대한민국] 김용현 장관 재판 내용 일부 프갤러(121.172) 10.30 68 0
2899517 요즘 써보는 AI 챗봇 중에 쓸만한 거 발견한 후기(무료 팁 포함) 프갤러(1.212) 10.30 83 0
2899516 ㅆㅇㅆ가 만든 타로 사이트 고졸이 하루아침에 만드는 정도인데 ㅇㅇ(121.140) 10.30 139 6
2899515 내가 병렬 프로그래밍 때문에 피시방 가야겠다 ㅠ [3] 프갤러(222.97) 10.30 125 0
2899514 대학원 자퇴하고 싸피나 오토에버 임베디드 가는거 어케 생각? [8] 프갤러(117.111) 10.30 212 0
2899513 [두산로보틱스] 로키부트캠프 AI·로봇 엔지니어 양성과정 7기 모집 (~ 프갤러(14.32) 10.30 110 0
2899512 와 ㅋㅋ [5] 에이도비갤로그로 이동합니다. 10.30 139 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

디시미디어

디시이슈

1/2