디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

rtx5090 Flux FP16 원본모델 11초대 달성 미친AI성능

컴갤러(175.197) 2025.02.06 11:56:43
조회 129 추천 0 댓글 3
														









29b4c123e28a6bf27baed1b0479f3433c4a6952cb907ffffb64deb744af8






image size : 1024x1024 / seed:6 / steps 30 / cfg 8 / sampleur dpmpp_2m / karras / prompt + : Beautiful scenery nature glass bottle landscape, NVIDIA graphic card atmosphere, abstract dark green galaxy bottle, "RTX 5090" green text written on the bottle, text glow,






위는 RTX5090으로 flux DEV 모델의 원본(FP16) 을 구동한것으로
VRAM 사용량이 27GB가 넘어간 것을 볼 수 있다.

기존 24GB모델에서는 VRAM용량이 낮아
현실적으로  업무에서 FP16모델을 사용할 수 없으며

사용하더라도, OFFLOAD 로 인해 시스템RAM으로 데이터가 넘어가버려서
측정이 의미 없을 정도로 잡 로딩이 엄청나게 느려지게 되는데

이런 현상 조차도 시스템 RAM이 80gb이상 있을때나, 겨우 느껴볼 수있는 느려짐 현상이지

64gb이하 인 경우는 아예 먹통이라  ,"이거 원래 구동 안 되요" 라고 알고있는 사람이 상당히 많음




사실 너무 당연한듯이 FP8 양자화모델만 쓰고있어서
FP16모델을 써본적 조차 없는 사람들이 대부분이다.


그로인해. 위 레딧에서는 FP16모델을 사용하여 VRAM이 27gb가 넘어간 것을 인증했고
사실상 개인 유저들에겐 완전히 구름위 신세계에서 노는거라
현실적으로 비교대상조차 없는것이다. 
 L40 A40 A100 유저들 기준으로도 GPU성능이 너무 많이 차이나서 비교 대상이 되지 못한다


하지만 바로 아랫댓글을 보면

FP8 모델을 로드해놓고 자기랑 2배 차이 밖에 안 난다고 위안하는 모습을 볼 수 있는데

바로 대댓글에 3090에선 FP16모델을 로드 할 수 없기 때문에 동일한 설정이 아니라고 다시 댓글이 달린다


실제로는 시스템 메모리를 80gb이상 확보한 뒤 vram도 싹 비우면3090에서도 fp16이 로드가 가능하지만

현실적으로 각종 사전,사후 로딩이 너무 엄청나서,  실무에서의 속도는 5090과 비교 자체가 안된다.


그렇기 때문에 애초에 5090과는 비교를 할 수 있는 시스템이 아니라고 단정지을 수 있는것이다


FP8에서 구동시

FP16대비 시간은 보통 60%대로 단축되며
즉 5090의 FP8성능은 3090의 3배 이상에 달하는것이다.
이건 뭐 4090과의 비교에서도 이미 검증된 내용임


그리고 더욱 관건인 부분은 FP4가 포함된 모델의 경우인데.
FP4를 적절히 섞은 모델이 나올경우 깡성능으로
3090의 10배이상의 성능을 낼것이 확정적이며 "FP4만" 적용하면 성능은 거의 20배에 달한다

4090과의 FP4깡성능은 4.5배 차이로 알려져있으며

FP4를 일부만 적용하더라도 2배~2.5배정도의 차이는 예상해볼 수 있다.

그러므로 깡성능에서 5090의 가치는 4090의 2.5배 정도의 가치이며

VRAM의 특권에서도 2배이상의 가치를 가지게 되어

총합적으로 2.5~3배 정도의 가치를 가지게되며

4090의 가격이 280이라고 치면

5090은 550~1000만원 범위로 환산되는것이다.
(게임성능은 고작 1.3~1.4배지만 게임은 이제 아무런 의미가 없는 지표임)
그러므로 향후 시세를 정확하게 예측가능하며

이 모든 시세를  낮출 수 있는 새로운 제품 또한 nvidia제품이며

이걸 할 수 있는  사람 또한 황회장뿐이다.




















추천 비추천

0

고정닉 0

0

원본 첨부파일 1

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 타고난 드립력으로 사석에서 만나도 웃길 것 같은 스타는? 운영자 25/02/10 - -
5363228 몬헌할랬는데 사양 지랄낫네 [6] HolyMoly갤로그로 이동합니다. 02.11 134 0
5363227 몬헌 할려는데 현재 컴 좀 봐주라 [2] 컴갤러(106.101) 02.11 55 0
5363226 5080 4090 딱 정해줌 ㅇㅇ(118.235) 02.11 105 2
5363225 난 5080 초기에 샀지 [5] ㅇㅇ(211.234) 02.11 176 0
5363223 목욜에 80 물량 풀리는데 대체 왜 지금 230,40 주면서 사는거임? [11] 컴갤러(1.230) 02.11 129 0
5363222 천대 풀리는거 확실하냐? [2] 컴갤러(112.159) 02.11 105 0
5363221 CPU 사용률 왜 이러는지 알려줘라 [3] 컴갤러(112.150) 02.11 89 0
5363220 3년전에 산 m.2 요즘 보드에 호환 되냐 [5] 게고기갤로그로 이동합니다. 02.11 64 0
5363219 여자가 30살이면 어린편임? 나이먹을만큼 먹음편임? [11] ㅇㅇ(118.235) 02.11 85 0
5363218 중국의 독거미 키보드 인기 비결이 뭐냐? [11] ㅇㅇ(211.234) 02.11 113 1
5363217 걍 4090 중고 삼 ㅇㅇ [2] 컴갤러(118.235) 02.11 121 0
5363216 4080 사고나서 스타밖에 안했는데 [3] 컴갤러(220.87) 02.11 94 0
5363214 사고나니 알겠다 그냥 빨리 사고 나가는게 베스트네 [1] ㅇㅇ(211.235) 02.11 52 0
5363213 5080 230에 지금 파는거랑 아스트랄 550만원 [2] ㅇㅇ갤로그로 이동합니다. 02.11 86 0
5363212 글카 집에서 쓰던거 왠만해선 문제안생김 [2] ㅇㅇ(211.235) 02.11 54 0
5363211 5080 관심없고 5090 좀 풀어라 컴갤러(119.207) 02.11 34 0
5363210 14400 내장으로 FHD 27인치 100hz 사무용 불가능??? [3] ㅇㅇ(223.62) 02.11 44 0
5363209 대충 회사 생활 10년 해서 3억 +@ 모았는데 [9] 룰루갤로그로 이동합니다. 02.11 90 0
5363207 5070,60도 0.1초 품절컷 재고 6개월뒤 들어오고 [1] 애아이이앵갤로그로 이동합니다. 02.11 85 0
5363206 5080 2월달에 대량 풀린다고 싸진다는 병신이 있네 ㅋㅋㅋㅋㅋ [5] 컴갤러(125.242) 02.11 169 0
5363205 야시발 장인이랑 마누라랑 싸우는디? [3] ㅇㅇ(175.223) 02.11 70 0
5363204 7900xtx 98에 산 내가 승리자다 [2] ㅇㅇ(211.235) 02.11 116 0
5363203 운송장 조회해보니깐 사고 라고 나오는데 [4] ㅇㅇ갤로그로 이동합니다. 02.11 58 0
5363202 근대 솔직히 한국에서 1억가지고있어도 [7] 컴갤러(211.226) 02.11 112 1
5363201 노바레이크 언제나옴 [1] 컴갤러(106.101) 02.11 40 0
5363200 4080s 승자임? [5] ㅇㅇ(211.210) 02.11 179 0
5363199 이거 뭐임 씨발? [5] 신드라갤로그로 이동합니다. 02.11 152 1
5363198 5080 견적점 봐줘 [7] 컴갤러(121.147) 02.11 146 0
5363197 근데 미친년이 왜 8살 어린이를 잔혹하게 죽인거냐 [10] ㅇㅇ갤로그로 이동합니다. 02.11 141 0
5363196 뭐래 병신들아 안산사람이 승리자지 ㅋㅋㅋ [1] 컴갤러(106.102) 02.11 70 0
5363193 5080 빨리 산 사람이 승자네 ㅋㅋㅋㅋ [2] 컴갤러(121.144) 02.11 195 0
5363192 5070ti [1] ㅇㅇ(218.55) 02.11 139 0
5363191 님들 sata ssd 이거 그냥 저장용으로 써도 됨? [10] ㅇㅇ갤로그로 이동합니다. 02.11 47 0
5363189 야 시발 5080 한국이 그나마 사기편한거임 [3] ㅇㅇ갤로그로 이동합니다. 02.11 138 0
5363188 보통 글카 업글하면 쓰던 글카는 어떻게함? [4] ㅇㅇ(118.235) 02.11 55 0
5363187 대기업 정년보장 얘기는 누가 퍼트리고다니는거임? [2] ㅇㅇ갤로그로 이동합니다. 02.11 53 0
5363186 듀얼 오리가 세상을 지배한다!! [2] ♥보슐랭_보믈리에♥갤로그로 이동합니다. 02.11 82 0
5363185 FHD 기준 극종결 하이엔드 알려준다 [2] ㅇㅇ갤로그로 이동합니다. 02.11 126 0
5363184 이번사고 40대 여선생 미혼일거같음 ㅇㅇ갤로그로 이동합니다. 02.11 37 0
5363181 만리 5080 정가 어딨냐 안보임 [3] 컴갤러(121.167) 02.11 103 0
5363180 근데 4090은 둘째치고 4080s가 이렇게 파릴줄 몰랐네 [6] ㅇㅇ갤로그로 이동합니다. 02.11 120 0
5363179 형들 5070ti 반본체 이거 어때? 평가좀 [10] 컴갤러(211.246) 02.11 175 0
5363178 알리에서 킹뱅크스토어 에서삿는데 as보장해준데 [2] 컴갤러(58.122) 02.11 74 0
5363177 중고 글카는 알리발만 안사면 됨 ㅇㅇ(211.234) 02.11 42 0
5363176 아니 5080 얼마나 페이퍼런칭이길래 일부국가에선 라데온도 품절대란이냐 [1] CureRTX갤로그로 이동합니다. 02.11 95 0
5363173 택배에 파손주의 스티커가 무슨 의미가 있냐 [7] 컴갤러(121.177) 02.11 69 0
5363172 알리에서 시킨거 목적지 국가 분류센타에서 출발했다는디 [9] 콩먹는콩벌래갤로그로 이동합니다. 02.11 72 0
5363171 이거 사기냐? [8] ㅇㅇ(118.235) 02.11 140 0
5363170 게인워드 피닉스 5080 구매함 00(220.119) 02.11 75 0
5363169 갖고싶냐? [4] ㅇㅇ(118.235) 02.11 101 0
뉴스 박보영, 최우식과 ‘멜로무비’ 첫 호흡 “웃음 버튼” 디시트렌드 14:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2