디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

딥싴 분석글인데 중간에 메타 까이는거 ㅋㅋㅋㅋ모바일에서 작성

초보팡갤러갤로그로 이동합니다. 2025.01.27 18:39:52
조회 121 추천 0 댓글 7
														


04b3c423f7dc3db251ed86e74381756fad9c094a405f9dc6fb2ccc04a31695ebcb169d25304a6e4c0c60


74bed520bd8239f323efd5b0449c706cb342b6e495f9596b356b72d916ee599b888bc808089d3ea3467b396a56d2808f6ffad928



Deepseek 관련 내용 정리


Dropbox의 AI 부사장 Morgan Brown


1/ 먼저 배경부터 설명하겠습니다. 현재 최첨단 AI 모델을 훈련시키는 비용은 엄청나게 비쌉니다.


OpenAI, Anthropic 같은 회사들은 계산에만 1억 달러 이상을 쓰며, $4만짜리 GPU 수천 대가 필요한 대규모 데이터 센터를 운영합니다. 마치 공장을 운영하기 위해 발전소 전체가 필요한 상황과 같습니다.


2/ 그런데 DeepSeek이 나타나서 이렇게 말했습니다.


“LOL, 우리라면 이걸 500만 달러로 할 수 있을걸?”

그리고 말로만 한 것이 아니라 실제로 해냈습니다.

그들의 모델은 GPT-4와 Claude를 많은 작업에서 능가하거나 대등합니다. AI 업계는 (요즘 10대들이 말하듯) ‘충격’을 받았습니다.


3/ 어떻게 가능했을까요?


그들은 모든 것을 처음부터 다시 생각했습니다.

전통적인 AI는 마치 모든 숫자를 소수점 32자리까지 기록하는 것과 같습니다.


DeepSeek은 “8자리로만 기록하면 어떨까? 충분히 정확하잖아!”라고 접근했고, 결과적으로 메모리 사용량이 75% 감소했습니다.


4/ 그리고 그들의 “멀티 토큰” 시스템도 주목할 만합니다.


일반적인 AI는 초등학생이 읽듯이 “The… cat… sat…”처럼 읽습니다.


반면, DeepSeek은 문장 전체를 한 번에 읽습니다. 결과적으로 2배 더 빠르고 90% 수준의 정확도를 자랑합니다.


수십억 개의 단어를 처리할 때, 이런 효율성은 매우 중요합니다.


5/ 하지만 진짜 기발한 점은 “전문가 시스템”을 구축했다는 것입니다.


한 거대한 AI가 모든 것을 다 알도록 만드는 대신(예: 한 사람이 의사, 변호사, 엔지니어 역할을 모두 하는 것처럼), DeepSeek은 필요한 경우에만 전문가들을 호출하도록 설계했습니다.


6/ 기존 모델은 1.8조 개의 파라미터가 항상 활성화되어야 합니다.


DeepSeek은 6710억 개의 파라미터 중 단지 370억 개만 활성화됩니다.


마치 큰 팀을 운영하되 필요한 전문가만 호출하는 것과 같습니다.


7/ 결과는 놀랍습니다:


• 훈련 비용: 1억 달러 → 500만 달러

• 필요한 GPU 수: 100,000대 → 2,000대

• API 비용: 95% 절감

• 데이터 센터 하드웨어 대신 게이밍 GPU에서도 실행 가능


8/ “그런데,” 누군가 말할 수 있습니다. “분명 단점이 있겠지!”


놀라운 점은, 모든 것이 오픈 소스라는 것입니다.

누구나 그들의 작업을 검증할 수 있습니다. 코드는 공개되어 있고, 기술 논문은 모든 과정을 설명합니다.


마법이 아니라, 단순히 매우 영리한 엔지니어링입니다.


9/ 왜 중요한가요?


이로 인해 “대형 기술 기업만이 AI를 다룰 수 있다”는 기존의 모델이 깨졌습니다.


이제 수십억 달러 규모의 데이터 센터가 필요하지 않습니다.


좋은 GPU 몇 대만 있으면 됩니다.


10/ Nvidia에게는 두려운 이야기입니다.


그들의 비즈니스 모델은 초고가 GPU를 90% 마진으로 판매하는 데 기반을 두고 있습니다.


하지만 모두가 일반 게이밍 GPU로 AI를 돌릴 수 있게 된다면… 문제는 명확합니다.


11/ 그리고 중요한 점은 DeepSeek이 이를 200명 이하의 팀으로 해냈다는 것입니다.


한편 Meta의 팀은 DeepSeek 전체 훈련 예산보다 더 많은 연봉을 받으며 작업을 하고 있지만, 그들의 모델은 DeepSeek만큼 좋지 않습니다.


12/ 이는 전형적인 파괴적 혁신의 이야기입니다.


기존 기업들은 기존 프로세스를 최적화하는 데 초점을 맞추는 반면, 파괴적인 혁신 기업들은 근본적인 접근 방식을 다시 생각합니다.


DeepSeek은 “더 많은 하드웨어를 투입하기보다 더 똑똑하게 접근하면 어떨까?”라고 물었습니다.


13/ 그 영향은 큽니다:


• AI 개발이 더 접근 가능해짐

• 경쟁이 급격히 증가

• 대형 기술 기업들의 “진입 장벽”이 작은 웅덩이처럼 보임

• 하드웨어 요구 사항(및 비용)이 급감


14/ 물론, OpenAI와 Anthropic 같은 대기업들이 가만히 있지는 않을 것입니다.


그들은 아마도 이미 이러한 혁신을 구현하고 있을 것입니다.


그러나 효율성의 램프는 이제 병 밖으로 나왔으며, “더 많은 GPU를 투입하자”라는 접근 방식으로 돌아갈 수는 없습니다.


15/ 마지막 생각:


이 순간은 우리가 나중에 변곡점으로 기억할 가능성이 높습니다.


마치 PC가 메인프레임을 덜 중요하게 만들거나, 클라우드 컴퓨팅이 모든 것을 바꿨던 것처럼요.


AI는 더 접근 가능하고, 훨씬 저렴해질 것입니다.

이 변화가 현재 플레이어들에게 어떤 영향을 미칠지는 속도의 문제일 뿐입니다.




=======


메타는 그연봉 주고 뭐했냐이기야


떡사먹었느냐

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 예능 속 모습이 오히려 이미지 반감 시킨 것 같은 스타는? 운영자 25/01/27 - -
7152067 새삼 대단하네.. 가까운 지인과도 나누는 것을 꺼리는 세상에서 [15] 홈즈,갤로그로 이동합니다. 01.28 67 0
7152066 모나 19800으로 옮겨야겟다 갤로그로 이동합니다. 01.28 14 0
7152065 형님들 별거 아닌 것 같기도 한 일에 멘탈 갈리네요 [2] ㅇㅇ(211.33) 01.28 20 0
7152064 덴퀴 <- 이새끼들 ㄹㅇ 역겨웠음ㅋㅋㅋㅋ [2] 갤로그로 이동합니다. 01.28 40 0
7152062 아니 아사나기 미카 ai짤이 아니네...? [1] 너구리위식빵갤로그로 이동합니다. 01.28 50 0
7152061 짤 홈즈인만큼 빡공함 [4] 갤로그로 이동합니다. 01.28 27 0
7152060 인생~~ [3/1] 뚜엔띠엔갤로그로 이동합니다. 01.28 18 0
7152058 "너 때린애 이름이 '김일진' 맞아?" [2] ㅇㅇ갤로그로 이동합니다. 01.28 38 0
7152056 마음 속 잇신 이새끼 존나 빡치는 패턴이 하나 있음 치매반룡갤로그로 이동합니다. 01.28 9 0
7152055 슈카 이번 해외여행증가기조 다뤗네 [7] 버러지갤로그로 이동합니다. 01.28 64 0
7152054 아니 덴마떡밥 왜도나했는데 김누렁갤로그로 이동합니다. 01.28 23 0
7152053 네 맞습니다. 제가 바로 순결맹주 순결상제 홈즈입니다. [4] 홈즈,갤로그로 이동합니다. 01.28 28 0
7152052 그러니 일본 농민 영주 갈아타는건 대충 이런 느낌 [14] ㅇㅇ,(58.29) 01.28 61 0
7152051 fx전사쿠루미 시발 서브캐 속터지네 ㅋㅋㅋ [1] 종말연구갤로그로 이동합니다. 01.28 27 0
7152050 양영순 신작 주인공 이거 주술회전베낀거아니냐 [6] 푸슈갤로그로 이동합니다. 01.28 95 0
7152049 근데 만화가가 만화 좆박은거 < 이게 잘못인가? [2] ㅇㅇ.갤로그로 이동합니다. 01.28 57 0
7152048 이년은 대체 누구임 [10] 어사일럼갤로그로 이동합니다. 01.28 72 0
7152046 그림 잘 그리는 사람이 3D까지 하는 거 좀 상도덕 위반이네 msec갤로그로 이동합니다. 01.28 22 0
7152044 곧 미장 개장이네 이세계고닉갤로그로 이동합니다. 01.28 10 0
7152043 노스턴 다이나믹스 개웃기네 ㅋㅋㅋ [1] 젖보똥0.2갤로그로 이동합니다. 01.28 29 0
7152042 일본 덴마 반응이 궁금한 칭기는 봐 [2] ㅇㅇ(124.55) 01.28 74 0
7152041 이상하게 야간알바 시작하니까 오히려 아침에 눈뜨게됨... 치차갤로그로 이동합니다. 01.28 20 0
7152040 아 살기싫다~~ 우므갤로그로 이동합니다. 01.28 19 0
7152039 덴마 실시간으로 엔딩 봤을때 충격이 아직도 [7] 너구리위식빵갤로그로 이동합니다. 01.28 53 0
7152038 이런거 보면 한남이라서 너무 억울하네 인터네코갤로그로 이동합니다. 01.28 33 0
7152037 신로라는거 당연히 진로라고 생각하고 있었는데 침로였을수도 있겠군 갤로그로 이동합니다. 01.28 15 0
7152034 그니깐 중세 일본에선 '영지전' 개념이 있었던건가 [2] 폭유밀프모락갤로그로 이동합니다. 01.28 35 0
7152033 양가놈 신작 냈다고???????? 루시아거짓요양원갤로그로 이동합니다. 01.28 38 0
7152032 아니 그놈의 고릴라는ㅋㅋㅋ [3] 뭬뤠갤로그로 이동합니다. 01.28 55 0
7152031 덴마 나이트까진 볼만했음 [1] 소일렌트그린갤로그로 이동합니다. 01.28 13 0
7152029 세키로같은 게임이 하고 싶구나 [4] 치매반룡갤로그로 이동합니다. 01.28 14 0
7152027 제 원픽 탑등반물은 소설이 아님 [2] 건떨괴갤로그로 이동합니다. 01.28 27 0
7152024 양영순도 결국 만화로 얻는 관심 못 잃고 돌아왔노 ㅋㅋ 폭유밀프모락갤로그로 이동합니다. 01.28 28 0
7152023 맞다 낼을 위해서 소설아껴둘까 우므갤로그로 이동합니다. 01.28 9 0
7152020 술이 싫다 오뇨갤로그로 이동합니다. 01.28 11 0
7152019 오늘도 영양가 없는 하루구나 황천볶음밥갤로그로 이동합니다. 01.28 13 0
7152018 홈즈가 킁킁하는 [2] 라만차의기사갤로그로 이동합니다. 01.28 17 0
7152017 류웨이 ㅅㅂ 개십놈아 [6] 게임애호가갤로그로 이동합니다. 01.28 38 0
7152016 오늘은 피곤해서 동음들으면 잠들겟군 [5] ㅇㅇ(118.235) 01.28 19 0
7152015 오늘볼만화 [2] 해은갤로그로 이동합니다. 01.28 24 0
7152014 동방월령전8/10 유명경갤로그로 이동합니다. 01.28 10 0
7152012 피겨뚤래 근리디 연출보고 갑자기 생각났는데 호탈갤로그로 이동합니다. 01.28 22 0
7152011 100만 고쿠다카 다이묘가 되기 위해 노력하는 중근세풍 영지물이 [8] ㅇㅇ,(58.29) 01.28 49 0
7152009 양영순 이 사람 뭔 깡으로 신작냈냐?? [4] 그림먼저본다갤로그로 이동합니다. 01.28 110 0
7152008 양영순까이긴 한데 사람들이 양영순에 대해 오해하고 있는ㄷ ㅇㅇ(124.55) 01.28 53 0
7152007 히미미) 아논소요 동거만와 후일담짤까지 떴네.man [2] 무명소졸,갤로그로 이동합니다. 01.28 50 0
7152004 아니 FX전사 쿠루미 리메판 나무위키보다가 충격먹었네 [5] 천덕영갤로그로 이동합니다. 01.28 57 0
7152003 에어부산 인명피해 없대 [5] 소일렌트그린갤로그로 이동합니다. 01.28 61 0
7152001 양영순 진짜 개레전드노... [5] 디클군갤로그로 이동합니다. 01.28 119 0
7152000 영국 Z세대 이게 뭐다냐 [3] 소일렌트그린갤로그로 이동합니다. 01.28 55 0
뉴스 '태양의 후예'를 티빙에서? OTT 콘텐츠 확대 디시트렌드 01.28
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2