디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

인공지능 비용이 매년 10배씩 줄어들고 있다.

공부는머리갤로그로 이동합니다. 2025.03.13 12:12:08
조회 6085 추천 16 댓글 31
														

a14008ac3607b4618e343c70565afdd9b4076651ed54ef5c8c5ffb201db0f703013d7a

"그래서 저는 이 질문을 약간 비켜가려고 하는데요. 하지만 업계 전반에서 정말 놀라운 점 하나는, 샘(Sam Altman)이 최근에 말했듯이, 동일한 수준의 지능을 제공하는 비용이 매년 10배씩 줄어들고 있다는 것입니다.


모델이 점점 더 똑똑해지고 있고, 이전에는 더 큰 모델이 필요했던 지능 수준을 이제는 더 작은 모델로 증류(distill)할 수 있게 되었습니다. 추론(inference) 비용도 낮아지고 있고, GPU도 더 빨라지고 있으며, 이런 여러 가지 기술적 발전이 동시에 이루어지고 있습니다.


예를 들어, 2년 전 GPT-3를 API로 출시했을 때를 돌아보면, 당시에는 GPT-3가 정말 혁신적이었죠. 그런데 만약 지금 여러분이 ChatGPT에서 GPT-3로 다시 바꿔서 사용하게 된다면, ‘이게 도대체 뭐야?’라고 생각할 겁니다. 그만큼 우리가 기대하는 표준 수준이 크게 향상되었습니다.


당시 GPT-3는 매우 인상적이었지만, 지금의 GPT-4o mini와 비교하면 100배나 비쌌습니다. 하지만 4o mini는 훨씬 더 스마트한 모델이죠. 그리고 이 변화가 불과 2년 만에 이루어졌습니다.


과거 무어의 법칙(Moore’s Law)은 반도체 칩의 트랜지스터 수가 18개월마다 2배로 증가한다고 했습니다. 그런데 지금 AI에서는 지능의 비용이 매년 10배씩 줄어들고 있습니다. 훨씬 가파른 지수 함수 곡선을 그리고 있는 셈이죠.


그래서 우리가 계속해서 내리는 중요한 결정 중 하나는, 이 추세가 앞으로도 지속될 것이라는 가정하에 움직인다는 것입니다. 그리고 이를 실현하는 방법 중 하나는, 비용을 낮출 수 있는 기회가 있을 때마다 실제로 가격을 인하하는 것입니다.


추론이 더 효율적이거나, 모델 자체가 더 효율적일 때, 우리는 단순히 이윤을 극대화하는 것이 아니라, 즉시 비용을 절감하고 개발자들에게 혜택을 돌려주려고 합니다.


예를 들어, 샘이 저에게 ‘이 API 비용을 반으로 줄일 수 있을까?’라고 메시지를 보내는 일이 정말 자주 있습니다. 일주일에 한 번이 아니라, 한 주에 여러 번씩 그런 요청이 들어옵니다.


그래서 우리는 언제든 비용을 낮출 수 있을 때마다 그렇게 합니다. 그리고 우리는 이러한 비용 절감이 계속될 것이라고 확신하고 있습니다.


실제로 우리가 특정 모델의 가격을 낮출 때마다, 사용량이 증가한다는 것을 발견했습니다. 이전에는 경제적으로 타당하지 않았던 사용 사례들이, 비용이 줄어들면서 갑자기 수익성을 갖게 되는 것입니다. 이런 방식으로 더 많은 AI를 세상에 보급할 수 있게 됩니다.


이러한 추세는 앞으로도 계속될 것입니다."



 




추천 비추천

16

고정닉 1

4

원본 첨부파일 1

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 팬덤 때문에 오히려 여론이 나빠진 스타는? 운영자 25/03/17 - -
5553794 결국이거샀다 릴파(211.235) 03.20 93 0
5553792 오늘 월드컵 시합일정, 각 팀별 일정. [3] 이러셀테리어갤로그로 이동합니다. 03.20 60 0
5553791 아니 알.리 피드백 언제 끝나 [1] 컴갤러(211.36) 03.20 47 0
5553790 5070ti 팰릿 게이밍프로 oc 138만 걍 살까 [19] ㅇㅇ(14.45) 03.20 183 0
5553788 이거 보드 어떰? [4] 컴갤러(61.254) 03.20 60 0
5553787 내 상황에서는 몇달 버틸수 있냐.. ㅇㅇ(117.111) 03.20 41 0
5553786 램 둘 중에 뭐가 나을까요? ㅇㅇ(61.85) 03.20 35 0
5553785 5080 살바에 5070ti 사고 다른거 급 올림? [4] ㅇㅇ(172.225) 03.20 129 0
5553784 알뤼 배송비 물건마다 받던데 그럼 합결제해도 컴갤러(58.228) 03.20 31 0
5553782 삼알에 R200 케이스 어떠냐 [4] ㅇㅇ(211.234) 03.20 48 0
5553781 amd cpu 정품말고 알1리발은 와일즈 쿠폰 못받냐 [2] ㅇㅇ(61.255) 03.20 45 0
5553780 이거 쓸만하냐 릴파(211.235) 03.20 41 0
5553779 5090쓰고 인생이 달라졋다 PLTR갤러리갤로그로 이동합니다. 03.20 63 0
5553777 벤투스 1년도 못쓰고 버리는거 [2] 호굴(106.101) 03.20 99 0
5553776 선 정리는 이렇게 해야됨 [7] ㅇㅇ(117.111) 03.20 106 0
5553775 9070xt 택배 도착했다고 문자 왔다 ㅋㅋ [3] 컴갤러(221.157) 03.20 74 0
5553774 내친구 붕어빵 떡볶이 팔아서 3천만원 벌었다드라 [2] ㅇㅇ(223.39) 03.20 78 2
5553773 5070ti 게임락 놓쳤다 ㅅㅂ [2] 컴갤러(14.4) 03.20 165 0
5553772 긱바 와일즈 500개 한정이였노 ㅋㅋ 컴갤러(211.115) 03.20 65 0
5553771 390인데 이거 괜찮음? [4] 컴갤러(218.234) 03.20 58 0
5553770 이거 맞음? [5] 컴갤러(106.101) 03.20 71 0
5553769 9070xt쓰는새끼들 파워뭐씀? [5] ㅇㅇ갤로그로 이동합니다. 03.20 110 0
5553766 어휴 9070xt 110에 주워왔는데 못쓰네 [5] 컴갤러(211.234) 03.20 130 0
5553764 1000W 파워 시소닉 VS 슈플 [10] 컴갤러(121.152) 03.20 112 0
5553763 장가만 안(못)가면 인생 존나 널럴하지 않음? [9] 컴갤러(106.102) 03.20 94 1
5553762 램 오버없이 783디 에센6000 이랑 팀그룹 5600 [4] 컴갤러(124.122) 03.20 78 0
5553761 9600x멀티점수가 3900x 12코어보다좋은데 원컴떡치고도남지 ㅇㅇ(218.147) 03.20 32 0
5553760 견적좀 봐주라 ㅜ [15] 컴갤러(115.94) 03.20 88 0
5553759 33살 여자랑 22살 여자랑 피부결 차이 많이 남? [3] 컴갤러(211.235) 03.20 72 0
5553758 내꺼 9950x3d 뿔딱임? [9] 컴갤러(49.165) 03.20 137 1
5553757 9600x멀티점수만보면 원컴은떡치고도남을듯 ㅇㅇ(218.147) 03.20 44 0
5553756 긱바 b650m k 하단 간섭 ㄱㅊ? [1] 지나가는갤럼갤로그로 이동합니다. 03.20 76 0
5553754 오 23만 쿠폰 먹음 [3] ㅇㅇㅇ(118.235) 03.20 92 0
5553753 9070xt 어쌔신섀도우 rt풀옵 240프레임 ㄷㄷ ㅇㅇ(175.223) 03.20 59 0
5553752 9600X면 앱플레이어도 20개씩구동가능하지않음? [3] ㅇㅇ(218.147) 03.20 64 0
5553751 근데 조군님은 솔직해서 욕먹는거임? 왤케 적이 많지 [13] ㅇㅇ(172.225) 03.20 117 0
5553750 난 선정리 안하는 새끼들이 제일 싫음 [4] ㅇㅇ(117.111) 03.20 67 0
5553749 96x충들ㅋㅋ 573D를 산 나의 승리군 [5] ㅇㅇ(183.100) 03.20 112 0
5553748 와 이건 ㄹㅇ 국뽕 느껴지네... ㅇㅇ갤로그로 이동합니다. 03.20 90 0
5553747 알1리발 씨퓨 as안되도 ㄱㅊ지않나 [5] ㅇㅇ(61.255) 03.20 73 0
5553746 9600x 보드 이거 괜찮나요? [8] 컴갤러(1.237) 03.20 117 0
5553745 9600x면 다클라도 예전 12코어급성능내지않냐? [2] ㅇㅇ(218.147) 03.20 43 0
5553744 뻘짓 할인 받을거 다 받고 저가격아님? [1] ㅇㅇ(211.234) 03.20 203 0
5553743 이거 가격어때? [2] ㅇㅇ(106.102) 03.20 68 0
5553742 램쿨러 1 vs 2 ㅊㅊ 좀 [2] 홍콩(203.236) 03.20 35 0
5553741 5090완본체 이거어떰? [4] ㅇㅇ(222.114) 03.20 116 0
5553740 다클라도 9600이 5900x보다좋지않냐? [3] ㅇㅇ(218.147) 03.20 60 0
5553739 알뤼에서 결제할때 합결제로해서 150불 넘으면 [1] 컴갤러(58.228) 03.20 34 0
5553738 엄마가 컴퓨터 본체좀 사달라는데 [1] ㅇㅇ(118.37) 03.20 61 0
5553737 예산 150인데 견적 훈수좀 [15] ㅇㅇ갤로그로 이동합니다. 03.20 97 0
뉴스 '이혼보험' 이다희, 자신감 넘치는 ‘오차 제로’ 금융수학자 ‘전나래’로 변신! 캐릭터 스틸 공개! 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2