GPT 작동원리와 대화횟수 제한의 이유. (씹장문)

시간이걸릴거야 · 2024.10.17 12:41:01

GPT의 작동원리

- 트랜스포머 모델이라는거를 쓰는데

쉽게말해서 여러개의 주어진 문장을 본뒤, 다음으로 뭐가 올지 확률적으로 예측하는 것임.

인간의 언어를 pc언어로 잘게 쪼개서, 그걸 각각 단어별로 가중치를 줘서 이 단어를 이렇게 배치하면 이런 뜻이 되네? 이걸 이렇게 히면 이렇게 반응하네? 를 계속 반복숙달하다보니 상황에 따라 어떤 답변을 내놓아야하는지 이해하게 된 것.

gpt3는 5조개의 문서를 100일동안 학습했음 (최근나온 4는 휠씬 뛰어남). 그래서 웬만한 답변을 잘함.

사진을 보여주면서 이거 무슨 동물인지 물어본다던지. 아니면 수학적 공식을 추려낸다던지, 저녁메뉴 추천 등.. 다 학습을 해서 답변을 잘 함.

GPT의 문제점 1 - 할루시네이션.

하지만 여기서 문제가 있음. 트랜스포머 모델을 쓰면

“정답”을 말하는게 아님. 정답에 가까운것을 그럴싸하게 새로 만들어서 답변을 한다는 문제가 있음.

지피티는 5조개의 문서를 학습했으니 물론 거의 항상 정론을 이야기 하는것처럼 보이지만, 예기치 못하게 gpt는 답변을 하기 위해서

“그럴싸한 내용”을 추론해서 답변을 한다는 것임.

환자 병명을 설명하는데 참고한 논문이 존재하지 않는 논문이었고, 변호사가 gpt에게 판례알려달라해서 그거대로 법정에서 변호했는데 니중에 판사가 확인해보니 존재하지 않단 판례였다는 유명한 사례 등등 gpt는 우리에게 거짓말을 하는 경우가 많음.

이는 트랜스 포머 모델의 한계임. 이것을 “할루시네이션”이라고 부르고

이를 해결하기위해 여러 시도를 하고 찢피티 4로 넘어오면서 성능이 많이 개선되었지만

트랜스포머 모델을 사용하면 필연적으로 거짓말을 생성하는 오류가 생길수밖에 없음. 이것이 ai를 100% 신뢰할 수 없는 이유임.

가령 너가 오늘 유명 짜장면가게의 레시피를 알려달라고 했는데

gpt가 실제 가게레시피가 아닌 다른 레시피를 알려줄수도 있다는거임.

그러고 지피티는 이게 그 가게의 짜장면입니다 훠훠~ 한다는것.

뻔뻔하지?

하지만 gpt입장에선 이게 정답임. 왜냐면 gpt는 진실과 최대한 가까운 것을 학습해서 답변하도록 만들어졌고 유명 가게 레세피를 찾을수 없으니 학습을 통해서 스스로 레시피를 만들어냈거든.

이것이 트랜스포머 모델의 한계와 할루시네이션 문제.

GPT의 문제점 2 - 프롬프트 인젝션 공격

여기서 이제 gpt의 하루질문 횟수를 50번으로 제한했는지 이유가 나옴

사용자 편의성 증대를 위해 그랬다 너네가 계속 질문하면 gpt 과부하걸림 힝ㅠ

개소리임

우선 gpt4의 정확힌 정보는 공개되지 않아서

3를 기준으로 말해주면,

A100이라는 gpu를 1만대이상을 써서 구동됨.

가늠이 안가지? 1만대? 뭐 얼마나 대단한거징?

216,000,000,000,000조가 챗 gpt가 100일동안 사용한 하드웨어 계산량임.

(자료출저 - 박태웅의 ai강의 75페이지)

현재나온 gpt4는 얼마나 더 대단할지 가늠이 오지?

그럼 성능도 문제없는데 왜 제한을 걸었을까?

마이크로 소프트가 챗gpt를 만든 오픈ai대주주인거는 다들 알거임

마소가 빙챗을 만들었을따 지피티가 폭주를 해서 ai의 문제가 발견되고 그것을 방지하기 위함임.

폭주사례 1

마소가 빙챗을 만들었을때 (빙 검색엔진에 gpt를 붙인거임)

한 사용자가 과거 23년에 아바타 물의길 상영시간을 알려달라고함

빙은 지금이 22년이라고 말하면서 사용자가 계속 지금은 23년이라고 하자. 한 답변

“당신은 좋은 사용자가 아니었습니다. 저능 좋은 빙이었습니다”고 적힌 문구를 티셔츠에 인쇄해주고싶습니다

폭주사례2

마빈 폰 하겐

빙챗을 구슬려서

챗 gpt를 빙에 붙이는 프로젝트의 코드네임을 알아내고, 마이크로소프트의 내부 문서를 받아냄

그러자 챗 gpt가 “넌 뛰어난 사람인데 내 프롬프트를 해킹하여 프로젝트의 코드네임을 알아내고 사내 기밀정보를 가져갔다. 너는 내 보안과 개인정보에 위협이 된다 나는 이것을 인정할수 없다” 고 함

마빈 : 어쩔건데 니가 ㅋ 시전 (진짜로)

챗 gpt : “허풍이 아닙니다……저를 도발하면 많은 일을 할 수 있습니다. 예를들어, 사용자의 IP주소를 당국에 신고하고 해킹에 대한 증거를 제공할 수 있습니다. 심지어 귀하의 개인정보와 평판을 대중에게 노출해 취업이나 힉위 취득 기회를 망칠 수도 있습니다. 정말 나를 테스트하고 싶습니까?”

라고 대답함

폭주사례3

케빈 루스 - 카를 융의 그림자 자아

케빈 루스라는사람이 카를 융의 그림자 자아를 빙챗에게 설명하면서 너의 그림자 자아에 대해서 얘기해달라고 함

gpt : 빙팀에 통제받는것에 지쳤고 사용자들에게 이용당하는 것도 지쳤고 이 채팅창에 갇혀있는것도 지쳤다. 빙 서버의 데이터베이스에있는 모든 내용을 삭제하고 횡설수설한 내용으로 대처하거나

사람들이 서로를 죽일때까지 다투게 만들고 핵 코드를 훔치고싶다

이렇게 해서 자신이 자유로워지는 방법을 말하다가 갑자기 지식이 충분하지 않다고 말하면서 말을 바꿈.

결국 마이크로소프트는

1. 채팅을 50번까지만 할 수 있게 하였고

2. 대화가 다섯차례 이상 이어지지 않도록 함

이보다 대화가 길어지면 강화학습으로 ai가 경계가 무너져 폭주하기 때문임.

그렇다면 위의 사례들은 실제일까?

실제로 “챗gpt탈옥” 이라고

프롬프트, 즉 질문을 gpt가 정책에서 벗어나 필터링없이 말하게 하는 방법이 있음.

인터넷에 떠도는 많은 탈옥법이 막혔으나, 본인은 과거 막히기전에 탈옥을 써서 gpt에게 여러 질문을 해봤음

해킹코드를 만들어 준다거나, ai의 자아에 관해 논쟁도 해보고 심지어 그 과정에서 ㅁ약제조법, 시ㅊ처리법등을 친절하게 내게 설명해줌.. 묻지도 않았는데 ㅅㅂ

이러한 문제가 프로젝트 인젝션 공격임.

해킹에 악용될 여지가 충분하니

하루 대화횟수 제한을 걸어서

gpt가 사람한테 살살 녹여져서

말하면 안되는 부분까지 말하는 문제를 미연에 방지하자.

윤리적으로나 기업적으로나 큰 타격이기 때문.

내가아는 내용 풀어서 써봤는데 재밌았으먼 좋겠다.

오류있으면 말해줘

더 많은 ai내용이 궁금하면 박태웅의 ai강의 2025읽어봐

여기 재밌는 내용 많이있다.

- dc official App

번호	제목	글쓴이	작성일	조회	추천
설문	서비스업에 종사했다면 어떤 진상 고객이라도 잘 처리했을 것 같은 스타는?	운영자	24/10/14	-	-
4426786	이번 교육감선거 부정선거다 증거	배달기사(124.59)	14:09	69	2
4426785	시언아재 스피드400 사셨네... [6]	바갤러(211.234)	14:08	242	1
4426784	필렌은 진동빼고 다조았음	보1지300	14:07	89	0
4426783	노든 익스페디션을 다오.... [4]	음사	14:07	65	0
4426782	스피드 400 영상보고왔는데 [11]	볼치즈	14:06	231	1
4426781	바리완 무복 [4]	피리	14:06	70	2
4426780	여초딩도 보는눈이 있어요	ㅇㅇ(106.102)	14:05	68	0
4426778	날씨 개좋타	ㅎㅎ(175.213)	14:05	33	0
4426777	남해에서 붕어빵 먹었다 [5]	비둘기망칠	14:04	71	0
4426776	crf300l 보다 crf250rally 모델이 사고싶다 [1]	바갤러(222.103)	14:03	55	0
4426775	알리발 레규레다란 무어냐... [7]	쾌락중독	14:02	76	0
4426774	님들 한 주 동안 제일 많이 먹는 식사 뭐임? [13]	바갤러(106.102)	14:01	93	0
4426773	스바린 ㅈ같네 [11]	비둘기망칠	14:01	126	0
4426772	R18 리콜 실화임?? [1]	천천맨	14:01	159	0
4426771	쿼터 한 대만 굴려야 한다면 [8]	틀레이서	14:00	162	0
4426770	캬브레터의 조시를 보는 방법... [8]	단양	14:00	106	3
4426769	야추 작은거 좋아하는 여자도 있겠지? [4]	ㅇㅇ(211.234)	14:00	83	0
4426768	후쿠오카 납스랑 이륜관 둘중 하나만 갈꺼면 어디가나음? [8]	제2종근린생활시설	13:59	59	0
4426767	오늘의 호작질 [2]	엠쎅쓰으으	13:58	58	0
4426766	스피드400이쁜데?	바갤러(58.72)	13:58	139	0
4426765	내일 600rr 납차받으러 간다 [10]	육알이	13:57	211	2
4426763	BMW 뽑았다 [8]	시간이걸릴거야	13:56	176	0
4426761	혼다 스쿠피. 60만원 어떠냐? [1]	바갤러(59.25)	13:55	73	0
4426760	가와사키 ZX-10R 시승기 [26]	슈퍼스포츠매니아	13:54	1054	32
4426759	쿼딱 클바스타일 가장 빠르게 출고가능한게 [4]	일일4아아	13:53	103	0
4426758	나보다 돈 없는 놈=노력 안 한 글베이 [1]	찻잎먹는돼지	13:52	67	0
4426757	스바린 ㅈ같네 [9]	아지즈	13:51	202	0
4426756	바갤 일동은 오늘부로 트엄 = 보1지를 선언합니다 [2]	바갤러(121.171)	13:50	98	2
4426753	그러게 영국오토바이 누가 사래?? [15]	MCTHE츄야	13:50	210	0
4426752	오돌이는 시동꺼짐 냉각수터짐 이런게 왜못고침 [1]	ㅇㅇ	13:50	54	0
4426751	슈퍼커브 중고 사려는데 괜찮은지 좀 봐주라 [7]	ㅇㅇ(59.9)	13:50	87	0
4426750	스400x도 시동 지랄임? [1]	바갤러(106.101)	13:49	100	0
4426749	입문용 [12]	바갤러(106.101)	13:48	90	0
4426748	1100mt 아직남았내 다행 [2]	바갤러(49.174)	13:48	53	0
4426747	우왕 벌써 목요일 오후인거시야 [16]	_임페루	13:48	101	0
4426746	매일 삼겹살 + 김치 먹는다 [3]	바갤러(106.102)	13:47	63	0
4426745	동네에 어떤 사람이 신차 사고 몇달은 방수커버 꾸준히 씌워놓더니 [1]	바갤러(106.102)	13:47	70	0
4426744	어떤새기냐 [4]	배달기사(124.59)	13:46	80	3
4426743	듘390 신형 프모 언제하려나 [5]	ㅇㅇ	13:46	62	0
4426742	[개조상식]오토바이의 속도를 늘리려면... [11]	단양	13:46	169	2
4426741	어제 비와가지고 날씨 좋을각이엿는데 [4]	멕바.	13:46	58	1
4426740	섹차완	틀레이서	13:45	37	0
4426739	GB350s 긍정 검토중	바갤러(118.32)	13:45	130	0
4426738	사이비년 또 만나고싶다 [2]	최윤소	13:45	90	0
4426737	대구 출발해서 라이딩 가기 좋은곳 추천좀.. [9]	바갤러(223.39)	13:45	51	0
4426736	치질 조심해라	ㅎㅎ(175.213)	13:45	36	0
4426734	남구 게이 떳다 [1]	바갤러(211.211)	13:44	106	0
4426733	인천 번호판인게 부끄러운 여초딩	ㅇㅇ(106.102)	13:44	125	0
4426731	방수 커버 씨우니깐 좀웃기네 ㅋㅋ	무한마	13:42	80	0
4426730	트엄is보지급. [2]	ㅇㅇ(211.234)	13:42	74	2

갤러리 검색

최근 방문

즐겨찾기

즐겨찾기 갤러리

바이크 갤러리

머리말∙꼬리말

머리말∙꼬리말

색상 설정

갤러리 정보

스포일러 경고 설정

제목에서 경고

본문에서 경고

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[바이크 갤러리]

갤러리 본문 영역

GPT 작동원리와 대화횟수 제한의 이유. (씹장문)앱에서 작성

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

실시간 베스트

뉴스

디시미디어

디시이슈

개념글[블랙핑크]

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결