폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 12:40:01

조회 16873 추천 40 댓글 216

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

출처: 국내야구 갤러리 [원본 보기]

고정닉 10

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	흡연때문에 이미지 타격 입은 것 같은 스타는?	운영자	24/07/15	-	-
248296	[새갤] 북한 외교관들의 불법 외화벌이 방법 [153]	정치마갤용계정	07.18	31181	201
248294	[기갤] 숙취에 찌든채로 20년만에 고등학교 등교한 기안 [137]	긷갤러(139.28)	07.18	39966	90
248292	[싱갤] 으악으악 올해 1월부터 핫했던 북한의 또 다른 실태 [381]	아카식레코드	07.18	40850	251
248290	[유갤] 생선을 20만원 어치나 사시는 분.jpg [300]	ㅇㅇ(37.120)	07.17	41988	55
248288	[디갤] zfc뉴비 후지산 다녀왔는데 비와서 카메라를 못챙겼어요.webp [28]	zfc뉴비(211.227)	07.17	7258	8
248286	[카연] 흡혈고등학교 1화.manhwa [28]	한숨	07.17	11593	72
248284	[이갤] 합류 초반부터 마지막 촬영날까지 한결같이 더운 여름에 엉뜨 켜주는 나인우 [58]	감돌	07.17	21873	25
248282	[싱갤] 싱글벙글 한국 농산물이 비싼 근본적 이유 [936]	ㅇㅇ	07.17	53905	408
248280	[주갤] 한태부부 랜선연애부터 첫만남까지 같이보자.jpg [245]	태아령	07.17	27492	310
248276	[야갤] 하버드 의사가 말하는...저탄고지 식단 ㄹㅇ...jpg [704]	Adidas	07.17	58333	456
248274	[부갤] 정부가 억지로 끌어올린 서울 집값...나중에 폭탄된다 [556]	옌우응	07.17	35999	301
248272	[싱갤] 훌쩍훌쩍 영어-불어촌 [116]	도시드워프	07.17	20358	68
248270	[새갤] 나·원·윤, 한동훈 불가론 총공세 vs 한 "이런 정치 안돼" [286]	정치마갤용계정	07.17	15627	76
248268	[부갤] 5년밖에 안된 아파트가... 폭우에 주차장 천장서 '물 줄줄' [257]	ㅇㅇ(185.206)	07.17	29167	159
248266	[프갤] 미래의 프롬갤 만화.manga [78]	ㅇㅇ	07.17	22737	252
248264	[싱갤] 오싹오싹 제국의 마지막 유산 근황 [528]	ㅇㅇ(218.146)	07.17	35507	212
248262	[대갤] 日, 세금 내기 싫다고 칼 휘두르다 불질러... 공무원 3명 부상 [261]	난징대파티	07.17	21947	189
248259	[주갤] 한베커플 만남에서 결혼까지 같이보자5.jpg [640]	태아령	07.17	36025	366
248256	[싱갤] 훌쩍훌쩍 75살 아버지와 25살 아들 [602]	ㅇㅇ(1.234)	07.17	51944	655
248250	[이갤] 동창생 식물인간 만든 20대, 2심서 "친구에게 미안해... 선처를" [457]	ㅇㅇ(194.99)	07.17	35271	167
248247	[카연] 개찐따 긁는 만화 10 [50]	발랑토끼	07.17	16871	95
248244	[야갤] K-군인 가족이라면 받을 수 있는 혜택 [395]	ㅇㅇ	07.17	40074	372
248241	[싱갤] 뉴욕에서 극찬하는 43년째 장사중인 피자집...jpg [298]	키배전사	07.17	50615	136
248238	[대갤] 日, 학교에서 창에 목을 찔린 남학생... 충격 반전은? [242]	난징대파티	07.17	39620	187
248235	[해갤] 두창신 피로스의 승리...전공의 1만여명 사직처리 확정 [794]	ㅇㅇ(49.163)	07.17	29752	577
248232	[싱갤] 뭔가뭔가 너무 이상한 체납자의 집 [227]	Patronus	07.17	60050	322
248229	[메갤] 창-POP을 정리하는 시간을 가져보자.happytime [240]	ㅇㅇ(221.154)	07.17	25830	347
248226	[기갤] "편의점 6년 운영하면서 이런 진상은 처음이네요".jpg [287]	ㅇㅇ	07.17	43946	229
248223	[싱갤] 싱글벙글 일본사회 근황.jpg [879]	ㅇㅇ(1.232)	07.17	69184	571
248217	[기갤] 새벽 해운대 주점에서 10여명 난투극, 벌써 몇 번째.jpg [385]	ㅇㅇ	07.17	29813	165
248214	[보갤] 군 "북, DMZ 작업 중 10여회 지뢰폭발 사고…사상자 다수" [244]	암흑망	07.17	27722	103
248213	[카연] 신이 역사 바꾸는 만화 외전 (12) (이영과 빅토리아) [51]	브소	07.17	11531	61
248211	[싱갤] 천조국에서 극찬하는 팬케이크 맛집...jpg [392]	키배전사	07.17	46951	180
248210	[기갤] 변우석, 이번엔 '과잉 경호' 필요해 보여...확 달라진 입국 현장 [433]	ㅇㅇ(122.42)	07.17	27841	13
248208	[국갤] 한국인 젊은이들 연애 야스 안하는거 맞대 ㅋㅋ [1674]	마떼오	07.17	69977	367
248206	[이갤] 주행하던 오토바이 앞으로 X같이 차선변경해놓고 쌍욕에 폭행까지하는 차주 [140]	감돌	07.17	19417	93
248204	[새갤] 전쟁시 예비군 복무했던 부대로 원대복귀 검토 [1033]	포만한	07.17	35054	269
248202	[싱갤] 싱글벙글 보배 독거 중년의 밥상 [639]	박다빈	07.17	37604	404
248198	[기갤] 새끼강아지 베란다에서 던져서 살해... 범인은 '촉법소년' [538]	ㅇㅇ(106.101)	07.17	24078	118
248196	[싱갤] 오싹오싹 후속편 제작 발표난 공포영화들 [214]	수인갤러리	07.17	26916	82
248194	[유갤] 굴업도 드론샷 보고 가 [41]	댕댕이애호가	07.17	6137	27
248192	[새갤] 사상 최초 검찰총장 청문회 증인 채택... 이원석 불출석할 듯 [205]	정치마갤용계정	07.17	15699	63
248190	[팝갤] 카라큘라 야반도주ㅋㅋㅋㅋ [423]	ㅇㅇ(211.36)	07.17	61579	413
248188	[기갤] 미연한테 팩폭 날리는 기안84 [591]	긷갤러(155.94)	07.17	45927	330
248186	[싱갤] 중국페미들이 중국게임에 하는 짓 [509]	ㅇㅇ(119.192)	07.17	50528	627
248184	[해갤] 이강인이 이적시장에서 천억시대 열고 뉴캐슬 700억피셜도 나옴 [231]	ㅇㅇ(219.255)	07.17	22244	153
248182	[호갤] 엔씨 김택진: "개발인력들 모조리 해고해 회사 추락의 책임 물을것" [1057]	호갤러(104.254)	07.17	42190	347
248180	[싱갤] 일본에서 싫어하는 탈북단체 [331]	ㅁㅇㄹ	07.17	26919	193
248177	[새갤] 트럼프 대선후보로 확정…‘흙수저 신화’ 밴스 부통령 후보로 [223]	정치마갤용계정	07.17	19834	115
248174	[부갤] [사진] 외국인들 롯데타워 올라가면 보이는 반응 [478]	ㅇㅇ(106.101)	07.17	32317	501