폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 12:40:01

조회 16874 추천 40 댓글 216

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

출처: 국내야구 갤러리 [원본 보기]

고정닉 10

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	흡연때문에 이미지 타격 입은 것 같은 스타는?	운영자	24/07/15	-	-
236326	[싱갤] 싱글벙글 도입부가 특이한 전생물.manhwa [85]	ㅇㅇ	06.03	30264	101
236324	[야갤] d-55 다가오는 파리 올림픽 떠나는 파리시민들 [91]	라이스	06.03	20746	43
236322	[싱갤] 싱글벙글 멘헤라 지뢰녀 [254]	배신자캬루	06.02	58837	275
236320	[야갤] '우지끈' 소리나자, 기지 발휘한 아들.jpg [286]	ㅇㅇ	06.02	36008	94
236318	[이갤] 요즘 미국에서 한물간 취급받는 패션 아이템...jpg [374]	설윤아기	06.02	55945	108
236316	[해갤] 오늘 공항에서 손흥민 팬들 비매너 행동....jpg [203]	ㅇㅇ(103.163)	06.02	32058	227
236314	[싱갤] 안싱글벙글 그 시절 전자파 음모론 [477]	차단예정	06.02	41324	439
236312	[프갤] [스압] 브로큰 연대기 15화- 하디 VS 하디 [37]	조커스팅아재	06.02	11830	70
236310	[이갤] 자랑스러운 대한민국이 세계 최초로 만든 발명품 [689]	ㅇㅇ	06.02	40391	316
236307	[카연] 마법소녀기담 ABC 84화 [48]	존크라운	06.02	37805	63
236304	[야갤] 마법처럼 핸들이 저절로, 입 떡 벌어지는 실제상황.jpg [238]	ㅇㅇ	06.02	28019	50
236303	[이갤] 사도세자가 뒤주에서 죽어간 과정...jpg [1015]	ㅇㅇ	06.02	51543	458
236300	[박갤] 일본현지에서 본 한일가왕전이 한국에서 성공한 이유 [266]	ㅇㅇ	06.02	34227	116
236298	[싱갤] 싱글벙글 알고보니 친환경도 아니었던 것 [501]	차단예정	06.02	55138	452
236296	[야갤] 서동주가 말하는 하버드 입학이 진짜 어려운 이유.jpg [554]	ㅇㅇ	06.02	40145	116
236294	[싱갤] 군장매고 산악행군 하는 자위대 manhwa. [486]	ㅇㅇ(121.143)	06.02	25826	244
236292	[야갤] 난리난 디지털사진마이너갤 치킨2마리배 사진대회 사건.jpg [98]	ㅇㅇ	06.02	16496	104
236288	[카연] 헬테이커 팬 만화 19화 [49]	쫄깃한해파리	06.02	18792	126
236287	[우갤] 은퇴 그라비아 모델 어두운 업계의 관행을 폭로 2부 [168]	킹짱두	06.02	39235	56
236284	[위갤] 싱글벙글 즐거운 위스키 만들기 1화 스피릿 만들기 [83]	Sins	06.02	10193	84
236282	[부갤] 중국 충칭시 집값을 알아보자 [372]	부갤러(166.104)	06.02	32220	122
236280	[야갤] 원형 그대로 완벽 보존... 2300년 전 금반지 발견.jpg [134]	ㅇㅇ	06.02	30047	94
236276	[대갤] 짱깨군단 vs 폭주버스.... 숨막히는 대결의 결과는? [243]	난징대파티	06.02	22520	284
236274	[부갤] "서울은 영원하다"...인구감소에도 서울로 서울로 [524]	ㅇㅇ(211.235)	06.02	38032	267
236272	[싱갤] 한국인들이 왜 마른애들이 많은지 알겠다는 여행온 외국인들 [506]	부거왕	06.02	59693	330
236268	[주갤] 요즘 바껴버린 남자들의 마인드(feat.에타) [1133]	ㅇㅇ(211.234)	06.02	70800	1678
236264	[부갤] 일론 머스크. 인류는 슬픈종말로 가고있다. 그리고 한국저출산. [966]	라이스	06.02	44555	455
236262	[싱갤] 싱글벙글 명문대 [307]	ㅇㅇ(121.191)	06.02	59753	1279
236261	[야갤] 00년대 서민동네 학교 분위기.jpg [728]	우로팔	06.02	83276	341
236259	[주갤] 21세기 한국의 카스트제도feat.여군중대장 결말 예상 [375]	ㅇㅇ(126.143)	06.02	34369	764
236258	[싱갤] 디어문 프로젝트(민간인 달 여행)가 취소됨 .... [134]	ㅇㅇ(123.142)	06.02	18472	62
236256	[대갤] 대만 현지인이 말하는 한국과 대만이 다른 점 (군복무 등) [263]	난징대파티	06.02	30970	188
236255	[야갤] 전소민 닮았다는 말에 소신 발언하는 가게 여사장님.jpg [297]	ㅇㅇ	06.02	44456	400
236253	[싱갤] 싱글벙글 어제 철권 경기에서 일어난 ㅂㅅ같은 일 [332]	할머니사랑해요	06.02	36275	227
236250	[부갤] 과잉생산으로 한국을 말려죽이려는 중국의 계획 [719]	부갤러(27.117)	06.02	42728	447
236249	[야갤] 2024년 12월 27일부터 발급되는 '모바일 주민등록증'.jpg [266]	ㅇㅇ	06.02	26735	65
236247	[싱갤] 싱글벙글 여중대장 처벌 안받는 이유 [566]	ㅇㅇ	06.02	73119	963
236246	[카연] 최종보스가 도망쳤다 [85]	카갤러(106.102)	06.02	26821	183
236244	[야갤] "김호중,불안한 가정에서 제대로 교육 못받아.." 감싸기 청원 논란ㅋ [311]	야떡이	06.02	25704	180
236242	[싱갤] 싱글벙글 의외로 직구 금지인 것.jpg [740]	mp4맨	06.02	64870	1089
236240	[역갤] 사람들의 오해와 편견 배우 구혜선의 꼬리표.jpg [304]	ㅇㅇ(118.235)	06.02	28287	58
236238	[리갤] [유쾌] 딸딸이 중독으로 스트리머에게 해고된 사건이 발생함 ㅋㅋㅋㅋㅋㅋ [149]	롤갤러(61.82)	06.02	55003	64
236236	[싱갤] 싱글벙글 괴롭혔던 일진의 근황을 알게된 뷰티풀너드 [297]	할머니사랑해요	06.02	61036	532
236234	[1갤] 무한굴레 얼차려 강요한 여성 군 간부, ‘살인죄’로 고발당해 [653]	한동훈242	06.02	37399	627
236230	[대갤] 무너지는 일본 경찰! 여성 자택 침입해 도둑질하다 체포? 실상은... [171]	난징대파티	06.02	23490	221
236228	[야갤] 역대대통령 퇴임이후의 삶.....jpg [733]	메좆의야짤타임12	06.02	55622	1001
236224	[야갤] "2030~40대까지".. 아파트 월세가 단 돈 1만원.jpg [640]	ㅇㅇ	06.02	38623	297
236222	[디갤] 스압) 박명수는 사진도 잘찍네 [212]	건전여우	06.02	26949	313
236220	[멍갤] 팩트) 퇴직금 9670은 만원 매출 올린분에 대해 지급한 정당한 금액 [270]	멍갤러(39.125)	06.02	26321	381
236218	[싱갤] 김정은 지금까지 심정변화.JPG [415]	백골단	06.02	49023	1195