폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 05:54:17

조회 159 추천 3 댓글 0

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

고정닉 1

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	남녀 팬 반응이 극과 극으로 나뉘는 것 같은 스타는?	운영자	24/09/30	-	-
14879092	2019년이 ㄹㅇ 조온나 그리운 시절 아니노?	ㅇㅇ(118.235)	10:51	35	2
14879091	아 젖탱이랑 보댕이 빨고싶다	ㅇㅇ(223.33)	10:51	52	0
14879090	20년 전 2004년 대한민국이 정확히 어떤 모습이었노? [1]	ㅇㅇ(118.235)	10:51	29	0
14879089	ㅈㄴ쎄지고 싶네 그냥 [1]	ㅇㅇ	10:51	120	0
14879088	mtr 당하고 싶으면 비정상인가	ㅇㅇ(118.128)	10:50	32	0
14879087	10년 전으로 돌아가기 vs 그냥 살기 [1]	ㅇㅇ(118.235)	10:50	34	0
14879086	섹스	ㅇㅇ(126.92)	10:50	39	0
14879085	소변을 앉아서 싸긴 ㅅㅂ 왜 치마도입고다니지	ㅇㅇ(211.234)	10:50	88	0
14879084	조혈모세포 기증 많이 해라.TXT [1]	평화(58.142)	10:48	129	3
14879083	난 연상이 좋다 [2]	야갤러(125.141)	10:47	183	4
14879082	브라질리언 왁싱 커스텀.. 가격..jpg [17]	업햄	10:47	377	11
14879081	고1도 페도냐? [2]	ㅇㅇ	10:46	193	0
14879080	모닝중이순이	ㅇㅇ(218.238)	10:45	197	0
14879079	ㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ	10:44	28	0
14879078	요즘 심야/조조 영화 없지않나?	수능디	10:44	44	2
14879077	ㅋ ㅋㅋ [10]	ㅇㅇ	10:43	81	0
14879076	아 딸이나 한 번 더 칠까 [2]	ㅇㅇ(58.227)	10:43	85	1
14879075	ㅋㅋ	ㅇㅇ	10:43	26	0
14879074	ㅅㅂ 만취하면 전여친이나 섹파애들한테 카톡보내는거	ㅇㅇ(203.229)	10:43	65	0
14879073	아니 시발 한녀들 별걸 다 번역하네 [3]	ㅇㅇ(112.162)	10:42	170	0
14879072	소방관 난리 났네 ㄷㄷㄷ [3]	@@(222.112)	10:42	255	3
14879071	난 소변도 앉아서 싸는 편임.ㅇㅇ [5]	야갤러(125.141)	10:42	141	1
14879070	일반인 야구 제대로 배우고 싶은데 [8]	ㅇㅇ	10:41	52	0
14879068	(실내로 들어오며) '으추추~'	ㅇㅇ(203.229)	10:41	37	0
14879067	아오 추웡 [1]	창무	10:40	108	0
14879066	이태임은 기독교인인데 왜 그렇게 입에 욕을 달고 다니냐?.TXT [1]	평화(58.142)	10:40	106	2
14879065	야이새기들아 '건강해지고있단거임' 그만써라.txt [1]	라여라여	10:40	70	0
14879064	3일 안씼었는데도 거울보니까 잘생겼네..	ㅇㅇ(203.229)	10:40	38	1
14879062	갤럭시 무한부팅 씹구자리 ㅋㅋㅋ	야갤러(183.97)	10:39	36	0
14879061	스스로 약물하는 개메좆	비스크돌마린	10:39	78	0
14879060	올 겨울은 녕이더 사 입어야지 ㅋㅋ [8]	공유빈	10:39	127	2
14879059	삼성 갤럭시 쓰는데, '무한 부팅' 현상이? 원인은 [1]	ㅇㅇ	10:39	71	1
14879058	서울대 연고대 나오면 떵떵거리면서 살 수 있지? [1]	ㅇㅇ(118.235)	10:39	40	0
14879057	유튜브 댓글 "이거 진짜에요 ?" <-- 걍 죽통.. [5]	업햄	10:38	116	0
14879056	알바를 자차로 하라고?	야갤러(183.97)	10:38	29	0
14879055	세젤예 뇨이뇨이 ㅋㅋㅋ	곰보	10:38	49	2
14879054	오늘 휴일 아닌 이유좀	스쿠마	10:37	48	0
14879052	나도ntr조와해 [2]	웅냐냐(211.234)	10:36	64	0
14879051	후전드 축구 존나 못하더만 [3]	야갤러(14.37)	10:35	92	1
14879050	여고생 어쩌고 하는 애 그 틀딱 트럭 할배 생각나노 [4]	비스크돌마린	10:35	105	0
14879048	주술회전 개노잼이던데 왜인기많냐 [1]	ㅇㅇ(49.170)	10:35	51	0
14879047	강간 상황극??커플들은 그러고 노냐?..	ㅇㅇ(223.39)	10:35	49	0
14879046	여고생한테 욕정을 품는건 더러운게 아니다 [3]	ㅇㅇ(106.101)	10:34	269	5
14879044	빙산 같은 알바공고 봤다 ㅋㅋㅋ [1]	야갤러(183.97)	10:32	71	0
14879042	조커 vs 코커	ㅇㅇ(118.235)	10:32	35	0
14879041	그래도 개보지 피싸개화 된 해축갤보다	비스크돌마린	10:31	68	0
14879040	불금에 버림받은 쓰레기들 ㅎㅇ [7]	김무명	10:31	108	0
14879039	풀업 하루에 30개씩하면 몸 좋아지냐, [5]	ㅇㅇ(118.235)	10:31	158	0
14879038	한국에 아이돌이 어디있냐....	ㅇㅇ(118.37)	10:30	45	1
14879037	후전드 블루락 시절.gif	양은서	10:30	179	2

갤러리 리스트

번호

제목

글쓴이

작성일

조회

추천

설문

남녀 팬 반응이 극과 극으로 나뉘는 것 같은 스타는?

운영자

24/09/30

14879092

2019년이 ㄹㅇ 조온나 그리운 시절 아니노?

ㅇㅇ(118.235)