폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 05:54:17

조회 97 추천 3 댓글 0

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

고정닉 1

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	이혼하고 나서 더 잘 사는 것 같은 스타는?	운영자	24/07/08	-	-
13579368	야갤 보니 딸만 낳아야겠다	ㅇㅇ(221.164)	03:49	69	2
13579367	ㄹㄹ	ㅇㅇ(218.48)	03:49	204	2
13579366	진짜 어떻게 가진 재능이 하나도 없냐 너무하다 씨발 [2]	야갤러(106.101)	03:49	44	1
13579365	딸치지 마라	ㅇㅇ(121.165)	03:49	225	3
13579363	나는 에스파는 망했다고 본다	ㅇㅇ(211.36)	03:49	98	1
13579362	장원영 리즈시절 [2]	야갤러(211.169)	03:48	239	5
13579361	나는 왜 애미가 없을까?	야갤러(106.101)	03:48	125	0
13579360	안올라와서 좋다는새기 특 << 내심 기대함	야갤러(14.54)	03:48	30	1
13579359	가능하면 개추	코멘또(39.113)	03:48	204	3
13579357	오늘은 ㄹㄹ 안올라와서 너무 좋다 ㅋㅋㅋ [1]	ㅇㅇ(112.148)	03:48	216	2
13579354	같이 3만원 드실분	ㅇㅇ(106.101)	03:47	79	0
13579351	여자 대부분은 오르가즘 못느끼는게 진짜임?	ㅇㅇ(121.168)	03:47	155	0
13579350	살구싶다 [1]	야갤러(223.39)	03:47	125	0
13579348	꾸준글 올리는 조현병환자들을 알아보자	ㅇㅇ(223.38)	03:47	173	12
13579346	좋아하는 남자 자지 빨아주고싶다 [2]	야갤러(106.101)	03:47	63	0
13579345	죽구싶다	야갤러(223.39)	03:47	88	1
13579343	(유튜브) 이 링크는 잠깐만 공개하겠다	ㅇㅇ	03:47	22	0
13579342	지듣노 [2]	태후	03:47	88	0
13579341	쪼여주는 아줌마는 개뿔 [1]	ㅇㅇ(118.219)	03:47	106	3
13579340	(유튜브) 이 링크는 잠깐만 공개하겠다	ㅇㅇ	03:47	30	0
13579339	이제 볼 영화 [1]	Cassie	03:47	147	0
13579338	25살 통장 500있다 [4]	ㅇㅇ(110.70)	03:47	70	0
13579335	야순이 아헤가오 [1]	ㅇㅇ(211.169)	03:46	338	5
13579333	50세 야갤하면 뒤져야하는거 아니냐	야갤러(106.101)	03:46	51	0
13579332	섹스하고 싶다	야갤러(1.229)	03:46	36	0
13579331	여친 남자 문제 고민 좀 ㅅㅂ...좆같다	ㅇㅇ(119.70)	03:46	125	0
13579330	내가 살아야 하면 추천1 [1]	야갤러(223.39)	03:46	260	10
13579328	다이어트 ㅊㅊ좀 [1]	사유쨔요	03:46	121	0
13579326	개추 [1]	야갤러(39.124)	03:46	203	3
13579323	여자에게 우울증은 패시브다	ㅇㅇ(110.70)	03:45	74	1
13579322	이거봐봐 진짜 ㄹㅇ 짱예쁘심 [4]	ㅋㅋ(122.36)	03:45	270	0
13579320	여자는 절정에 다다른 표정이 제일 예쁘고 사랑스럽다	ㅇㅇ(118.219)	03:45	74	1
13579318	님들 왜 삼	ㅇㅇ(221.164)	03:45	47	0
13579316	고닉 팔건데 닉 추천좀 해줘 [12]	야갤러(223.39)	03:45	220	0
13579314	재밋는영화좀보고싶음	Cassie	03:45	86	0
13579312	얘들아 후장자위	야갤러(106.101)	03:45	206	0
13579311	하 ㄹㅇ 잘생겨서 다행이다 [2]	ㅇㅇ(121.180)	03:45	186	0
13579310	..ㄱ..	야갤러(223.38)	03:44	48	0
13579308	만취녀 잠방	코멘또(39.113)	03:44	251	1
13579307	오빠들 야수니 심시맹 [5]	ㅇㅇ(211.169)	03:44	92	0
13579303	나 14살 20cm인데 개추 반응 좋으면 올릴게 [1]	ㅇㅇ(223.38)	03:44	269	12
13579301	얘 누구임? [2]	야갤러(118.235)	03:44	234	0
13579300	곰방와 곰디~	ㅇㅇ(121.191)	03:44	47	0
13579299	(유튜브) 이 링크는 잠깐만 공개하겠다	ㅇㅇ	03:44	25	0
13579298	하 [1]	야갤러(223.39)	03:44	201	0
13579297	(유튜브) 이 링크는 잠깐만 공개하겠다	ㅇㅇ	03:43	39	0
13579296	아주대 졸업했으면 상위 몇퍼임 [6]	ㅇㅇ(110.70)	03:43	94	0
13579295	디시 나만 느림? [3]	야갤러(125.188)	03:43	41	0
13579293	개추시 핑크빈 짤 새끼 내일 자살함	야갤러(106.101)	03:43	65	6
13579292	얘 22살에 키 146인데 가능이냐 [11]	ㅇㅇ(119.70)	03:43	262	0

갤러리 리스트

번호

제목

글쓴이

작성일

조회

추천

설문

이혼하고 나서 더 잘 사는 것 같은 스타는?

운영자

24/07/08

13579368

야갤 보니 딸만 낳아야겠다

ㅇㅇ(221.164)