폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 05:54:17

조회 92 추천 3 댓글 0

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

고정닉 1

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	이혼하고 나서 더 잘 사는 것 같은 스타는?	운영자	24/07/08	-	-
13577917	실업급여는 회사짤려야 나오는거아님? [6]	ㅇㅇ(223.39)	01:25	119	1
13577916	못참아버림	혜지의미개	01:24	103	0
13577913	ㅇㅇ	야갤러(61.81)	01:24	181	3
13577910	초6 섻영상	야갤러(115.92)	01:24	164	0
13577909	생각해보니까	ㅇㅇ(183.91)	01:24	124	0
13577908	씨발 배민 개 좆같은새기들 ㅋㅋㅋ	ㅇㅇ(118.235)	01:24	40	1
13577906	지듣노) 패션시티 ~ 개콘전국구	ㅇㅇ(211.110)	01:24	69	0
13577904	아아 야짤 줘~	야갤러(220.119)	01:23	49	1
13577900	이게 장원영의 진짜 충격적이고 소름돋는 사실이라던데ㄷㄷㄷㄷ	ㅇㅇ(112.212)	01:23	136	3
13577898	롤에서 ㅇㅁ 토막 이라고 채팅치면	야갤러(106.101)	01:23	52	0
13577897	너네 친구 만나면 재밌냐?	ㅇㅇ(119.198)	01:23	32	0
13577895	5만원에 빨아주는 누나 [2]	ㅇㅇ(112.161)	01:22	234	1
13577894	야붕이들 공짜로 치킨 먹을수 있는 꿀팁....jpg	야갤러(39.113)	01:22	92	0
13577893	애들아 대한민국 빌런 모음집 계속 올려?	야갤러(115.92)	01:22	53	0
13577892	찐따남은 가족이랑 손절하는게답임 [2]	ㅇㅇ(223.39)	01:22	148	0
13577891	난 왜 부산경남 출신들이 가장 좆같냐 [1]	야갤러(59.22)	01:22	103	3
13577890	길 지나가다가 여자랑 눈 자주 마주치는데 [7]	야갤러(112.156)	01:22	132	0
13577888	개 씨발련들 [4]	ㅇㅇ(210.192)	01:21	175	0
13577887	울갤년 한마리잡아다가	ㅇㅇ(183.91)	01:21	145	1
13577885	없긴 왜 없어 [1]	야갤러(118.235)	01:21	160	0
13577884	큰 가슴이 고민인 초6 지식인	ㅇㅇ(112.161)	01:21	207	1
13577883	뭐냐 박아달라는 거냐 [1]	야갤러(115.92)	01:21	173	0
13577882	인정.	ATOM	01:21	18	0
13577881	ㄸ쳐서 샤워함 [2]	ㅇㅇ(106.101)	01:21	30	0
13577879	아니 좆된게 사촌여동생 와꾸가 [4]	야갤러(220.123)	01:20	205	1
13577878	이비온인지 스토린지 념글이랑은 별개로	노고령현대무통	01:20	101	5
13577876	현재 대전에서 마녀로 추정되는 인물 활보중	야갤러(115.92)	01:20	104	0
13577874	118.235도없고 재미없노	ㅇㅇ(223.39)	01:20	74	0
13577873	객석에서 딸치는 남자 본 걸그룹 반응..gif [2]	ㅇㅇ(211.184)	01:20	193	1
13577872	운동유튜버영상에서 싸움난 토끼단	파퀴벌래시즌9	01:20	76	1
13577869	출근충들아 내일 비나 엄청 맞아라 [7]	창무	01:20	76	0
13577867	개한테 젖먹이는 인간 [2]	ㅇㅇ(121.137)	01:19	162	1
13577866	빨리자는게 답이다 [2]	ㅇㅇ(211.234)	01:19	35	1
13577865	ㄱㅅ or ㅂㅈ	ㅇㅇ(112.161)	01:19	193	2
13577864	야붕이들 10년뒤에 회춘하는이유	ㅇㅇ(223.39)	01:19	110	0
13577863	하 시발 인생 진짜 한번 바꿔보고싶다….. [2]	ㅇㅇ(218.153)	01:19	126	2
13577862	길바닥에 살아있는 매미유충 개미떼들한테 먹힌다 [1]	야갤러(59.13)	01:19	21	1
13577861	조가튼거	ㅇㅇ(183.91)	01:19	107	0
13577859	비염 수술받읁놈 있냐	ㅇㅇ(106.101)	01:18	91	0
13577858	야갤물 개좆박은거 같으면 개추 ㅋㅋ	ㅇㅇ(211.234)	01:18	130	5
13577855	친구들이랑 놀았다 [2]	야갤러(61.81)	01:18	182	2
13577854	컵라면에 김치먹으려던거 간신히 참아냄	ㅇㅇ(39.7)	01:18	83	0
13577853	..ㄱ..	야갤러(223.38)	01:18	19	0
13577852	야갤 3년뒤에 망함 [3]	ㅇㅇ(121.137)	01:18	104	0
13577851	오늘 아침 종로구 피리부는 사나이.	야갤러(115.92)	01:18	76	1
13577849	메좆 새끼 군산대에 제보해야겟네	ㅇㅇ(223.39)	01:18	69	0
13577848	며칠전에 여자 소개해준다는거 받을걸 ㅅㅂ [2]	ㅇㅇ(121.137)	01:18	43	0
13577845	티원<<굳이 응원해야되냐?	혜지의미개	01:17	59	0
13577844	개시발년아 이개상노무년아	ㅇㅇ(183.91)	01:17	102	0
13577842	인생도박 포인트 얻는법 우뚷게해	야갤러(117.110)	01:17	22	0

갤러리 리스트

번호

제목

글쓴이

작성일

조회

추천

설문

이혼하고 나서 더 잘 사는 것 같은 스타는?

운영자

24/07/08

13577917

실업급여는 회사짤려야 나오는거아님? [6]

ㅇㅇ(223.39)