폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 05:54:17

조회 158 추천 3 댓글 0

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

고정닉 1

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	남녀 팬 반응이 극과 극으로 나뉘는 것 같은 스타는?	운영자	24/09/30	-	-
공지	2024 KBO 정규시즌 경기 일정 [77]	*딛디티*	24.01.03	119619	80
공지	국내야구 갤러리 이용 안내 [586/1]	운영자	22.06.03	750850	252
14878948	신은 없습니다	ㅇㅇ(61.76)	10:02	2	0
14878947	"기본이 안 됐다"…냄새난다며 대리비 못 준다는 '벤츠남' 논란	ㅇㅇ	10:02	7	0
14878946	고말숙 < 이렇게 뜰 거였으면 뜨기 전에 잘할걸 ㄹㅇ...	ㅇㅇ	10:02	18	0
14878945	본인쟝 인생게임 5선발.gif [1]	양은서	10:02	19	0
14878944	169 소추 존못호빗이라 세상이 원망스럽다 [1]	ㅇㅇ	10:02	12	1
14878943	흙특)동네에서 아빠 제일 일찍 나감 엄마는 제일 늦게 일어남	야갤러(125.143)	10:01	6	0
14878942	버장연들아 아일릿 그만괴롭혀	ㅇㅇ(125.134)	10:01	14	0
14878941	야붕이 방금 존나 이상한 꿈 꿨다	ㅇㅇ(118.235)	10:01	24	0
14878940	소녀시대 좋아하면 틀니임? [1]	ㅇㅇ(58.29)	10:01	24	0
14878938	28살에 차 없으면 노답임?	야갤러(125.141)	10:00	35	1
14878937	당신은 어떤 성격 장애입니까? [2]	비스크돌마린	10:00	25	1
14878936	뉴진스 좀 그만 괴롭혀 이런다고 망한 르세라핌이 살아나냐	ㅇㅇ(211.234)	10:00	20	0
14878935	여유증 없애는법 뭐냐	수능디	10:00	13	1
14878934	4세대여자아이돌 계급도 이게맞나? [1]	ㅇㅇ(118.235)	10:00	40	1
14878933	잘생기면 여자도 모닝이건 뭐건 신경도 안씀 [2]	야갤러(118.235)	09:59	26	0
14878932	■ 7일 상환 개인돈 / 유심 정심 전문 업체 ■ [1]	신속승인	09:59	9	0
14878931	요즘 이였어 아니였어로 쓰는 새끼들 ㅈㄴ 많음	야갤러(117.111)	09:59	12	0
14878930	뉴진스가 르세라핌보다는 아래급인 거 인정하는 자세였다면 어땠을까ㅠ [1]	ㅇㅇ	09:59	24	0
14878929	며칠만에 3키로 빠졌는데 병걸린거냐? [2]	ㅇㅇ(211.235)	09:58	44	0
14878928	아침부터 장원영봐서 기분잡쳤다..	ㅇㅇ	09:58	53	3
14878927	남친 자ㅈ1 빨았더니 턱 개아프네. [1]	야갤러(125.141)	09:58	95	0
14878926	간만에 흙특 ㄱ? [1]	ㅇㅇ	09:57	56	0
14878925	♡■24년 부동산 급지표 전국 24년ver■♡ 1.1급 압구정/반포	ㅇㅇ(106.101)	09:57	12	0
14878924	워뇨… 미모… [1]	곰보	09:57	73	3
14878923	외근 월급루팡하면 또 쉬는날이노 ㅋㅋㅋㅋ	야갤러(220.76)	09:56	13	0
14878922	여친 꼭ㅈ1 개빨았더니 목 존나마름..ㅅㅂ [2]	ㅇㅇ	09:56	150	1
14878921	다리 짧아서 좆같다 진심 [7]	ㅇㅇ(118.235)	09:56	114	0
14878920	런닝맨 보다가 울었다.jpg	matizcar	09:56	72	1
14878918	살해당한 BJ이름 뭐냐 [2]	야갤러(223.39)	09:55	125	0
14878917	픙선에 강간 당하는 나라가 있다??	야갤러(183.97)	09:55	16	0
14878915	■ 7일 상환 개인돈 / 유심 정심 전문 업체 ■ [1]	신속승인	09:54	20	0
14878914	흙수저라서 정말 다행이라고 느꼈던 것 딱하나 [1]	ㅇㅇ	09:54	31	0
14878912	방금 나 똥싸서 샤워함	ㅇㅇ(106.101)	09:53	19	0
14878911	2008년에는 다승 방어율 탈삼진 순위에 왜 용병 한명도 없음?	트노	09:53	27	0
14878909	뚝시돈	노무현?(175.193)	09:53	38	0
14878908	어플로만난 여자랑 결혼은 에바지?	ㅇㅇ	09:53	47	1
14878907	현무로 오물풍선 잡으라고 ㅋㅋㅋ [1]	야갤러(183.97)	09:52	23	0
14878906	오사카 갈 때마다 오사카 70 태양의 탑 갈려고 하는데 [2]	비스크돌마린	09:52	35	0
14878905	사람이 먹을수 있는거 맞냐 틈새라면 [3]	ㅇㅇ(223.39)	09:52	72	0
14878904	아붕쿤 뱃지 받았어요 [2]	킹댕갓댕	09:52	58	0
14878903	베트남 응옥흐엉씨 입장해주세요	ㅇㅇ(118.235)	09:52	52	2
14878902	■ 7일 상환 개인돈 / 유심 정심 전문 업체 ■ [1]	신속승인	09:51	20	0
14878901	hcvcccv	야갤러(106.101)	09:51	17	0
14878899	ㅅㅂ 징검다리 휴일 개좆같노 [3]	비스크돌마린	09:50	83	0
14878898	오물풍선 맞았다. 잣같네 ㅋㅋ	야갤러(175.223)	09:50	103	0
14878897	슬슬 패딩 사야겠네	야갤러(183.97)	09:50	17	0
14878895	■ 7일 상환 개인돈 / 유심 정심 전문 업체 ■ [1]	신속승인	09:49	15	0
14878894	나도 여자로 태어났으면 온리팬스했을 듯...ㄹㅇ [3]	ㅇㅇ	09:49	95	0