폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 12:40:01

조회 17077 추천 40 댓글 217

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

출처: 국내야구 갤러리 [원본 보기]

고정닉 10

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	기 세보여도 실제로는 멘탈 약할 것 같은 스타는?	운영자	24/11/04	-	-
267773	[자갤] 폭우속 강남대로 질주한 '번개맨'…휠체어 시민 도운 버스기사 [80]	ㅇㅇ(91.219)	09.26	15967	58
267771	[보갤] 민주당 금투세 한달후 결론 결정 [415]	후진타오	09.26	17336	230
267770	[필갤] 중딩 필린이 사진 쪄옴 [52]	중딩필린이	09.26	10590	50
267769	[야갤] 30조 마이너스 2년 연속 세수펑크 [525]	ㅇㅇ(112.163)	09.26	15311	182
267767	[기음] 이탈리아에서 아메리카노 불법이라는 파브리 ㅋㅋ [272]	ㅇㅇ(149.88)	09.26	23377	245
267766	[싱갤] 싱글벙글 춤 장르 중 유독 불공평하다는 장르 [215]	초능력화신	09.26	23959	104
267765	[중갤] 새벽에 공개된 고스트 오브 쓰시마 후속작 일본 반응 [314]	언성을높이지마라	09.26	22500	150
267763	[중갤] "김건희 사기꾼 기사, 한국대사관이 '삭제' 요구했지만 거부" [234]	ㅇㅇ	09.26	12238	159
267762	[카연] 우주개새끼 철민이 71 [41]	수지수	09.26	8807	60
267759	[주갤] 블라) 1억3천 버는 세무사 국결고민에 대한 한녀들 반응.jpg [510]	주갤러(211.220)	09.26	31323	646
267758	[야갤] 토트넘 유니폼 입은 '가짜 손흥민'... 런던에서 선수 행세 논란 [174]	마스널	09.26	20026	48
267757	[위갤] 어제 흑백요리사 본거 따라해봤어(스압) [127]	풍물시장	09.26	17112	181
267755	[기갤] 유재석도 분노했다...이세영 "절친이 내 안티 카페 만들고 운영" [226]	ㅇㅇ(155.94)	09.26	27112	80
267754	[싱갤] 소꿉친구가 커져버렸다 달달순애.manga [90]	김전돋	09.26	19026	86
267753	[일갤] 나홀로 홋카이도 여행기 5일차 (오타루) [22]	은하	09.26	5734	19
267751	[나갤] 비행기 빈자리에 아기 눕혀서 항의했다는 판글 상대방 본인등판 [445]	ㅇㅇ(169.150)	09.26	22305	57
267750	[해갤] "박주호, 이임생의 독단적인 홍명보 선임 동의한 적 없어” [243]	ㅇㅇ(106.244)	09.26	16929	203
267749	[야갤] 70대 동거남이 성행위 강요…결국 살해한 20대 남성 [516]	감돌	09.26	39007	337
267747	[싱갤] 싱글벙글 북한 흙수저의 삶 [495]	운지노무스케	09.26	49680	541
267745	[더갤] 윤석열, 세금 안 내는 유튜브에 年674억 광고 줬다 [297]	고닉팠	09.26	22369	126
267743	[야갤] 뉴진스&민희진 측 기자들, 뇌물 사건 총정리...jpg [500]	ㅇㅇ(222.233)	09.26	29677	621
267742	[싱갤] 알쏭달쏭 오히려 늘어난 북극곰 개체수 [421]	ㅇㅇ	09.26	26997	251
267741	[이갤] 드뎌 나오네. 그럼 그렇지. 도이치모터스만 했을리가 없지 [232]	코스피5000	09.26	17749	190
267739	[주갤] 무인점포 습격한 한녀들 [428]	ㅇㅇ(110.235)	09.26	29472	360
267738	[카연] 미믹에 대한 편견.manhwa [56]	위마	09.26	16137	167
267737	[야갤] 설탕집 블라.....불륜터짐 ㄷㄷ...jpg [615]	ㅇㅇ(1.215)	09.26	50498	359
267735	[토갤] 팬포럼) 손흥민에게 토트넘에서 은퇴하실껀가요? [225]	ㅇㅇ	09.26	18455	84
267734	[싱갤] 중국이 철저히 은폐 하고싶었던 사건 [387]	ㅇㅇ	09.26	51078	612
267733	[야갤] 오늘자 미스코리아.. 질문 난리난 인스타..jpg [599]	업햄	09.26	57275	586
267730	[미갤] 9월 26일 시황 [40]	우졍잉	09.26	9189	21
267729	[싱갤] 싱글벙글 호불호 갈리는 갑각류 [360]	묘냥이	09.26	33270	177
267727	[야갤] 김가루 청소시켰을 뿐인데...학부모 18명에게 무릎 꿇은 유치원 교사 [385]	감돌	09.26	24927	318
267726	[부갤] 커피믹스 낼돈도 없어요 중개사 줄폐업 [256]	부갤러(89.38)	09.26	25563	132
267725	[주갤] 빈지노 스토킹한 30대녀 [244]	ㅇㅇ(114.167)	09.26	32096	258
267723	[디갤] 뉴비 사진 넘 재밌는거에요 (사진 15장) [24]	펠리컨	09.26	4628	11
267722	[싱갤] 의외의외 중세에서 가장 많이 쓰인 갑옷 [316]	타마마이등병	09.26	43199	311
267721	[중갤] 절망의 엔씨소프트...... 야심작 대호연 근황...jpg [303]	ㅇㅇ(218.155)	09.26	31651	298
267719	[야갤] "헤즈볼라 인간 방패 세운 것"…이스라엘 공개한 '해명 영상' [212]	마스널	09.26	13765	73
267718	[중갤] 친한계 “尹 구중궁궐에” 대통령실 “韓 속좁고 교활” [189]	00	09.26	11713	116
267715	[야갤] 음주운전 도주 후 '술 타기' 무조건 처벌...국회 행안위 통과 [157]	마스널	09.26	14887	103
267714	[싱갤] 강남에서 좀비 사태가 일어난 영화.JPG [239]	ㅇㅇ (39.112)	09.26	29327	191
267710	[흑갤] 썬키스트 롱기누스좌 러블리 행동 모음집 .jpg ㅋㅋㅋㅋ [207]	ㅇㅇ(107.150)	09.26	53852	480
267708	[유갤] 2024 향후 주목해야 할 헐리웃 미녀스타...근황....jpg [405]	ㅇㅇ(175.119)	09.26	22288	24
267706	[대갤] ㄱㅇㄷ)고물상에서 발견되는 트립한국 소재 [56]	만력제_mk.2	09.26	17832	65
267704	[싱갤] (혐 주의) 싱글벙글 바퀴약이 바퀴벌레 알에게도 효과 있을까 [213]	운지노무스케	09.26	29527	197
267702	[카연] 군대에서 담배 배우는.manhwa [113]	니지카도리토스	09.26	19696	133
267700	[프갤] 하나님의 창조물 가운데 가장 꿀빠는 인생 [272]	ㅇㅇ(123.215)	09.26	46546	51
267698	[싱갤] 싱글벙글 요리 먹자마자 결과 걱정하는 백종원JPG [287]	수인갤러리	09.26	32099	176
267694	[유갤] 2024 10월 헐리우드 신작..근황....jpg [105]	ㅇㅇ(175.119)	09.26	20915	49
267692	[중갤] 레벨 파이브 비전 2024 정보 [35]	언성을높이지마라	09.26	9213	11