경찰, 딥페이크 탐지 소프트웨어 개발…선거 여론조작 소탕

파이낸셜뉴스

2024.03.05 06:00:13

조회 1780 추천 0 댓글 9

/사진=뉴시스

[파이낸셜뉴스]경찰청 국가수사본부는 딥페이크 탐지 소프트웨어를 개발해 딥페이크를 이용한 범죄 단속을 위해 본격적으로 활용한다.

5일 경찰에 따르면 인공지능(AI) 기술의 급격한 발달과 함께 딥페이크 이용 범죄의 위협이 증대되고 있으며, 특히 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 또는 여론조작에 대한 우려가 심화되고 있다.

이에 개정 공직선거법 제82조의8은 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동을 금지했으며, 경찰 또한 해당 범죄에 대한 엄정 대응 기조를 천명한 바 있다.

해당 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 통상 5분~10분 내에 분석 작업을 완료해 가짜 영상인지 진짜 영상인지 판별한다. 또한, 판별이 완료됨과 동시에 결과보고서를 즉각 창출해 수사에 곧바로 활용할 수 있도록 한다.

기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이었으며, 따라서 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었다. 이번에 개발한 ‘딥페이크 탐지 소프트웨어’는 인물 5400명의 데이터 520만점(한국인 데이터 100만점 및 아시아 계열 인종 데이터 13만점 포함) 등 한국인과 관련한 다양한 데이터 학습이 이루어졌으며, 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 인공지능(AI) 모델을 적용했다.

해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달하며, 탐지율이 100%가 아닌 점을 감안해 증거자료보다는 수사 방향을 설정하는 자료로 활용한다. 아울러 딥페이크와 관련한 새로운 기술이 끊임없이 개발.전파되고 있는 만큼, 딥페이크 영상 선거범죄에 대해서는 학계, 기업 등 인공지능(AI) 전문가로 구성된 민간 자문위원의 교차 검증을 거치도록 해 해당 소프트웨어의 오탐지 가능성도 최소화할 예정이다.

경찰청은 "딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행해나갈 수 있을 것으로 기대하고 있다"며 "향후 더욱 정확한 탐지가 이루어지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄·합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 밝혔다.

beruf@fnnews.com 이진혁 기자

※ 저작권자 ⓒ 파이낸셜뉴스. 무단 전재-재배포 금지

▶ "남편과 텐트서 자는데 남성 7명이 들어오더니..." 끔찍 ▶ 배우 남친에 잠수 이별 당한 女 "관계 엄청했고, 신체 사진도.."▶ 아파트에서 발견된 남녀 시신, 둘 관계 알고보니..▶ 티아라 출신 아름 "전 남편이 대소변을..." 충격 주장 ▶ '전국노래자랑' 김신영에 돌연 하차 통보, 후임은...

고정닉 0

원본 첨부파일 1

202403041936058965_l.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	오픈 마인드로 이성을 만날 것 같은 스타는?	운영자	24/12/02	-	-
15141	조지호 경찰청장 긴급회의 종료…"공식입장 없다" [비상계엄 선포]	파이낸셜뉴스	02:16	7	0
15140	국회로 진입하는 계엄군[비상계엄 선포]	파이낸셜뉴스	02:15	5	0
15139	국회로 들어가는 계엄군[비상계엄 선포]	파이낸셜뉴스	02:12	6	0
15138	국회 뚫고 지나는 계엄군[비상계엄 선포]	파이낸셜뉴스	02:10	5	0
15137	국회 집입하려는 계엄군 VS 막아서는 국회 직원[비상계엄 선포]	파이낸셜뉴스	02:07	6	0
15136	국회로 진입하는 계엄군[비상계엄 선포]	파이낸셜뉴스	02:04	5	0
15135	시민들을 막아서는 계엄군[비상계엄 선포]	파이낸셜뉴스	02:02	5	0
15134	국회에서 철수하는 게엄군[비상계엄 선포]	파이낸셜뉴스	01:56	5	0
15133	"대한민국 만세" 국회 앞 시민들 비상계엄 해제 요구안 가결 환호[종 [1]	파이낸셜뉴스	01:42	11	0
15132	심우정 검찰총장, 검찰 긴급 간부회의 소집[비상계엄 선포]	파이낸셜뉴스	01:24	7	0
15131	경찰청장 4일 0시 긴급간부회의 소집…"지방청장 정위치 근무[비상계엄	파이낸셜뉴스	01:20	8	0
15130	사법부, 대법원장 지시로 비상계엄 심야 긴급간부회의 소집[비상계엄 선	파이낸셜뉴스	01:18	10	0
15129	[속보]본청 앞 계엄군 완전철수	파이낸셜뉴스	01:17	9	0
15128	대한변협, "자유 민주주의와 헌정질서 파괴"[비상계엄 선포]	파이낸셜뉴스	01:16	8	0
15127	[속보] 서울경찰청 오전 1시 '을호비상' 발령…비상체제 돌입	파이낸셜뉴스	01:12	10	0
15126	[비상계엄 선포] 군인·경찰·시민 뒤엉킨 국회 앞…"역사의 죄인 되지	파이낸셜뉴스	01:04	7	0
15125	[속보]계엄군 본청 재진입 시도하며 시민들과 충돌 [1]	파이낸셜뉴스	01:01	13	0
15124	[속보]계엄군 국회 본관 진입	파이낸셜뉴스	00:59	8	0
15123	[속보]국회 본청 앞 계엄군 철수 뒤 본관 진입	파이낸셜뉴스	00:51	14	0
15122	[속보]우원식 국회의장 "비상계엄 해제 안건 올라오지 않아"	파이낸셜뉴스	00:49	11	0
15121	[속보] 계엄령 해제 위한 국회 본회의 성원 완료	파이낸셜뉴스	00:49	9	0
15120	[속보] 군대, 국회 본회의장 진입	파이낸셜뉴스	00:43	10	0
15119	[속보] 계엄령 해제 위한 국회 본회의 시작	파이낸셜뉴스	00:41	7	0
15118	군인들, 국회 담넘어 진입	파이낸셜뉴스	00:41	7	0
15117	[속보]계엄군, 국회 본청에 진입	파이낸셜뉴스	00:28	10	0
15116	[비상계엄 선포] 굳게 닫힌 국회 정문…"문 열어라" 소리치는 시민들	파이낸셜뉴스	00:21	12	0
15115	[비상계엄 선포] 참여연대 "尹 비상계엄령 선포는 위법"	파이낸셜뉴스	00:21	17	0
15114	[속보]국회의장 "국회의원 지금 즉시 본회의장 모여라"	파이낸셜뉴스	00:07	10	0
15113	[비상계엄 선포] 민주노총 "계엄령, 비상식적이고 반민주적인 조치"	파이낸셜뉴스	00:07	9	0
15112	[속보]국회의장 "국회는 헌법적 절차에 따라 대응"	파이낸셜뉴스	00:07	9	0
15111	[속보]국회로 헬기 착륙… 도심 장갑차 이동중	파이낸셜뉴스	12.03	9	0
15110	[비상계엄 선포]계엄령 선포에 집결한 시민들…아수라장 된 국회 앞	파이낸셜뉴스	12.03	10	0
15109	[속보]국민의힘 7명·민주당 8명 국회의사당 내부 진입	파이낸셜뉴스	12.03	10	0
15108	[비상계엄 선포]"국민 기본권 제한할 수 있어"...계엄사령부 포고령	파이낸셜뉴스	12.03	14	0
15107	[비상계엄 선포]"국회가 윤석열 것이냐?" 계엄 선언에 분노한 시민들	파이낸셜뉴스	12.03	16	0
15106	경찰, 조지호 청장 주재 긴급회의 소집	파이낸셜뉴스	12.03	13	0
15105	[속보] 조지호 경찰청장, 자정 지휘관 회의 소집…시도청 정위치 근무	파이낸셜뉴스	12.03	11	0
15104	[비상계엄 선포] '영장제도, 언론·출판·집회·결사의 자유 특별 조	파이낸셜뉴스	12.03	16	0
15103	‘문제 유출 논란’ 연세대 논술시험 '효력유지' 결정...1심 뒤집혀	파이낸셜뉴스	12.03	20	0
15102	이진숙 탄핵 두 번째 변론, '방통위 2인 의결' 적법성 공방	파이낸셜뉴스	12.03	24	0
15101	[속보] 법원, 연세대 논술시험 효력정지 가처분 항고 인용...1심	파이낸셜뉴스	12.03	22	0
15100	코스닥 상장사 '중앙첨단소재' 시세조종...관계사 전 대표 구속	파이낸셜뉴스	12.03	22	0
15099	"졸속처분" VS "비위 드러나"...3선 앞두고 '직무정지' 이기흥	파이낸셜뉴스	12.03	25	0
15098	'초읽기' 들어간 검사 탄핵 소추, 법무부·대검 “조직차원 대응 없다	파이낸셜뉴스	12.03	27	0
15097	영상통화 중 나체 녹화…대법 "불법촬영죄 아냐"	파이낸셜뉴스	12.03	26	0
15096	경찰 특활비 삭감에…일선 경찰 "수사비 부족한데 삭감까지" 한숨 [4]	파이낸셜뉴스	12.03	442	0
15095	"30개 마약류 중독증 치료병상에 전문의는 1명뿐, 그래도 누군가는	파이낸셜뉴스	12.03	38	0
15094	공수처, '향응수수 의혹' 경찰 고위간부 사건 검찰 이첩	파이낸셜뉴스	12.03	27	0
15093	정부·국회 뭐 했나? 4.3조원 삼성반도체 인력유출 브로커 잡아놓고도 [1]	파이낸셜뉴스	12.03	442	0
15092	하루 음주운전 두번 걸린 30대女 구속 송치	파이낸셜뉴스	12.03	27	0
뉴스	김세정, ‘취하는 로맨스’ OST 직접 부른다…성시경 ‘두사람’ 재해석	디시트렌드	12.03