인공지능 악용 막을 ‘AISIC’ 출범한다

IT동아

2024.02.15 18:24:45

조회 139 추천 0 댓글 0

[IT동아 차주경 기자] 인공지능의 성능이 나날이 좋아진다. 이제 인공지능은 사람만큼, 더러는 사람보다 더 글을 잘 쓰고 그림을 잘 그린다. 수만 쪽의 책을 1초 안에 읽고 요약하고, 수백 가지 외국어를 알아듣고 다른 외국어로 번역한다.

그러자 자연스레 인공지능을 악용하려는 이들이 나타났다. 이들은 정치인이 등장한 동영상을 인공지능으로 교묘하게 조작, 발언을 왜곡해 퍼뜨린다. 가짜 뉴스가 나날이 정교해지는 이유 가운데 하나다. 연예인이나 일반인의 초상권을 침해하고 음란물을 제작해 판매하는 이들도 있다.

미국 인공지능 기업들이 이러한 악용을 막으려 단체를 결성했다. 인공지능 안전 협회 컨소시엄(Artificial Intelligence Safety Institute Consortium,이하 AISIC)이다.

ASIC에는 챗 GPT의 개발사인 오픈 AI와 구글 알파벳, 마이크로소프트와 메타 등 주요 인공지능 소프트웨어 개발 기업이 참여했다. 애플과 인텔, 엔비디아와 아마존 등 정보통신 기업도 힘을 보탠다. JP모건과 뱅크 오브 아메리카 등 금융권도 AISIC에 합류했다. 합류한 기업의 수만 200곳이 넘는다.

AISIC를 만든 주체는 미국 정부다. 조 바이든 미국 대통령은 앞서 2023년 10월, 인공지능 기업들이 기술을 만들고 개발할 때 테스트할 표준을 만들 것을 주문했다. 화학과 핵 물리학, 생물학과 사이버 보안 등 치명적인 부문으로의 악용 가능성을 막을 대책 마련도 요구했다.

미국 정부와 기업이 모여 인공지능의 악용을 막을 컨소시엄을 발족한다. / 출처=엔바토엘리먼츠

이에 메타는 인스타그램과 페이스북에 올라오는 사진 가운데, 생성 인공지능으로 만든 것에 표시를 하는 라벨링 기능을 공개했다. 어도비는 사진 생성 인공지능 ‘파이어플라이’를 가르칠 때 쓸 자료 사진을, 오로지 허가 받은 윤리적 사진만 사용하겠다고 밝혔다.

하지만, 이것만으로는 인공지능의 악용 가능성을 막기 어렵다는 비판이 꾸준히 나왔다. 실제로 생체 인식 기업 iProov는 자체 조사 결과, 생성 인공지능을 사용해 유명인이나 일반인의 얼굴을 교묘하게 바꿔 사기 행각을 벌이는 ‘딥 페이크’ 범죄가 2023년 704% 급증했다고 지적했다. 금융사 임원의 얼굴을 생성 인공지능으로 만들어 화상 회의에 참가, 사기범에게 거액의 인출을 지시한 사례도 공개했다.

AISIC는 이들 폐해를 막을 목적으로 인공지능 기술과 소프트웨어 개발사, 나아가 엔비디아와 퀄컴 등 인공지능 반도체와 엔진 개발사도 포섭했다. 인공지능이 클라우드, PC에 이어 스마트폰에도 속속 도입되고 있어서다. 금융권도 적극 나선다. 앞서 사례로 든 딥 페이크 인출 사기 사건이 사회에 나쁜 영향을 미치지 않도록 막을 목적이다.

이 컨소시엄에는 시스코 시스템즈와 같은 보안 기업, 노스롭 그루먼과 같은 방산 기업, 깃허브 등 오픈 플랫폼 커뮤니티, 화이자와 같은 제약 기업도 참여한다. 인공지능 기기와 기술을 연구하는 미국 내 주요 대학교 20여 곳도 이름을 올렸다. 인공지능이 사회의 모든 부문에 큰 영향을 미칠 것이라는 공감대 아래 기업들이 모인 것.

AISIC는 이후 인공지능 이해 관계자를 위한 데이터 공유 체계를 만들고, 공동 연구 개발을 적극 유도한다. 다양한 참가 기업과 함께 인공지능이 사회에 미칠 영향을 정확하게 예측할 연구 평가 요구 사항도 만든다. 인공지능 기술이나 기기 개발 단계에서 부작용을 줄이고 성능을 강화할 테스트 평가 프로그램도 궁리한다.

AISIC 참가 기업들은 인공지능 벤치마크와 테스트 환경 지침, 개인이나 금융 정보 등 예민한 정보를 다룰 기술을 만든다. 디지털 콘텐츠 인증 지침과 도구도 개발하고, 가장 중요한 인공지능의 윤리 문제를 다룰 지침을 세운다. AISIC는 앞으로도 참가 기업을 늘려 연구에 박차를 가할 계획을 밝혔다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 꿀꺽 삼키면 건강 상태 진단하는 마이크로 로봇 ‘가시권’▶ 다쏘시스템 “제품 설계 혁신…’AI·버추얼 트윈'으로 달성”▶ 스마트폰 업계, 2023 부진 인공지능으로 씻는다

고정닉 0

원본 첨부파일 1

6e6b4bd740e24043-thumbnail-1920x1080-70.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
3505	[스타트업-ing] 발켄모빌리티 “전기자전거·충전 스테이션·소프트웨어 모두 갖췄습니다”	IT동아	02.28	208	1
3504	[리뷰] 이름은 독특해도 성능은 확실하다, AMD 라데온 RX 7900 GRE [9]	IT동아	02.27	1737	3
3503	[EV 시대] 급부상하는 중국 전기차	IT동아	02.27	124	0
3502	[스타트업-ing] 리셋컴퍼니 정성대 대표 “지속 가능한 친환경 에너지 생태계 구축할 것”	IT동아	02.27	123	0
3501	[IT신상공개] JBL·보스, 귀를 열고 듣는 ‘오픈이어 이어폰’ 출시	IT동아	02.27	116	0
3500	[혁신스타트업 in 홍릉] 뉴라이브 “이명·퇴행성 뇌질환 디지털 치료 시대”	IT동아	02.27	950	0
3499	[신차공개] 올 뉴 포드 머스탱·BMW X1 M35i 출시 [2]	IT동아	02.26	1498	3
3498	[스타트업-ing] 뷰브레인헬스케어 김재학 대표 “치매 조기진단과 예방, 인공지능으로 해결할 것”	IT동아	02.26	176	0
3497	웨어러블의 진화…반지형 제품, 복약 관리하는 워치까지	IT동아	02.26	164	0
3496	세일즈포스, 전 세계 자동화·AI 전략 구축 담은 '2024 연결성 벤치마크' 발표	IT동아	02.26	97	0
3495	[주간투자동향] 테크타카, 126억 원 규모 투자 유치	IT동아	02.26	770	0
3494	[자동차 디자人] 세계 3대 명차 ‘롤스로이스’ 디자인 이끄는 ‘앤더스 워밍’	IT동아	02.23	135	0
3493	엔비디아가 굴린 거대한 공, 앞으로 AI 하드웨어 시장은?	IT동아	02.23	144	0
3492	[IT애정남] 커피머신 석회질 제거, 꼭 해야 하나요?	IT동아	02.23	123	0
3491	[IT신상공개] 돌아온 레트로 카메라의 주인공, 후지필름 X100VI	IT동아	02.23	923	1
3490	[IT애정남] 블록체인은 안전하다는데 왜 해킹 사고는 끊이지 않나요?	IT동아	02.23	121	0
3489	[스타트업 법률실무 마스터링] 투자유치 법률실무 (1) - 투자 방법과 투자 받기 전 주의사항(2)	IT동아	02.23	130	0
3488	유한킴벌리 이승곤 본부장 "NHN 두레이 기반 업무 문화, 사회적 가치 위한 노력"	IT동아	02.23	110	0
3487	[스타트업-ing] 콜라보그라운드 "뷰티숍 특화 솔루션, 글로벌 시장으로 갑니다” [3]	IT동아	02.23	565	0
3486	내 PC에 인공지능이? 엔비디아 ‘Chat With RTX’ 써보니	IT동아	02.22	100	0
3485	[KTVF] AI가 제시하는 똑똑한 세금 절세·연금 설계…‘아티웰스’	IT동아	02.22	105	0
3484	Arm, '3세대 네오버스' 로드맵 발표··· 'AI인프라 확산에 기여'	IT동아	02.22	153	0
3483	[생성 AI 길라잡이] 챗GPT, PC·스마트폰 설치와 활용 [1]	IT동아	02.22	1110	0
3482	[칼럼] 생성형 AI 시대, 성공적인 도입 전략 [2]	IT동아	02.22	906	1
3481	시한폭탄 ‘노후 지하시설물’…’RTK GNSS·증강현실’로 관리	IT동아	02.21	484	1
3480	[IT강의실] 하나의 기기에 여러 무선 이어폰 연결 ‘블루투스 오라캐스트’	IT동아	02.21	1079	3
3479	반도체 지원 시작한 美 행정부··· 인텔 '웃고' 삼성·TSMC '인고'	IT동아	02.21	149	0
3478	인공지능은 금융 시장에 얼마나 녹아 있을까?	IT동아	02.21	426	0
3477	OLED 화면에 ‘올인’하는 에이수스, 화면 2개 붙인 ‘젠북 듀오’ 노트북 정식 출시	IT동아	02.20	114	0
3476	[자동차와 法] 교통사고 발생 시 대처 방안과 연관된 법률적 문제들	IT동아	02.20	117	0
3475	[혁신스타트업 in 홍릉] 지와이생명과학 “저분자 재생의학으로 가려움·염증 해소 도전”	IT동아	02.20	962	2
3474	코로나 딛고 일어선 카메라 업계, CP+서 '신제품 경쟁' 펼칠 듯 [2]	IT동아	02.20	503	1
3473	국장 주린이라면 ‘전자공시’ 정보들과 친해지자	IT동아	02.19	128	0
3472	언제 어디 갔었는지 스마트폰으로 확인할 땐 이렇게![이럴땐 이렇게!]	IT동아	02.19	179	0
3471	[IT 신상공개] 고음질 음원도 거뜬 ‘젠하이저 모멘텀 트루 와이어리스 4’ [8]	IT동아	02.19	1559	0
3470	[스타트업 법률실무 마스터링] 투자유치 법률실무 (1) 투자 방법과 투자 받기 전 주의사항	IT동아	02.19	114	0
3469	[IT애정남] 신축 아파트 천장에 달린 와이파이 공유기, 왜 이렇게 느리죠? [24]	IT동아	02.16	11833	6
3468	초보에게는 막연한 주식 투자의 길, 정보가 곧 힘이다	IT동아	02.16	171	0
3467	[인터뷰] 다쏘시스템 “친환경 모빌리티로의 전환…모델링·시뮬레이션으로 가속”	IT동아	02.16	155	0
3466	[KTVF] 라이트브라더스 “자전거가 이끄는 디지털전환과 그린전환, 기대하세요”	IT동아	02.16	123	0
3465	[KTVF] 에너지엑스 박성현 대표 “에너지 소비의 주체였던 건축물을 생산ㆍ관리ㆍ절감의 주체로”	IT동아	02.16	182	0
3464	가상자산법 7월 시행 “차질 없도록 준비한다” [7]	IT동아	02.16	1304	1
3463	"DCF의 디디픽 서비스, 동대문 의류 유통에 꼭 필요했던 혁신입니다"	IT동아	02.16	132	0
3462	와이어드컴퍼니 황봄님 대표 "워케이션, 조직 문화를 만드는 기술"	IT동아	02.16	178	0
3461	[스타트업-ing] 디케터즈 “친환경 박스, 농가도 선호합니다”	IT동아	02.16	113	0
3460	LG전자, 개인화 서비스 제공하는 냉장고·김치냉장고 ‘UP가전 2.0’ 신제품 출시	IT동아	02.15	499	1
	인공지능 악용 막을 ‘AISIC’ 출범한다	IT동아	02.15	139	0
3458	[KTVF] 소셜인베스팅랩 "주식 서비스의 끝은 소셜 인베스팅"	IT동아	02.15	123	0
3457	[KTVF] 원앤원 “캐주얼 모바일 게임, 이제는 자신감이 생겼습니다”	IT동아	02.15	173	1
3456	인도 스타트업 ‘콰고스’…‘모드심’ 기술로 화물 전용 이륜차 플랫폼 개발 [5]	IT동아	02.15	689	0
뉴스	[포토] 질문에 답하는 김윤석	디시트렌드	18:00