'정부 주도의 첫 AI 규제법'··· EU, AI법으로 무분별한 개발 막는다

IT동아

2023.12.12 14:18:50

조회 969 추천 6 댓글 10

[IT동아 남시현 기자] 현지시간 12월 9일, 유럽연합 이사회 의장단과 유럽의회 협상단이 ‘인공지능 법’에 대한 잠정 합의에 도달했다. 관련 투표는 내년 초 개최 예정이며, 2025년은 되어야 공식 발효될 전망이다. 전 세계적으로 인공지능 개발이 속도를 내고 있는 가운데, 정부 차원에서 인공지능에 대한 규제를 성문화한 것은 세계 최초다. 규정 초안은 유럽 시장에 배치되는 인공지능을 개발하는 규칙을 담고 있으며, 원격 생체 인식이나 기본권 영향 평가 등을 의무적으로 수행한다.

EU AI법, 책임감 있는 AI 만들도록 강제한다

이번 EU AI법은 인공지능 개발에서 등외시되고 있는 ‘책임감 있는 AI’를 강제적으로 이행하게 만든다는 점에서 의의가 크다. 지난 2017년, 전 세계 경제, 법률, 윤리, 철학 분야의 100여 명 이상의 리더 및 연구자들이 캘리포니아 주 아실로마 콘퍼런스 그라운드에서 AI 연구를 위한 24가지 아실로마 AI 원칙을 제정했다.

해당 이미지는 어도비의 생성형 AI를 활용해 만들어진 이미지다 / 출처=유럽의회

원칙은 연구 이슈(5개 항), 윤리와 가치(13개 항), 장기 이슈(5개 항)까지 총 3개 범주로 구성돼 있고, 물리학자 스티븐 호킹이나 컴퓨터 공학자 레이 커즈와일, 오픈AI의 샘 알트만, 일론 머스크 등 2천300여 명이 서명했다. 하지만 주요 참여 인력이었던 오픈AI가 인공지능에 대한 안전보다 기술적 알 권리를 내세워 챗GPT를 공개했고, 이로인해 구글과 메타AI, 마이크로소프트 등도 잇달아 인공지능을 공개하면서 무한 경쟁이 시작됐다.

그렇게 지난해 11월 갑자기 등장한 챗GPT는 세상을 바꿔놓았고, 연이어 등장한 생성형 AI와 대형 언어 모델은 1년도 되지 않아 전 세계 모든 산업 생태계를 바꿔놓기 시작했다. 문제는 속도가 지나치게 빨라 곳곳에서 경제, 윤리, 개인정보 보호, 지속가능성 등에 대한 우려가 터져나오는 상황이다.

강제력 없는 블레츨리 선언, 강제력 갖춘 EU AI법

이에 대응해 전 세계 28개국은 지난 11월 2일 영국 블레츨리 파크에서 ‘AI 안전 정상회의’를 열고 인공지능의 위험성을 평가하고 관리하는 ‘블레츨리 선언’을 발표했고, 2021년 4월에 제출된 EU AI법이 합의 끝에 법제화를 시작하면서 무분별한 인공지능 개발에도 제동 장치가 마련됐다.

블레츨리 선언의 경우 미국, 영국 두 국가가 주도하며, ‘국가 AI 연구 자원’을 통해 전 세계 AI 연구자들을 위한 클라우드를 제공함과 더불어 AI가 도입되는 다양한 분야에서 표준과 정의를 수립하는 데 주력한다. 예를 들어 비전 인식 분야에서는 개인 안면 인식 등의 표준화를 만들고, 자율주행 측면에서는 도덕적 딜레마 등의 원칙을 세우는 것이다.

11월 2일, 윤석열 대통령이 영국에서 열린 제 1차 AI 안전 정상회의에 화상으로 참석했다 / 출처=대한민국 대통령실

EU AI법은 블레츨리 선언보다 훨씬 더 면밀하고 정확하며, 처벌 규정까지 담고 있다. 합의된 초안은 향후 시스템 위험을 초래할 수 있는 영향력이 큰 범용 AI 모델, 그리고 고위험 AI 시스템에 대한 규칙을 수립하며, EU 수준에서 운영 차원에 집행 권한을 갖는다. 또 금지 목록을 만들고, 공공장소에서 법 집행 기관이 원격 생체 인식을 사용할 수 있도록 허용한다. 또한 고위험 AI 개발사는 기본권 영향 평가를 의무적으로 수행해 대상사 권리를 보호한다.

대신 민감 데이터의 적절한 취급, 업무 능력의 보존 등의 내용을 담은 적합성 평가를 통과했을 경우 문제없이 사용할 수 있고, 이를 위해 투명성 의무를 준수해야 할 것을 주문한다. 만약 AI 법을 위반할 경우 글로벌 연간 매출액의 7% 또는 3500만 유로(약 495억 원)의 벌금을 내게 된다. 유럽의회는 표결 이후 약 2년 뒤부터 해당 법안을 발효할 예정이다.

GDPR 절차 밟는 EU AI법, 우리나라는 지지부진해

EU AI법은 유럽 일반 개인정보 보호법(GDPR)과 동일한 절차를 밟을 것으로 보인다. GDPR은 EU 내에서 사업하는 조직 및 기관이 EU 시민의 데이터와 개인정보를 저장 및 전송 등을 규제하는 법안이며, 매출의 4% 또는 2000만 유로(283억 원)를 벌금으로 납부하는 강제력이 있다. 이로 인해 전 세계 모든 기업들이 GDPR에 맞는 개인정보 보호 방안 절차를 마련했고, 자연스레 취급 방안이 표준화됐다. EU AI법은 더 큰 강제력을 갖췄으며, 소수의 개발 기업들을 겨냥한 입법이어서 더 강력하게 작용할 것이다.

국회의사당 전경 / 출처=국회자료실

문제는 우리나라다. 우리 국회는 2021년 이루다 사태 등 개인정보 보호 위반 사례를 계기로 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률’로 규제안을 마련했지만, 지난 2월 과방위 법안 소위 통과 이후 지지부진한 상황이다. 심지어 신뢰성 검증과 사전 적정성 검토제가 제대로 논의되지 않아 법안 자체의 허점이 큰 상황이다. 전 세계적으로 AI에 대한 강력한 규제가 마련되고 있는 만큼, 무분별한 AI 개발을 막기 위해서라도 대책이 시급하다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 출장지 날씨 예상부터 미팅 제안 글까지 작성하는 ‘자율 AI’ 선보인 ‘라이너’▶ 샘 올트먼 복귀로 끝난 오픈AI 쿠데타…'AI 개발론'에 무게추 ▶ 'AI 철학' 갈등이 쿠데타로…오픈AI서 무슨 일이 있었나

고정닉 1

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	나라가 위기에 처하면 가장 먼저 나설 것 같은 스타는?	운영자	24/12/09	-	-
이슈	[디시人터뷰] ‘피의 게임3’ 게임판을 흔드는 플레이어, 유리사	운영자	24/12/09	-	-
3256	aT센터 “농가, 온라인 배 태워 더 넓은 시장으로”	IT동아	23.12.15	133	0
3255	[이제는 전북 콘텐츠] 레터박스 이은상 대표 “스토리를 담은 영상 콘텐츠에 집중합니다”	IT동아	23.12.15	126	0
3254	[스타트업-ing] 케어마인드 “퇴원 이후 관리 돕는 ‘디지털 회복실’로 의료 공백 채운다”	IT동아	23.12.15	916	1
3253	젠젠에이아이 “모빌리티∙방산용 빅데이터? 없으면 AI로 만든다”[2023 스타트업 테크 블레이즈]	IT동아	23.12.15	122	0
3252	성남산업진흥원, ‘2023 재도전성공패키지’ 창업기업 간 BM 업무협약 체결	IT동아	23.12.15	127	0
3251	벤틀리, 6년 만에 신모델 ‘벤테이가 EWB’ 출시…’여유로운 2열 공간 강조’	IT동아	23.12.14	242	2
3250	스텔라비전 “위성 활용한 글로벌 규모 CCTV, 이젠 현실”[2023 스타트업 테크 블레이즈]	IT동아	23.12.14	106	0
3249	[스케일업] 오비맥주·위밋모빌리티 “주류 운송의 효율을 이동경로에서 찾았습니다”	IT동아	23.12.14	101	0
3248	[IT애정남] 가습기 고를 때, 확인해야 할 핵심 기능은?	IT동아	23.12.14	659	0
3247	웍스메이트 “스마트 건설의 시작, 현장 맞춤형 근로자 매칭부터”	IT동아	23.12.14	135	0
3246	서울창조경제혁신센터, 우주항공∙양자분야 스타트업-대기업 협업 생태계 일군다	IT동아	23.12.14	106	0
3245	[월간자동차] 23년 11월, 신차·중고차 판매량 모두 늘어...수입차 판매 1위 '모델Y'	IT동아	23.12.14	324	1
3244	[KIDP 울산] 트레비어 [2] “트레비어 양조장에는 예술 축제가 열립니다”	IT동아	23.12.13	110	0
3243	지자체·스타트업, 부산물로 가치 만드는 ‘업사이클링’ 맞손 [1]	IT동아	23.12.13	885	0
3242	‘유망 스타트업 산실’ 서울과기대 메이커스페이스 ‘2023 성과공유 페스티벌’ 성료 [3]	IT동아	23.12.12	626	1
3241	가상자산 이용자보호법 시행령의 7가지 포인트 [1]	IT동아	23.12.12	1090	0
3240	[자동차와 法] 급발진 교통사고에 대한 법원의 입장과 해결 방안 [5]	IT동아	23.12.12	715	1
3239	[리뷰] 하루종일 따뜻한 커피/차를 마시며 스마트폰 충전을 - 솔루엠 '스마트 워머'	IT동아	23.12.12	144	0
	'정부 주도의 첫 AI 규제법'··· EU, AI법으로 무분별한 개발 막는다 [10]	IT동아	23.12.12	969	6
3237	[스케일업] 이유씨엔씨 [2] 동탄농장, “단·차열 페인트로 양계장을 보호합니다”	IT동아	23.12.11	187	0
3236	[이제는 전북 콘텐츠] ㈜더가람, “이동형 VR 버스와 VR 콘텐츠를 개발합니다” [2]	IT동아	23.12.11	718	1
3235	[과기대 S-Run] 투자 유치 활동을 위한 준비, ‘성공 투자 IR 패키지’	IT동아	23.12.11	122	0
3234	[IT애정남] 가습기에 락스 한 두 방울은 괜찮지 않나요? [12]	IT동아	23.12.11	1983	5
3233	한파 잦은 겨울철 차량관리 이렇게![이럴땐 이렇게!]	IT동아	23.12.11	109	0
3232	예술과 지향성 음향의 만남 《MMCA 현대차 시리즈 2023 : 정연두-백년 여행기》 [3]	IT동아	23.12.08	2932	1
3231	[서울형 R&D] SBA 김종우 혁신성장본부장 “친기업적인 R&D 지원사업을 고민합니다”	IT동아	23.12.08	142	0
3230	1인 크리에이터 강사 키우는 경기콘텐츠진흥원, 그 성과는?	IT동아	23.12.08	186	0
3229	울산 디자인주도 제조혁신센터, “제조기업에게 디자인을 알리고 있습니다”	IT동아	23.12.08	139	1
3228	[스타트업-ing] 팬토믹스 “영상 바이오마커 기술로 신속하고 정확한 비침습 진단 실현”	IT동아	23.12.08	137	0
3227	[스타트업-ing] 감성놀이터 “가상현실·디지털 휴먼으로 사람 마음 고친다”	IT동아	23.12.08	126	0
3226	[과기대 S-Run] 제조 창업자에게 필요한 브랜딩과 마케팅 방법을 지원합니다	IT동아	23.12.07	125	0
3225	[리뷰] 기본기 만족, 화면에 대만족, 에이수스 젠북 S 13 OLED [1]	IT동아	23.12.07	690	0
3224	내년의 인공지능 키워드는 생성형 AI 넘어 '온디바이스 AI'	IT동아	23.12.07	162	0
3223	퓨리오사AI가 연 NPU 해커톤 가보니··· '새로운 AI 시장·생태계 태동에 기여'	IT동아	23.12.07	912	1
3222	KISA, K-BTF 내년 도입 ‘경제성·호환성·편의성에 초점’	IT동아	23.12.07	103	0
3221	[리뷰] 의외의 가성비와 고성능을 겸비, 14세대 인텔 코어 i7-14700K [6]	IT동아	23.12.06	800	0
3220	용접부터 팔레타이징까지…보폭 넓히는 ‘협동로봇’	IT동아	23.12.06	112	0
3219	성북구 1인 창조기업 지원센터에서 꿈을 향해 도전하고 있는 스타트업 (2)	IT동아	23.12.06	113	0
3218	[EV 시대] 전기자동차와 디자인 [1]	IT동아	23.12.05	694	1
3217	경기콘텐츠진흥원 서부권역센터 입주 기업들, 시설∙프로그램에 ‘만족’	IT동아	23.12.05	109	0
3216	[과기대 S-Run] 혁신적인 아이디어의 상품화…시제품 제작 지원으로 달성	IT동아	23.12.05	115	0
3215	현직 교사로 구성된 ATC ‘디지털새싹 캠프 통해 SW·AI 교육 격차 해소에 기여’	IT동아	23.12.05	107	0
3214	DAXA, 불법 영업 가상자산 사업자 신고 창구 개설	IT동아	23.12.05	93	0
3213	환자 안전 지키고 더 나은 치료법 설계 돕는 ‘버추얼 트윈’ [2]	IT동아	23.12.04	1575	1
3212	온라인 면세점을 이용하려면 이렇게![이럴땐 이렇게!]	IT동아	23.12.04	475	0
3211	서울과기대 창업지원단 “제품 브랜딩과 마케팅 방법을 알려드립니다”	IT동아	23.12.04	109	0
3210	[IT애정남] 탄소섬유 열선? 피복체 열선? 탄소매트 구분 법 알려주세요	IT동아	23.12.04	821	1
3209	[IT애정남] 노트북에 연결한 모니터의 화면 움직임이 뚝뚝 끊긴다면? [2]	IT동아	23.12.02	9241	10
3208	[KIDP 울산] 볼로랜드·울주군·UIPA “힘 모아 세계 드론 표준 도시 울주 구축”	IT동아	23.12.01	149	0
3207	지능형 교통체계 도입으로 분주한 지자체…광역화 위한 과제는? [1]	IT동아	23.12.01	940	0
뉴스	비상 계엄 사태로 방송국 K팝 축제도 흔들… 국내외 팬 불안감 고조 [IS포커스]	디시트렌드	12.11