'정부 주도의 첫 AI 규제법'··· EU, AI법으로 무분별한 개발 막는다

IT동아

2023.12.12 14:18:50

조회 962 추천 6 댓글 10

[IT동아 남시현 기자] 현지시간 12월 9일, 유럽연합 이사회 의장단과 유럽의회 협상단이 ‘인공지능 법’에 대한 잠정 합의에 도달했다. 관련 투표는 내년 초 개최 예정이며, 2025년은 되어야 공식 발효될 전망이다. 전 세계적으로 인공지능 개발이 속도를 내고 있는 가운데, 정부 차원에서 인공지능에 대한 규제를 성문화한 것은 세계 최초다. 규정 초안은 유럽 시장에 배치되는 인공지능을 개발하는 규칙을 담고 있으며, 원격 생체 인식이나 기본권 영향 평가 등을 의무적으로 수행한다.

EU AI법, 책임감 있는 AI 만들도록 강제한다

이번 EU AI법은 인공지능 개발에서 등외시되고 있는 ‘책임감 있는 AI’를 강제적으로 이행하게 만든다는 점에서 의의가 크다. 지난 2017년, 전 세계 경제, 법률, 윤리, 철학 분야의 100여 명 이상의 리더 및 연구자들이 캘리포니아 주 아실로마 콘퍼런스 그라운드에서 AI 연구를 위한 24가지 아실로마 AI 원칙을 제정했다.

해당 이미지는 어도비의 생성형 AI를 활용해 만들어진 이미지다 / 출처=유럽의회

원칙은 연구 이슈(5개 항), 윤리와 가치(13개 항), 장기 이슈(5개 항)까지 총 3개 범주로 구성돼 있고, 물리학자 스티븐 호킹이나 컴퓨터 공학자 레이 커즈와일, 오픈AI의 샘 알트만, 일론 머스크 등 2천300여 명이 서명했다. 하지만 주요 참여 인력이었던 오픈AI가 인공지능에 대한 안전보다 기술적 알 권리를 내세워 챗GPT를 공개했고, 이로인해 구글과 메타AI, 마이크로소프트 등도 잇달아 인공지능을 공개하면서 무한 경쟁이 시작됐다.

그렇게 지난해 11월 갑자기 등장한 챗GPT는 세상을 바꿔놓았고, 연이어 등장한 생성형 AI와 대형 언어 모델은 1년도 되지 않아 전 세계 모든 산업 생태계를 바꿔놓기 시작했다. 문제는 속도가 지나치게 빨라 곳곳에서 경제, 윤리, 개인정보 보호, 지속가능성 등에 대한 우려가 터져나오는 상황이다.

강제력 없는 블레츨리 선언, 강제력 갖춘 EU AI법

이에 대응해 전 세계 28개국은 지난 11월 2일 영국 블레츨리 파크에서 ‘AI 안전 정상회의’를 열고 인공지능의 위험성을 평가하고 관리하는 ‘블레츨리 선언’을 발표했고, 2021년 4월에 제출된 EU AI법이 합의 끝에 법제화를 시작하면서 무분별한 인공지능 개발에도 제동 장치가 마련됐다.

블레츨리 선언의 경우 미국, 영국 두 국가가 주도하며, ‘국가 AI 연구 자원’을 통해 전 세계 AI 연구자들을 위한 클라우드를 제공함과 더불어 AI가 도입되는 다양한 분야에서 표준과 정의를 수립하는 데 주력한다. 예를 들어 비전 인식 분야에서는 개인 안면 인식 등의 표준화를 만들고, 자율주행 측면에서는 도덕적 딜레마 등의 원칙을 세우는 것이다.

11월 2일, 윤석열 대통령이 영국에서 열린 제 1차 AI 안전 정상회의에 화상으로 참석했다 / 출처=대한민국 대통령실

EU AI법은 블레츨리 선언보다 훨씬 더 면밀하고 정확하며, 처벌 규정까지 담고 있다. 합의된 초안은 향후 시스템 위험을 초래할 수 있는 영향력이 큰 범용 AI 모델, 그리고 고위험 AI 시스템에 대한 규칙을 수립하며, EU 수준에서 운영 차원에 집행 권한을 갖는다. 또 금지 목록을 만들고, 공공장소에서 법 집행 기관이 원격 생체 인식을 사용할 수 있도록 허용한다. 또한 고위험 AI 개발사는 기본권 영향 평가를 의무적으로 수행해 대상사 권리를 보호한다.

대신 민감 데이터의 적절한 취급, 업무 능력의 보존 등의 내용을 담은 적합성 평가를 통과했을 경우 문제없이 사용할 수 있고, 이를 위해 투명성 의무를 준수해야 할 것을 주문한다. 만약 AI 법을 위반할 경우 글로벌 연간 매출액의 7% 또는 3500만 유로(약 495억 원)의 벌금을 내게 된다. 유럽의회는 표결 이후 약 2년 뒤부터 해당 법안을 발효할 예정이다.

GDPR 절차 밟는 EU AI법, 우리나라는 지지부진해

EU AI법은 유럽 일반 개인정보 보호법(GDPR)과 동일한 절차를 밟을 것으로 보인다. GDPR은 EU 내에서 사업하는 조직 및 기관이 EU 시민의 데이터와 개인정보를 저장 및 전송 등을 규제하는 법안이며, 매출의 4% 또는 2000만 유로(283억 원)를 벌금으로 납부하는 강제력이 있다. 이로 인해 전 세계 모든 기업들이 GDPR에 맞는 개인정보 보호 방안 절차를 마련했고, 자연스레 취급 방안이 표준화됐다. EU AI법은 더 큰 강제력을 갖췄으며, 소수의 개발 기업들을 겨냥한 입법이어서 더 강력하게 작용할 것이다.

국회의사당 전경 / 출처=국회자료실

문제는 우리나라다. 우리 국회는 2021년 이루다 사태 등 개인정보 보호 위반 사례를 계기로 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률’로 규제안을 마련했지만, 지난 2월 과방위 법안 소위 통과 이후 지지부진한 상황이다. 심지어 신뢰성 검증과 사전 적정성 검토제가 제대로 논의되지 않아 법안 자체의 허점이 큰 상황이다. 전 세계적으로 AI에 대한 강력한 규제가 마련되고 있는 만큼, 무분별한 AI 개발을 막기 위해서라도 대책이 시급하다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 출장지 날씨 예상부터 미팅 제안 글까지 작성하는 ‘자율 AI’ 선보인 ‘라이너’▶ 샘 올트먼 복귀로 끝난 오픈AI 쿠데타…'AI 개발론'에 무게추 ▶ 'AI 철학' 갈등이 쿠데타로…오픈AI서 무슨 일이 있었나

고정닉 1

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	인터넷 트랜드를 가장 빠르게 알고 있을 것 같은 스타는?	운영자	24/11/25	-	-
4564	[생활 속 IT] 카카오톡 팀채팅, 입력코드로 한꺼번에 친구 추가한다 [1]	IT동아	11.23	120	0
4563	[투자를IT다] 2024년 11월 3주차 IT기업 주요 소식과 주가 흐름	IT동아	11.23	6317	0
4562	[창업도약+경북대] 허드슨에이아이 “팀버(Timbr)로 크리에이터 글로벌 진출 가교 역할할 것”	IT동아	11.22	94	0
4561	[ENSL 2024] 누구나 쉽게 버튜버 만들어주는 동영상 서비스 ‘에이플라’ [7]	IT동아	11.22	5172	2
4560	[리뷰] AI PC로 거듭난 비즈니스 노트북, 에이수스 엑스퍼트북 P5(P5405) [2]	IT동아	11.22	822	0
4559	[부산창경 BEF 2024] 바다플랫폼 “블록체인 세이피안, 식품 생산·유통 안전 지킨다”	IT동아	11.22	107	0
4558	[부산창경 BEF 2024] 엘리코퍼레이션 “인도 여성 인권 신장하는 콘택트렌즈 전문 브랜드”	IT동아	11.22	92	0
4557	[창업도약+경북대] 에이스에듀 “버추얼 아이돌로 전 세계에 K-콘텐츠의 매력 알릴 것”	IT동아	11.22	85	0
4556	전문가가 제시하는 스타트업 ESG 경영 전략…’2024 서울 스타트업 ESG 포럼’ [1]	IT동아	11.21	1777	0
4555	수원대학교 'WoW 스타트업 브랜치 오픈이노베이션' 개최	IT동아	11.21	118	0
4554	[스타트업리뷰] 로닉 “인공지능 맞춤형 음식 도우미, AI 로봇셰프 큐브”	IT동아	11.21	4846	0
4553	[IT기획자의 탄생] 3. IT기획자에게 필요한 상상력과 글로벌 전략	IT동아	11.21	125	0
4552	[IT’s 가성비] 삼성 크리스탈 UHD TV, 2024년형/85인치 모델에 눈길?	IT동아	11.21	1931	0
4551	[스케일업] 클리카 [3] 피터 노빅과의 대담으로 살펴본 'AI 스타트업'의 방향성	IT동아	11.21	123	0
4550	[생활 속 IT] LG 가전 활용도 넓히는 'LG ThinQ' 연결 및 사용법	IT동아	11.21	113	0
4549	[생활 속 IT] 소프트웨어 활용 습관 바꿔줄 윈도 11 ‘가상 데스크톱’ [1]	IT동아	11.20	237	0
4548	[부산창경 BEF 2024] 기술로 문제 풀이와 오답 노트 작성 효율 높인 ‘프라이머스’	IT동아	11.20	131	0
4547	IBM-연세대, 슈퍼컴 능가하는 127 큐비트 양자컴퓨터 국내 첫 도입 [3]	IT동아	11.20	4940	4
4546	[주간스타트업동향] 휴머닉스, 위플로 CES 2025 혁신상 수상 外	IT동아	11.20	202	0
4545	[부산창경 BEF 2024] 만만한녀석들 “모듈형 집기로 친환경 MICE 산업 선도한다”	IT동아	11.20	123	0
4544	[부산창경 BEF 2024] 나누기월드 “외국인 유학생, 장애인 문제 해결에 기여” [4]	IT동아	11.20	386	0
4543	선박 제조업의 디지털 전환 이끄는 ‘버추얼 트윈’ 기술	IT동아	11.19	149	0
4542	에릭슨엘지 “네트워크도 API로 제공…개발자 참여 독려해야”	IT동아	11.19	146	0
4541	[IT애정남] 노트북 SSD의 OEM 파티션, 삭제해도 되나요?	IT동아	11.19	144	0
4540	[부산창경 BEF 2024] 그린에너지(주) “산업 현장 악취·유해물질 플라즈마로 해결”	IT동아	11.19	143	0
4539	[자동차와 法] 행락철 교통사고 책임과 법적 대처 방안	IT동아	11.19	734	0
4538	아이작 컨셉츠 김태영 대표, "반도체·열유체 공학의 산학협력 교두보 만들겠다"	IT동아	11.19	139	0
4537	[시승기] 돋보이는 디자인과 안전 사양 ‘KGM 액티언’ [1]	IT동아	11.18	469	0
4536	+불필요한 PC 앱, 지우려면 이렇게! [이럴땐 이렇게!] [1]	IT동아	11.18	5215	5
4535	[스케일업] 반프 [3] 정예솔 전략총괄 “반프의 가치, 글로벌 시장에서도 매력적”	IT동아	11.18	166	0
4534	[주간투자동향] 숨빗AI, 50억 원 규모 시드 투자 유치 外	IT동아	11.18	156	0
4533	[투자를IT다] 2024년 11월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	11.16	252	0
4532	[스케일업] 보라웨어 [2] 전영복ㆍ이효주 “구성원 복지ㆍ기업 성장이 공존하는 곳”	IT동아	11.15	245	0
4531	[생성 AI 길라잡이] 8종의 AI 모델 골라 쓰는 ‘SKT 에이닷’ 웹 버전	IT동아	11.15	236	0
4530	디지포레, “제조산업의 디지털 전환, ‘팩토리얼 프로’로 앞당길 것"	IT동아	11.15	228	0
4529	[리뷰] 모니터링 헤드폰의 새로운 기준점 제시, 소니 MDR-M1 [5]	IT동아	11.15	6330	1
4528	[2024 고려대] 스페이스점프 “자영업·소상공인 기자재의 모든 것, 소상공간”	IT동아	11.15	215	0
4527	퀄컴, 온디바이스 AI·차량 전동화에 초점 맞춘 최신 솔루션 선보여	IT동아	11.15	234	0
4526	[창업도약+경북대] 비빔블 “비커스ㆍ버튜디오로 상상 이상의 가상경험 제공할 것”	IT동아	11.15	194	0
4525	[AI와 미래] 기존 저작물은 AI 학습에 어디까지 활용할 수 있을까?	IT동아	11.15	1415	0
4524	[월간자동차] 24년 10월, 신차 등록 두 달 연속 증가…싼타페 판매 1위	IT동아	11.15	190	0
4523	[리뷰] 10G 업링크 지원 네트워크 스위치, 넷기어 GS108MX	IT동아	11.14	214	0
4522	데이터 주권 강조하는 소버린 AI, 진정한 의미는? [1]	IT동아	11.14	792	0
4521	[스케일업] 스쿨버스 [3] 통학버스 전문 플랫폼 개발자 인터뷰	IT동아	11.14	216	0
4520	[UDC 2024] 다양한 산업을 변화시키는 블록체인의 힘	IT동아	11.14	209	0
4519	로봇과 문화예술의 만남, 브이디컴퍼니x장 줄리앙의 종이세상	IT동아	11.14	367	0
4518	[IT애정남] 갤럭시워치를 아이폰과 연결해서 쓸 수 있나요?	IT동아	11.13	4701	0
4517	[신차공개] BMW ‘뉴 4시리즈 그란 쿠페’·로터스 ‘에메야’ 공식 출시 [3]	IT동아	11.13	4849	1
4516	[스타트업-ing] 오아시스 스튜디오 “OVP·오닉스·디보틀로 콘텐츠 에코시스템 구축”	IT동아	11.13	223	0
4515	[생활 속 IT] 취업 서류, 정부24에서 내려받는 법	IT동아	11.12	254	0
뉴스	임영웅, 트로트 가수 브랜드평판 2024년 11월 빅데이터 1위 차지	디시트렌드	11.24