[생성 AI 길라잡이] 인공지능 생성물에 워터마크 표시…효과와 한계는?

IT동아 · 2025.02.28 18:24:22

※생성 인공지능이 세계를 뜨겁게 달굽니다. 사람만큼, 더러는 사람보다 더 그림을 잘 그리고 글을 잘 쓰는 생성 인공지능. 생성 인공지능을 설치하고 활용하는 방법과 최신 소식을 매주 전합니다.

[IT동아 김예지 기자] 최근 전 산업 분야에서 생성 인공지능(AI)으로 만든 콘텐츠가 늘어났다. AI 생성물이란 AI 알고리즘을 통해 제작하거나, 크게 변경한 이미지·동영상·오디오·문자(텍스트) 파일을 일컫는다.

오픈AI 달리 3(DALL･E 3)로 생성한 이미지 / 출처=IT동아

그러나 이와 함께 AI 생성물이 몇 가지 위험성을 야기했다. AI가 생성물을 만들기 위해 활용하는 데이터 수집 과정에서 개인의 프라이버시를 침해하고, 나아가 기존 창작물의 저작권 및 지식재산권 침해로 이어질 수 있다는 점이다. 또한 AI로 만든 출처를 구분하기 어려운 콘텐츠는 딥페이크 이미지, 가짜뉴스, 보이스 피싱 등 범죄로 악용될 우려가 있다.

AI 기본법, 워터마크 표시 포함

최근에는 이러한 AI 생성물 오남용 사례 피해를 막기 위해 국가 차원의 노력이 수반되고 있다. 식별무늬(워터마크)의 도입도 그중 하나다. 워터마크는 AI 생성물의 출처 및 사용 목적을 명확히 밝히고, 사용자가 AI 생성된 콘텐츠와 사람이 작성한 콘텐츠를 구별하도록 돕는다.

과기정통부는 AI 워터마크 기술 동향 보고서를 발간했다 / 출처=과기정통부

미국, 유럽연합(EU)을 비롯한 주요국에서는 AI 생성물 제작 표시 권고안 및 법률안을 제정하고 있다. 2023년부터 시작된 AI 생성물에 대한 규제는 올해 본격화될 것으로 전망되며, 우리나라에서도 정부 차원의 대응이 늘어나는 추세다. 지난 1월 21일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능 기본법)’을 제정, AI 생성물에 대한 투명성 확보 의무를 부여하고, 워터마크 표시를 포함했다.

이에 따라 2026년 1월부터 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법’이 시행된다. AI 서비스 제공자는 사용자에게 해당 서비스에 AI가 적용됐음을 사전 고지하고, 사용자가 AI를 활용해 만든 결과물의 사실을 다른 이용자가 인식할 수 있도록 표시해야 한다는 규정이 마련된다. 또한 이와 함께 과학기술정보통신부(이하 과기정통부)와 한국정보통신기술협회(이하 TTA)는 안전한 AI 생성물 생성 및 활용을 지원하고자 ‘AI 워터마크 기술 동향 보고서’를 발간했다.

기업 차원의 노력도 이어지는 중이다. 2025년 1월 기준 해외 12개 및 국내 3개 주요 기업은 자사의 AI 서비스에 AI 생성물 워터마크 기술을 도입했다. 삼성전자(갤럭시 AI), SKT(에이닷), 메타(메타 AI), 어도비(파이어플라이), 오픈 AI(달리 3), 마이크로소프트(코파일럿), 구글(제미나이) 등이 대표적이다.

AI 생성물 워터마크, 효과적일까

그렇다면 AI 생성물에 포함되는 워터마크는 효과가 있을까? 우선 콘텐츠에 적용되는 워터마크는 로고, 텍스트 등 인지 가능한 것뿐만 아니라, 생성물의 원본 콘텐츠 내에 워터마크를 포함해 맨눈으로 확인할 수 없는 표시도 포함한다.

유튜브는 AI 생성물을 구분하기 위해 AI로 만든 콘텐츠를 업로드할 경우, 정보 공개 문구를 추가하도록 한다 / 출처=IT동아

인지 가능한 표시는 눈에 띄게 워터마크를 표시함으로써 빠르게 소유권 및 진위를 식별하도록 돕는다는 장점이 있다. 이러한 형태는 콘텐츠를 무단 복사 및 배포하는 것을 막기 용이하다. 반면에, 인지 불가능한 워터마크는 추출 및 검증 시 일반 사용자가 접근하기 어렵다는 단점이 있지만, 콘텐츠 원본 모양새를 유지하는 데 유리하고, 승인되지 않은 변경을 감지해 보안성이 뛰어나다.

그러나, AI 생성물에 적용되는 워터마크로 AI 생성물의 투명성을 확보하는 데는 한계점이 존재한다. 크롭 등으로 제거에 취약한 인지 가능한 워터마크와 더불어 최근에는 인지 불가능한 워터마크를 제거하는 기술도 늘어난 것. 원본 콘텐츠에서 워터마크를 제거 및 훼손하는 워터마크 무력화 기술이 그 예다. 인지 불가능 워터마크가 삽입된 이미지에 랜덤 노이즈를 넣어 이미지를 재구축하는 방법으로 워터마크를 제거할 수 있다. 비드모어(Vidmore), 컷아웃(Cutout.pro) 등 시중에 이를 쉽게 이용할 프로그램이 있다는 점도 문제로 꼽힌다.

이러한 문제는 사람이 만든 콘텐츠를 보호하는 데 어려움을 준다. 유튜브는 AI 생성물을 구분하기 위해 AI로 만든 콘텐츠를 업로드할 경우, 정보 공개 문구를 추가하도록 한다. 그러나 쉽게 워터마크를 제거하여 AI 생성물 여부를 알리지 않는 경우가 빈번하다.

데이터의 데이터, 메타데이터

C2PA 로고 / 출처=C2PA

이렇게 워터마크가 무력화된 AI 생성물을 불법 유통할 경우, 경로 파악이 어려워 저작권 침해가 발생한다. 그래서 워터마크를 대체하여 AI 생성물의 투명성을 확보하는 방안이 화두로 떠올랐다. 이중 하나는 데이터의 데이터로 불리는 ‘메타데이터(Metadata)’다. 메타데이터는 이미지, 동영상, 오디오 등 많은 양의 데이터를 수집, 저장 및 분석할 수 있도록 다른 데이터를 설명하는 데이터를 뜻한다.

메타데이터는 2021년 어도비·MS가 주도해 결성하고, 오픈AI, 구글, 인텔, 네이버, Arm 등이 참여하는 개방형 기술 표준 연합체 ‘C2PA(Coalition for Content Provenance and Authenticity)’가 대표적이다. 이 표준은 일종의 인지 불가능 워터마크로 활용된다. 의료, 관광, 지리, 교육 등 분야에 따라 맞는 표준이 존재하며, 원활한 시스템 간 정보교환을 가능케할 것으로 기대된다.

C2PA가 적용된 이미지의 콘텐츠 자격 증명 정보 / 출처=IT동아

C2PA 표준 기술의 구성 요소에서 ‘매니페스트(Manifest)’는 콘텐츠 출처 추적을 위한 가장 기본의 정보로, 콘텐츠 변경 시마다 업데이트된 내용 및 디지털 서명 정보가 여기에 저장된다. 해당 표준을 참조하는 모든 AI 서비스에서 콘텐츠를 만들면 오픈소스를 통해 정보 추적이 가능하다. 콘텐츠 자격 증명 확인(Content Credentials Verify) 사이트 등에서 AI 생성 이미지 여부를 판단할 수 있다.

C2PA에 참여하는 기업들은 인지 가능한 워터마크와 함께 메타데이터 표준을 적용하고 있다. 어도비는 파이어플라이에서 로고 워터마크 및 C2PA 메타데이터 표준을 적용한다. 오픈AI는 챗GPT 및 달리 3 모델을 제공하는 API로 생성된 이미지에 이를 적용하며, 향후 소라 AI(Sora AI)에도 적용할 예정이다. MS의 코파일럿으로 제작한 생성물도 생성물 생성 시기, 자격 증명, 이미지 생성 도구 등 정보가 포함된 메타데이터를 AI 이미지 픽셀 내에 저장한다.

한편, 업계에서는 ‘AI 생성물 탐지 기술’ 개발도 추진되고 있다. 워터마크가 적용되지 않은 AI 생성물을 찾는 기술로, 이 또한 워터마크 한계점을 보완하기 위함이다. 맥아피 딥페이크 디텍터(McAfee® Deepfake Detector), GPT제로 등이 그 예시로, 생성물의 진위를 판별하기 위해 사용처가 확대될 것으로 전망된다.

IT동아 김예지 기자 (yj@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	과음으로 응급실에 가장 많이 갔을 것 같은 스타는?	운영자	25/03/03	-	-
4962	[투자를IT다] 2025년 2월 4주차 IT기업 주요 소식과 주가 흐름	IT동아	03.01	6789	0
4961	‘인공지능 역량 높여 게이밍 성능 개선’ AMD, 라데온 RX 9070 시리즈 그래픽카드 공개 [8]	IT동아	03.01	9591	9
4960	[리뷰] 콘텐츠 품질 높이는 프로급 짐벌, DJI RS 4 미니	IT동아	02.28	160	0
	[생성 AI 길라잡이] 인공지능 생성물에 워터마크 표시…효과와 한계는?	IT동아	02.28	221	0
4958	[기술영업人] 고객관계관리에서 AI 기반으로, 세일즈포스의 기술영업 방법론은?	IT동아	02.28	167	0
4957	[IT애정남] 로봇청소기, 개인정보 보호 대처 방법을 알려주세요 [6]	IT동아	02.28	4609	0
4956	해시드오픈리서치 “국내 가상자산 투자자, 3040 남성 강세”	IT동아	02.28	163	0
4955	Startup KAIST 글로벌 스튜디오 “코호트 기업, 세계 누비도록 지원”	IT동아	02.28	155	0
4954	[IT신상공개] 4세대 뷰티 디바이스 ‘앳홈 톰 더 글로우’, 광채·탄력·보습 잡는다	IT동아	02.28	168	0
4953	“잘 쓰던 SSD가 갑자기 고장?” 데이터 보호하려면 철저한 대비가 필요해 [4]	IT동아	02.27	673	2
4952	솔리드웍스 CEO “손쉬운 사용자 경험...전 세계 800만 사용자 확보한 배경”	IT동아	02.27	177	0
4951	Arm, Armv9 엣지 AI 플랫폼, AI 엣지용 Cortex-A320 칩 공개	IT동아	02.27	224	0
4950	[리뷰] ‘폰카’로 ‘작품’ 찍는 짐벌, DJI 오즈모 모바일 7 시리즈 [2]	IT동아	02.27	4260	22
4949	배재인 다쏘시스템코리아 CRE본부장 “韓 로봇 시장 급성장…스타트업 혁신 적극 지원”	IT동아	02.27	188	0
4948	‘버추얼 트윈’ 기술로 시간당 200개 햄버거 패티 굽는 로봇 개발 '에니아이’ [10]	IT동아	02.27	2011	0
4947	‘다쏘시스템’ 솔루션에 ‘애플 비전 프로’ 접목…새로운 방식의 협업 기대	IT동아	02.26	182	0
4946	다쏘시스템 “설계 효율 높일 AI 챗봇 ‘아우라’ 오는 7월 도입”	IT동아	02.26	176	0
4945	[주간스타트업동향] 픽플리, AI 활용 실태 조사 “AI, 활용도 높지만 신뢰성은 아직”	IT동아	02.26	171	0
4944	[생활 속IT] 화면을 더 부드럽게, 120Hz 주사율 설정하는 법 [2]	IT동아	02.26	4849	4
4943	[크립토 퀵서치] 업비트는 왜 3개월 영업 일부 정지 조치를 받나요?	IT동아	02.26	158	0
4942	이통3사, MWC 2025서 선보일 AI 전략 차이점은?	IT동아	02.26	1514	0
4941	다양한 종류의 디지털 카메라, 무엇에 초점을 두고 선택할까? [9]	IT동아	02.26	340	0
4940	스테이블코인 협의회 출범 ‘실효성 있는 규제 환경 조성에 기여’	IT동아	02.25	197	0
4939	다쏘시스템 "버추얼 트윈 기술로 지속 가능한 선순환 구조 형성할 것"	IT동아	02.25	188	0
4938	국내외 인공지능 기업의 시선, ‘휴머노이드’로 이동 중 [2]	IT동아	02.25	867	0
4937	[르포] 美 유인 우주 계획의 본거지 ‘NASA 존슨 우주 센터’ 가보니	IT동아	02.25	750	4
4936	"채굴 가고 인공지능 왔다" 지포스 RTX 50 구매 대란, 굳이 지금 사야되나? [2]	IT동아	02.25	2104	0
4935	[리뷰] 2.5G에 관리 기능까지 더한 특별한 스위치, 넷기어 MS305E	IT동아	02.24	201	0
4934	배터리 부풀어 오를 때는 이렇게! [이럴땐 이렇게!]	IT동아	02.24	5476	5
4933	바이비트, 약 2조 원 규모 해킹 피해 ‘역대 최대 규모’ [3]	IT동아	02.24	1078	4
4932	[주간투자동향] 라이드, 40억 원 규모 시리즈A 투자 유치 外	IT동아	02.24	181	0
4931	[리뷰] 기본기, 완성도에 집중한 그래픽 카드, 인텔 아크 B580	IT동아	02.24	184	0
4930	[투자를IT다] 2025년 2월 3주차 IT기업 주요 소식과 주가 흐름	IT동아	02.21	5771	1
4929	[생성 AI 길라잡이] 신형 PC의 특권? 윈도우 그림판 AI 기능 활용하기 [7]	IT동아	02.21	5322	6
4928	[생활 속 IT] 알고리즘의 축복, 유튜브 ‘인급동’ 기준은?	IT동아	02.21	261	0
4927	화물차 차주에게는 주차공간을, 유휴부지 소유주에게는 수익을…‘트럭헬퍼’ [2]	IT동아	02.21	4560	1
4926	[리뷰] 성능과 배터리 효율의 극적인 조화, 삼성 갤럭시 북5 프로 [3]	IT동아	02.21	4455	18
4925	[크립토 퀵서치] 100만 원 미만 가상자산 출금 방식이 변경된 이유는?	IT동아	02.21	227	0
4923	[IT하는법] 신뢰할 수 있는 장소에서 '잠금 해제 유지'하는 방법	IT동아	02.21	229	0
4922	[민관협력 오픈이노베이션 지원사업] 큐빅 “SKT와의 협업으로 새로운 기회·가능성 발견”	IT동아	02.21	202	0
4921	레노버 “기업의 AI 도입, ‘무작정’ 아닌 ‘제대로’가 중요” [1]	IT동아	02.20	351	0
4920	우버 택시 “CEO가 직접 택시 운전하며 피드백 수렴…서비스 대상 확대 박차”	IT동아	02.20	1581	0
4919	[2024 고려대 초창패] 케미컴퍼니, '진정성 있는 인연, 하트트래블이 맺어드립니다'	IT동아	02.20	694	0
4918	세종창조경제혁신센터, 스타트업 생존전략 강화 및 피봇팅 성과 발표	IT동아	02.20	226	0
4917	[2024 고려대 초창패] 파이브지코퍼레이션 “AI 체형 분석으로 최적 침구 찾아주는 딥몽”	IT동아	02.20	221	0
4916	2025년 3월 출범하는 대체거래소 넥스트레이드, 장점과 아쉬운 점	IT동아	02.20	229	0
4915	기능을 포기하고 99만 원... 애플 아이폰 16e 공개 [2]	IT동아	02.20	823	0
4914	컬러 산업의 리더 모인 ‘2025 컬러 & 디자인 세미나 서울’ 성료 [1]	IT동아	02.19	608	0
4913	라스베이거스 초대형 돔 스피어는 어떻게 구동되나	IT동아	02.19	225	0
4912	험난한 야외 환경 견딜 필드용 로봇 위한 ‘전자파 내성 센서’ 개발	IT동아	02.19	209	0
뉴스	‘4월 결혼’ 김종민, 11살 연하♥ 신부에게 프로포즈 완료… “레슨까지 받아” (‘미우새’)	디시트렌드	03.02

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

AI 기본법, 워터마크 표시 포함

AI 생성물 워터마크, 효과적일까

데이터의 데이터, 메타데이터

▶ 이통3사, MWC 2025서 선보일 AI 전략 차이점은?▶ 국내외 인공지능 기업의 시선, ‘휴머노이드’로 이동 중▶ "채굴 가고 인공지능 왔다" 지포스 RTX 50 구매 대란, 굳이 지금 사야되나?

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결

▶ 이통3사, MWC 2025서 선보일 AI 전략 차이점은?▶ 국내외 인공지능 기업의 시선, ‘휴머노이드’로 이동 중 ▶ "채굴 가고 인공지능 왔다" 지포스 RTX 50 구매 대란, 굳이 지금 사야되나?