인기 인공지능 서비스 연이어 중단, 업계 “자정할 것”

IT동아

2023.04.04 10:52:03

조회 2330 추천 3 댓글 15

[IT동아 차주경 기자] 사람과 대등한, 몇몇 부문에서는 사람보다 우수한 창작 능력을 발휘해 주목 받았던 인공지능들이 연이어 서비스를 중단했다. 운영 도중 사람의 개인정보 유출, 허위 정보 제작과 전파 등 부작용을 나타낸 탓이다. 인공지능 기술 업계는 서비스를 임시 중지하고, 재발 방지 대책을 세우고 기능도 개선한다고 약속했다.

인공지능 서비스. 출처 = 엔바토엘리먼츠

지난 3월 20일(이하 현지시각), 오픈AI는 자체 개발한 대화형 인공지능 ‘챗GPT’의 서비스를 일시 중단했다. 챗GPT를 쓰던 사용자 일부에게 다른 사용자의 대화 이력이 노출되는 버그(이상 작동 현상)가 발견된 까닭이다. 3월 24일 오픈AI는 버그 발견 직후 서비스를 일시 중단, 수정 후 서비스를 다시 시작했다고 밝혔다.

하지만, 이후 오픈AI는 이번 버그 때문에 챗GPT 플러스 가입자 일부(약 1.2%로 추정)의 결제 정보가 노출됐을 가능성이 있다고 인정했다. 노출 가능성이 있는 결제 정보는 가입자의 실명과 이메일 주소, 결제상 주소, 신용카드 고유번호 16개 가운데 마지막 4개 등이다. 단, 오픈AI는 신용카드 고유번호가 모두 노출됐을 가능성은 없으며 정보 유출 피해의 사례도 없었다고 덧붙였다.

오픈 AI의 버그 공지와 사과문. 출처 = 오픈AI

사건 이후 챗GPT에게 거센 후폭풍이 불어닥쳤다. 미국 비영리 연구 모임 ‘인공지능·디지털 정책 센터’는 3월 30일, 미국 연방거래위원회(FTC)에 챗GPT 배포를 중단해야 한다는 청원을 제출했다. 챗GPT가 편향된, 기만에 가까운 정보를 주며 사람의 사생활과 공공 안전을 위협한다는 이유에서다. 이어 이탈리아 정부는 4월 3일, 챗GPT가 개인정보를 무단 수집할 우려가 있다면서 자국에서의 사용 금지령을 내렸다.

사진 생성 인공지능 ‘미드저니(Midjourney)’ 역시 3월 28일 무료 서비스를 중단한다고 밝혔다. 사유는 ‘비정상으로 많은 수요 대응’과 ‘남용 문제 개선’이다.

인공지능으로 만든 사진이 실제 사진만큼 정교해지면서 저작권, 윤리 문제가 계속 불거졌다. 이 가운데, 한 미드저니 사용자가 만든 사진이 큰 반향을 일으켰다. 도널드 트럼프 전 미국 대통령이 강제 체포되는 사진, 재판을 받고 교도소에 수감되는 사진이다. 또 다른 사용자는 버락 오바마 전 미국 대통령과 앙겔라 메르켈 전 독일 총리가 해변에서 함께 물장난을 치는 사진을 미드저니로 만들어 공개했다.

인공지능으로 만든 도널드 트럼프 전 미국 대통령의 사진. 모두 가짜 사진이다. 출처 = 페타픽셀

문제는 이들 사진이 아주 정교하게 만들어진 탓에, 실제 사진으로 착각하고 가짜 뉴스와 함께 전파한 사람들이 많았다는 점이다. 인공지능이 치명적인 윤리, 사회 문제를 일으킨 가짜 뉴스의 제작 수단으로 악용된 것이다. 미드저니는 이들 사진의 제작자를 바로 제재(서비스 사용 금지)했다. 단, 이 사건이 무료 서비스 중단의 원인은 아니라고 해명했다.

이전에도 인공지능은 여러 부작용을 나타냈다. 초기 단계의 대화형 인공지능은 총기 구입, 폭탄 제조 등 위험한 정보를 여과하지 않고 그대로 사용자에게 전달했다. 옛날 데이터만 학습한 대화형 인공지능이 사용자의 질문에 엉뚱한 답을 제시하는 일도 잦았다. 학생들이 과제를 할 때 대화형 인공지능을 쓰지 않도록 막아야 한다는 주장도 꾸준하다.

가짜 뉴스나 음란물 제작, 로맨스 스캠(SNS의 사진, 게시물로 이성의 환심을 사고 돈을 요구하는 사기 행위)에 사진 생성 인공지능이 악용됐다. 사진 생성 인공지능이 데이터를 무단 수집했다며, 사진 데이터 기업이 천문학 규모의 소송을 제기한 일도 있었다.

인공지능 기술 업계는 이번 사건을 실수라고 인정하면서, 이를 되풀이하지 않고 오남용을 막을 대책을 세우는 등 자정한다고 밝혔다.

오픈AI는 “사용자 개인 정보를 보호하고 데이터를 유지하려 최선을 다했지만, 사용자의 기대에 미치지 못했다. 사용자와 챗GPT 커뮤니티에 진심으로 사과하며, 신뢰를 회복하도록 노력하겠다.”고 밝혔다. 데이빗 홀츠(David Holz) 미드저니 대표 역시 “오남용을 막을 정밀한 시스템을 곧 출시 예정이다. 전문가와 커뮤니티에서 나온 의견들을 참고해 사려 깊게 노력하겠다.”고 강조했다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [농업이 IT(잇)다] 팜커넥트 “농업 데이터, 선진 농업 첫걸음”▶ AI 열풍, 산업용·협동 로봇 분야로 이어질까…플라잎, 로봇 AI 솔루션 상용화 [스타트업-ing]▶ 스팍랩 “100년 넘은 간접광고에도 AI 통한 디지털 혁신이 필요합니다” [스타트업-ing]

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
4559	[부산창경 BEF 2024] 바다플랫폼 “블록체인 세이피안, 식품 생산·유통 안전 지킨다”	IT동아	13:00	25	0
4558	[부산창경 BEF 2024] 엘리코퍼레이션 “인도 여성 인권 신장하는 콘택트렌즈 전문 브랜드”	IT동아	12:19	18	0
4557	[창업도약+경북대] 에이스에듀 “버추얼 아이돌로 전 세계에 K-콘텐츠의 매력 알릴 것”	IT동아	11:42	15	0
4556	전문가가 제시하는 스타트업 ESG 경영 전략…’2024 서울 스타트업 ESG 포럼’ [1]	IT동아	11.21	1101	0
4555	수원대학교 'WoW 스타트업 브랜치 오픈이노베이션' 개최	IT동아	11.21	54	0
4554	[스타트업리뷰] 로닉 “인공지능 맞춤형 음식 도우미, AI 로봇셰프 큐브”	IT동아	11.21	4751	0
4553	[IT기획자의 탄생] 3. IT기획자에게 필요한 상상력과 글로벌 전략	IT동아	11.21	64	0
4552	[IT’s 가성비] 삼성 크리스탈 UHD TV, 2024년형/85인치 모델에 눈길?	IT동아	11.21	1835	0
4551	[스케일업] 클리카 [3] 피터 노빅과의 대담으로 살펴본 'AI 스타트업'의 방향성	IT동아	11.21	62	0
4550	[생활 속 IT] LG 가전 활용도 넓히는 'LG ThinQ' 연결 및 사용법	IT동아	11.21	62	0
4549	[생활 속 IT] 소프트웨어 활용 습관 바꿔줄 윈도 11 ‘가상 데스크톱’ [1]	IT동아	11.20	133	0
4548	[부산창경 BEF 2024] 기술로 문제 풀이와 오답 노트 작성 효율 높인 ‘프라이머스’	IT동아	11.20	76	0
4547	IBM-연세대, 슈퍼컴 능가하는 127 큐비트 양자컴퓨터 국내 첫 도입 [3]	IT동아	11.20	4816	4
4546	[주간스타트업동향] 휴머닉스, 위플로 CES 2025 혁신상 수상 外	IT동아	11.20	138	0
4545	[부산창경 BEF 2024] 만만한녀석들 “모듈형 집기로 친환경 MICE 산업 선도한다”	IT동아	11.20	70	0
4544	[부산창경 BEF 2024] 나누기월드 “외국인 유학생, 장애인 문제 해결에 기여” [4]	IT동아	11.20	294	0
4543	선박 제조업의 디지털 전환 이끄는 ‘버추얼 트윈’ 기술	IT동아	11.19	99	0
4542	에릭슨엘지 “네트워크도 API로 제공…개발자 참여 독려해야”	IT동아	11.19	98	0
4541	[IT애정남] 노트북 SSD의 OEM 파티션, 삭제해도 되나요?	IT동아	11.19	101	0
4540	[부산창경 BEF 2024] 그린에너지(주) “산업 현장 악취·유해물질 플라즈마로 해결”	IT동아	11.19	101	0
4539	[자동차와 法] 행락철 교통사고 책임과 법적 대처 방안	IT동아	11.19	689	0
4538	아이작 컨셉츠 김태영 대표, "반도체·열유체 공학의 산학협력 교두보 만들겠다"	IT동아	11.19	97	0
4537	[시승기] 돋보이는 디자인과 안전 사양 ‘KGM 액티언’ [1]	IT동아	11.18	389	0
4536	+불필요한 PC 앱, 지우려면 이렇게! [이럴땐 이렇게!] [1]	IT동아	11.18	5127	5
4535	[스케일업] 반프 [3] 정예솔 전략총괄 “반프의 가치, 글로벌 시장에서도 매력적”	IT동아	11.18	125	0
4534	[주간투자동향] 숨빗AI, 50억 원 규모 시드 투자 유치 外	IT동아	11.18	116	0
4533	[투자를IT다] 2024년 11월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	11.16	218	0
4532	[스케일업] 보라웨어 [2] 전영복ㆍ이효주 “구성원 복지ㆍ기업 성장이 공존하는 곳”	IT동아	11.15	211	0
4531	[생성 AI 길라잡이] 8종의 AI 모델 골라 쓰는 ‘SKT 에이닷’ 웹 버전	IT동아	11.15	198	0
4530	디지포레, “제조산업의 디지털 전환, ‘팩토리얼 프로’로 앞당길 것"	IT동아	11.15	192	0
4529	[리뷰] 모니터링 헤드폰의 새로운 기준점 제시, 소니 MDR-M1 [5]	IT동아	11.15	6244	1
4528	[2024 고려대] 스페이스점프 “자영업·소상공인 기자재의 모든 것, 소상공간”	IT동아	11.15	181	0
4527	퀄컴, 온디바이스 AI·차량 전동화에 초점 맞춘 최신 솔루션 선보여	IT동아	11.15	203	0
4526	[창업도약+경북대] 비빔블 “비커스ㆍ버튜디오로 상상 이상의 가상경험 제공할 것”	IT동아	11.15	161	0
4525	[AI와 미래] 기존 저작물은 AI 학습에 어디까지 활용할 수 있을까?	IT동아	11.15	1382	0
4524	[월간자동차] 24년 10월, 신차 등록 두 달 연속 증가…싼타페 판매 1위	IT동아	11.15	154	0
4523	[리뷰] 10G 업링크 지원 네트워크 스위치, 넷기어 GS108MX	IT동아	11.14	184	0
4522	데이터 주권 강조하는 소버린 AI, 진정한 의미는? [1]	IT동아	11.14	730	0
4521	[스케일업] 스쿨버스 [3] 통학버스 전문 플랫폼 개발자 인터뷰	IT동아	11.14	184	0
4520	[UDC 2024] 다양한 산업을 변화시키는 블록체인의 힘	IT동아	11.14	176	0
4519	로봇과 문화예술의 만남, 브이디컴퍼니x장 줄리앙의 종이세상	IT동아	11.14	334	0
4518	[IT애정남] 갤럭시워치를 아이폰과 연결해서 쓸 수 있나요?	IT동아	11.13	4669	0
4517	[신차공개] BMW ‘뉴 4시리즈 그란 쿠페’·로터스 ‘에메야’ 공식 출시 [3]	IT동아	11.13	4785	1
4516	[스타트업-ing] 오아시스 스튜디오 “OVP·오닉스·디보틀로 콘텐츠 에코시스템 구축”	IT동아	11.13	188	0
4515	[생활 속 IT] 취업 서류, 정부24에서 내려받는 법	IT동아	11.12	222	0
4514	기한 지나면 과태료…운전면허 적성검사 및 갱신 방법 살펴보니	IT동아	11.12	2402	3
4513	[창업도약+경북대] 준컴퍼니 “자동차 구매부터 판매까지 아우르는 모빌리티 통합 플랫폼 꿈꾼다”	IT동아	11.12	212	0
4512	[스케일업] 모넷코리아 [2] HDC랩스와 협업 통해 AIoT 기반 부동산 관리 플랫폼 고도화	IT동아	11.12	244	0
4511	[2024 고려대] R2C컴퍼니 “데이터 수요·공급자 만족 이끄는 플랫폼”	IT동아	11.12	663	0
4510	갤럭시 스마트폰의 위젯 기능, 제대로 쓰려면?	IT동아	11.12	270	1
뉴스	코미디언 겸 유튜버 성용 21일 사망…향년 35세	디시트렌드	14:00