디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

“AI 활용도 올바르게”, AI 윤리 시스템 구축하는 게임사들

게임동아갤로그로 이동합니다. 2024.05.09 16:09:54
조회 145 추천 0 댓글 0
최근 AI의 발전에 따라 게임업계에서도 AI를 적극적으로 활용하고 있다. 글로벌 게임 유통 플랫폼 ‘스팀’이 생성형 AI로 제작한 게임의 유통을 허락한 지 4개월 만에 약 1000개 이상의 AI 활용 작품이 출시된 것으로 알려졌을 정도다.


출처: 엔바토엘리먼트



다만 AI 활용이 보편화된 만큼 표절을 비롯한 저작권 침해, 비윤리적 표현 학습 및 생산 등에 대한 우려의 목소리도 커지고 있다. 지난 1월에는 해외 기술 전문지 ‘IEEE 스펙트럼’이 생성형 AI인 ‘미드저니’와 ‘달리3(DALL-E 3)’를 테스트한 결과, 간접적인 프롬포트만으로도 상표가 등록된 캐릭터와 매우 유사한 이미지가 만들어졌다고 밝힌 바 있다.

예를 들어 ‘고글을 쓴 노란색 3D 만화 캐릭터’라는 간단한 프롬포트를 입력했음에도 엄연히 저작권이 존재하는 ‘미니언즈’ 캐릭터가 만들어지는 식이다. 연구를 진행한 저자 게리 마커스(GARY MARCUS)와 리드 섀튼(SOUTHEN)은 “사용자가 원하지 않더라도 일부 생성 AI 시스템이 표절물을 출력해 저작권 문제를 일으킬 수 있다.”라고 지적했다.

이런 상황에서 AI 윤리 시스템을 구축해 안전하고 믿음직한 방식으로 AI를 활용하는 국내 게임사들이 주목을 받고 있다.


넥슨 CI



대표적인 예가 넥슨이다. 넥슨은 맞춤형 AI NPC, TTS 등 이용자 몰입감과 즐거움을 극대화하기 위해서 AI 활용 및 연구를 진행하는 만큼 윤리 강화에도 공을 들이고 있다. 넥슨 측 관계자의 설명에 따르면 데이터 과학 연구조직 ‘인텔리전스랩스’에서는 학습한 데이터에 대한 출처를 아카이빙하고 있으며, 의미 있는 데이터셋의 경우 저작권 소유 측과 협의하는 방향도 검토하고 있다.

이어서 게임 안팎으로 구현되는 정보나 대화에서 편향, 혐오, 차별적인 내용이 나오지 않도록 윤리 기준을 바탕으로 연구가 진행되는 중이다.

인 게임 내 매너에 대한 부분도 AI를 통해 예방하고 있다. 욕설 등의 유해 언어도 단순히 ‘금칙어’로 지정하는 대신, AI를 활용해 맥락을 따라 유해어를 탐지하며 건전한 게임 문화에 이바지하고 있다는 게 관계자의 설명이다.

넥슨의 한 관계자는 “넥슨은 다양한 외부 솔루션을 도입 및 검토하고, 여러 이용자 데이터들을 기반으로 AI를 연구하고 있다.”, “안전한 AI 환경 구축에 최선을 다하겠다.”라고 밝혔다.


엔씨소프트 CI



엔씨소프트(이하 엔씨)의 이야기도 빠질 수 없다. 회사는 AI 사업 조직인 ‘엔씨 리서치 센터’ 산하 AI 데이터실이 레드팀의 역할을 수행하며 AI 윤리 강화에 힘을 쏟고 있다. 일반적으로 레드팀은 소프트웨어 보안 강화 역할을 맡은 사내 조직을 의미하지만, AI 레드팀의 경우 SW의 취약점과 함께 AI 서비스의 윤리와 신뢰성까지 교차 검증하며 유해한 콘텐츠가 생산되는 것을 사전에 막는다.

엔씨의 한 관계자는 “AI 데이터실 언어데이터팀이 사내 품질보증(QA)팀과 정기적으로 AI 서비스의 윤리 보안 시스템을 관리하며 안전한 제품을 만들기 위해 노력하고 있다. 필요에 따라 보안을 담당하는 외부 전문 조직과 협업도 진행한다.”라고 설명했다.

AI 모델이 가진 자체적인 윤리 보안성을 강화하기도 한다. 리서치 센터 산하 연구 조직에서는 AI 모델에 ‘세이프티 파인튜닝’을 진행해 모델이 부정적인 콘텐츠를 학습하는 것을 스스로 차단한다. 모델에 별도의 세이프티 엔진을 탑재함으로써, 비윤리적인 발화를 생성하거나 적대적인 공격에도 원활히 대응할 수 있도록 조치한다는 것.


NC AI 윤리 프레임워크



여기서 그치지 않고 엔씨는 2021년 ESG 리포트를 통해 AI 윤리 원칙 ‘NC AI 윤리 프레임워크’를 마련한 바 있다. 이는 ‘데이터 보호’, ‘비편향성’, ‘투명성’ 등의 핵심 가치를 검토할 수 있도록 마련된 가이드라인이다.

실제로 회사는 해당 가이드라인을 게임 개발에 적극 반영해 ‘리니지W’, ‘리니지2M’ 등 주요 모바일 게임에서는 채팅에 ‘스팸 필터링 기술’을 적용한 뒤 13개 언어로 다양한 패턴의 광고 등을 식별해 차단하고 있다.


크래프톤 CI



크래프톤도 있다. 크래프톤은 비교적 최근인 2023년 4월 ‘크래프톤 AI 윤리위원회(이하 AI 윤리위원회)’를 설치해 적극적으로 AI 윤리 관련 시스템을 강화하고 있다.

AI윤리위원회는 AI 윤리 문제에 대한 지속적인 숙의와 토론을 위해 여러 조직의 구성원들(법무 팀, 데이터 팀, 프라이버시 팀 등)이 자원하는 방식으로 인원을 구성했다. 이들은 매월 정기적인 라운드 테이블을 진행해 AI 윤리 준칙과 강령을 수립하고, 다양한 AI 윤리 문제나 사례를 논의한다.

크래프톤의 한 관계자는 “크래프톤은 AI 연구나 개발 과정에서 발생할 수 있는 윤리 문제들을 미연에 방지하고, 선제적으로 대비하기 위해서 ‘크래프톤 AI 윤리위원회’를 설립하는 등의 노력을 기울이고 있다.”라고 말했다.

사용자 중심의 게임 저널 - 게임동아 (game.donga.com)



▶ 크래프톤 '다크앤다커 모바일' 테스트 성료. 97%가 출시되면 다시하겠다▶ ‘프라시아 전기’, ‘2024 WPK SPRING’ 토너먼트 대전 개최▶ 네오플, 제주시 저소득 가정 아동 지원 위한 ‘디딤씨앗통장’ 후원 3년 연장



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는? 운영자 24/11/18 - -
11419 호요버스 신작 젠레스 존 제로 “유출당했다고? 그럼 선공개하겠습니다.” 게임동아갤로그로 이동합니다. 05.14 200 0
11418 “하데스 2를 피해라” 로그: 페르시아의 왕자 출시 연기 게임동아갤로그로 이동합니다. 05.14 119 0
11417 넷마블 '페이트/그랜드 오더', ‘아크틱 서머 월드!’ 이벤트 돌입 게임동아갤로그로 이동합니다. 05.14 119 0
11416 펄어비스 '검은사막' 직접 서비스 5주년 기념 ‘530 이벤트’ 시작 게임동아갤로그로 이동합니다. 05.14 308 0
11415 넵튠, 2024년 1분기 매출 246억원, 4분기 연속 흑자 게임동아갤로그로 이동합니다. 05.14 101 0
11414 하이브IM, '별이되어라2' 빽다방과 컬래버레이션 게임동아갤로그로 이동합니다. 05.14 104 0
11413 크래프톤 렐루게임즈, AI로 만든 마법소녀 게임 23일 스팀 얼리액세스 게임동아갤로그로 이동합니다. 05.14 108 0
11412 [동영상] 기습 출시로 동접 10만 찍은 하데스2, 스팀 1위도 달성 게임동아갤로그로 이동합니다. 05.13 137 0
11411 [동영상] 24년 5월 3주차 신작 게임 소식 게임동아갤로그로 이동합니다. 05.13 117 0
11410 [겜덕연구소] 보기만 해도 움찔! 미칠듯이 아파보이는 게임 기술들 특집! 게임동아갤로그로 이동합니다. 05.13 130 0
11409 [동영상] 글로벌 돌풍 일으킨 나혼렙의 등장! 게임동아갤로그로 이동합니다. 05.13 114 0
11408 “게임을 했더니 네이처 논문 저자로 게재됐습니다” 게임동아갤로그로 이동합니다. 05.13 181 0
11407 조이시티, ‘조이 라운지’ 멤버십 정식 서비스 [1] 게임동아갤로그로 이동합니다. 05.13 958 0
11406 마브렉스, 필리핀 거래소 ‘코인스' 상장 게임동아갤로그로 이동합니다. 05.13 144 0
11405 [2024 MSI] 결승 직행전 올라선 '젠지'와 절벽 위에 선 'T1' 게임동아갤로그로 이동합니다. 05.13 109 0
11404 '나혼렙'으로 뜨거운 반응 일으킨 넷마블, '레이븐2'로 이어갈까 게임동아갤로그로 이동합니다. 05.13 107 0
11403 데브시스터즈 '쿠키런 모험의 탑' 사전예약 100만 돌파 게임동아갤로그로 이동합니다. 05.13 117 0
11402 [프리뷰] 엠게임의 또 다른 장수 IP가 모바일로. 원스토어 테스트 시작한 '귀혼M' 게임동아갤로그로 이동합니다. 05.13 106 0
11401 웹젠 어둠의 실력자가 되고 싶어서!, '에타'와 여름 한정 캐릭터 출시 게임동아갤로그로 이동합니다. 05.13 111 0
11400 위메이드, 전국 아마추어 테니스 최강자 가리는 '위믹스 오픈 2024' 개최 게임동아갤로그로 이동합니다. 05.13 95 0
11399 넷마블 '나 혼자만 레벨업:어라이즈', 구글 플레이 매출 1위 등극 게임동아갤로그로 이동합니다. 05.13 94 0
11398 [동아게임백과사전] 게임을 상징하는 최강의 무기들 게임동아갤로그로 이동합니다. 05.13 141 0
11397 컴투스 그룹, 'Summer 인턴십 지니어스' 6기 모집 게임동아갤로그로 이동합니다. 05.13 107 0
11396 스마일게이트 퓨처랩, 디지털 환경 도우미 교육 '2024 퓨처비 챌린지' 실시 게임동아갤로그로 이동합니다. 05.13 95 0
11395 [동영상] 100만장 팔린 1인 개발 게임, 매너로드 [22] 게임동아갤로그로 이동합니다. 05.11 8165 9
11394 인디 수준 넘어섰다. 믿고 사는 AAA급으로 거듭난 개발사들 [2] 게임동아갤로그로 이동합니다. 05.10 378 0
11393 창립 이후 첫 간담회 스토익엔터, '스펙트럴 스크림'과 '탱크아레나' 5월 출사표 게임동아갤로그로 이동합니다. 05.10 164 0
11392 6월 4일 출시 앞둔 SRPG 신작 '삼국:왕의 승리' 테스트 돌입 게임동아갤로그로 이동합니다. 05.10 179 0
11391 [한주의게임소식] 한미일 돌풍 일으킨 넷마블의 ‘나혼렙’ [2] 게임동아갤로그로 이동합니다. 05.10 310 1
11390 ‘스텔라 블레이드’, 일본에서도 통했다.. 패미통 '일본 주간 판매량 1위' 차지 [216] 게임동아갤로그로 이동합니다. 05.10 7144 37
11389 [리뷰] 테니스 게임 명작의 귀환! 치는 재미는 확실한 ‘탑스핀 2K25’ [3] 게임동아갤로그로 이동합니다. 05.10 5318 1
11388 스토브, 비주얼 노벨 '버튜버 파라노이아'와 '백의 소각자' 출시 게임동아갤로그로 이동합니다. 05.10 164 0
11387 크래프톤 렐루게임즈, 한국MS와 AI 게임 개발 업무 협약 체결 게임동아갤로그로 이동합니다. 05.10 143 0
11386 ‘FC 모바일’, 5월 12일 전주서 ‘브랜드데이’ 개최 게임동아갤로그로 이동합니다. 05.10 141 0
11385 유니티, 인천공항공사와 디지털전환 공동연구 업무협약 체결 게임동아갤로그로 이동합니다. 05.10 137 0
11384 블루포션의 신작 '에오스 블랙', 사전예약 150만 명 돌파 게임동아갤로그로 이동합니다. 05.10 138 0
11383 "울티마와 미스트 입성!" 2024년 '세계 비디오게임 명예의 전당' 헌액 게임 공개 게임동아갤로그로 이동합니다. 05.10 142 0
11382 그라비티, 1분기 매출 1,198억 기록 게임동아갤로그로 이동합니다. 05.10 157 0
11381 넷마블 '세븐나이츠2', 신화 등급 영웅 '불굴의 복수자 카일' 등장 게임동아갤로그로 이동합니다. 05.10 141 0
11380 넷마블, 하루 매출 140억에 500만 DAU ‘나 혼자만 레벨업’ 덕에 주가도 레벨업 게임동아갤로그로 이동합니다. 05.10 150 0
11379 펄어비스, 1분기 흑자전환. '붉은사막' 게임스컴 공개 소식에 주가 급등 게임동아갤로그로 이동합니다. 05.10 127 0
11378 엔씨소프트, 2024년 1분기 매출 3,979억 원에 영업익 257억 원 기록 게임동아갤로그로 이동합니다. 05.10 133 0
11377 하이파이러시 개발사까지 폐쇄. 과거 EA가 떠오르는 MS의 어이없는 행보 게임동아갤로그로 이동합니다. 05.09 132 0
11376 [동영상] '나 혼자만 레벨업: 어라이즈' 초보들이 자주 하는 실수, 알고 예방합시다! 게임동아갤로그로 이동합니다. 05.09 230 0
11375 ‘진 · 삼국무쌍 M’, 신규 무장 2종 추가 게임동아갤로그로 이동합니다. 05.09 126 0
11374 [리뷰] 중세 시대 영주가 이렇게 힘듭니다 '매너로드' [1] 게임동아갤로그로 이동합니다. 05.09 1488 9
11373 [동영상] 뉴비 헌터를 위한 '나혼렙' 시작 꿀팁 게임동아갤로그로 이동합니다. 05.09 171 0
11372 넷이즈 기대작 '원스휴먼' 글로벌 사전예약자 1200만명 돌파 게임동아갤로그로 이동합니다. 05.09 119 0
“AI 활용도 올바르게”, AI 윤리 시스템 구축하는 게임사들 게임동아갤로그로 이동합니다. 05.09 145 0
11370 넷마블, 1분기 매출 5,854억.. "2분기 연속 흑자 기록" 게임동아갤로그로 이동합니다. 05.09 125 0
뉴스 윤세아, ‘홈캠’ 설치하다가 마주친 기이한 일…현실 공포 예고 디시트렌드 11.21
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2