디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

"AWS, 책임감 있는 AI를 추구하는 것은 수익성과 직결" [AWS 리인벤트 2023]

IT동아갤로그로 이동합니다. 2023.12.01 10:47:51
조회 444 추천 0 댓글 0
[라스베이거스=IT동아]

지난 11월 20일, 오픈AI의 샘 알트만 최고경영자가 해임됐다가 열흘도 되지 않아 다시 복귀하는 사건이 있었다. 배경을 놓고는 말이 많지만, 비영리단체로 시작한 오픈AI의 기존 창업자들과 상업적 목적을 추구하는 샘 알트만 CEO간의 대립이 원인으로 꼽힌다. ‘책임감 있는 인공지능(Responsible AI)’라는 요소가 AI를 개발할 때 참고해야 하는 사안이 아닌 필수적으로 고려해야 하는 원칙이 되었음을 분명히 보여준 사건이다.


다이야 윈(Diya Wynn) AWS 책임감 있는 AI 선임 실무 관리자 / 출처=IT동아



AWS는 이 분야에서 가장 정석적인 행보를 걷고 있다. AWS는 급속한 성장이 혁신적이지만, 자칫 새로운 문제를 야기할 수 있다는 시각을 바탕으로 책임감 있게 AI를 연구하는 방안을 지침으로 삼는다. 이들은 공정성, 설명 가능성, 사생활 및 보안, 견고함, 운영 방식(거버넌스), 투명성을 책임감 있는 AI의 핵심 요소로 삼고, 이를 실현하기 위한 파트너십과 연구 지원, 다양성 및 포용성, 공공 정책 등에 기여하고 있다. 리인벤트 2023에서도 베드록 가드레일이나 투명한 워터마크 등 다각적인 기술로 책임감 있는 AI를 실현하고 있다.

이를 이끌고 있는 사람이 다이야 윈(Diya Wynn)이다. 그녀는 6년 전부터 AWS에 합류한 AI 윤리학자로, 현재 AWS의 책임감 있는 AI 선임 실무 관리자다. 그녀는 소프트웨어 제품 관리 및 개발, 기민한 해결 방안(애자일 방법론), 클라우드 컴퓨팅 전문가이기도 하며, AWS의 책임감 있는 AI 리더로 활약한 것은 3년 이상이다. 특히 AI 개발 중 의도치 않은 잠재적 문제들을 발견하고, AI 또는 기계학습 시스템에서 발생할 수 있는 위험을 완화하기 위해 노력하고 있다. 리인벤트 2023에서 그녀를 만나 AWS의 책임감 있는 AI에 대한 인터뷰를 진행했다.


아담 셀립스키 AWS 최고경영자가 기조연설에서 책임감 있는 AI에 대한 설명을 했다 / 출처=IT동아



우선 올해 리인벤트 2023에서 주목할만한 책임감 있는 AI 요소에 대해 먼저 설명했다. 다이야 윈은 “리인벤트 2023에서 공개된 타이탄 이미지 제너레이터의 경우 투명 워터마크를 새기는 것이 기본 설정이다. 이는 지난 7월 백악관과 합의한 책임감 있는 AI 의지를 직접 보여주는 정책이다”라며 설명을 시작했다. 이어서 “가드레일 역시 유해성 콘텐츠를 거르는 것에 중점을 둔다. 특히 기존에 책임감 있는 AI를 실현하는 기업이 아마존 베드록을 사용한다면 한 겹 더 책임감 있는 AI를 실천하게 되는 셈이다”라는 점도 강조했다.

아울러 리인벤트 2022에서 공개한 ‘AWS AI 서비스 카드’가 업데이트된 부분도 언급했다. AI 서비스 카드는 아마존 서비스로 AI를 개발하는 사람들이 어떻게 책임감 있게 AI를 만들어야 하는지를 설명해 주는 카드다. 처음에는 얼굴 인식, 신분증 인식, 심화학습의 배치(Batch)와 관련된 내용이었고, 올해 언어 유해성, 의료 임상, 개인식별정보(PII), 타이탄 LLM, 제3자 얼굴 접근 방지 카드를 추가했다. AWS가 새로운 서비스를 내는 것뿐만 아니라, 사용자도 책임감 있게 AI를 만들 수 있도록 지침을 내리는 것이다.


다이야 윈은 책임감 있는 AI가 수익성과 직결되는 그 자체라고 설명했다 / 출처=IT동아



하지만 책임감 있는 AI라는 요소는 수익성과 직결되지는 않아 보인다. AWS는 수익성과 윤리성을 어떻게 절충하고 있는지를 물었다. 다이야 윈은 “우리는 책임감 있는 AI 그 자체가 수익성과 직결된다고 생각한다. 고객들이 기술을 믿지 못하고, 서비스를 신뢰하지 않는다면 수익성에 타격이 있을 수밖에 없다. AWS가 서비스를 넓히고 광범위하게 적용하는 능력 자체에 타격을 입힐 것이다. 수익성을 위해서는 계속 책임감 있는 AI를 필요로 하고, 신뢰를 얻어야 사업을 유지할 수 있다”라고 덧붙였다.

다이야 윈의 경우 개발 직군보다는 기업들을 만나는 쪽이 주 업무다. 그렇다면 그녀가 만나는 기업들이 책임감 있는 AI를 실천할 때 어려워하는 부분들은 무엇일까? 그녀는 “생성형 AI에 대해서라면 지식 재산권 보호나 자체 기업 데이터, 외부로 유출되거나 외부에서 유입이 되면 안 되는 데이터, 저작권에 대한 요소들, 또는 공정성이나 편향을 줄이는 것에서도 어려움을 겪는다. 의도치 않은 데이터에서 나오는 유해성 등도 신경쓰는 요소다”라고 답했다.

유럽연합의 AI 규제 법안인 인공지능법(AIA)와 디지털서비스법(DSA), 디지털시장법(DMA)가 책임감 있는 AI에 얼마나 영향을 미칠까 묻는 질문에 대해서는 “EU의 AI 법률은 많은 기업들에게 GDPR(유럽 연합 일반 데이터 보호 규칙)과 같은 영향을 미칠 것으로 본다. 이미 AWS는 EU의 동향을 긴밀하게 살펴보고 있고, 공공 정책 팀이 긴밀하게 입법의 진행 과정을 따라가고 있다”라고 말했다.

이어서 다이야 윈은 “우리로써는 개발자나 사용자들이 완벽하게 책임감을 가진다고 볼 수 없다. 기술은 선을 위해서도, 악을 위해서도 쓰일 수 있다. 좋은 의미더라도 불공정한 방향으로도 쓰일 수 있다. 이런 부분에서 제도나 입법은 상당히 도움이 될 것이고, 또 법을 통해 악의를 가진 자들에게 제약을 가하는 것도 필요하다”라는 의견을 밝혔다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ [단독] 프라사드 칼야나라만 AWS 부사장 "향후 인프라 투자 방향, 고객이 원하는 대로" [AWS 리인벤트 2023]▶ AWS, AI 적용해 세이지메이커 효율 강화 나서 [AWS 리인벤트 2023]▶ AWS, 이미지 생성형 AI 시장 진출··· '상용화에 방점' [AWS 리인벤트 2023]



추천 비추천

0

고정닉 0

4

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 연예인 안됐으면 어쩔 뻔, 누가 봐도 천상 연예인은? 운영자 24/06/17 - -
3337 [CES 2024] IT 기자가 본 '디지털 헬스'의 4가지 트렌드 IT동아갤로그로 이동합니다. 01.11 168 0
3336 [마인드테크 시대가 온다] 7. 마인드테크의 주요 기술 IT동아갤로그로 이동합니다. 01.11 154 0
3335 [CES 2024] 국내 주요 대기업 부스에 전 세계인 시선 몰렸다 IT동아갤로그로 이동합니다. 01.11 263 0
3334 [CES 2024] 스타트업의 요람 '유레카 파크', 한국 기업 참여 현황은? IT동아갤로그로 이동합니다. 01.11 159 1
3333 [KTVF] 뉴로클 이홍석 대표, “우리는 딥러닝계의 어도비를 꿈꿉니다” [2] IT동아갤로그로 이동합니다. 01.10 448 0
3332 [CES 2024] MSI, ‘크리에이터·비즈니스 사용자 겨냥’ 신제품 CES서 선봬 IT동아갤로그로 이동합니다. 01.10 91 0
3331 인텔 프로세서 브랜드, ‘코어 i’에서 ‘코어 울트라’, ‘코어’로 개편 본격화 IT동아갤로그로 이동합니다. 01.10 140 0
3330 [CES 2024] MSI, CES서 인텔 최신 CPU 탑재 ‘신작 게이밍 라인업’ 대거 공개 [6] IT동아갤로그로 이동합니다. 01.10 831 0
3329 [CES 2024] 인텔, 소비자용 AI 칩부터 차량용 솔루션까지 대거 공개 [2] IT동아갤로그로 이동합니다. 01.10 703 0
3328 [CES 2024] CTA가 추구하는 스타트업 트렌드는 'AI·디지털 헬스·푸드테크' IT동아갤로그로 이동합니다. 01.10 124 0
3327 [CES 2024] 뷰티기업 로레알은 어떻게 CES의 중심에 섰나 [2] IT동아갤로그로 이동합니다. 01.10 531 0
3326 [CES 2024] MSI 첫 고성능 휴대용 게임기 ‘클로’ CES서 데뷔 IT동아갤로그로 이동합니다. 01.09 109 0
3325 [혁신스타트업 in 홍릉] 이센 “센서·헬스케어로 모두가 아프지 않도록 관리” IT동아갤로그로 이동합니다. 01.09 98 0
3324 [CES 2024] LG, '애정있는 AI' 앞세워 소비자 경험 끌어올린다 IT동아갤로그로 이동합니다. 01.09 83 0
3323 다음주 공개될 갤럭시 S24, AP와 AI가 관전포인트 [5] IT동아갤로그로 이동합니다. 01.09 1033 2
3322 캐릭터·일러스트 작가 “나의 이야기 담은 ‘내 것’을 만들고 있습니다” IT동아갤로그로 이동합니다. 01.09 92 0
3321 [CES 2024] CES 전야제 '언베일드'에 참가한 국내 기업은? [2] IT동아갤로그로 이동합니다. 01.09 383 0
3320 가상자산법 규제 공백 존재, 가이드라인·하위규제 필요 IT동아갤로그로 이동합니다. 01.09 80 0
3319 지향성·공간·입체…첨단 음향 기술 CES 달군다 IT동아갤로그로 이동합니다. 01.08 123 0
3318 보낸 문자, 카카오톡, 이메일 회수하려면 이렇게![이럴땐 이렇게!] [5] IT동아갤로그로 이동합니다. 01.08 1447 0
3317 [CES 2024] CTA가 선정한 올해 IT 업계의 6가지 유행은? [2] IT동아갤로그로 이동합니다. 01.08 886 0
3316 [리뷰] 최상위급 스펙에 개성까지, 에이수스 제피러스 M16 게이밍 노트북 [33] IT동아갤로그로 이동합니다. 01.05 4206 1
3315 [시승기] 돋보이는 정숙성과 효율…혼다 6세대 CR-V 하이브리드 IT동아갤로그로 이동합니다. 01.05 127 0
3314 2024 스마트폰에 탑재될 인공지능은? [4] IT동아갤로그로 이동합니다. 01.05 994 1
3313 [CES 2024] 기조연설부터 세션, 전시까지 'AI'가 대세 IT동아갤로그로 이동합니다. 01.05 171 0
3312 가상자산 회계처리 감독지침 시행 ‘가상자산 회계·공시 규율 강화’ [2] IT동아갤로그로 이동합니다. 01.05 809 0
3311 [주간투자동향] 클로봇, 110억 원 규모의 프리-IPO 투자 유치 IT동아갤로그로 이동합니다. 01.05 172 0
3310 이기욱 중앙대 교수 “100m 7초 주파 로봇슈트 위해 각 분야 전문가가 협력합니다” IT동아갤로그로 이동합니다. 01.05 130 0
3309 새해 달라지는 자동차 관련 제도 살펴보니 [3] IT동아갤로그로 이동합니다. 01.04 568 0
3308 [IT애정남] 겨울철 스마트폰 배터리 소모가 빠른 이유? IT동아갤로그로 이동합니다. 01.04 127 0
3307 [CES 2024] 개막 전 짚어보는 올해 '테크 트렌드'는? [2] IT동아갤로그로 이동합니다. 01.04 906 0
3306 [뉴스줌인] 튀어야 팔리는 게이밍 PC 시장, 4K 화면 달린 PC케이스 등장 [13] IT동아갤로그로 이동합니다. 01.04 1594 1
3305 서울 대중교통·따릉이 무제한 이용...'기후동행카드' 오는 27일 출시 [2] IT동아갤로그로 이동합니다. 01.03 608 0
3304 [리뷰] 개선된 공간음향으로 몰입감 강화 ‘LG 톤프리 UT90S’ [4] IT동아갤로그로 이동합니다. 01.03 1217 2
3303 [IT애정남] 폰카로 해·조명만 찍으면 생기는 빛줄기, 해결법은? [5] IT동아갤로그로 이동합니다. 01.02 3502 5
3302 [혁신스타트업 in 홍릉] 에스엠하엘 “펩타이드로 약물 중독·피부 염증 완화” IT동아갤로그로 이동합니다. 01.02 103 0
3301 중고 스마트폰, 비대면으로 간단히 판매하려면 이렇게![이럴땐 이렇게!] [9] IT동아갤로그로 이동합니다. 01.02 3756 0
3300 [이제는 전북 콘텐츠] 홍인근 작가 “웹툰 작가의 꿈을 전북에서 완성했습니다” [25] IT동아갤로그로 이동합니다. 23.12.29 8951 7
3299 [KIDP 울산] 한컴유비마이크로 [3] “현대미포조선 현장의 안전을 개선하고 있습니다” IT동아갤로그로 이동합니다. 23.12.29 127 0
3298 가상자산 거래소, 가상자산법 시행 앞두고 이용자 보호 강화 IT동아갤로그로 이동합니다. 23.12.29 131 0
3297 [이제는 전북 콘텐츠] K-게임의 미래를 이끌어 갈 ‘전북 글로벌게임센터’ [12] IT동아갤로그로 이동합니다. 23.12.29 946 1
3296 [KIDP 울산] 옛간·굽스디자인 “전통에 개성 더한 곡물 식품 함께 만든다” IT동아갤로그로 이동합니다. 23.12.29 108 0
3295 [스타트업-ing] 본투비 “크리에이터 시장 트렌드에 맞춰 진화한다” IT동아갤로그로 이동합니다. 23.12.29 109 0
3294 [서울형 R&D] "SBA는 스타트업 성장을 함께하는 파트너입니다" IT동아갤로그로 이동합니다. 23.12.29 92 0
3293 웍스메이트 “디지털 건설의 새 가치, 2024년 전국에 전파” [3] IT동아갤로그로 이동합니다. 23.12.29 397 0
3292 [KIDP 울산] 트레비어 [3] “맥주박과 효모를 사용한 상품 확대를 고민합니다” IT동아갤로그로 이동합니다. 23.12.28 96 0
3291 [서울형 R&D] 기술 개발부터 현장 테스트까지 지원합니다 IT동아갤로그로 이동합니다. 23.12.28 140 0
3290 [스케일업] SBA 스타트업 “홍보·성장에 유용…멘토링·행사 지원 더하길” IT동아갤로그로 이동합니다. 23.12.28 93 0
3289 부산 워케이션 센터 살펴보니··· "지역 상생과 워라밸 모두 잡아" IT동아갤로그로 이동합니다. 23.12.28 85 0
3288 [스케일업] 현대건설·에이랩스 “이산화탄소를 산업재로 사용할 수 있습니다” IT동아갤로그로 이동합니다. 23.12.28 84 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2