디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[테크 리뷰] 챗GPT 등 생성형 AI, ‘보안 위협’ 주의보

리뷰타임스갤로그로 이동합니다. 2023.07.24 10:51:27
조회 153 추천 1 댓글 0

[리뷰타임스=김우선 기자]

챗GPT를 중심으로 한 생성형 AI 열풍이 불고 있는 가운데 AI 보안과 윤리에 대한 경고 목소리가 나오고 있다. 국가정보원이 국내에서는 처음으로 정부 차원의 가이드라인을 배포한 것을 시작으로 국회에서도 AI 부작용을 막기 위한 입법 활동이 진행 중이다.

 


국정원이 생성형 AI 활용 보안 가이드라인을 배포했다.



 

생성형 AI 기술이란?

생성형 인공지능(AI) 기술이란 인공지능 기술의 한 종류로서 이미지, 비디오, 오디오, 텍스트 등을 포함한 대량의 데이터를 학습하여 사람과 유사한 방식으로 문맥과 의미를 이해하고 새로운 데이터를 자동으로 생성해 주는 기술을 의미한다.

 

기존 AI 기술이 회귀(regression), 분류(classification), 군집화(clustering) 등 판별적(discriminative) AI 기술이었다면, 생성형 AI 기술은 이용자가 요구한 질문이나 과제를 해결하기 위해 주어진 데이터를 기반으로 패턴과 규칙을 학습하고 이를 통해 새로운 콘텐츠를 생성하는 기술이다.

 

생성형 인공지능 기술 중 하나인 대규모 언어모델(Large Language Models; LLMs)은 일반적으로 수백억 개 이상의 파라미터를 포함하는 인공지능 모델을 의미하며 복잡한 언어 패턴과 의미를 학습하고 다양한 추론 작업에 대해 우수한 성능을 보유하고 있다. 대규모 언어모델 기반의 대표적인 AI 서비스로는 스테이블 디퓨전, 미드저니, 챗GPT, 바드, 파이어플라이 등이 있다.

 

이 가운데 사람들에게 널리 알려진 GPT(Generative Pre-trained Transformer)는 대규모 언어모델로서 도서, 웹 문서 등에서 수집한 방대한 텍스트 데이터베이스를 기반으로 학습하여 언어의 통계적 패턴을 모방하고, 이를 토대로 설득력 있는 문장을 생성하는 기술이다.

 


챗GPT 기술의 발전 동향(출처 : 국정원)



 

GPT는 2018년 OpenAI에서 처음 제안하였으며, 2019년 GPT-2, 2020년 GPT-3가 각각 발표되면서 점차 학습에 사용되는 데이터의 크기 및 모델의 파라미터(매개변수) 수가 증가하는 추세를 보이고 있다. GPT-3.5 및 GPT-4는 OpenAI의 AI 챗봇 서비스인 챗GPT를 통해 각각 2022년 11월과 2023년 3월에 공개되었다. GPT-3.5는 2022년에 공개된 InstructGPT와 유사한 방식으로 개발되었으며, 이 모델은 GPT-3를 강화학습(Reinforcement Learning from Human Feedback; RLHF) 방식을 통해 미세 조정한 모델이다.

 


챗GPT 써드파티 플러그인들(출처 : 국정원)



 

챗GPT는 확장 프로그램과 플러그인(Plug-in)을 통해 다양한 방식으로 서비스되고 있다. 챗GPT는 외부 개발자가 특정 기능을 확장할 수 있도록 하기 위해 제한적으로 서드파티 플러그인 개발을 허용하고 있다. 사람들에게 익숙한 익스피디아, 카약, 오픈테이블, 쇼피파이, 슬랙 등을 통해 서비스되고 있다.

 

생성형 AI 기술의 보안 위협

챗GPT와 같은 대규모 언어모델 등 생성형 AI 기술(이하 ‘AI 모델’)의 보안 위협으로는 ▲잘못된 정보, ▲AI 모델 악용, ▲유사 AI 모델 서비스 빙자, ▲데이터 유출, ▲플러그인 취약점, ▲확장 프로그램 취약점, ▲API 취약점 등이 존재한다.

 


생성형 AI 기술의 대표적 보안 위협들



 

생성형 AI 기술의 보안 위협을 제공하는 주요 원인으로는 첫째 편향을 꼽는다. 학습 데이터의 불균형 또는 데이터 내의 직·간접적인 편향은 AI 모델의 편향으로 이어질 수 있으며, 이는 모델이 만들어내는 결과물에 영향을 미쳐 사용자에게 사실과 다른 정보를 제공할 수 있다. 예를 들어, AI 모델이 편향된 텍스트 데이터를 학습한다면, 해당 모델이 특정 그룹이나 주제에 대해 편견이 있는 결과를 생성할 수 있다.

 


보안 위협을 제공하는 주요 원인(출처 : 국정원)



 

둘째 최신 데이터에 대한 학습 부족이 꼽힌다. 특정 생성형 AI 모델은 최종 학습 데이터 시점까지의 정보만 가지고 있기 때문에 학습 이후에 발생한 사건이나 정보에 대해서는 알지 못하거나, 부정확한 정보를 제공할 수 있다. 특히 AI 모델은 현재 진행 중인 사건이나 빠르게 변화하는 정보에 대해서는 정확한 답변을 생성하는데 제한이 있을 수 있다.

 

셋째 환각 현상이다. 환각(Hallucination) 현상은 AI 모델의 결과물이 정확한 것처럼 생성되었으나 실제로는 거짓인 경우를 말한다. 즉, AI 모델은 새로운 콘텐츠를 생성할 수 있는 능력으로 인해 잘못된 정보나 존재하지 않는 정보를 생성할 수 있다는 특징을 가지고 있다. 이러한 환각 현상은 AI 모델의 신뢰성을 저하시키는 원인이 될 수 있다.

 

이와 같은 문제로 인한 대표적인 보안 위협은 아래와 같다.

1) 피싱 이메일 및 말투 도용

AI 모델은 사용자가 제공하는 텍스트 스타일을 흉내 내는 데 매우 효과적이며, 이를 통해 피싱 이메일을 생성하거나, 특정 개인이나 단체의 말투를 도용하는 데 악용될 수 있다. 이렇게 생성된 정교한 피싱 이메일은 기존의 보안 시스템을 속이고, 사람들이 이를 진짜로 인식하게 만들 수 있다.

 


피싱 이메일 및 말투 도용(출처 : 국정원)



 

2) 사이버 보안 위협 코드 작성

AI 모델은 소프트웨어 코드를 생성할 수 있다. 이는 AI 모델이 악성 코드 작성에 이용될 수 있음을 의미한다. 해커는 이를 통해 보안 시스템을 회피하는 데 필요한 복잡한 악성 코드를 작성할 수 있으며, 이로 인해 정보 보안 에 심각한 위협이 될 수 있다.

 


악성 코드 작성에도 이용될 수 있다.(출처 : 국정원)



 

3) AI 모델을 악용한 사이버 범죄 커뮤니티 활성화

일부 사이버 범죄 커뮤니티는 AI 모델을 이용하여 악성 소프트웨어를 재현하거나, 범죄 행위에 대한 지침을 생성하고 있다. 이로 인해 이러한 커뮤니티의 활동이 활성화되고, 사이버 범죄의 위험성이 더욱 증가하게 된다.

 

4) 사회 공학적 영향

AI 모델은 사실적이고 믿기 쉬운 콘텐츠를 생성한다. 이를 통해 사용자는 다른 사람들을 조작하거나 사기를 칠 수 있는 잠재적인 도구를 얻을 수 있다. 이는 사회 공학적 공격을 더욱 쉽게 만들고, 사람들이 피해자가 될 위험성을 증가시킨다.

 

5) 가짜 뉴스 생성

생성형 AI 모델은 가짜 뉴스를 생성하는 데 사용될 수 있다. 특히, 챗GPT 등 대규모 언어모델은 인간이 생성하는 수준의 현실적이고 설득력 있는 결과물을 생성함으로써 허위 정보를 퍼뜨리는 데 악용이 가능하다.

 

국정원은 챗GPT 등 생성형 AI 활용 시 보안 수칙으로 몇 가지 사항을 공개했다. ▲민감한 정보(非공개 정보, 개인정보 등) 입력 금지. 설정에서 대화 이력&학습 기능 非활성화해야 ▲생성물에 대한 정확성·윤리성·적합성 등 再검증 ▲가짜뉴스 유포·불법물 제작·해킹 등 범죄에 악용 금지 ▲생성물 활용 시 지적 재산권·저작권 등 법률 침해·위반 여부 확인 ▲악의적으로 거짓 정보를 입력·학습 유도하는 등 非윤리적 활용 금지 ▲연계·확장프로그램 사용 시 보안 취약여부 등 안전성 확인 ▲로그인 계정에 대한 보안설정 강화 및 보안관리 철저. 다중 인증(Multi-Factor Authentication)’ 설정 등을 해야 한다고 강조했다.

 

해외 주요 국가들의 생성형 AI 규제 동향

유럽 연합(EU)은 2023년 5월 인공지능에 대한 세계 최초의 규제 프레임워크인 ‘인공지능 법(AI Act)’제정의 첫 단계로서 해당 법 초안을 유럽의회 상임위원회에서 통과시켰다. EU 인공지능 법에 따르면, 챗GPT 등 대규모 언어모델 및 생성 AI와 같은 이른바 ‘기초 모델(foundation models)' 제공업체 개발자는 모델을 공개하기 전에 안전 점검, 데이터 거버넌스 조치 및 위험 완화 조치를 적용해야 한다.

 

또 시스템을 훈련하는데 사용되는 학습 데이터 셋을 공개하고 생성 AI가 만든 콘텐츠는 인간이 생성한 것이 아님을 밝혀야 한다는 조항을 추가했다. 이와 관련해 미국과 유럽연합은 2023년 5월 31일 챗GPT와 같은 생성형 인공지능의 부작용을 줄이기 위한 ’자발적 행동강령‘을 마련하기로 했다.

 

미국은 백악관 과학 기술 정책실(Office of Science and Technology Policy)을 중심으로 2023년 8월 개최되는 데프콘(DEFCON)에서 챗GPT를 비롯한 생성형 인공지능 시스템을 공개 평가하여 잠재적인 취약점(potential harms)을 테스트할 계획이다. 여기서는, 대규모 언어모델을 포함한 다양한 생성 AI에 내재한 혼란(confabulations), 탈옥, 편견과 같은 위험을 발견하고, 기업 개발자가 발견된 문제를 해결하도록 장려하는 것을 목표로 한다.

 

캐나다 개인정보 보호 규제당국(Canada privacy regulators)은 2023년 5월 26일 챗GPT의 모기업인 OpenAI의 데이터 수집 및 사용에 관한 공동 조사를 시작했다. 연방 개인정보 보호 규제기관은 퀘벡, 브리티시 컬럼비아, 앨버타의 규제 기관과 함께 OpenAI가 챗GPT를 통해 사용자(residents)의 개인정보 수집, 사용 및 공개에 대한 동의를 얻었는지 여부를 조사할 것이라고 밝혔다.

 

이탈리아 개인정보 감독기구(Italian Data-Protection Authority; Italian DPA)는 3월 31일, 챗GPT의 개인정보 수집, 처리 및 사용자 연령 확인 부재로 인해 개인정보 보호 규정(GDPR) 위반 사유로 판단하여 챗GPT의 사용을 금지하는 조치를 취했다. 그러나 이후 4월 28일, OpenAI가 DPA의 요구사항을 이행함에 따라 이탈리아 정부는 챗GPT의 접속 차단을 해제했다.

 

일본 내각부는 2023년 4월 22일 OpenAI의 챗GPT와 유사한 생성형 인공지능 챗봇의 확산에 대응하기 위해 경제산업성, 총무성, 문부과학성, 디지털청 등 관계 부처가 참여하는 ‘AI 전략팀’ 신설 계획을 발표했다. 이 전략팀은 2023년 4월 24일 회의에서 AI의 업무 활용과 관련된 과제를 정리하고 부처 간 의사소통을 강화하는 방안을 논의한 바 있다.

<ansonny@reviewtimes.co.kr>

<저작권자 ⓒ리뷰타임스, 무단전재 및 재배포 금지〉



review_times

추천 비추천

1

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 인터넷 트랜드를 가장 빠르게 알고 있을 것 같은 스타는? 운영자 24/11/25 - -
280 [기업 리뷰] 생활 가전에서 스마트홈 솔루션으로 대전환 선언한 LG전자 리뷰타임스갤로그로 이동합니다. 23.07.27 350 0
279 제주삼다수, 25주년 맞아 메타버스 팝업스토어 ‘비사이클링’ 진행 리뷰타임스갤로그로 이동합니다. 23.07.27 89 0
278 네덜란드 스마트폰 케이스 ‘아크펄스’ 와디즈 통해 한국 사전 판매 리뷰타임스갤로그로 이동합니다. 23.07.27 180 0
277 AVer, 18배 줌 탑재한 비디오 바 ‘VB350’ 출시 리뷰타임스갤로그로 이동합니다. 23.07.27 80 0
276 [숙소 리뷰] 마을 주민 추천 제주도 ‘조식 맛집 마을 숙소 5선’ 리뷰타임스갤로그로 이동합니다. 23.07.27 93 1
275 2023 유한킴벌리 그린캠프, 대학생 100명 모집 리뷰타임스갤로그로 이동합니다. 23.07.27 76 0
274 성북구, 종암동·정릉동 공동주택 내 길고양이 급식소 설치 [29] 리뷰타임스갤로그로 이동합니다. 23.07.27 963 4
273 광화문광장에 워터파크 개장 [1] 리뷰타임스갤로그로 이동합니다. 23.07.27 99 0
272 [제품 리뷰] 캡슐 커피머신 어떤 제품이 가성비 뛰어날까? 리뷰타임스갤로그로 이동합니다. 23.07.27 813 0
271 의정부시청소년재단, 청소년 창업을 위한 특강 개최 리뷰타임스갤로그로 이동합니다. 23.07.27 65 0
270 [언팩 리뷰] 갤럭시 언팩에서 공개한 신제품들 [5] 리뷰타임스갤로그로 이동합니다. 23.07.27 691 2
269 [축제 정보] 더위야 가라! 8월의 축제를 즐겨라 리뷰타임스갤로그로 이동합니다. 23.07.26 113 1
268 [사전 리뷰] ‘삼성 갤럭시 언팩 2023’ 미리보기 리뷰타임스갤로그로 이동합니다. 23.07.26 83 0
267 내일부터 1년간 집주인 '역전세' 보증금 대출 규제 푼다 [1] 리뷰타임스갤로그로 이동합니다. 23.07.26 924 3
266 현대자동차, 더 뉴 아반떼 N 출시 [1] 리뷰타임스갤로그로 이동합니다. 23.07.26 141 0
265 레드페이스, 고물가 속 소비자 주머니 부담 던다 리뷰타임스갤로그로 이동합니다. 23.07.26 82 0
264 인공지능(AI)으로 암 예후 유전자 식별 가능한 알고리즘 개발 리뷰타임스갤로그로 이동합니다. 23.07.26 72 0
263 [정보 리뷰] 고물가 시대, 여름 휴가비 절약하는 꿀팁 리뷰타임스갤로그로 이동합니다. 23.07.26 75 0
262 애니메이션 속 폭스바겐 전기차에 ‘눈길’ 리뷰타임스갤로그로 이동합니다. 23.07.26 481 0
261 기아, ‘더 뉴 쏘렌토’ 디자인 공개 리뷰타임스갤로그로 이동합니다. 23.07.26 103 0
260 부산 해운대•다대포 해수욕장에서 ‘부산바다축제’ 열린다 리뷰타임스갤로그로 이동합니다. 23.07.26 81 1
259 [의학 이슈] “오메가-3를 몇 년이나 먹었는데 무쓸모?” 효용성 논란 갈팡질팡 [24] 리뷰타임스갤로그로 이동합니다. 23.07.26 1258 7
258 한국 스타벅스 일반 매장에서도 맥주 팔게 될까? [18] 리뷰타임스갤로그로 이동합니다. 23.07.25 4014 1
257 아미덴, 몽골에 어린이 칫솔 첫 수출 [2] 리뷰타임스갤로그로 이동합니다. 23.07.25 148 0
256 템퍼, 프레스티지 영화관 ‘템퍼시네마’ CGV신세계경기 신규 오픈 리뷰타임스갤로그로 이동합니다. 23.07.25 90 0
255 "우리, 과학관 갈래?"... 국립중앙과학관, 8월 12일까지 매주 금 토 야간 개관 리뷰타임스갤로그로 이동합니다. 23.07.25 103 0
254 삼성전자 게이밍 모니터 ‘오디세이 OLED G9’, 해외 매체서 호평 리뷰타임스갤로그로 이동합니다. 23.07.25 117 0
253 GS25, 넷플릭스와 손잡고 ‘D.P.2’ 컬래버 상품 5종 출시 리뷰타임스갤로그로 이동합니다. 23.07.25 92 0
252 혼다코리아, 어드벤처 모터사이클 ‘XL750 트랜잘프’ 국내 출시 리뷰타임스갤로그로 이동합니다. 23.07.25 85 0
251 8월부터 인도 위 1분 이상 주•정차시 과태료 부과 [55] 리뷰타임스갤로그로 이동합니다. 23.07.25 3966 32
250 조명박물관, 미디어아티스트 그룹 팀보이드 ‘Without Human’展 개최 리뷰타임스갤로그로 이동합니다. 23.07.25 58 0
249 [여행 리뷰] 올 여름 휴가철 해외여행 ‘X세대(40~50대)’ 급부상 리뷰타임스갤로그로 이동합니다. 23.07.25 83 0
248 [제품 리뷰] 가볍고 튼튼한 다이슨 무선 청소기 거치대 '샤토 다이슨 거치대' 리뷰타임스갤로그로 이동합니다. 23.07.25 83 0
247 [식물 리뷰] 연꽃을 알아봅시다 '관곡지와 전당홍' 리뷰타임스갤로그로 이동합니다. 23.07.25 91 0
246 150만 먹방 유튜버 ‘히밥’의 첫 브랜드 ‘바비 BABI’ 론칭 [2] 리뷰타임스갤로그로 이동합니다. 23.07.24 217 0
245 LG전자, 음성으로 물 용량 조절하는 정수기 유튜브 광고 1천만 뷰 돌파 [23] 리뷰타임스갤로그로 이동합니다. 23.07.24 3624 2
244 [산행 리뷰] 누구나 나무꾼이 될 수 있는 곳 '설악산 12선녀탕 계곡 트래킹' [1] 리뷰타임스갤로그로 이동합니다. 23.07.24 103 0
243 네슬레 퓨리나, 무료 체험·기부할 수 있는 ‘냥파티 파티믹스 체험단’ 모집 리뷰타임스갤로그로 이동합니다. 23.07.24 76 0
242 피아니스트 선우예권, 2년만에 전국투어…'라흐마니노프, 리플렉션' 리뷰타임스갤로그로 이동합니다. 23.07.24 75 0
241 서머홀 증류소, 2023 서울 바앤스피릿쇼 참가 리뷰타임스갤로그로 이동합니다. 23.07.24 75 0
[테크 리뷰] 챗GPT 등 생성형 AI, ‘보안 위협’ 주의보 리뷰타임스갤로그로 이동합니다. 23.07.24 153 1
239 제니로제떡볶이, 내맘대로 1인 세트 출시… 가성비에 초점 [2] 리뷰타임스갤로그로 이동합니다. 23.07.24 154 0
238 청소년 창작 뮤지컬 ‘THE 오디션’ 9월부터 공연 리뷰타임스갤로그로 이동합니다. 23.07.24 65 0
237 [IT 리뷰] 스마트폰 시장에서 삼성이 위태롭다 [69] 리뷰타임스갤로그로 이동합니다. 23.07.24 3303 14
236 성인용 기저귀가 어린이용 기저귀보다 많이 팔린다 [39] 리뷰타임스갤로그로 이동합니다. 23.07.24 3341 16
235 한국 MZ세대 “갤럭시폰 안 산다” [381] 리뷰타임스갤로그로 이동합니다. 23.07.23 11803 52
234 [리뷰 만평] 참사의 연속... 혼돈과 무질서의 대한민국 [12] 리뷰타임스갤로그로 이동합니다. 23.07.23 336 7
233 [금융 리뷰] 5년간 소비자 민원 가장 많은 카드사는 어디? 리뷰타임스갤로그로 이동합니다. 23.07.23 161 0
232 삼성전자, 1억 3천만원 초프리미엄 TV 출시 [8] 리뷰타임스갤로그로 이동합니다. 23.07.23 335 1
231 총 상금 10억원 ‘제10회 제주삼다수 마스터스’ 개최 리뷰타임스갤로그로 이동합니다. 23.07.23 140 0
뉴스 이하늘 “지드래곤 리스펙 하지만, ‘파워’ 기대 이하” 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2