과학기술정보통신부는 1월 22일'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법' ‘인공지능 기본법’)상 투명성 확보 의무(제31조)의 구체적인 이행 방안을 담은'인공지능 투명성 확보 안내 지침(가이드라인)'을 공개했다.

 

‘인공지능 기본법’은 인공지능 산업의 체계적인 육성과 안전한 활용 기반을 조성하기 위해 2025년 1월 21일 제정된 법률로 1월 22일 전면 시행된다. 다만, 1년 이상 계도기간 운영 방침에 따라, 투명성 조항도 해당 기간 중 사실조사 및 과태료 부과가 유예된다.

 

그동안 업계에서는 공개된 법률과 시행령만으로는 투명성 확보 의무의 구체적인 적용 기준을 명확하게 파악하기 어렵다는 우려가 제기되어 왔다. 이에 과기정통부는 지난 ‘25년 9월 안내 지침(가이드라인) 초안을 공개한 이후 업계 의견을 수렴하여 실제 현장에서 운영 중인 인공지능 제품·서비스 유형을 바탕으로 이행 기준을 제시했다.

 

이번 안내 지침(가이드라인)은 인공지능 신뢰 확보라는 입법 취지와 기업의 부담 완화를 균형 있게 고려했다. 사회적 우려가 큰 인공지능 영상 조작(딥페이크) 생성물에 대해서는 사람이 명확히 인식할 수 있는 표시를 의무화하여, 최근 급증하는 인공지능 오용에 대한 국민의 불안감을 해소하고자 했다.

 

반면, 인공지능 생성물이 서비스 환경 내에서 제공되는 경우에는 외부 반출 시와 구분하여 유연한 표시를 허용함으로써, 기업들이 서비스의 편의성과 사용성을 저해하는 과도한 조치를 하지 않도록 합리적인 기준을 마련했다.

 

' 투명성 확보 의무의 대상 '

 

안내 지침(가이드라인)은 투명성 확보 의무를 이행해야 하는 주체를 이용자에게 인공지능 제품 및 서비스를 직접 제공하는 ‘인공지능 사업자’로 명확히 규정했다. 여기에는 국내 이용자를 대상으로 인공지능 제품·서비스를 제공하는 해외 사업자도 포함된다.

 

반면, 인공지능 기술이나 서비스를 단순히 업무나 창작의 ‘도구’로 활용하는 이용자는 의무 대상에 해당하지 않는다. 인공지능 제품·서비스를 제공하는 인공지능 사업자가 아니라, 제공받은 인공지능 제품·서비스와 생성물을 활용하는 입장이기 때문이다.

 

예를 들어, 영상 생성 인공지능을 이용하여 영화를 제작·배급하는 제작사는 인공지능 제품·서비스를 제공하는 것이 아니라, 인공지능을 업무에 활용한 ‘이용자’에 해당하므로 의무 대상에 해당하지 않는다.

 

' 투명성 확보 의무의 주요 내용 '

 

투명성 확보 의무는 ▲고영향 또는 생성형 인공지능 기반 운용 사실의 사전 고지(제1항)와 ▲인공지능 생성물이 생성형 인공지능으로 만들어졌다는 사실의 표시(제2항, 제3항)로 나뉜다.

 

먼저, 사전 고지 의무(제1항)는 이용자가 인공지능 제품·서비스 이용 과정에서 고영향․생성형 인공지능 기술이 적용된 사실을 미리 인지하고 주의를 기울일 수 있도록 하는 데 중점을 두었다.

 

사업자는 서비스 이용약관이나 계약서에 이를 명시하거나, 소프트웨어·앱 구동 화면에 고영향․생성형 인공지능 기반으로 운용된다는 사실을 알려야 한다. 또한, 오프라인 서비스의 경우 이용자가 쉽게 볼 수 있는 장소에 안내문을 게시하는 등 서비스 형태에 따른 이행 방법을 제시했다.

 

인공지능 생성물 표시 의무(제2항, 제3항)와 관련해서는, 인공지능 생성 결과물이 ‘서비스 환경 내에서만 이용되는 경우’와 ‘외부로 반출되는 경우’를 구분하여 기술적·현실적 여건을 고려한 기준을 마련했다.

 

인공지능 생성물이 서비스 환경 내에서만 제공될 때는 사용자 이용 환경(UI)이나 상징(로고) 표출 등을 통해 유연하게 표시할 수 있다. 예를 들어, 챗봇 등 대화형 서비스는 이용 전 안내나 화면 내 상징(로고) 표출을 인정하며, 게임·가상 융합 세계(메타버스)는 로그인 시 안내나 캐릭터에 인공지능임을 표시하는 방식 등을 허용했다.

 

반면, 인공지능 생성 결과물을 외부로 반출할 때는 보다 확실한 표시 적용이 요구된다. 인공지능으로 생성된 텍스트, 이미지, 영상 등을 내려받기․공유할 때는 ‘사람이 인식하는 방법’(가시·가청적 식별무늬'워터마크' 등) 으로 표시하거나, 문구·음성 안내 제공 후 ‘기계가 판독할 수 있는 방법’(메타데이터 등)을 인공지능 생성 결과물에 적용하도록 했다.

 

특히, 실제와 구분하기 어려운 가상의 생성물(인공지능 조작 영상'딥페이크' 등)의 경우, 이용자의 혼란을 막기 위해 반드시 사람이 명확하게 인식할 수 있는 방법으로 표시하도록 했다.

 

과기정통부는 “인공지능 생성물에 대한 식별 무늬(워터마크) 적용은 인공지능 조작 영상(딥페이크) 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자, 이미 주요 세계적 기업들이 도입하고 있는 세계적인 추세”라며, “다만, 제도 도입 초기 현장의 준비 부족에 대한 우려가 있는 만큼, 최소 1년 이상의 충분한 계도기간을 운영하며 업계와 긴밀히 소통해 제도가 현장에 원활히 안착할 수 있도록 지원하겠다.”라고 밝혔다.

 

또한, 안내 지침(가이드라인) 공개 후 계도 기간에 기업들의 애로사항과 의견을 청취하고, 향후 새롭게 등장하는 서비스 유형과 기술적 특성 등을 반영하여 안내 지침(가이드라인)을 지속적으로 보완·고도화해 나갈 예정이다.

 

'인공지능 투명성 확보 안내 지침(가이드라인)'은 과기정통부 및 한국정보통신기술협회(TTA) 누리집을 통해 확인할 수 있다.