인도, 'AI생성 콘텐츠' 표시 의무화 입법…"딥페이크 피해 근절" > (사)아총연 회원국 소식

이미지 확대

AI 관련 이미지

[인도 일간 힌두스탄타임스 캡처. 재판매 및 DB 금지]

(서울=연합뉴스) 유창엽 기자 = 인도 정부가 딥페이크와 가짜뉴스 확산에 따른 부작용을 막고자 인공지능(AI) 생성 콘텐츠에 대한 표시를 의무화하는 입법 추진에 나섰다.

23일 로이터 통신과 인도 매체에 따르면 인도 전자정보기술부는 전날 이같은 내용을 담은 정보기술법 개정안을 공개했다.

전자정보기술부는 개정안에 대한 국민과 업계 의견을 다음 달 6일까지 받기로 했다.

개정안에 따르면 소셜미디어 업체들은 AI가 생성한 동영상의 경우 재생 화면 면적의 최소 10%에 'AI 생성 콘텐츠'라는 표시를 해야 한다.

또 AI 생성 오디오 클립은 재생 시간 처음부터 10%에 해당하는 시간에 AI 생성 콘텐츠임을 나타내는 조치를 해야 한다.

소셜미디어 업체들은 또한 이용자가 플랫폼에 올리는 콘텐츠가 AI 생성물 인지 확인도 받아야 한다.

이로써 오픈AI와 메타, 엑스, 구글 등 소셜미디어 업체들에 더 많은 책임을 지우겠다는 것이다.

인도의 법 개정 추진은 유럽연합(EU)과 중국에서 있은 유사한 움직임에 영향을 받은 것으로 알려졌다.

전자정보기술부는 "개정안은 일반인들이 접하는 AI 생성 콘텐츠에 대한 시각적 표시와 메타데이터 경로 추적 가능성, 투명성을 보장하는 효과를 낼 것"이라고 말했다.

이어 생성형 AI 툴이 오용돼 이용자들에게 해를 끼치고 가짜뉴스를 퍼트리며 선거를 조작하고 특정인을 흉내 내는 등의 위험 가능성이 크게 높아졌다며 법 개정 추진 이유를 밝혔다.

오픈AI와 구글, 메타는 인도 정부의 움직임과 관련한 코멘트 요청에 응하지 않았다고 로이터는 전했다.

법 개정은 인도 발리우드 스타 부부가 딥페이크 때문에 피해를 봤다며 소송을 벌이는 과정에서 추진되는 것이기도 하다고 로이터는 짚었다.

배우 아비셰크 바찬와 아내 아슈와리아 라이 바찬은 뉴델리 소재 한 법원에 자신들의 지식재산권을 침해하는 AI 제작 동영상을 제거하고 제작을 금지해달라고 요구했다.

인도의 비영리 공공정책 연구단체인 '인디언 거버넌스 앤드 폴리시 프로젝트'(IGAP)의 공동창립자 중 한 명인 드루브 가르그는 로이터에 "AI 생성 동영상 화면의 10%에 AI 생성 콘텐츠 표시를 하라는 것은 전 세계적으로 봤을 때 수량화할 수 있는 가시성 표준을 제정하려는 최초의 시도들 가운데 하나"라고 평가했다.

가르그는 법이 개정돼 시행되면 인도에 있는 AI 플랫폼들은 콘텐츠 제작 시점에 AI 생성 콘텐츠임을 표시하도록 하는 자동화 시스템을 구축해야 할 것으로 보인다고 덧붙였다.

인터넷 이용자가 약 10억명인 인도에서는 AI 딥페이크 동영상이 선거기간에 등장해 영향을 미치는 등 AI 생성 콘텐츠와 가짜뉴스로 인한 피해가 많이 발생하는 것으로 알려졌다.

샘 올트먼 오픈AI 최고경영자(CEO)는 인도는 지난해 이용자가 세배로 급증해 이용자 면에서 세계 2위 시장이라고 지난 2월에 말했다.

yct9423@yna.co.kr