인터넷 방송 플랫폼 트위치가 딥페이크 영상에 대한 공식 입장을 밝혔다. 딥페이크 콘텐츠가 동의에 기반하지 않은 착취적 성폭력에 해당하며, 포르노와 명확히 구분해 금지해야 한다는 입장이다.

딥페이크란 특정 인물의 얼굴 등을 인공지능 기술을 이용해 특정 영상에 합성한 것을 말한다. 트위치는 딥페이크에 의한 성적인 콘텐츠를 명시적으로 금지하는 내용을 담은 정책 변경 및 기타 대응 방안을 공식 블로그를 통해 발표했다.

트위치가 공식 입장을 밝힌 것은 지난 1,월 트위치를 통해 '딥페이크 포르노' 사건이 스트리밍되면서 논란이 됐기 때문이다. 해당 사건에 대해 트위치는 "자신의 동의 없이 이미지가 사용된 사람들에게 엄청난 고통을 안겨주었고, 인공지능이 생성한 노골적인 이미지가 초래할 수 있는 위험에 대한 논의의 물결을 일으켰다"라고 말했다.

이번 발표는 이에 대한 대응을 표명하는 것으로서, 트위치는 원래 포르노 콘텐츠가 금지된 표현물임을 언급했다. 구체적인 정책 변경 사항에 따르면 '딥페이크 포르노'라는 용어 대신 '합성된 비합의적 착취 이미지' 또는 '합성 NCEI(동의 없는 착취 영상)'라는 용어의 구분을 권장했다.

'합성 NCEI'를 조장, 제작 또는 공유할 경우 첫 번째 위반 시 무기한 정지 처분을 받을 수 있으며, 해당 NCEI가 잠깐만 표시되거나 콘텐츠에 대한 분노나 불쾌감을 표현하기 위해 표시되는 경우에도 삭제된다. 이어 관련 분야인 법학 교수의 조언을 받고 있으며, 리벤지 포르노(디지털 성범죄) 상담 창구 매니저를 맡고 있는 스트리머와 협력해 '합성 NCEI'의 위험성과 대처법 등을 설명하는 크리에이터 캠프도 개최할 예정이라고 전했다.

끝으로 "합성으로 만들어진 모든 콘텐츠가 본질적으로 성적인 것은 아니며, 모든 콘텐츠가 합의되지 않은 것도 아니다"라며, 딥페이크 콘텐츠가 무조건 나쁘다는 것은 아니라는 입장을 고수했다. 대신 새로운 기술의 발전을 주시하고 적절한 대응을 하겠다며 지속적인 모니터링을 약속했다.

사진출처-트위치

장용권 기자  press@gamevu.co.kr

<저작권자 © 게임뷰, 무단 전재 및 재배포 금지>