오픈AI에 공개서한…허위정보·성적 이미지 확산 우려
미국 시민단체가 딥페이크 등 위협을 우려해 오픈AI에 ‘소라2’의 인공지능(AI) 영상 생성 서비스를 중단할 것을 요구하고 나섰다.
시민단체 ‘퍼블릭 시티즌’은 오픈AI에 공개서한을 보내 이처럼 촉구했다고 11일 밝혔다.
이 단체는 서한에서 샘 올트먼 오픈AI 최고경영자(CEO)에게 “오픈AI는 서비스 출시 전에 심각한 사회적 위험에 대응해 (안전을) 보장하는 신중하고 윤리적이며 투명한 절차를 이행해야 한다”고 주장했다.
이어 “배포를 중단하고 법률 전문가와 시민권 단체, 민주주의 옹호자들과 협력해 실질적이고 엄격한 기술적·윤리적 경계선을 설정하라”고 주문했다.
이들은 소라2의 서비스가 딥페이크 생성·유포를 쉽게 만들 수 있다고 지적했다.
특히 내년 중간선거를 앞두고 정치 관련 허위 정보 유포가 소라2 때문에 급증할 수 있다고 우려했다.
여성과 미성년자를 성적인 맥락에서 묘사한 콘텐츠가 제대로 관리되지 않은 채 확산한다고도 지적했다.
소라2 이용 과정에서 이름·이미지·초상권 등 개인 정보가 동의 없이 사용되는 사례가 늘고 있고, 저작권이 있는 이미지가 생성되는 사례도 있다고 덧붙였다.
이 단체의 ‘기술대기업 책임성 주창자’인 J. B. 브랜치 변호사는 “소라2의 성급한 출시는 안전장치가 부족한 제품을 시장에 급하게 내놓는 오픈AI의 일관된 패턴을 보여준다”고 꼬집었다.
