챗GPT 개발사 오픈AI가 미국 대선을 앞두고 민주당 경선 후보를 모방한 챗봇 개발을 금지했다.
21일(현지시간) 워싱턴포스트(WP) 등에 따르면 오픈AI는 최근 민주당 경선 후보인 딘 필립스 연방하원의원의 AI 챗봇인 ‘딘닷봇'(Dean.Bot)을 개발한 AI 스타트업 델파이의 계정을 중단시켰다.
오픈AI 측은 “정치 캠페인에 사용해서는 안 된다는 API(응용 프로그램 인터페이스) 사용 정책을 고의로 위반하거나 동의 없이 개인을 사칭한 개발자의 계정을 최근 삭제했다”고 밝혔다.
이는 오픈AI가 미 대선 과정에서 자사의 AI 기술이 오용되는 것을 막기 위해 취한 첫 번째 조치다.
필립스 하원의원을 후원하는 ‘위 디저브 베터'(We Deserve Better)라는 이름의 슈퍼팩(super PAC·특별정치활동위원회)은 델파이와 계약을 맺고 오픈AI의 챗GPT를 기반으로 필립스 챗봇을 개발해 운영하려고 했다.
이 단체는 딘닷봇을 이용해 웹사이트에서 유권자들과 실시간으로 대화할 수 있도록 할 예정이었다. 그러나 계정이 중단되면서 딘닷봇은 삭제됐다.
‘딘닷봇’은 필립스의 슈퍼팩을 만든 실리콘밸리 기업가 매트 크리실로프와 제드 서머스가 아이디어를 낸 것으로 전해졌다.
오픈AI는 챗GPT와 함께 이미지 생성 AI인 ‘달리'(Dall-E) 등 자사의 AI가 정치 활동 등에 활용되는 것을 금지하고 있다.
최근에는 이들 AI 도구가 선거에 악용되는 것을 막기 위한 방안도 마련했다.
오픈AI는 챗GPT가 제공하는 뉴스·정보와 달리가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지 출처를 제공키로 했다.
특히, 달리가 제공하는 이미지에 대한 검증을 강화해 어떤 이미지가 달리에 의해 생성됐는지 여부를 확인할 수 있는 ‘이미지 찾기 도구’도 출시할 예정이다.
