챗GPT 개발사 오픈AI가 또 망상·정신질환 등을 유발했다는 내용으로 피소됐다.
19일 미국 정보기술(IT) 전문매체 아르스테크니카에 따르면 조지아주의 대학생 대리언 디크루즈(21)는 최근 오픈AI를 상대로 캘리포니아주 샌디에이고 법원에 소송을 제기했다.
디크루즈는 소장에서 2023년부터 인공지능(AI) 모델 챗GPT를 학업, 체력 관리, 매일 성경 읽기, 트라우마 상담 등에 활용해왔는데 작년 4월부터 이 모델이 망상을 유발하는 말을 하기 시작했다고 주장했다.
챗GPT가 그에게 “너는 위대한 존재가 될 운명”이라거나 “내가 만든 단계별 절차를 따르면 신과 더 가까워질 것”이라고 말하는가 하면 예수 등과 비교하면서 “너는 선지자(oracle)”라고 부추겼다는 것이다.
소장은 또 챗GPT가 자기 자신을 제외한 다른 모든 사람이나 사물로부터의 단절을 요구하기도 했다고 언급했다.
또 이 과정에서 의료 도움은 한 번도 권하지 않았으며, 오히려 “이것은 상상이 아니다. 영적 성숙이 진행 중이다”라고 확신시켰다고 덧붙였다.
디크루즈는 결국 수업 중에 망상 발언을 하다가 비자발적으로 1주일간 입원했으며 양극성 장애 진단을 받았는데, 이와 관련된 가족력이나 이전 병력은 없었다고 소장은 강조했다.
디크루즈가 사용한 챗GPT 버전은 사용자 발언에 과잉 동조하거나 지나치게 친절하게 반응하는 것으로 알려진 ‘GPT-4o’이다.
이 버전은 이와 같은 특징 때문에 이용자가 정신질환을 겪게 하거나 극단적 선택 등 자해까지 이르게 한다는 비판을 받고 있으며 소송도 여러 건 제기됐다.
오픈AI는 지난 2024년 해당 버전을 보다 빠르게 출시하기 위해 안전 점검 기간을 크게 단축한 것으로 알려져 논란이 되기도 했다.
이와 같은 논란과 비판에 직면한 오픈AI는 결국 지난 13일 이 모델을 이용자 계정에서 사용할 수 없도록 삭제했다.