플로리다주가 인공지능(AI) 기업 오픈AI(OpenAI)와 샘 올트먼 최고경영자를 상대로 소송을 제기하며 AI 안전성과 기업 책임을 둘러싼 논란이 새로운 국면을 맞고 있다.
플로리다주 제임스 우트마이어 법무장관은 1일 기자회견을 통해 “오픈AI와 샘 올트먼이 내부 및 외부의 안전성 경고를 무시한 채 위험한 제품을 수백만 명의 플로리다 주민들에게 제공했다”며 “이번 소송은 미국 최초의 주 정부 주도 AI 기업 상대 소송”이라고 밝혔다.
주 정부가 제기한 소송의 핵심은 챗GPT가 잠재적으로 폭력적이거나 위험한 행동을 조장할 수 있음에도 불구하고 이용자들에게 충분한 경고와 보호 장치를 제공하지 않았다는 주장이다.
소장에는 플로리다에서 발생한 두 건의 치명적인 사건이 언급됐다. 지난해 플로리다주립대(FSU) 총격 사건과 관련해 범행을 저지른 용의자가 사건 전 챗GPT를 이용한 것으로 알려졌으며, 또 다른 살인 사건에서는 범인이 시신 처리 방법과 관련된 질문을 챗GPT에 한 것으로 조사됐다고 검찰은 밝혔다.
플로리다주는 또한 챗GPT가 자해 및 폭력 행위를 촉진하거나 부추길 가능성이 있으며, 미성년자 개인정보를 부모의 실질적인 감독 없이 수집하고 있다고 주장했다. 아울러 사용자 의존성을 높이는 구조를 통해 청소년들에게 부정적인 영향을 미칠 수 있다고 지적했다.
이에 대해 오픈AI는 성명을 통해 “챗GPT는 전 세계 수억 명이 교육, 업무, 연구 등 다양한 합법적 목적으로 사용하는 범용 AI 도구”라며 “위험한 의도를 감지하고 오용을 방지하기 위한 안전장치를 지속적으로 강화하고 있다”고 밝혔다.
오픈AI는 또 문제의 사건들과 관련해 해당 이용자들에게 정신건강 전문가의 도움을 받을 것을 권고했으며, 수사기관의 요청에도 적극 협조했다고 설명했다.
전문가들은 이번 소송이 단순한 기업 책임 문제를 넘어 AI 산업 전반에 대한 규제 논의를 촉진하는 계기가 될 것으로 보고 있다. 특히 AI 챗봇이 범죄와 폭력 사건에 연루됐을 때 플랫폼 운영 기업이 어느 수준까지 책임을 져야 하는지에 대한 법적 기준을 마련하는 중요한 시험대가 될 전망이다.
한편 이번 소송 결과는 향후 미국 내 AI 기업들의 안전 정책과 규제 방향에 상당한 영향을 미칠 것으로 예상되며, 기술 혁신과 공공 안전 사이의 균형을 둘러싼 논쟁도 더욱 확대될 것으로 보인다.
