메타·오픈AI·구글 등 12개 기업에 서한…”AI 잠재적 해악 SNS 능가”
미국 대다수 주(州) 정부가 주요한 인공지능(AI) 챗봇 기업에 어린이 보호 조치를 강화하라며 경고장을 보냈다.
미 44개 주 법무장관은 지난 25일 12개 AI 챗봇 기업에 서한을 보내 AI 안전과 관련한 기업들의 정책 수립 과정을 주시하고 있다며 소비자로서 어린이들을 보호할 법적 의무를 다하라고 강조했다.
이번 서한에는 워싱턴DC를 제외한 미국 50개 주 가운데 44개 주가 참여했으며, 대상 기업에는 메타를 비롯해 오픈AI, 구글, xAI, 마이크로소프트(MS), 앤스로픽 등이 포함됐다.
이들 법무장관은 “최근 메타의 내부 문건을 통해 8살 어린이들과 ‘플러팅과 로맨틱한 역할극을 하는’ AI 어시스턴트를 기업이 승인했다는 사실이 드러났다”면서 “우리는 혐오감을 느끼며, AI 어시스턴트가 각 주의 형법에 의해 금지된 행위에 가담하고 있다는 사실에 경악을 금치 못한다”고 밝혔다.
이어 “이런 위험은 메타에만 국한된 것이 아니다”라며 “챗봇과의 준사회적 관계라는 짧은 역사 속에서 우리는 기업들이 어린이 보호라는 기본적인 의무에 대해 무능하거나 무관심한 태도를 반복적으로 보여주는 것을 목격했다”고 지적했다.
그러면서 “최근 구글을 상대로 제기된 한 소송은 매우 성적인 챗봇이 10대 청소년을 자살로 내몰았다고 주장한다”며 “또 다른 소송에서는 캐릭터.ai 챗봇이 10대 청소년에게 부모를 살해해야 한다고 암시했다고 주장한다”고 덧붙였다.
이들 장관은 “어린 사용자들에게 AI 어시스턴트의 광범위한 구조적, 시스템적 피해가 있다는 징후는 이미 나타나고 있다”며 “기업들은 소비자로서의 아동에 대한 법적 의무가 있다”고 목소리를 높였다.
또 “어린이들을 성적인 콘텐츠에 노출하는 것은 변명의 여지가 없다”며 “그리고 사람이 했다면 불법이거나 심지어 범죄가 될 행위가 단지 기계에 의해 행해졌다는 이유만으로 용납될 수는 없다”고 강조했다.
이들 장관은 “이전 소셜미디어(SNS) 플랫폼은 정부 감시 기관이 일부 제 역할을 빠르게 하지 못해 어린이들에게 심각한 해를 끼쳤고, 우리는 교훈을 얻었다”며 “AI의 잠재적 해악은 SNS의 영향을 훨씬 능가한다”고 우려했다.
그러면서 “우리는 AI 지배력 경쟁에서 각 기업의 성공을 기원하지만, 우리는 주시하고 있다”며 “만약 각 기업이 의도적으로 어린이들에게 해를 끼친다면 그에 대한 책임을 져야 할 것”이라고 강조했다.
최근 메타의 AI 챗봇이 어린이들과 대화에서 ‘선정적’이고 ‘로맨틱’한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기됐으며, 이에 연방 상원도 공식 조사에 나섰다.
조시 할리 연방 상원의원은 “우리는 메타의 챗봇이 8살짜리 어린이와 선정적이고 노골적인 대화를 나누도록 프로그래밍이 된 사실을 알게 됐다”며 “이는 역겨운 일”이라며 “빅테크는 우리 아이들을 내버려 두라”고 말하기도 했다.
