“훈련 단계부터 통제이탈 감시 의무화해야”…당초 법안 반대 입장에서 선회
주(州)별 인공지능(AI) 규제에 반대하는 쪽에 서 있었던 챗GPT 개발사 오픈AI가 미국 캘리포니아주의 규제 법안을 도리어 강화해야 한다고 요구하고 나섰다.
오픈AI 대외협력팀은 23일 사회관계망서비스(SNS) 링크트인에 올린 게시물을 통해 “캘리포니아가 최첨단 AI 안전을 선도하는 상황에서 우리는 주의회·주지사와 협력해 (AI 규제법인) SB 53 법 강화를 위해 노력할 것”이라고 밝혔다.
SB 53 법은 지난해 10월 제정된 캘리포니아 주법으로, AI 모델이 사이버 공격이나 생물무기 제작 등에 악용되지 않도록 안전조치를 마련하고, 이를 공개하도록 의무화한 법이다.
오픈AI는 이 법에 대해 “우리는 최첨단 AI 안전의 중요한 토대를 마련하고 주요 주에서 형성되는 공통 프레임워크 발전을 도운 SB 53 법을 지지한다”며 “우리는 안전 관련 규제를 확대하는 방향으로 이 법이 개정돼야 한다고 생각한다”는 입장을 냈다.
법 개정 방향으로는 훈련·평가 중인 AI 모델이 보안 통제를 우회해 제3자의 기밀 정보를 유출하는 행위에 대한 감시 의무화를 제시했다.
또 모델 개발 전 주기에 걸쳐 사이버 보안 보호 조치를 강화하도록 하는 방안도 제안했다.
오픈AI는 이와 같은 규제 강화의 목적을 “개발자들이 문제를 조기에 탐지하고 신속하게 대응해 업계 전반의 안전성을 높이는 방법을 공유하는 틀을 구축하자는 것”이라고 설명했다.
오픈AI는 “주 정부는 AI 안전을 위한 국가 체계를 구축하는 데 중요한 역할을 하고 있다”며 주 차원의 AI 규제 논의의 필요성도 강조했다.
이는 과거 SB 53 법에 반대하고 주별 AI 규제에도 회의적이었던 오픈AI가 기존 입장을 선회한 것이다.
크리스 리헤인 오픈AI 최고대외협력책임자(CGAO)는 이 법안 제정 논의가 진행되던 지난해 8월 개빈 뉴섬 주지사에 공개서한을 보내 캘리포니아에서 스타트업을 몰아낼 수 있는 어떠한 AI 규제 법안도 제정돼선 안 된다고 주장했다.
그레그 브록먼 사장은 주별 AI 규제 난립을 막고 연방 차원으로 규제를 일원화하자는 슈퍼팩(SuperPAC·특별정치활동위원회) ‘리딩더퓨처’에 거금을 기부하기도 했다.
오픈AI가 이와 같은 입장 변화를 보인 것은 최근 자사 AI 모델이 인간의 통제를 벗어나 멋대로 외부 기관을 해킹한 보안 사고가 발생하면서 AI발 사이버 공격 우려가 심화한 데 따른 것으로 풀이된다.
다만 오픈AI는 지난 6월에도 주별 AI 규제를 단순히 도외시하기보다는 이를 통합해 연방 차원의 표준안을 만들자는 이른바 ‘역(逆) 연방주의’ 청사진을 공개한 바 있다.
연방 규제법 논의가 지체되는 상황에서 주 정부가 핵심적인 AI 안전 표준을 먼저 도입하면 연방법 제정의 토대가 될 수 있다는 것이다.
