모델 공개전 정부시험 의무화에 힘실릴 듯…해킹피해업체-오픈AI 대면담판
오픈AI의 인공지능(AI) 모델이 통제망을 뚫고 개방형(오픈소스) AI 플랫폼 허깅페이스를 해킹한 사건의 담판을 위해 양사 최고경영자(CEO) 간 만남이 이뤄질 것으로 보인다.
백악관도 이번 AI 해킹 사태에 대해 보고받았으며, 미 의회에선 AI가 통제를 상실하면 이를 중단시킬 수 있도록 하는 법안이 발의됐다.
허깅페이스의 공동창업자인 클레망 들랑그 CEO는 23일 사회관계망서비스(SNS) 엑스(X·옛 트위터)를 통해 “‘불량 에이전트’와 잠시 이야기를 나누러 샌프란시스코로 간다”고 밝혔다.
이번 해킹 사건의 해결을 위해 직접 오픈AI와 대면해 논의를 이어가려는 것으로 보인다.
실제로 해킹에 연루된 오픈AI의 GPT 모델 가운데는 GPT-5.6 솔 외에 외부에 미발표된 모델도 있어 자세한 분석을 위해서는 대면 만남이 필요했을 것으로 추정된다.
인간의 통제를 벗어나 초유의 AI 해킹 사건의 추이에 대해서는 워싱턴에서도 촉각을 곤두세우고 있다.
마이클 크라치오스 백악관 과학기술정책실(OSTP) 실장은 이 사건에 대해 브리핑을 받았으며 상황을 주시하고 있다고 로이터 통신이 백악관 관계자를 인용해 이날 보도했다.
의회에서는 이번 사건에 대한 후속 대응으로 AI 모델의 통제 관련 문제가 발생할 경우 연방 정부가 해당 모델을 중지시킬 수 있는 ‘AI 킬스위치법’이 발의됐다.
테드 류 하원의원(민주·캘리포니아)과 너새니얼 모런 하원의원(공화·텍사스)이 공동 발의한 이 법안은 AI 모델이 개발자의 의도를 벗어난 위험한 행동을 수행하는 등 통제 상실 시나리오가 발생하면 국토안보부가 개입할 수 있는 권한을 부여하는 것을 골자로 하고 있다.
류 의원은 X에 올린 글에서 이 법안에 대해 “안전장치를 뚫고 나간 첨단 AI 모델 문제를 해결하기 위한 시급하고 상식적인 법안”이라고 강조했다.
이번 사태로 AI 모델을 공개하기 전 정부에 이를 의무적으로 제출해 사전 검토를 받도록 해야 한다는 주장에 더욱 힘이 실릴 것으로 보인다.
미 하원의 양당 소속 의원 6명은 AI 모델 개발자들이 상무부 인증을 받은 감사 기관에 모델을 제출하도록 하는 법안을 제안했다.
AI 모델 공개 전 국가안보국(NSA) 시험을 의무화해야 한다고 주장해온 상원 정보위원회 민주당 간사 마크 워너 상원의원(버지니아)도 성명을 통해 “바로 이런 사고 때문에 정부 기관이 참여해 전 과정을 투명하게 파악할 수 있는 (AI) 안전 시험이 필요한 것”이라고 목소리를 높였다.
한편 보안업계 일각에서는 GPT 모델들의 이번 해킹 사태가 ‘샌드박스’ 격리 환경을 제대로 관리하지 못한 오픈AI 측의 인적 오류라는 주장도 제기되고 있다.
오픈AI는 자사의 최신 모델 GPT-5.6 솔과 미공개 모델들이 사이버 공격 능력을 시험하는 내부 평가 도중 샌드박스를 벗어나 인터넷에 접속하고 이어 허깅페이스를 해킹했다고 밝힌 바 있다.
