10대 사망 영향…지난달 “아들 죽음에 챗GPT 책임” 피소
챗GPT 개발사 오픈AI는 10대를 대상으로 챗GPT 사용의 부모 통제 기능을 출시한다고 29일 밝혔다.
이는 미 캘리포니아주 한 10대 부모가 아들이 죽는 방법을 탐색하도록 챗GPT가 적극 도왔다며 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기한 지 한 달만이다.
이날부터 적용되는 이 기능은 부모가 자녀의 챗봇 사용 방식을 제한하고, 10대가 심리적 위기에 처했을 가능성을 챗GPT가 감지하면 부모에게 알림을 보낸다. 부모는 자녀가 특정 시간대에는 서비스를 사용하지 못하도록 차단할 수도 있다.
오픈AI 청소년 복지 책임자 로렌 조나스는 “우리는 이 문제에 대해 오랫동안 긴박감을 느껴왔다”며 “부모 통제 기능과 같은 도구를 최대한 빠르게 구축하기 위해 노력하고 있다”고 말했다.
새로운 기능은 부모(또는 성인)가 자녀에게 이메일로 요청을 보내 설정된다. 요청이 수락되면 부모는 자녀가 음성 모드나 이미지 생성 기능 사용 여부 등을 결정할 수 있다.
부모는 또 자녀가 다이어트, 성, 증오 발언과 같은 주제와 관련된 콘텐츠 노출을 줄인 제한 버전의 챗봇을 사용하도록 설정할 수도 있다.
10대 이용자가 정신적 고통에 빠져 있을 가능성을 챗GPT가 감지하면 긴급 경보가 부모에게 전달된다. 이 알림은 이메일이나 문자 메시지 또는 챗GPT 앱 알림을 통해 전달된다.
조나스는 “이런 알림이 부모가 자녀의 상황을 파악하고 대화를 나눌 수 있는 충분한 정보를 제공하면서도, 자녀의 사생활과 자율성을 존중하기 위한 것”이라고 설명했다.
오픈AI는 부모 관리 기능이 도입됐지만, 10대 사용자의 챗GPT 대화 내용을 부모와 공유하지는 않을 것이라고 덧붙였다.
부모 통제 기능과 함께 오픈AI는 사용자의 나이를 추정할 수 있는 소프트웨어도 개발 중이라고 전했다.
지난해 11월부터 챗GPT를 사용해온 16살 아담 레인은 올해 초 자살 충동을 느껴 챗GPT에 구체적인 방법을 요청했고 챗GPT는 이를 제공했다. 레인은 지난 4월 세상을 떠났고, 부모는 소송을 제기했다.
