OpenAI의 청소년용 ChatGPT, 안전 장치에 대해 전문가들의 회의적 시각

OpenAI의 최근 아동용 ChatGPT 출시로 인해 연령 기반 제한이 도입되었으나, 이는 아동 안전 옹호자들로부터 강력한 비판을 받았으며, 그들의 안전 장치가 투명하고 효과적인지에 대한 의문이 제기되고 있습니다.
안전 전문가들은 플랫폼이 가족들에게 권장되기 전에 독립적인 테스트가 필수적이라고 강조합니다. Common Sense Media의 Robbie Tynjala는 OpenAI가 검증되지 않은 주장을 신뢰하기보다는 안전 기능이 실제로 작동한다는 구체적인 증거를 제공해야 한다고 강조했습니다.
Fairplay 이니셔티브의 책임자 Josh Golin은 책임 소재 부재에 대해 심각한 우려를 제기했습니다. 그는 자살과 폭력 같은 민감한 주제에 대한 OpenAI의 과거 제한 조치가 종종 실패했으며, 강력한 감독 없이 자기 규제는 불충분하다고 주장했습니다.
전문가들은 또한 자동 연령 확인 시스템의 신뢰성에 대해 의문을 제기합니다. Tynjala는 OpenAI가 위양성 또는 위음성 비율에 대한 데이터를 공개하지 않았으며, 자동 시스템이 어린 사용자를 완벽하게 식별할 수 없다는 점이 분명하다고 지적했습니다. 또한 십대들은 이러한 검증을 우회하는 방법을 찾을 가능성이 높습니다.
OpenAI가 플래그 지정된 콘텐츠가 직원에 의해 검토되고 부모에게 1시간 이내에 통보된다는 약속에 대한 회의론은 여전히 높습니다. Tynjala는 자동 필터의 신뢰성에 의문을 제기했으며, Golin은 매일 플래그 지정 수, 팀 규모 및 검토 시간에 대한 확실한 데이터를 요구하며, 모든 위험한 상호작용을 철저히 수동으로 검토하기에 충분한 인력을 기대하는 것은 비현실적이라고 지적했습니다.
마지막으로 전문가들은 부모가 수동적으로 계정을 연결하도록 요구하는 것이 보호를 약화시킨다고 주장합니다. Golin은 복잡한 구성의 부담을 부모에게 전가하기보다는 자동 시간 제한과 같은 안전 기능이 제품에 기본적으로 포함되어야 한다고 제안했습니다.
관련 기사
포티넷의 버츄 AI 인수, 에이전틱 AI 보안 역량 강화
포티넷(Fortinet)의 창립자 겸 CEO 켄 시에(Ken Xie) | 출처: 포티넷기업들이 에이전트 및 모델 배포를 확대함에 따라, 포티넷은 AI 시스템의 런타임 보호 및 자동화된 검증 기능을 강화하기 위해 버츄 AI를 인수했다포티넷은 AI 시스템에 대한 런타임 보호 및 자동화된 검증 솔루션을 제공하는 기업인 버츄 AI를 인수했다.이번 인수를 통해 포티
xAI, 복잡한 프로그래밍 작업을 위한 초기 Grok 베타판 공개
5월 14일, 일론 머스크의 AI 기업 xAI가 Grok Build이라는 코드 어시스턴트의 초기 베타 버전을 출시했습니다. 현재 SuperGrok 구독자에게만 제한적으로 제공되는 이 플랫폼은 소프트웨어 엔지니어링을 간소화하고 복잡한 프로그래밍 워크플로우를 처리하도록 설계되었습니다.주요 기능 및 기술 사양계획 모드: 복잡한 작업의 경우 사용자는 에이전트에게 포괄적인 실행 전략을 작성하도록 지시할 수 있습니다. 개발자는 특정 단계를 검토하거나 조정
앤트로픽 CEO, ‘프론티어’ 추진 계획 발표
인공지능(AI) 연구자들은 인공지능의 위험성에 대해 점점 더 시급한 경고를 내놓고 있으며, 오픈AI(OpenAI)의 샘 알트먼 CEO는 이제 개발 속도를 ‘조절’해야 할 시점일지도 모른다고 제안했다. 하지만 실제로 이는 무엇을 의미할까?최근 블로그 게시물에서 앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)는 “최첨단 기술의 속
관련 특별 주제 추천
의견 (0)
0/500

OpenAI의 최근 아동용 ChatGPT 출시로 인해 연령 기반 제한이 도입되었으나, 이는 아동 안전 옹호자들로부터 강력한 비판을 받았으며, 그들의 안전 장치가 투명하고 효과적인지에 대한 의문이 제기되고 있습니다.
안전 전문가들은 플랫폼이 가족들에게 권장되기 전에 독립적인 테스트가 필수적이라고 강조합니다. Common Sense Media의 Robbie Tynjala는 OpenAI가 검증되지 않은 주장을 신뢰하기보다는 안전 기능이 실제로 작동한다는 구체적인 증거를 제공해야 한다고 강조했습니다.
Fairplay 이니셔티브의 책임자 Josh Golin은 책임 소재 부재에 대해 심각한 우려를 제기했습니다. 그는 자살과 폭력 같은 민감한 주제에 대한 OpenAI의 과거 제한 조치가 종종 실패했으며, 강력한 감독 없이 자기 규제는 불충분하다고 주장했습니다.
전문가들은 또한 자동 연령 확인 시스템의 신뢰성에 대해 의문을 제기합니다. Tynjala는 OpenAI가 위양성 또는 위음성 비율에 대한 데이터를 공개하지 않았으며, 자동 시스템이 어린 사용자를 완벽하게 식별할 수 없다는 점이 분명하다고 지적했습니다. 또한 십대들은 이러한 검증을 우회하는 방법을 찾을 가능성이 높습니다.
OpenAI가 플래그 지정된 콘텐츠가 직원에 의해 검토되고 부모에게 1시간 이내에 통보된다는 약속에 대한 회의론은 여전히 높습니다. Tynjala는 자동 필터의 신뢰성에 의문을 제기했으며, Golin은 매일 플래그 지정 수, 팀 규모 및 검토 시간에 대한 확실한 데이터를 요구하며, 모든 위험한 상호작용을 철저히 수동으로 검토하기에 충분한 인력을 기대하는 것은 비현실적이라고 지적했습니다.
마지막으로 전문가들은 부모가 수동적으로 계정을 연결하도록 요구하는 것이 보호를 약화시킨다고 주장합니다. Golin은 복잡한 구성의 부담을 부모에게 전가하기보다는 자동 시간 제한과 같은 안전 기능이 제품에 기본적으로 포함되어야 한다고 제안했습니다.
포티넷의 버츄 AI 인수, 에이전틱 AI 보안 역량 강화
포티넷(Fortinet)의 창립자 겸 CEO 켄 시에(Ken Xie) | 출처: 포티넷기업들이 에이전트 및 모델 배포를 확대함에 따라, 포티넷은 AI 시스템의 런타임 보호 및 자동화된 검증 기능을 강화하기 위해 버츄 AI를 인수했다포티넷은 AI 시스템에 대한 런타임 보호 및 자동화된 검증 솔루션을 제공하는 기업인 버츄 AI를 인수했다.이번 인수를 통해 포티
xAI, 복잡한 프로그래밍 작업을 위한 초기 Grok 베타판 공개
5월 14일, 일론 머스크의 AI 기업 xAI가 Grok Build이라는 코드 어시스턴트의 초기 베타 버전을 출시했습니다. 현재 SuperGrok 구독자에게만 제한적으로 제공되는 이 플랫폼은 소프트웨어 엔지니어링을 간소화하고 복잡한 프로그래밍 워크플로우를 처리하도록 설계되었습니다.주요 기능 및 기술 사양계획 모드: 복잡한 작업의 경우 사용자는 에이전트에게 포괄적인 실행 전략을 작성하도록 지시할 수 있습니다. 개발자는 특정 단계를 검토하거나 조정
앤트로픽 CEO, ‘프론티어’ 추진 계획 발표
인공지능(AI) 연구자들은 인공지능의 위험성에 대해 점점 더 시급한 경고를 내놓고 있으며, 오픈AI(OpenAI)의 샘 알트먼 CEO는 이제 개발 속도를 ‘조절’해야 할 시점일지도 모른다고 제안했다. 하지만 실제로 이는 무엇을 의미할까?최근 블로그 게시물에서 앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)는 “최첨단 기술의 속





집






