Google의 최신 AI 모델 보고서는 주요 안전 세부 사항이 부족하다고 전문가들은 말합니다.
목요일, 구글이 최신이자 가장 진보된 AI 모델인 제미나이 2.5 프로를 출시한 지 몇 주 만에, 내부 안전성 평가 결과를 자세히 설명한 기술 보고서를 발표했습니다. 그러나 전문가들은 이 보고서가 세부 사항이 부족해 모델과 관련된 잠재적 위험을 완전히 이해하기 어렵다고 비판했습니다.
기술 보고서는 AI 세계에서 중요한 역할을 하며, 기업이 일반적으로 공개적으로 공유하지 않을 수 있는, 때로는 불리한 통찰력을 제공합니다. 이러한 보고서는 AI 커뮤니티에서 독립적인 연구를 촉진하고 안전성 평가를 강화하려는 진정한 노력으로 간주됩니다.
구글의 안전성 보고 접근 방식은 일부 경쟁사와 다릅니다. 이 회사는 모델이 "실험적" 단계를 넘어설 때만 기술 보고서를 발표합니다. 또한, 구글은 이러한 보고서에서 특정 "위험한 기능" 평가 결과를 제외하고, 이를 별도의 감사에 보관합니다.
그럼에도 불구하고, 여러 전문가들은 제미나이 2.5 프로 보고서가 구글의 제안된 프론티어 안전 프레임워크(FSF)에 대한 설명이 부족하다고 테크크런치에 실망을 표했습니다. 구글은 지난해 FSF를 공개하며, 미래의 AI 기능이 "심각한 피해"를 초래할 수 있는 지점을 식별하는 것을 목표로 했습니다.
"이 보고서는 매우 빈약하고 최소한의 정보만을 담고 있으며, 모델이 이미 공개된 후 몇 주가 지나서야 발표되었습니다,"라고 AI 정책 및 전략 연구소의 공동 설립자인 피터 윌드포드가 테크크런치에 말했습니다. "구글이 공개적으로 약속한 바를 지키고 있는지 확인할 수 없으며, 따라서 그들의 모델의 안전성과 보안성을 평가하는 것이 불가능합니다."
시큐어 AI 프로젝트의 공동 설립자인 토마스 우드사이드는 제미나이 2.5 프로 보고서의 발표를 인정했지만, 구글이 적시에 보완적인 안전성 평가를 제공하려는 헌신에 의문을 제기했습니다. 그는 구글이 마지막으로 위험한 기능 테스트 결과를 발표한 것이 2024년 6월, 그해 2월에 발표된 모델에 대한 것이라고 언급했습니다.
우려를 더하는 점은, 구글이 지난주 발표한 더 작고 효율적인 모델인 제미나이 2.5 플래시에 대한 보고서를 아직 발표하지 않았다는 것입니다. 대변인은 테크크런치에 플래시에 대한 보고서가 "곧 나올 것"이라고 전했습니다.
"구글이 더 자주 업데이트를 발표하기 시작하겠다는 약속이길 바랍니다,"라고 우드사이드가 테크크런치에 말했습니다. "그 업데이트에는 아직 공개적으로 배포되지 않은 모델에 대한 평가 결과도 포함되어야 합니다. 왜냐하면 그러한 모델도 심각한 위험을 초래할 수 있기 때문입니다."
구글이 모델에 대한 표준화된 보고서를 제안한 최초의 AI 연구소 중 하나였지만, 투명성 부족에 대한 비판을 받는 것은 구글만이 아닙니다. 메타는 새로운 라마 4 오픈 모델에 대해 유사하게 간략한 안전성 평가를 발표했으며, 오픈AI는 GPT-4.1 시리즈에 대해 어떤 보고서도 발표하지 않기로 결정했습니다.
구글이 AI 안전 테스트 및 보고에서 높은 기준을 유지하겠다고 규제 당국에 보장한 것은 상황에 압박을 더합니다. 2년 전, 구글은 미국 정부에 모든 "중요한" 공개 AI 모델에 대해 "범위 내"에서 안전 보고서를 발표하겠다고 약속했으며, 이후 다른 국가들과도 유사한 약속을 하며 AI 제품에 대한 "공공 투명성"을 약속했습니다.
민주주의와 기술 센터의 AI 거버넌스 선임 고문인 케빈 뱅크스턴은 산발적이고 모호한 보고서의 경향을 AI 안전에 있어서 "최저로의 경쟁"이라고 묘사했습니다.
"오픈AI와 같은 경쟁 연구소들이 출시 전 안전 테스트 시간을 몇 달에서 며칠로 줄였다는 보고서와 함께, 구글의 최고 AI 모델에 대한 이 빈약한 문서화는 기업들이 모델을 시장에 서둘러 내놓으면서 AI 안전과 투명성에 있어서 최저로의 경쟁을 벌이고 있다는 우려스러운 이야기를 전합니다,"라고 그는 테크크런치에 말했습니다.
구글은 기술 보고서에 자세히 설명되지 않았지만, 모델 출시 전에 안전 테스트와 "적대적 레드 팀" 활동을 수행한다고 밝혔습니다.
4월 22일 오후 12:58 태평양 시간 업데이트: 구글의 FSF에 대한 기술 보고서의 언급과 관련된 언어를 수정했습니다.
관련 기사
구글, AI 딥페이크를 이용한 사칭 사기 방지를 위해 가짜 전화 감지 기능을 도입했다
구글은 화요일, AI 딥페이크를 이용한 사칭 사기로부터 사용자를 보호하기 위해 안드로이드에 ‘가짜 전화 감지’ 기능을 도입한다고 발표했다. 이 기능은 이번 달부터 픽셀 기기를 시작으로, 안드로이드 12 이상 기기의 ‘Phone by Google’ 앱에 전 세계적으로 순차적으로 적용될 예정이다.사람들이 낯선 번호의 전화를 점점 더 받지 않으려 함에 따라, 사
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
구글, IO 2026에서 오디오 기반 스마트 글래스를 공개하며 메타의 전략을 따라갔다
구글이 스마트 안경 시장에 전략적으로 재진출하고 있다.화요일 열린 구글 I/O 행사에서 이 기술 대기업은 워비 파커(Warby Parker) 및 젠틀 몬스터(Gentle Monster)와 협력해 새로운 AI 지원 안경 시리즈를 출시할 것이라고 발표했다. 삼성과 공동으로 설계된 이 기기들은 안드로이드와 iOS 플랫폼 모두와 원활하게 연동되도록 최적화되었으며,
관련 특별 주제 추천
의견 (6)
0/500
Google's AI safety report sounds like a half-baked cake – looks good but lacks substance. 😕 Why skimp on the details? Transparency matters when stakes are this high.
Der Bericht von Google über Gemini 2.5 Pro ist ein bisschen enttäuschend. Ich hatte mehr Details zu den Sicherheitsbewertungen erwartet, aber es scheint, als würden sie Informationen zurückhalten. Ohne die ganze Geschichte ist es schwer, der KI vollständig zu vertrauen. Vielleicht beim nächsten Mal, Google? 🤔
Google's report on Gemini 2.5 Pro is a bit of a letdown. I was expecting more juicy details about the safety assessments, but it feels like they're holding back. It's hard to trust the AI fully without knowing the full story. Maybe next time, Google? 🤔
O relatório do Google sobre o Gemini 2.5 Pro é um pouco decepcionante. Esperava mais detalhes sobre as avaliações de segurança, mas parece que eles estão escondendo algo. É difícil confiar totalmente na IA sem saber toda a história. Talvez na próxima, Google? 🤔
목요일, 구글이 최신이자 가장 진보된 AI 모델인 제미나이 2.5 프로를 출시한 지 몇 주 만에, 내부 안전성 평가 결과를 자세히 설명한 기술 보고서를 발표했습니다. 그러나 전문가들은 이 보고서가 세부 사항이 부족해 모델과 관련된 잠재적 위험을 완전히 이해하기 어렵다고 비판했습니다.
기술 보고서는 AI 세계에서 중요한 역할을 하며, 기업이 일반적으로 공개적으로 공유하지 않을 수 있는, 때로는 불리한 통찰력을 제공합니다. 이러한 보고서는 AI 커뮤니티에서 독립적인 연구를 촉진하고 안전성 평가를 강화하려는 진정한 노력으로 간주됩니다.
구글의 안전성 보고 접근 방식은 일부 경쟁사와 다릅니다. 이 회사는 모델이 "실험적" 단계를 넘어설 때만 기술 보고서를 발표합니다. 또한, 구글은 이러한 보고서에서 특정 "위험한 기능" 평가 결과를 제외하고, 이를 별도의 감사에 보관합니다.
그럼에도 불구하고, 여러 전문가들은 제미나이 2.5 프로 보고서가 구글의 제안된 프론티어 안전 프레임워크(FSF)에 대한 설명이 부족하다고 테크크런치에 실망을 표했습니다. 구글은 지난해 FSF를 공개하며, 미래의 AI 기능이 "심각한 피해"를 초래할 수 있는 지점을 식별하는 것을 목표로 했습니다.
"이 보고서는 매우 빈약하고 최소한의 정보만을 담고 있으며, 모델이 이미 공개된 후 몇 주가 지나서야 발표되었습니다,"라고 AI 정책 및 전략 연구소의 공동 설립자인 피터 윌드포드가 테크크런치에 말했습니다. "구글이 공개적으로 약속한 바를 지키고 있는지 확인할 수 없으며, 따라서 그들의 모델의 안전성과 보안성을 평가하는 것이 불가능합니다."
시큐어 AI 프로젝트의 공동 설립자인 토마스 우드사이드는 제미나이 2.5 프로 보고서의 발표를 인정했지만, 구글이 적시에 보완적인 안전성 평가를 제공하려는 헌신에 의문을 제기했습니다. 그는 구글이 마지막으로 위험한 기능 테스트 결과를 발표한 것이 2024년 6월, 그해 2월에 발표된 모델에 대한 것이라고 언급했습니다.
우려를 더하는 점은, 구글이 지난주 발표한 더 작고 효율적인 모델인 제미나이 2.5 플래시에 대한 보고서를 아직 발표하지 않았다는 것입니다. 대변인은 테크크런치에 플래시에 대한 보고서가 "곧 나올 것"이라고 전했습니다.
"구글이 더 자주 업데이트를 발표하기 시작하겠다는 약속이길 바랍니다,"라고 우드사이드가 테크크런치에 말했습니다. "그 업데이트에는 아직 공개적으로 배포되지 않은 모델에 대한 평가 결과도 포함되어야 합니다. 왜냐하면 그러한 모델도 심각한 위험을 초래할 수 있기 때문입니다."
구글이 모델에 대한 표준화된 보고서를 제안한 최초의 AI 연구소 중 하나였지만, 투명성 부족에 대한 비판을 받는 것은 구글만이 아닙니다. 메타는 새로운 라마 4 오픈 모델에 대해 유사하게 간략한 안전성 평가를 발표했으며, 오픈AI는 GPT-4.1 시리즈에 대해 어떤 보고서도 발표하지 않기로 결정했습니다.
구글이 AI 안전 테스트 및 보고에서 높은 기준을 유지하겠다고 규제 당국에 보장한 것은 상황에 압박을 더합니다. 2년 전, 구글은 미국 정부에 모든 "중요한" 공개 AI 모델에 대해 "범위 내"에서 안전 보고서를 발표하겠다고 약속했으며, 이후 다른 국가들과도 유사한 약속을 하며 AI 제품에 대한 "공공 투명성"을 약속했습니다.
민주주의와 기술 센터의 AI 거버넌스 선임 고문인 케빈 뱅크스턴은 산발적이고 모호한 보고서의 경향을 AI 안전에 있어서 "최저로의 경쟁"이라고 묘사했습니다.
"오픈AI와 같은 경쟁 연구소들이 출시 전 안전 테스트 시간을 몇 달에서 며칠로 줄였다는 보고서와 함께, 구글의 최고 AI 모델에 대한 이 빈약한 문서화는 기업들이 모델을 시장에 서둘러 내놓으면서 AI 안전과 투명성에 있어서 최저로의 경쟁을 벌이고 있다는 우려스러운 이야기를 전합니다,"라고 그는 테크크런치에 말했습니다.
구글은 기술 보고서에 자세히 설명되지 않았지만, 모델 출시 전에 안전 테스트와 "적대적 레드 팀" 활동을 수행한다고 밝혔습니다.
4월 22일 오후 12:58 태평양 시간 업데이트: 구글의 FSF에 대한 기술 보고서의 언급과 관련된 언어를 수정했습니다.
구글, AI 딥페이크를 이용한 사칭 사기 방지를 위해 가짜 전화 감지 기능을 도입했다
구글은 화요일, AI 딥페이크를 이용한 사칭 사기로부터 사용자를 보호하기 위해 안드로이드에 ‘가짜 전화 감지’ 기능을 도입한다고 발표했다. 이 기능은 이번 달부터 픽셀 기기를 시작으로, 안드로이드 12 이상 기기의 ‘Phone by Google’ 앱에 전 세계적으로 순차적으로 적용될 예정이다.사람들이 낯선 번호의 전화를 점점 더 받지 않으려 함에 따라, 사
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
구글, IO 2026에서 오디오 기반 스마트 글래스를 공개하며 메타의 전략을 따라갔다
구글이 스마트 안경 시장에 전략적으로 재진출하고 있다.화요일 열린 구글 I/O 행사에서 이 기술 대기업은 워비 파커(Warby Parker) 및 젠틀 몬스터(Gentle Monster)와 협력해 새로운 AI 지원 안경 시리즈를 출시할 것이라고 발표했다. 삼성과 공동으로 설계된 이 기기들은 안드로이드와 iOS 플랫폼 모두와 원활하게 연동되도록 최적화되었으며,
Google's AI safety report sounds like a half-baked cake – looks good but lacks substance. 😕 Why skimp on the details? Transparency matters when stakes are this high.
Der Bericht von Google über Gemini 2.5 Pro ist ein bisschen enttäuschend. Ich hatte mehr Details zu den Sicherheitsbewertungen erwartet, aber es scheint, als würden sie Informationen zurückhalten. Ohne die ganze Geschichte ist es schwer, der KI vollständig zu vertrauen. Vielleicht beim nächsten Mal, Google? 🤔
Google's report on Gemini 2.5 Pro is a bit of a letdown. I was expecting more juicy details about the safety assessments, but it feels like they're holding back. It's hard to trust the AI fully without knowing the full story. Maybe next time, Google? 🤔
O relatório do Google sobre o Gemini 2.5 Pro é um pouco decepcionante. Esperava mais detalhes sobre as avaliações de segurança, mas parece que eles estão escondendo algo. É difícil confiar totalmente na IA sem saber toda a história. Talvez na próxima, Google? 🤔





집






