选项
首页
新闻
专家说,Google的最新AI模型报告缺乏关键安全细节。

专家说,Google的最新AI模型报告缺乏关键安全细节。

2025-04-28
58

在启动最新和最先进的AI模型Gemini 2.5 Pro的星期四,Google发布了一份技术报告,详细介绍了其内部安全评估的结果。但是,专家们批评该报告缺乏细节,使得充分了解与模型相关的潜在风险具有挑战性。

技术报告在AI世界中至关重要,即使有时不讨人喜欢的话,公司通常不会公开共享。 AI社区通常将这些报告视为促进独立研究并增强安全评估的真正努力。

Google的安全报告方法与其一些竞争对手不同。一旦模型超越“实验”阶段,该公司仅发布技术报告。此外,Google省略了这些报告的某些“危险能力”评估结果,从而将其节省为单独的审核。

尽管如此,几位专家对TechCrunch的Gemini 2.5 Pro报告表示失望,指出了其对Google提议的Frontier Safetier Safety Framework(FSF)的覆盖范围很少。 Google去年推出了FSF,旨在确定未来可能导致“严重伤害”的AI功能。

AI政策与战略研究所联合创始人Peter Wildeford告诉TechCrunch:“该报告非常稀疏,包含最少的信息,并在模型已公开后几周发布。” “不可能验证Google是否履行其公开承诺,因此无法评估其模型的安全性。”

安全AI项目的联合创始人托马斯·伍德赛德(Thomas Woodside)承认发行了Gemini 2.5 Pro的报告,但质疑Google致力于提供及时的补充安全评估。他指出,Google上次发布了危险能力测试,该测试于2024年6月,该模型于当年2月宣布。

除此之外,Google尚未发布有关Gemini 2.5 Flash的报告,Gemini 2.5 Flash是上周宣布的较小,更高效的模型。一位发言人告知TechCrunch,Flash的报告即将发布。

伍德赛德告诉TechCrunch:“我希望这是Google的承诺,可以开始发布更频繁的更新。” “这些更新应包括尚未公开部署的模型的评估结果,因为这些模型也可能带来严重的风险。”

虽然Google是第一个为模型提出标准化报告的AI实验室之一,但由于缺乏透明度而面临批评并不是一个人。 Meta对其新的Llama 4 Open模型发布了类似的简短安全评估,Openai选择不发布其GPT-4.1系列的任何报告。

Google对监管机构在AI安全测试中保持高标准的保证和报告给这种情况增加了压力。两年前,Google承诺美国政府将发布所有“范围内”所有“重要“公共AI”模型”的安全报告,然后对其他国家 /地区的类似承诺,承诺围绕AI产品的“公共透明度”。

民主与技术中心AI治理的高级顾问凯文·班克斯顿(Kevin Bankston)将零星和模糊的报告的趋势描述为AI安全性的“最底层”。

他告诉TechCrunch:“再加上诸如OpenAI之类的竞争实验室将其安全性测试时间从几个月到几天减少了,这本针对Google顶级AI模型的微不足道的文档讲述了一个令人不安的故事,即当公司将其模型赶到市场上时,AI安全性和透明度的竞赛都令人不安。”

Google表示,尽管在其技术报告中没有详细介绍,但在发布之前,它仍针对模型进行安全测试和“对抗性红色团队”。

在太平洋的下午12:58更新了4/22:围绕技术报告引用Google FSF的修改语言。

相关文章
Imagen 4:谷歌最新AI圖像生成器 Imagen 4:谷歌最新AI圖像生成器 Google近日發表最新圖像生成AI模型「Imagen 4」,宣稱將為用戶帶來比前代Imagen 3更出色的視覺體驗。本週稍早在Google I/O 2025大會亮相的這款新模型,被譽為在畫質與多樣性方面取得重大突破。Google表示,Imagen 4特別擅長處理織物質感、水珠反光與動物毛髮等精細紋理,同時能輕鬆駕馭寫實與抽象風格。其輸出解析度最高可達2K,
谷歌Gemini代碼助手強化AI編程代理功能 谷歌Gemini代碼助手強化AI編程代理功能 Google旗下AI程式開發助手Gemini Code Assist近期推出全新「代理模式」功能,目前開放預覽體驗。在最新Cloud Next大會上,Google展示這些AI代理如何突破性處理複雜編程任務——從Google文件規格書直接生成完整應用程式,或輕鬆實現跨語言程式碼轉換。更令人驚豔的是,開發者現可在Android Studio等整合開發環境中直接啟
谷歌的人工智慧未來基金可能需要謹慎行事 谷歌的人工智慧未來基金可能需要謹慎行事 Google 的新 AI 投資計劃:監管審查下的戰略轉變Google 最近宣布設立 AI 未來基金(AI Futures Fund),這標誌著這家科技巨頭在其塑造人工智慧未來的征程中邁出了大膽的一步。該計劃旨在為初創公司提供急需的資金、早期接觸仍在開發中的尖端人工智慧模型,以及來自 Google 內部專家的指導。儘管這不是 Google 第一次涉足初創企業生
评论 (5)
0/200
AlbertWalker
AlbertWalker 2025-04-29 08:00:00

Google's report on Gemini 2.5 Pro is a bit of a letdown. I was expecting more juicy details about the safety assessments, but it feels like they're holding back. It's hard to trust the AI fully without knowing the full story. Maybe next time, Google? 🤔

CharlesThomas
CharlesThomas 2025-04-29 08:00:00

ジェミニ2.5プロのレポート、ちょっとがっかりですね。安全評価の詳細をもっと知りたかったのに、情報が少なすぎる。AIを完全に信頼するのは難しいです。次回はもっと詳しくお願いします!😅

BillyThomas
BillyThomas 2025-04-28 08:00:00

El informe de Google sobre Gemini 2.5 Pro es decepcionante. Esperaba más detalles sobre las evaluaciones de seguridad, pero parece que están ocultando información. Es difícil confiar en la IA sin conocer toda la historia. ¿Tal vez la próxima vez, Google? 🤔

JimmyGarcia
JimmyGarcia 2025-04-29 08:00:00

O relatório do Google sobre o Gemini 2.5 Pro é um pouco decepcionante. Esperava mais detalhes sobre as avaliações de segurança, mas parece que eles estão escondendo algo. É difícil confiar totalmente na IA sem saber toda a história. Talvez na próxima, Google? 🤔

WalterKing
WalterKing 2025-04-29 08:00:00

Der Bericht von Google über Gemini 2.5 Pro ist ein bisschen enttäuschend. Ich hatte mehr Details zu den Sicherheitsbewertungen erwartet, aber es scheint, als würden sie Informationen zurückhalten. Ohne die ganze Geschichte ist es schwer, der KI vollständig zu vertrauen. Vielleicht beim nächsten Mal, Google? 🤔

返回顶部
OR