首頁 消息 專家說,Google的最新AI模型報告缺乏關鍵安全細節。

專家說,Google的最新AI模型報告缺乏關鍵安全細節。

2025年04月27日
ChristopherThomas
0

在啟動最新和最先進的AI模型Gemini 2.5 Pro的星期四,Google發布了一份技術報告,詳細介紹了其內部安全評估的結果。但是,專家們批評該報告缺乏細節,使得充分了解與模型相關的潛在風險具有挑戰性。

技術報告在AI世界中至關重要,即使有時不討人喜歡的話,公司通常不會公開共享。 AI社區通常將這些報告視為促進獨立研究並增強安全評估的真正努力。

Google的安全報告方法與其一些競爭對手不同。一旦模型超越“實驗”階段,該公司僅發布技術報告。此外,Google省略了這些報告的某些“危險能力”評估結果,從而將其節省為單獨的審核。

儘管如此,幾位專家對TechCrunch的Gemini 2.5 Pro報告表示失望,指出了其對Google提議的Frontier Safetier Safety Framework(FSF)的覆蓋範圍很少。 Google去年推出了FSF,旨在確定未來可能導致“嚴重傷害”的AI功能。

AI政策與戰略研究所聯合創始人Peter Wildeford告訴TechCrunch:“該報告非常稀疏,包含最少的信息,並在模型已公開後幾週發布。” “不可能驗證Google是否履行其公開承諾,因此無法評估其模型的安全性。”

安全AI項目的聯合創始人托馬斯·伍德賽德(Thomas Woodside)承認發行了Gemini 2.5 Pro的報告,但質疑Google致力於提供及時的補充安全評估。他指出,Google上次發布了危險能力測試,該測試於2024年6月,該模型於當年2月宣布。

除此之外,Google尚未發布有關Gemini 2.5 Flash的報告,Gemini 2.5 Flash是上周宣布的較小,更高效的模型。一位發言人告知TechCrunch,Flash的報告即將發布。

伍德賽德告訴TechCrunch:“我希望這是Google的承諾,可以開始發布更頻繁的更新。” “這些更新應包括尚未公開部署的模型的評估結果,因為這些模型也可能帶來嚴重的風險。”

雖然Google是第一個為模型提出標準化報告的AI實驗室之一,但由於缺乏透明度而面臨批評並不是一個人。 Meta對其新的Llama 4 Open模型發布了類似的簡短安全評估,Openai選擇不發布其GPT-4.1系列的任何報告。

Google對監管機構在AI安全測試中保持高標準的保證和報告給這種情況增加了壓力。兩年前,Google承諾美國政府將發布所有“範圍內”所有“重要“公共AI”模型”的安全報告,然後對其他國家 /地區的類似承諾,承諾圍繞AI產品的“公共透明度”。

民主與技術中心AI治理的高級顧問凱文·班克斯頓(Kevin Bankston)將零星和模糊的報告的趨勢描述為AI安全性的“最底層”。

他告訴TechCrunch:“再加上諸如OpenAI之類的競爭實驗室將其安全性測試時間從幾個月到幾天減少了,這本針對Google頂級AI模型的微不足道的文檔講述了一個令人不安的故事,即當公司將其模型趕到市場上時,AI安全性和透明度的競賽都令人不安。”

Google表示,儘管在其技術報告中沒有詳細介紹,但在發布之前,它仍針對模型進行安全測試和“對抗性紅色團隊”。

在太平洋的下午12:58更新了4/22:圍繞技術報告引用Google FSF的修改語言。

相關文章
Google’s latest AI model report lacks key safety details, experts say Google’s latest AI model report lacks key safety details, experts say On Thursday, weeks after launching its latest and most advanced AI model, Gemini 2.5 Pro, Google released a technical report detailing the results of its internal safety assessments. However, experts have criticized the report for its lack of detail, making it challenging to fully understand the pot
Google Search Introduces 'AI Mode' for Complex, Multi-Part Queries Google Search Introduces 'AI Mode' for Complex, Multi-Part Queries Google Unveils "AI Mode" in Search to Rival Perplexity AI and ChatGPTGoogle is stepping up its game in the AI arena with the launch of an experimental "AI Mode" feature in its Search engine. Aimed at taking on the likes of Perplexity AI and OpenAI's ChatGPT Search, this new mode was announced on Wed
DeepMind CEO Demis Hassabis Announces Future Integration of Google's Gemini and Veo AI Models DeepMind CEO Demis Hassabis Announces Future Integration of Google's Gemini and Veo AI Models In a recent episode of the podcast Possible, co-hosted by LinkedIn co-founder Reid Hoffman, Google DeepMind CEO Demis Hassabis shared some exciting news about Google's plans. He revealed that Google is looking to merge its Gemini AI models with the Veo video-generating models. This fusion aims to en
評論 (0)
0/200
Back to Top
OR