首頁Fei-Fei Li的團體敦促先發製人的AI安全立法
一份由加州政策小組發布的新報告，由AI先驅李飛飛共同領導，建議立法者在制定AI監管政策時，應考慮尚未在現實世界中出現的AI風險。這份41頁的臨時報告於週二發布，來自加州AI前沿模型聯合政策工作小組，該小組由州長加文·紐森在否決加州備受爭議的AI安全法案SB 1047後設立。紐森認為SB 1047未能完全達到目標，但他認識到需要深入研究AI風險以指導立法者。
在報告中，李飛飛與共同作者——加州大學伯克利分校計算學院院長Jennifer Chayes和卡內基國際和平基金會主席Mariano-Florentino Cuéllar——推動制定法律，使像OpenAI這樣的前沿AI實驗室的工作更加透明。在報告公開前，來自各行各業的業界人士進行了審查，包括支持AI安全的圖靈獎得主Yoshua Bengio，以及反對SB 1047的Databricks共同創始人Ion Stoica。
報告指出，AI系統的新風險可能意味著需要制定法律，要求AI模型開發者公開其安全測試、數據獲取方式和安全措施。報告還呼籲制定更好的第三方檢查標準，涵蓋這些內容以及公司政策，並為AI公司員工和承包商提供更多吹哨者保護。
李飛飛及其共同作者提到，目前還沒有足夠證據證明AI在協助網絡攻擊、製造生物武器或引發其他“極端”危險方面的潛力。但他們也表示，AI政策不應僅處理當前發生的事情，還應考慮如果缺乏足夠安全措施，未來可能發生的情況。
報告以核武器為例，說道：“我們不需要看到核武器爆炸就知道它可能造成巨大傷害。”報告繼續說道：“如果那些談論最壞風險的人是對的——我們不確定他們是否正確——那麼現在不對前沿AI採取任何行動可能代價高昂。”
為了使AI模型開發更加公開，報告建議採取“信任但需驗證”的方法。它表示，AI模型開發者及其員工應有途徑報告對公眾重要的事項，如內部安全測試，並且必須由第三方驗證其測試聲明。
這份報告將於2025年6月最終定稿，雖然未支持任何具體法律，但已獲得AI政策辯論雙方專家的好評。
喬治梅森大學專注於AI的研究員Dean Ball反對SB 1047，他在X上表示，這份報告是加州AI安全規則的積極進展。根據加州參議員Scott Wiener的說法，這也是AI安全倡導者的勝利，Wiener去年提出了SB 1047。他在一份新聞稿中表示，這份報告為“我們在2024年立法機構中開始的AI治理緊急討論”增添了內容。
報告似乎同意SB 1047及Wiener的下一項法案SB 53的部分內容，如要求AI模型開發者報告其安全測試結果。從更廣泛的角度看，這對AI安全人士來說是一個急需的勝利，他們的想法在過去一年中一直在失去支持。
相關文章
全新榮威i6以65.9萬人民幣上市，搭載高通驍龍8155處理器與「斗寶」大模型
上汽榮威今日推出全新榮威i6，這款緊湊型轎車全面採用了榮威D7的設計語言。其獨特的大型直立式水箱護罩與橫向環形燈帶貫穿車頭，營造出強烈的科技感與視覺寬度。 車尾部分，上翹的鴨尾式尾翼與全寬尾燈相得益彰，賦予整車更顯活力的年輕氣息。全新榮威i6車身長4767毫米、寬1828毫米、高1498毫米，軸距為2755毫米。 得益於寬敞的車內空間，它躋身A+級轎車之列，在後排頭部空間與膝部空間方面具備顯著優
如何保護資產、建築物及個人健康？
在這個充滿變數的世界裡，保障已不再僅是選項，而是戰略上的必要之舉。無論是守護財務、強化建築結構，還是關注個人健康，長期的穩定都仰賴於主動規劃。真正的安全是多層次的，取決於財務管理、結構韌性與明智的健康意識三者相輔相成。守護最重要的事物，意味著必須未雨綢繆，而非僅在損害發生後才做出反應。財務保障：第一道防線每個人與每家企業都運作於財務架構之中。收入、支出、負債與投資構成了穩定的基石。若缺乏有條不紊的
AI 瀏覽器 Comet 正式上線，在 iPad 上全面支援多工處理
Perplexity 的 AI 瀏覽器 Comet 已正式推出 iPad 版本，現已全面相容於 iPadOS。此次更新導入多視窗瀏覽功能、多工處理支援，並與 OpenAI 和 Anthropic 等頂尖 AI 模型深度整合，帶來更智能的網路體驗。Comet 瀏覽器拓展了使用者探索網路及與 AI 聊天機器人互動的方式，提供直觀的管道存取 OpenAI 和 Anthropic 等頂尖 AI 模型，以進
相關專題推薦
商業
頂尖 AI 定價優化軟體：追蹤競爭對手並自動調整商店價格
立即在 XIX.AI 探索 2026 年最佳 AI 定價優化軟體。我們精心挑選的清單收錄了備受好評、能徹底改變遊戲規則的工具，這些工具不僅能追蹤競爭對手，還能自動調整您的商店價格，以實現利潤最大化。透過實際測試，比較免費與付費方案的差異。立即掌握您的定價優勢。
10 個工具
xix.ai
代碼
最佳 AI 程式碼審查工具：自動化確保程式碼整潔度，並重構舊版儲存庫檔案
立即在 XIX.AI 探索 2026 年最佳 AI 程式碼審查工具。我們精心挑選的清單收錄了備受好評、能徹底改變遊戲規則的工具，可自動確保程式碼符合規範，並重構舊版儲存庫檔案。透過實際測試與每週更新的排行榜，比較免費與付費選項。立即掌握您的 AI 競爭優勢。
10 個工具
xix.ai
文字轉語音
專為閱讀障礙設計的頂尖 AI 語音合成應用程式：協助學生提升學習與閱讀效率
探索 2026 年最新精選、專為閱讀障礙者設計的頂級 AI 語音合成（TTS）應用程式。我們的專家評比將免費與付費工具進行對照，重點介紹能提升閱讀效率與學習成效的強大功能。發掘這些必試且能帶來革命性改變的解決方案，釋放學生的潛能。立即前往 XIX.AI 展開您的探索之旅。
10 個工具
xix.ai
漫畫創作
少年漫畫頂尖 AI 生成器：打造高張力動作場面與能量特效
立即前往 XIX.AI，探索 2026 年最優秀的少年漫畫 AI 生成工具。我們精心挑選的頂級清單，匯集了能打造高張力動作場面與動態能量特效的強大工具。透過實際測試，比較免費與付費選項的差異。釋放您的創作潛能，今天就開始打造史詩級漫畫吧！
15 個工具
xix.ai
商業
最佳 AI 支出追蹤工具：掃描收據並自動分類公司開支
2026 年最新最佳 AI 報銷管理工具：備受好評的解決方案，可自動掃描收據並分類企業支出。探索強大且顛覆傳統的解決方案，助您輕鬆管理報銷、精準追蹤財務，並簡化合規流程。我們精心整理並每週更新的免費與付費方案比較指南，將協助您找到最合適的選擇。透過 XIX.AI 的專家精選，釋放您的 AI 優勢。
10 個工具
xix.ai
商業
最佳 AI 招聘工具：篩選履歷與自動化安排候選人面試
在 XIX.AI 探索 2026 年最新且評價最高的 AI 招聘工具。我們精心挑選的清單收錄了強大且具顛覆性的解決方案，可協助篩選履歷並自動化安排候選人面試。透過實際測試與每週更新的排行榜，比較免費與付費選項。立即找到最適合您的招聘助手，並優化您的招聘流程！
10 個工具
xix.ai
評論 (39)
0/500
![GaryPerez]()
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
![CharlesRoberts]()
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
![HarrySmith]()
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
![PaulHill]()
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
![MichaelDavis]()
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
![JasonRoberts]()
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
一份由加州政策小組發布的新報告，由AI先驅李飛飛共同領導，建議立法者在制定AI監管政策時，應考慮尚未在現實世界中出現的AI風險。這份41頁的臨時報告於週二發布，來自加州AI前沿模型聯合政策工作小組，該小組由州長加文·紐森在否決加州備受爭議的AI安全法案SB 1047後設立。紐森認為SB 1047未能完全達到目標，但他認識到需要深入研究AI風險以指導立法者。
在報告中，李飛飛與共同作者——加州大學伯克利分校計算學院院長Jennifer Chayes和卡內基國際和平基金會主席Mariano-Florentino Cuéllar——推動制定法律，使像OpenAI這樣的前沿AI實驗室的工作更加透明。在報告公開前，來自各行各業的業界人士進行了審查，包括支持AI安全的圖靈獎得主Yoshua Bengio，以及反對SB 1047的Databricks共同創始人Ion Stoica。
報告指出，AI系統的新風險可能意味著需要制定法律，要求AI模型開發者公開其安全測試、數據獲取方式和安全措施。報告還呼籲制定更好的第三方檢查標準，涵蓋這些內容以及公司政策，並為AI公司員工和承包商提供更多吹哨者保護。
李飛飛及其共同作者提到，目前還沒有足夠證據證明AI在協助網絡攻擊、製造生物武器或引發其他“極端”危險方面的潛力。但他們也表示，AI政策不應僅處理當前發生的事情，還應考慮如果缺乏足夠安全措施，未來可能發生的情況。
報告以核武器為例，說道：“我們不需要看到核武器爆炸就知道它可能造成巨大傷害。”報告繼續說道：“如果那些談論最壞風險的人是對的——我們不確定他們是否正確——那麼現在不對前沿AI採取任何行動可能代價高昂。”
為了使AI模型開發更加公開，報告建議採取“信任但需驗證”的方法。它表示，AI模型開發者及其員工應有途徑報告對公眾重要的事項，如內部安全測試，並且必須由第三方驗證其測試聲明。
這份報告將於2025年6月最終定稿，雖然未支持任何具體法律，但已獲得AI政策辯論雙方專家的好評。
喬治梅森大學專注於AI的研究員Dean Ball反對SB 1047，他在X上表示，這份報告是加州AI安全規則的積極進展。根據加州參議員Scott Wiener的說法，這也是AI安全倡導者的勝利，Wiener去年提出了SB 1047。他在一份新聞稿中表示，這份報告為“我們在2024年立法機構中開始的AI治理緊急討論”增添了內容。
報告似乎同意SB 1047及Wiener的下一項法案SB 53的部分內容，如要求AI模型開發者報告其安全測試結果。從更廣泛的角度看，這對AI安全人士來說是一個急需的勝利，他們的想法在過去一年中一直在失去支持。
全新榮威i6以65.9萬人民幣上市，搭載高通驍龍8155處理器與「斗寶」大模型
上汽榮威今日推出全新榮威i6，這款緊湊型轎車全面採用了榮威D7的設計語言。其獨特的大型直立式水箱護罩與橫向環形燈帶貫穿車頭，營造出強烈的科技感與視覺寬度。 車尾部分，上翹的鴨尾式尾翼與全寬尾燈相得益彰，賦予整車更顯活力的年輕氣息。全新榮威i6車身長4767毫米、寬1828毫米、高1498毫米，軸距為2755毫米。 得益於寬敞的車內空間，它躋身A+級轎車之列，在後排頭部空間與膝部空間方面具備顯著優
如何保護資產、建築物及個人健康？
在這個充滿變數的世界裡，保障已不再僅是選項，而是戰略上的必要之舉。無論是守護財務、強化建築結構，還是關注個人健康，長期的穩定都仰賴於主動規劃。真正的安全是多層次的，取決於財務管理、結構韌性與明智的健康意識三者相輔相成。守護最重要的事物，意味著必須未雨綢繆，而非僅在損害發生後才做出反應。財務保障：第一道防線每個人與每家企業都運作於財務架構之中。收入、支出、負債與投資構成了穩定的基石。若缺乏有條不紊的
AI 瀏覽器 Comet 正式上線，在 iPad 上全面支援多工處理
Perplexity 的 AI 瀏覽器 Comet 已正式推出 iPad 版本，現已全面相容於 iPadOS。此次更新導入多視窗瀏覽功能、多工處理支援，並與 OpenAI 和 Anthropic 等頂尖 AI 模型深度整合，帶來更智能的網路體驗。Comet 瀏覽器拓展了使用者探索網路及與 AI 聊天機器人互動的方式，提供直觀的管道存取 OpenAI 和 Anthropic 等頂尖 AI 模型，以進
立即在 XIX.AI 探索 2026 年最佳 AI 定價優化軟體。我們精心挑選的清單收錄了備受好評、能徹底改變遊戲規則的工具，這些工具不僅能追蹤競爭對手，還能自動調整您的商店價格，以實現利潤最大化。透過實際測試，比較免費與付費方案的差異。立即掌握您的定價優勢。
10 個工具
xix.ai
立即在 XIX.AI 探索 2026 年最佳 AI 程式碼審查工具。我們精心挑選的清單收錄了備受好評、能徹底改變遊戲規則的工具，可自動確保程式碼符合規範，並重構舊版儲存庫檔案。透過實際測試與每週更新的排行榜，比較免費與付費選項。立即掌握您的 AI 競爭優勢。
10 個工具
xix.ai
探索 2026 年最新精選、專為閱讀障礙者設計的頂級 AI 語音合成（TTS）應用程式。我們的專家評比將免費與付費工具進行對照，重點介紹能提升閱讀效率與學習成效的強大功能。發掘這些必試且能帶來革命性改變的解決方案，釋放學生的潛能。立即前往 XIX.AI 展開您的探索之旅。
10 個工具
xix.ai
立即前往 XIX.AI，探索 2026 年最優秀的少年漫畫 AI 生成工具。我們精心挑選的頂級清單，匯集了能打造高張力動作場面與動態能量特效的強大工具。透過實際測試，比較免費與付費選項的差異。釋放您的創作潛能，今天就開始打造史詩級漫畫吧！
15 個工具
xix.ai
2026 年最新最佳 AI 報銷管理工具：備受好評的解決方案，可自動掃描收據並分類企業支出。探索強大且顛覆傳統的解決方案，助您輕鬆管理報銷、精準追蹤財務，並簡化合規流程。我們精心整理並每週更新的免費與付費方案比較指南，將協助您找到最合適的選擇。透過 XIX.AI 的專家精選，釋放您的 AI 優勢。
10 個工具
xix.ai
在 XIX.AI 探索 2026 年最新且評價最高的 AI 招聘工具。我們精心挑選的清單收錄了強大且具顛覆性的解決方案，可協助篩選履歷並自動化安排候選人面試。透過實際測試與每週更新的排行榜，比較免費與付費選項。立即找到最適合您的招聘助手，並優化您的招聘流程！
10 個工具
xix.ai
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
