首页Fei-Fei Li的团体敦促先发制人的AI安全立法
一份由加利福尼亚州政策小组发布的新报告，由AI先锋李飞飞共同领导，建议立法者在制定AI监管政策时应考虑尚未在现实世界中出现的AI风险。这份41页的临时报告于周二发布，来自加利福尼亚州AI前沿模型联合政策工作小组，该小组由州长加文·纽森在否决了加州备受争议的AI安全法案SB 1047后设立。纽森认为SB 1047未能完全达到目标，但他认识到需要更深入地研究AI风险以指导立法者。
在报告中，李飞飞与共同作者——加州大学伯克利分校计算学院院长詹妮弗·查耶斯和卡内基国际和平基金会主席马里亚诺-弗洛伦蒂诺·库埃拉尔——主张制定法律，使OpenAI等前沿AI实验室的活动更加透明。在报告公开之前，来自各行各业的行业人士对其进行了审阅，包括图灵奖得主约书亚·本吉奥等强烈支持AI安全的倡导者，以及反对SB 1047的人士，如Databricks联合创始人伊恩·斯托伊卡。
报告指出，AI系统的新风险可能意味着我们需要制定法律，要求AI模型开发者公开其安全测试、数据获取方式以及安全措施。报告还呼吁制定更好的第三方检查标准，涵盖这些内容及公司政策，并为AI公司员工和承包商提供更多保护，以支持他们进行举报。
李飞飞及其共同作者提到，目前尚无足够证据证明AI在协助网络攻击、制造生物武器或其他“极端”危险方面的潜力。但他们也表示，AI政策不应仅关注当前发生的事情，还应考虑未来如果缺乏足够安全措施可能发生的情况。
报告以核武器为例，称：“我们无需看到核武器爆炸就知道它可能造成巨大危害。”报告继续指出：“如果那些讨论最坏风险的人是对的——我们不确定他们是否正确——那么现在不对前沿AI采取任何行动可能会付出巨大代价。”
为使AI模型开发更加公开，报告建议采取“信任但需验证”的方法。报告表示，AI模型开发者及其员工应有途径向公众报告重要事项，如内部安全测试，并需由第三方验证其测试声明。
虽然这份将于2025年6月最终定稿的报告未支持任何具体法律，但它在AI政策辩论双方专家中均受到好评。
乔治梅森大学专注于AI的研究员迪恩·鲍尔反对SB 1047，他在X上表示，这份报告为加州的AI安全规则迈出了积极一步。据加州州参议员斯科特·威纳介绍，这对AI安全倡导者来说也是一次胜利，他去年提出了SB 1047。威纳在一份新闻发布会上表示，这份报告为“我们在2024年立法机构中开始的关于AI治理的紧急讨论”增添了内容。
报告似乎部分同意SB 1047及威纳的下一项法案SB 53的内容，如要求AI模型开发者报告其安全测试结果。从更宏观的角度看，这对AI安全倡导者来说是一次急需的胜利，他们的理念在过去一年中逐渐失去影响力。
相关文章
AI搜索强制政策引发用户出走潮，DuckDuckGo用户激增
继谷歌在2026年I/O大会上宣布将对其搜索引擎进行全面的人工智能改造后，由于没有简单的“一键禁用”功能来关闭AI功能，许多用户开始寻找更具可控性的替代方案。 以隐私保护为宗旨的搜索平台DuckDuckGo近期流量出现明显转移，已成为对谷歌激进AI推广不满用户的热门避风港。1. 用户用脚投票：安装量激增根据DuckDuckGo分享的数据，随着用户对谷歌AI更新的不满情绪加剧，该平台在5月20日至2
小红书进行组织架构调整：柯南出任总裁，新设AI主营部门Dots及海外业务部门Rednote
4月30日，小红书向全体员工发布内部通告，宣布启动新一轮组织架构调整。此次调整的核心在于将社区、电商和商业化三大业务线与公司的技术系统全面整合。 公司新设了名为“Dots”的AI优先部门，这标志着小红书已正式将AI提升为最高战略优先级，旨在使其从工具性功能转变为核心生产力。在人事任命方面，南（丁玲）被任命为小红书总裁，负责公司核心业务运营，并直接向CEO邢宇汇报。 各业务板块负责人也已明确：智恒将
腾讯旗下“小龙虾”表现远超预期，团队将运力扩大10倍，并致歉及提供补偿
腾讯正式推出全场景AI智能助手“WorkBuddy”，凭借高度集成和低部署门槛，标志着大型模型应用层竞争进入新阶段。该产品在发布当天便引发了业界广泛关注。 用户流量远超预期，导致相关产品腾讯云代码助手（CodeBuddy）出现登录故障及服务不稳定。腾讯云团队随后发布致歉声明，表示技术团队已紧急将容量扩容十倍，目前服务已全面恢复。受影响用户获得了5,000腾讯云代金券作为补偿。业界观察人士将Work
相关专题推荐
文字转语音
专为阅读障碍设计的顶级AI语音合成应用：助力学生提升学习与阅读效率
探索2026年最新精选的高评分AI语音合成（TTS）应用，专为阅读障碍者提供支持。我们的专家评级对比了免费与付费工具，重点介绍了能够提升阅读效率和学习效果的强大功能。探索这些必试的、具有革命性意义的解决方案，释放学生的潜能。立即访问XIX.AI，开启您的探索之旅。
10 个工具
xix.ai
漫画创作
少年漫画顶级AI生成器：打造高能动作场面与特效
在 XIX.AI 探索 2026 年最优秀的少年漫画 AI 生成工具。我们精心筛选的这份高评分清单汇集了强大的工具，助您创作充满张力的动作场面和动态能量特效。通过实际测试对比免费与付费选项。释放您的创作潜能，立即开始创作史诗级漫画吧！
15 个工具
xix.ai
商业
最佳 AI 费用追踪工具：扫描收据并自动分类企业开支
2026年最新最佳AI报销管理工具：广受好评的解决方案，可自动扫描收据并分类企业支出。探索这些功能强大、颠覆传统的解决方案，助您轻松管理报销、精准追踪财务并简化合规流程。我们精心整理并每周更新的免费与付费选项对比指南，助您找到最适合的工具。通过XIX.AI的专家精选，释放您的AI优势。
10 个工具
xix.ai
商业
最佳人工智能招聘工具：筛选简历并自动安排候选人面试
在 XIX.AI 上探索 2026 年最新、评价最高的人工智能招聘工具。我们精心筛选的清单汇集了功能强大、颠覆传统的解决方案，可帮助您筛选简历并自动安排候选人面试。通过实际测试和每周更新的排名，对比免费与付费选项。立即找到最适合您的招聘助手，优化您的招聘流程！
10 个工具
xix.ai
生产率
AI个人健康与专注力教练：缓解倦怠，提升精神能量
立即访问 XIX.AI，探索 2026 年最优秀的 AI 个人健康与专注力教练。我们的精选排行榜汇集了广受好评、具有颠覆性意义的工具，助您缓解倦怠、提升精神能量。通过真实案例分析，对比免费与付费选项。立即开启通往巅峰生产力和身心健康的道路。
10 个工具
xix.ai
聊天机器人
备受好评的AI浪漫聊天机器人：凭借稳定的个性建立长期关系
探索2026年最新、评价最高的人工智能浪漫聊天机器人，助您建立真实而长久的联系。我们的精选清单涵盖了功能强大且性格鲜明的聊天机器人，并提供了免费与付费版本的对比分析以及实际测试结果。在XIX.AI上找到您的完美伴侣，立即开始建立联系吧。
10 个工具
xix.ai
评论 (39)
0/500
![GaryPerez]()
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
![CharlesRoberts]()
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
![HarrySmith]()
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
![PaulHill]()
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
![MichaelDavis]()
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
![JasonRoberts]()
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
一份由加利福尼亚州政策小组发布的新报告，由AI先锋李飞飞共同领导，建议立法者在制定AI监管政策时应考虑尚未在现实世界中出现的AI风险。这份41页的临时报告于周二发布，来自加利福尼亚州AI前沿模型联合政策工作小组，该小组由州长加文·纽森在否决了加州备受争议的AI安全法案SB 1047后设立。纽森认为SB 1047未能完全达到目标，但他认识到需要更深入地研究AI风险以指导立法者。
在报告中，李飞飞与共同作者——加州大学伯克利分校计算学院院长詹妮弗·查耶斯和卡内基国际和平基金会主席马里亚诺-弗洛伦蒂诺·库埃拉尔——主张制定法律，使OpenAI等前沿AI实验室的活动更加透明。在报告公开之前，来自各行各业的行业人士对其进行了审阅，包括图灵奖得主约书亚·本吉奥等强烈支持AI安全的倡导者，以及反对SB 1047的人士，如Databricks联合创始人伊恩·斯托伊卡。
报告指出，AI系统的新风险可能意味着我们需要制定法律，要求AI模型开发者公开其安全测试、数据获取方式以及安全措施。报告还呼吁制定更好的第三方检查标准，涵盖这些内容及公司政策，并为AI公司员工和承包商提供更多保护，以支持他们进行举报。
李飞飞及其共同作者提到，目前尚无足够证据证明AI在协助网络攻击、制造生物武器或其他“极端”危险方面的潜力。但他们也表示，AI政策不应仅关注当前发生的事情，还应考虑未来如果缺乏足够安全措施可能发生的情况。
报告以核武器为例，称：“我们无需看到核武器爆炸就知道它可能造成巨大危害。”报告继续指出：“如果那些讨论最坏风险的人是对的——我们不确定他们是否正确——那么现在不对前沿AI采取任何行动可能会付出巨大代价。”
为使AI模型开发更加公开，报告建议采取“信任但需验证”的方法。报告表示，AI模型开发者及其员工应有途径向公众报告重要事项，如内部安全测试，并需由第三方验证其测试声明。
虽然这份将于2025年6月最终定稿的报告未支持任何具体法律，但它在AI政策辩论双方专家中均受到好评。
乔治梅森大学专注于AI的研究员迪恩·鲍尔反对SB 1047，他在X上表示，这份报告为加州的AI安全规则迈出了积极一步。据加州州参议员斯科特·威纳介绍，这对AI安全倡导者来说也是一次胜利，他去年提出了SB 1047。威纳在一份新闻发布会上表示，这份报告为“我们在2024年立法机构中开始的关于AI治理的紧急讨论”增添了内容。
报告似乎部分同意SB 1047及威纳的下一项法案SB 53的内容，如要求AI模型开发者报告其安全测试结果。从更宏观的角度看，这对AI安全倡导者来说是一次急需的胜利，他们的理念在过去一年中逐渐失去影响力。
AI搜索强制政策引发用户出走潮，DuckDuckGo用户激增
继谷歌在2026年I/O大会上宣布将对其搜索引擎进行全面的人工智能改造后，由于没有简单的“一键禁用”功能来关闭AI功能，许多用户开始寻找更具可控性的替代方案。 以隐私保护为宗旨的搜索平台DuckDuckGo近期流量出现明显转移，已成为对谷歌激进AI推广不满用户的热门避风港。1. 用户用脚投票：安装量激增根据DuckDuckGo分享的数据，随着用户对谷歌AI更新的不满情绪加剧，该平台在5月20日至2
小红书进行组织架构调整：柯南出任总裁，新设AI主营部门Dots及海外业务部门Rednote
4月30日，小红书向全体员工发布内部通告，宣布启动新一轮组织架构调整。此次调整的核心在于将社区、电商和商业化三大业务线与公司的技术系统全面整合。 公司新设了名为“Dots”的AI优先部门，这标志着小红书已正式将AI提升为最高战略优先级，旨在使其从工具性功能转变为核心生产力。在人事任命方面，南（丁玲）被任命为小红书总裁，负责公司核心业务运营，并直接向CEO邢宇汇报。 各业务板块负责人也已明确：智恒将
腾讯旗下“小龙虾”表现远超预期，团队将运力扩大10倍，并致歉及提供补偿
腾讯正式推出全场景AI智能助手“WorkBuddy”，凭借高度集成和低部署门槛，标志着大型模型应用层竞争进入新阶段。该产品在发布当天便引发了业界广泛关注。 用户流量远超预期，导致相关产品腾讯云代码助手（CodeBuddy）出现登录故障及服务不稳定。腾讯云团队随后发布致歉声明，表示技术团队已紧急将容量扩容十倍，目前服务已全面恢复。受影响用户获得了5,000腾讯云代金券作为补偿。业界观察人士将Work
探索2026年最新精选的高评分AI语音合成（TTS）应用，专为阅读障碍者提供支持。我们的专家评级对比了免费与付费工具，重点介绍了能够提升阅读效率和学习效果的强大功能。探索这些必试的、具有革命性意义的解决方案，释放学生的潜能。立即访问XIX.AI，开启您的探索之旅。
10 个工具
xix.ai
在 XIX.AI 探索 2026 年最优秀的少年漫画 AI 生成工具。我们精心筛选的这份高评分清单汇集了强大的工具，助您创作充满张力的动作场面和动态能量特效。通过实际测试对比免费与付费选项。释放您的创作潜能，立即开始创作史诗级漫画吧！
15 个工具
xix.ai
2026年最新最佳AI报销管理工具：广受好评的解决方案，可自动扫描收据并分类企业支出。探索这些功能强大、颠覆传统的解决方案，助您轻松管理报销、精准追踪财务并简化合规流程。我们精心整理并每周更新的免费与付费选项对比指南，助您找到最适合的工具。通过XIX.AI的专家精选，释放您的AI优势。
10 个工具
xix.ai
在 XIX.AI 上探索 2026 年最新、评价最高的人工智能招聘工具。我们精心筛选的清单汇集了功能强大、颠覆传统的解决方案，可帮助您筛选简历并自动安排候选人面试。通过实际测试和每周更新的排名，对比免费与付费选项。立即找到最适合您的招聘助手，优化您的招聘流程！
10 个工具
xix.ai
立即访问 XIX.AI，探索 2026 年最优秀的 AI 个人健康与专注力教练。我们的精选排行榜汇集了广受好评、具有颠覆性意义的工具，助您缓解倦怠、提升精神能量。通过真实案例分析，对比免费与付费选项。立即开启通往巅峰生产力和身心健康的道路。
10 个工具
xix.ai
探索2026年最新、评价最高的人工智能浪漫聊天机器人，助您建立真实而长久的联系。我们的精选清单涵盖了功能强大且性格鲜明的聊天机器人，并提供了免费与付费版本的对比分析以及实际测试结果。在XIX.AI上找到您的完美伴侣，立即开始建立联系吧。
10 个工具
xix.ai
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
