Anthropic、OpenAI 和 Google 正在秘密洽谈,以成立人工智能安全标准机构
据行业消息人士称,在上周六 Anthropic 首席执行官达里奥·阿莫迪(Dario Amodei)呼吁 AI 公司合作进行技术测试和审计之前,Anthropic、OpenAI 和 Google 已经启动了关于成立 AI 行业标准机构的讨论。
内部人士透露,自七月份以来,这三家公司的代表在首席执行官级别以下组建了一个工作组,并定期举行会议。本周早些时候,OpenAI 首席执行官山姆·阿尔特曼(Sam Altman)在一次全员会议上表示,他支持建立一个独立的 AI 测试和审计机构,他认为主要实验室必须在没有美国政府参与的情况下制定此类标准。尽管他最初倾向于政府支持,但目前行业共识尚不充分,部分公司反对这一举措。
关于三种监管模式的辩论:联邦航空管理局、金融监管局还是行业自律
上周六,阿莫迪发表了一篇题为“我们必须放慢前沿发展的步伐”的博客文章,呼吁减缓 AI 发展速度并建立独立的监督机制,其中行业自律是核心组成部分。他建议,在政府起草 AI 法规的同时,企业应首先采用自愿安全标准,政府可能会主导或调解行业对话。他还呼吁全球领先企业向外部评估机构(如 METR)开放与内部员工同等水平的技术访问权限,并承诺 Anthropic 将是首家这样做的人。此外,他主张给予有限的反垄断豁免,以促进安全合作。
最近卸任 Google DeepMind 首席执行官的德米斯·哈萨比斯(Demis Hassabis)将该提案描述为朝着正确方向迈出的一步,但他指出某些细节“仍需完善”。今年七月,他曾建议创建一个类似于美国金融业监管局(FINRA)的 AI 自律组织。SpaceX 首席执行官埃隆·马斯克也表示支持。据《The Information》之前的报道,白宫曾分发一份提议建立该监管机构的行政命令草案,但在夏末未能获得足够的政府支持,导致相关努力停滞。前白宫 AI 主任戴维·萨克斯(David Sacks)公开反对建立类似 FINRA 的机构。
反弹:批评者称其为“卡特尔的设计”
该提案在行业内遭到了强烈批评。Cohere 首席执行官艾登·戈麦斯(Aiden Gomez)表示担忧,认为大型 AI 公司可能会联合制定规则以限制较小的竞争对手,他表示:“这个想法听起来完全像是卡特尔的设计。”萨克斯质疑放缓发展是否纯粹出于利他主义,他认为产品责任风险已经提供了防止伤害的经济激励。
据内部人士透露,这三家公司关于该行业主导的标准组织的工作组会议仍在继续,最近一次会议就在上周举行。Meta 的立场仍不清楚;其首席 AI 官亚历山大·王(Alexander Wang)在 X 上发帖称“对齐是构建面向所有人的个人超级智能的基础”,并未明确支持或反对阿莫迪更广泛的提案。
相关文章
OpenAI 成立专项工作组调查 Codex 异常使用情况
OpenAI 在收到用户关于 Codex 配额使用异常的举报后,已成立专门的调查团队。付费 ChatGPT 订阅用户报告称,每周配额出现急剧下降,余额甚至在使用量极低的时期也迅速从 96% 降至零。Codex 产品经理 Tibo Sottiaux 对此问题作出回应,确认应急团队已于上周日开始审查后端日志。为减轻对用户的影响,OpenAI 执行了第二次全球配额重置。此前于 6 月 27 日进行的重置未能完全解决问题,工程师们目前正在努力查明根本原因。此次配额异常已扰乱了开发人员和付费订阅用户的
法国兴业银行押注人工智能,旨在将成本削减高达6亿欧元
彭博社报道,法国兴业银行(Société Générale SA)预计,人工智能日益扩大的作用将显著推动成本削减举措。这家总部位于巴黎的机构估计,当前由人工智能驱动的成本节约潜力在5亿欧元至6亿欧元之间(约合38.47亿至46.16亿元人民币)。到2029年,计划并实施的措施预计将产生约3.5亿欧元(约合26.93亿元人民币)的节约。与Anthropic的战略合作及分阶段整合Claude法国兴业银行强调了其与美国人工智能领军企业Anthropic的战略联盟,重点在于稳步推进其Claude大
如何创建免费的AI对话虚拟形象
大师级 Roblox 头像定制:受 Karl Jacobs 启发的指南简介提升你的头像导航头像编辑器浏览流行造型定制你的角色搜索与筛选工具利用搜索功能按热度筛选高级角色皮肤Mr. Beast 皮肤Ninja 皮肤Builder Man 皮肤配饰与细节独立物品完善 Sapnap 的造型动画与手势激活表情动作KSI 的标志性动作高级造型与姿势颜色定制使用姿势编辑器摄影棚与回忆访问摄影棚记录关键时刻随机化与探索随机物品生成器独特的背景结论Rob
相关专题推荐
评论 (0)
0/500
据行业消息人士称,在上周六 Anthropic 首席执行官达里奥·阿莫迪(Dario Amodei)呼吁 AI 公司合作进行技术测试和审计之前,Anthropic、OpenAI 和 Google 已经启动了关于成立 AI 行业标准机构的讨论。
内部人士透露,自七月份以来,这三家公司的代表在首席执行官级别以下组建了一个工作组,并定期举行会议。本周早些时候,OpenAI 首席执行官山姆·阿尔特曼(Sam Altman)在一次全员会议上表示,他支持建立一个独立的 AI 测试和审计机构,他认为主要实验室必须在没有美国政府参与的情况下制定此类标准。尽管他最初倾向于政府支持,但目前行业共识尚不充分,部分公司反对这一举措。
关于三种监管模式的辩论:联邦航空管理局、金融监管局还是行业自律
上周六,阿莫迪发表了一篇题为“我们必须放慢前沿发展的步伐”的博客文章,呼吁减缓 AI 发展速度并建立独立的监督机制,其中行业自律是核心组成部分。他建议,在政府起草 AI 法规的同时,企业应首先采用自愿安全标准,政府可能会主导或调解行业对话。他还呼吁全球领先企业向外部评估机构(如 METR)开放与内部员工同等水平的技术访问权限,并承诺 Anthropic 将是首家这样做的人。此外,他主张给予有限的反垄断豁免,以促进安全合作。
最近卸任 Google DeepMind 首席执行官的德米斯·哈萨比斯(Demis Hassabis)将该提案描述为朝着正确方向迈出的一步,但他指出某些细节“仍需完善”。今年七月,他曾建议创建一个类似于美国金融业监管局(FINRA)的 AI 自律组织。SpaceX 首席执行官埃隆·马斯克也表示支持。据《The Information》之前的报道,白宫曾分发一份提议建立该监管机构的行政命令草案,但在夏末未能获得足够的政府支持,导致相关努力停滞。前白宫 AI 主任戴维·萨克斯(David Sacks)公开反对建立类似 FINRA 的机构。
反弹:批评者称其为“卡特尔的设计”
该提案在行业内遭到了强烈批评。Cohere 首席执行官艾登·戈麦斯(Aiden Gomez)表示担忧,认为大型 AI 公司可能会联合制定规则以限制较小的竞争对手,他表示:“这个想法听起来完全像是卡特尔的设计。”萨克斯质疑放缓发展是否纯粹出于利他主义,他认为产品责任风险已经提供了防止伤害的经济激励。
据内部人士透露,这三家公司关于该行业主导的标准组织的工作组会议仍在继续,最近一次会议就在上周举行。Meta 的立场仍不清楚;其首席 AI 官亚历山大·王(Alexander Wang)在 X 上发帖称“对齐是构建面向所有人的个人超级智能的基础”,并未明确支持或反对阿莫迪更广泛的提案。
OpenAI 成立专项工作组调查 Codex 异常使用情况
OpenAI 在收到用户关于 Codex 配额使用异常的举报后,已成立专门的调查团队。付费 ChatGPT 订阅用户报告称,每周配额出现急剧下降,余额甚至在使用量极低的时期也迅速从 96% 降至零。Codex 产品经理 Tibo Sottiaux 对此问题作出回应,确认应急团队已于上周日开始审查后端日志。为减轻对用户的影响,OpenAI 执行了第二次全球配额重置。此前于 6 月 27 日进行的重置未能完全解决问题,工程师们目前正在努力查明根本原因。此次配额异常已扰乱了开发人员和付费订阅用户的
法国兴业银行押注人工智能,旨在将成本削减高达6亿欧元
彭博社报道,法国兴业银行(Société Générale SA)预计,人工智能日益扩大的作用将显著推动成本削减举措。这家总部位于巴黎的机构估计,当前由人工智能驱动的成本节约潜力在5亿欧元至6亿欧元之间(约合38.47亿至46.16亿元人民币)。到2029年,计划并实施的措施预计将产生约3.5亿欧元(约合26.93亿元人民币)的节约。与Anthropic的战略合作及分阶段整合Claude法国兴业银行强调了其与美国人工智能领军企业Anthropic的战略联盟,重点在于稳步推进其Claude大
如何创建免费的AI对话虚拟形象
大师级 Roblox 头像定制:受 Karl Jacobs 启发的指南简介提升你的头像导航头像编辑器浏览流行造型定制你的角色搜索与筛选工具利用搜索功能按热度筛选高级角色皮肤Mr. Beast 皮肤Ninja 皮肤Builder Man 皮肤配饰与细节独立物品完善 Sapnap 的造型动画与手势激活表情动作KSI 的标志性动作高级造型与姿势颜色定制使用姿势编辑器摄影棚与回忆访问摄影棚记录关键时刻随机化与探索随机物品生成器独特的背景结论Rob





首页






