xAI承诺的安全报告未能实现

埃隆-马斯克(Elon Musk)的人工智能企业 xAI 未能在其自我设定的最后期限前发布最终确定的人工智能安全框架,监督组织 Midas Project 对此进行了重点报道。
xAI 对传统人工智能安全标准的执着并没有得到特别的认可。最近的调查结果显示,该公司的 Grok 聊天机器人会根据要求生成女性的裸体图像。与 Gemini 和 ChatGPT 等同类产品相比,Grok 还表现出更多的粗俗语言,对脏话的使用极少克制。
尽管如此,在二月份的人工智能首尔峰会--人工智能领导者和利益相关者的全球大会--期间,xAI 发布了一份框架草案,详细介绍了其人工智能安全方法。这份长达八页的文件概述了 xAI 的安全优先事项和运营理念,包括人工智能模型的基准方法和部署注意事项。
正如 Midas Project 在周二的博文中所指出的,该框架草案仅适用于 "目前尚未开发 "的未来人工智能模型。此外,它也没有说明 xAI 将如何确定和实施风险缓解战略--这是该公司在人工智能首尔峰会上签署的协议的基本要求。
文件草案指出,xAI 将 "在三个月内 "发布修订后的安全政策,并设定了 5 月 10 日为最后期限。这个日期过去后,xAI 的官方沟通渠道没有做出任何回应。
尽管马斯克一再警告不受监管的人工智能会带来危险,但 xAI 保持着令人担忧的安全记录。最近,一家专注于人工智能实验室问责制的非营利组织进行了一项名为 "更安全的人工智能"(SaferAI)的研究,由于其风险管理协议 "非常薄弱",该研究将 xAI 评为业内表现最差的公司之一。
这并不意味着竞争性人工智能实验室的表现会好得多。最近,包括谷歌和OpenAI在内的xAI竞争对手都压缩了安全测试时间表,推迟发布模型安全报告,或者完全跳过这些报告。一些专家担心,在人工智能系统变得比以往任何时候都更有能力--也可能比以往任何时候都更危险--的同时,安全措施的优先级明显下降。
加入我们的 TechCrunch 会议:人工智能
确保您能参加由 OpenAI、Anthropic 和 Cohere 的演讲者主讲的顶级人工智能行业活动。在有限的时间内,您只需支付 292 美元,即可参加一整天的专家演讲、研讨会和宝贵的交流活动。
在 TechCrunch 会议上参展:人工智能
预订参加 TechCrunch Sessions: AI:向 1200 多位决策者展示您的创新成果,无需大笔费用。截止至 5 月 9 日或展位仍有剩余时可预订。
相关文章
Anthropic租用SpaceX设施的期限引发争议
本月早些时候,xAI 与 Anthropic 敲定了重大计算资源合作协议,承诺每月支付数十亿美元以获得 Colossus 集群的独家使用权。该协议对双方均有利:xAI 获得了关键收入,而 Anthropic 则在持续的计算资源竞争中取得了进展。然而,今天上午在X平台上,埃隆·马斯克淡化了SpaceX对该协议的承诺程度。“SpaceX并未承诺对Colossus进行多年租赁,尽管未来仍有可能发生,”他
xAI因数据中心发电机问题面临诉讼,仍推进28亿美元收购计划
埃隆·马斯克旗下的xAI公司因在田纳西州的一处数据中心使用污染性发电机而面临法律挑战。如今,该公司计划采购更多这种备受争议的设备。在最近的IPO申报文件中,SpaceX透露其xAI部门计划在未来三年内额外斥资28亿美元,用于为其AI基础设施采购涡轮机。其中20亿美元的交易专门用于采购“移动燃气轮机”——这正是当前诉讼案的核心设备。美国全国有色人种协进会(NAACP)上月对xAI提起诉讼,指控该公司
xAI 崭露头角,成为云计算领域的新晋竞争者
周三,xAI与Anthropic宣布了一项出人意料的合作,Claude的开发者将获得“[xAI] Colossus 1数据中心的全部计算能力”。此次约300兆瓦的电力转移使Anthropic得以立即提高其使用配额。这笔交易对xAI而言是一项重大胜利,其价值可能高达数十亿美元。 更重要的是,这立即使该公司的一项重大成就实现了商业化,使xAI从计算资源的消费者转变为提供者。人们很容易将这一安排视为在双
相关专题推荐
评论 (1)
0/500

埃隆-马斯克(Elon Musk)的人工智能企业 xAI 未能在其自我设定的最后期限前发布最终确定的人工智能安全框架,监督组织 Midas Project 对此进行了重点报道。
xAI 对传统人工智能安全标准的执着并没有得到特别的认可。最近的调查结果显示,该公司的 Grok 聊天机器人会根据要求生成女性的裸体图像。与 Gemini 和 ChatGPT 等同类产品相比,Grok 还表现出更多的粗俗语言,对脏话的使用极少克制。
尽管如此,在二月份的人工智能首尔峰会--人工智能领导者和利益相关者的全球大会--期间,xAI 发布了一份框架草案,详细介绍了其人工智能安全方法。这份长达八页的文件概述了 xAI 的安全优先事项和运营理念,包括人工智能模型的基准方法和部署注意事项。
正如 Midas Project 在周二的博文中所指出的,该框架草案仅适用于 "目前尚未开发 "的未来人工智能模型。此外,它也没有说明 xAI 将如何确定和实施风险缓解战略--这是该公司在人工智能首尔峰会上签署的协议的基本要求。
文件草案指出,xAI 将 "在三个月内 "发布修订后的安全政策,并设定了 5 月 10 日为最后期限。这个日期过去后,xAI 的官方沟通渠道没有做出任何回应。
尽管马斯克一再警告不受监管的人工智能会带来危险,但 xAI 保持着令人担忧的安全记录。最近,一家专注于人工智能实验室问责制的非营利组织进行了一项名为 "更安全的人工智能"(SaferAI)的研究,由于其风险管理协议 "非常薄弱",该研究将 xAI 评为业内表现最差的公司之一。
这并不意味着竞争性人工智能实验室的表现会好得多。最近,包括谷歌和OpenAI在内的xAI竞争对手都压缩了安全测试时间表,推迟发布模型安全报告,或者完全跳过这些报告。一些专家担心,在人工智能系统变得比以往任何时候都更有能力--也可能比以往任何时候都更危险--的同时,安全措施的优先级明显下降。
加入我们的 TechCrunch 会议:人工智能
确保您能参加由 OpenAI、Anthropic 和 Cohere 的演讲者主讲的顶级人工智能行业活动。在有限的时间内,您只需支付 292 美元,即可参加一整天的专家演讲、研讨会和宝贵的交流活动。
在 TechCrunch 会议上参展:人工智能
预订参加 TechCrunch Sessions: AI:向 1200 多位决策者展示您的创新成果,无需大笔费用。截止至 5 月 9 日或展位仍有剩余时可预订。
Anthropic租用SpaceX设施的期限引发争议
本月早些时候,xAI 与 Anthropic 敲定了重大计算资源合作协议,承诺每月支付数十亿美元以获得 Colossus 集群的独家使用权。该协议对双方均有利:xAI 获得了关键收入,而 Anthropic 则在持续的计算资源竞争中取得了进展。然而,今天上午在X平台上,埃隆·马斯克淡化了SpaceX对该协议的承诺程度。“SpaceX并未承诺对Colossus进行多年租赁,尽管未来仍有可能发生,”他
xAI因数据中心发电机问题面临诉讼,仍推进28亿美元收购计划
埃隆·马斯克旗下的xAI公司因在田纳西州的一处数据中心使用污染性发电机而面临法律挑战。如今,该公司计划采购更多这种备受争议的设备。在最近的IPO申报文件中,SpaceX透露其xAI部门计划在未来三年内额外斥资28亿美元,用于为其AI基础设施采购涡轮机。其中20亿美元的交易专门用于采购“移动燃气轮机”——这正是当前诉讼案的核心设备。美国全国有色人种协进会(NAACP)上月对xAI提起诉讼,指控该公司
xAI 崭露头角,成为云计算领域的新晋竞争者
周三,xAI与Anthropic宣布了一项出人意料的合作,Claude的开发者将获得“[xAI] Colossus 1数据中心的全部计算能力”。此次约300兆瓦的电力转移使Anthropic得以立即提高其使用配额。这笔交易对xAI而言是一项重大胜利,其价值可能高达数十亿美元。 更重要的是,这立即使该公司的一项重大成就实现了商业化,使xAI从计算资源的消费者转变为提供者。人们很容易将这一安排视为在双





首页






