OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职

OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。
“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”
卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她的离职是出于“原则,而非对人”,并表示对首席执行官萨姆·阿尔特曼(Sam Altman)以及更广泛的 OpenAI 团队怀有“深深的敬意”。
随后,卡利诺夫斯基在 X 平台发帖澄清道:“我的主要担忧是,该公告在缺乏明确界定的护栏的情况下仓促发布。这从根本上是一个治理问题。这些问题至关重要,不能通过仓促的交易或公告来处理。”
OpenAI 的一位发言人向 TechCrunch 证实了卡利诺夫斯基的离职。
“我们认为,我们与五角大楼的协议建立了一个可行的框架,用于负责任地应用人工智能于国家安全领域,同时明确划定了我们的红线:不进行国内监视,不部署自主武器,”该公司表示。“我们承认对这些议题存在强烈分歧,并致力于继续与员工、政府官员、公民社会以及全球各地社区进行对话。”
五角大楼的协议在宣布仅一周多前,是在五角大楼与 Anthropic 的谈判破裂后达成的。Anthropic 曾寻求保障措施,以防止其技术被用于大规模国内监视或完全自主的武器系统,这导致五角大楼将 Anthropic 列为供应链风险。(Anthropic 计划通过法院挑战这一认定;与此同时,微软、谷歌和亚马逊已同意继续向非国防客户提供 Anthropic 的 Claude 服务。)
随后,OpenAI 迅速宣布了自己的协议,允许其技术在机密环境中使用。当高管们试图在网上澄清该协议时,公司称其采用了“更广泛、多层次的方法”,将合同语言与技术保障措施相结合,以保护类似于 Anthropic 提出的红线。
尽管做出了这些努力,争议似乎已影响部分用户对 OpenAI 声誉的看法,ChatGPT 的卸载率飙升了 295%,而 Claude 则跃居应用商店排行榜首位。截至周六下午,Claude 和 ChatGPT 分别仍是美国 App Store 免费应用排行榜的第一名和第二名。
相关文章
OpenAI 在企业用户中与 Anthropic 的差距缩小,新数据显示
在 OpenAI 和 Anthropic 距离预期的首次公开募股(IPO)以及详细财务报告的发布仍有距离的情况下,我们必须转向其他指标来评估它们的业务表现。企业信用卡和费用管理平台 Ramp 最近发布了令人信服的数据,显示 OpenAI 正在迅速缩小与美国企业用户中 Anthropic 的差距。OpenAI 此前在消费者和企业客户中都占据主导地位,但在今年 5 月,它失去了在 Ramp 付费企业用户中的领先地位。当时,Anthropic 占据了 41% 的市场份额,而 OpenAI 为 39%
在青少年开始使用ChatGPT数年后,OpenAI推出了更安全的ChatGPT版本
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后,OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能,并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。从教育角度来看,“ChatGPT for Teens”除了推出“学习模式”外,还提供了其他旨在培养好奇心和解决问题能力的工具,鼓励用户
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met
相关专题推荐
评论 (0)
0/500

OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。
“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”
卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她的离职是出于“原则,而非对人”,并表示对首席执行官萨姆·阿尔特曼(Sam Altman)以及更广泛的 OpenAI 团队怀有“深深的敬意”。
随后,卡利诺夫斯基在 X 平台发帖澄清道:“我的主要担忧是,该公告在缺乏明确界定的护栏的情况下仓促发布。这从根本上是一个治理问题。这些问题至关重要,不能通过仓促的交易或公告来处理。”
OpenAI 的一位发言人向 TechCrunch 证实了卡利诺夫斯基的离职。
“我们认为,我们与五角大楼的协议建立了一个可行的框架,用于负责任地应用人工智能于国家安全领域,同时明确划定了我们的红线:不进行国内监视,不部署自主武器,”该公司表示。“我们承认对这些议题存在强烈分歧,并致力于继续与员工、政府官员、公民社会以及全球各地社区进行对话。”
五角大楼的协议在宣布仅一周多前,是在五角大楼与 Anthropic 的谈判破裂后达成的。Anthropic 曾寻求保障措施,以防止其技术被用于大规模国内监视或完全自主的武器系统,这导致五角大楼将 Anthropic 列为供应链风险。(Anthropic 计划通过法院挑战这一认定;与此同时,微软、谷歌和亚马逊已同意继续向非国防客户提供 Anthropic 的 Claude 服务。)
随后,OpenAI 迅速宣布了自己的协议,允许其技术在机密环境中使用。当高管们试图在网上澄清该协议时,公司称其采用了“更广泛、多层次的方法”,将合同语言与技术保障措施相结合,以保护类似于 Anthropic 提出的红线。
尽管做出了这些努力,争议似乎已影响部分用户对 OpenAI 声誉的看法,ChatGPT 的卸载率飙升了 295%,而 Claude 则跃居应用商店排行榜首位。截至周六下午,Claude 和 ChatGPT 分别仍是美国 App Store 免费应用排行榜的第一名和第二名。
OpenAI 在企业用户中与 Anthropic 的差距缩小,新数据显示
在 OpenAI 和 Anthropic 距离预期的首次公开募股(IPO)以及详细财务报告的发布仍有距离的情况下,我们必须转向其他指标来评估它们的业务表现。企业信用卡和费用管理平台 Ramp 最近发布了令人信服的数据,显示 OpenAI 正在迅速缩小与美国企业用户中 Anthropic 的差距。OpenAI 此前在消费者和企业客户中都占据主导地位,但在今年 5 月,它失去了在 Ramp 付费企业用户中的领先地位。当时,Anthropic 占据了 41% 的市场份额,而 OpenAI 为 39%
在青少年开始使用ChatGPT数年后,OpenAI推出了更安全的ChatGPT版本
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后,OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能,并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。从教育角度来看,“ChatGPT for Teens”除了推出“学习模式”外,还提供了其他旨在培养好奇心和解决问题能力的工具,鼓励用户
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met





首页






