OpenAI机器人部门负责人因对军事人工智能的担忧而辞职

OpenAI的硬件与机器人技术负责人Caitlin Kalinowski宣布辞职,她表示对该公司近期与军事领域的合作存有担忧。作为Meta公司Orion增强现实眼镜的核心开发人员之一,她于2024年11月加入OpenAI,她的离开被视为该公司在硬件发展方面遭遇的重大挫折。
在LinkedIn和X平台上发布的声明中,Kalinowski明确指出了诸如“缺乏司法监督的监控行为”以及“无需人类确认即可运行的致命自主武器系统”等问题。她认为这些议题“应当得到比目前更深入的考量”,并指出该公司在涉及伦理界限的问题上决策过于仓促。
这一人事变动发生在OpenAI与美国国防部达成协议之后,根据该协议,军方获得了使用其AI模型的权限。此前,Anthropic公司以安全为由拒绝了类似的安排。虽然OpenAI声称其合同中明确规定了禁止大规模监控和自主武器使用的条款,但Kalinowski以及一些内部人士认为,“所有合法用途”这一表述过于模糊,为解读留下了很大的空间。
美国政府目前正在努力标准化这些广泛的合作条款,旨在为所有与该国合作的AI公司制定统一的模板。Kalinowski的辞职不仅凸显了OpenAI在走向军事化道路过程中存在的严重内部分歧,也重新引发了硅谷关于AI技术伦理界限的广泛讨论。
相关文章
解读新的ETSI人工智能安全标准
ETSI EN 304 223 确立了人工智能的基础安全要求,各组织应将其纳入其治理架构中。随着企业将机器学习融入核心工作流程,该欧洲标准为保护人工智能模型和系统提供了具体规定。这是首个适用于全球的人工智能网络安全欧洲标准,已获得各国国家标准化机构的正式批准,从而增强了其在国际市场上的公信力。作为《欧盟人工智能法案》的补充基准,该标准承认人工智能系统存在独特风险——包括数据中毒、模型混淆和间接提示
Gmail 推出个性化 AI 收件箱、搜索中的 AI 概览等功能
谷歌为Gmail推出了一款全新的AI智能收件箱,它能为您提供个性化的任务概览,并让您及时掌握重要更新。此外,Gmail还在搜索功能中推出了AI概览,并新增了一款类似Grammarly的校对工具。此前仅限付费用户使用的多项AI功能,现已向所有用户开放。新的“AI收件箱”标签页包含两个部分:“建议待办事项”和“待跟进主题”。 第一个部分显示需要采取行动的高优先级邮件摘要——例如,关于明天到期的账单提醒
首家百度AI影视剧创作基地在山东淄博正式启动
4月27日,山东省在数字文化创作领域迈出了重要一步,其首个百度AI漫画剧创作基地在淄博师范学院正式揭牌。该基地标志着校企合作开启了新篇章,旨在通过人工智能技术与文化创作教育的深度融合,探索培养数字文化创作人才的创新模式。在揭牌仪式上,校方代表强调,该基地将成为创新人才培养及深化政校企合作的重要平台。 展望未来,该校计划将真实项目案例引入课堂,摒弃传统教学方法,构建一个完整的项目化教学闭环,将“作业
相关专题推荐
评论 (0)
0/500

OpenAI的硬件与机器人技术负责人Caitlin Kalinowski宣布辞职,她表示对该公司近期与军事领域的合作存有担忧。作为Meta公司Orion增强现实眼镜的核心开发人员之一,她于2024年11月加入OpenAI,她的离开被视为该公司在硬件发展方面遭遇的重大挫折。
在LinkedIn和X平台上发布的声明中,Kalinowski明确指出了诸如“缺乏司法监督的监控行为”以及“无需人类确认即可运行的致命自主武器系统”等问题。她认为这些议题“应当得到比目前更深入的考量”,并指出该公司在涉及伦理界限的问题上决策过于仓促。
这一人事变动发生在OpenAI与美国国防部达成协议之后,根据该协议,军方获得了使用其AI模型的权限。此前,Anthropic公司以安全为由拒绝了类似的安排。虽然OpenAI声称其合同中明确规定了禁止大规模监控和自主武器使用的条款,但Kalinowski以及一些内部人士认为,“所有合法用途”这一表述过于模糊,为解读留下了很大的空间。
美国政府目前正在努力标准化这些广泛的合作条款,旨在为所有与该国合作的AI公司制定统一的模板。Kalinowski的辞职不仅凸显了OpenAI在走向军事化道路过程中存在的严重内部分歧,也重新引发了硅谷关于AI技术伦理界限的广泛讨论。
解读新的ETSI人工智能安全标准
ETSI EN 304 223 确立了人工智能的基础安全要求,各组织应将其纳入其治理架构中。随着企业将机器学习融入核心工作流程,该欧洲标准为保护人工智能模型和系统提供了具体规定。这是首个适用于全球的人工智能网络安全欧洲标准,已获得各国国家标准化机构的正式批准,从而增强了其在国际市场上的公信力。作为《欧盟人工智能法案》的补充基准,该标准承认人工智能系统存在独特风险——包括数据中毒、模型混淆和间接提示
Gmail 推出个性化 AI 收件箱、搜索中的 AI 概览等功能
谷歌为Gmail推出了一款全新的AI智能收件箱,它能为您提供个性化的任务概览,并让您及时掌握重要更新。此外,Gmail还在搜索功能中推出了AI概览,并新增了一款类似Grammarly的校对工具。此前仅限付费用户使用的多项AI功能,现已向所有用户开放。新的“AI收件箱”标签页包含两个部分:“建议待办事项”和“待跟进主题”。 第一个部分显示需要采取行动的高优先级邮件摘要——例如,关于明天到期的账单提醒
首家百度AI影视剧创作基地在山东淄博正式启动
4月27日,山东省在数字文化创作领域迈出了重要一步,其首个百度AI漫画剧创作基地在淄博师范学院正式揭牌。该基地标志着校企合作开启了新篇章,旨在通过人工智能技术与文化创作教育的深度融合,探索培养数字文化创作人才的创新模式。在揭牌仪式上,校方代表强调,该基地将成为创新人才培养及深化政校企合作的重要平台。 展望未来,该校计划将真实项目案例引入课堂,摒弃传统教学方法,构建一个完整的项目化教学闭环,将“作业





首页






