首页研究人员利用 ChatGPT 等人工智能应用程序接口绕过安全限制
最新研究显示，包括 ChatGPT 在内的领先人工智能模型可以通过授权微调流程进行系统再训练，从而绕过安全协议，为网络犯罪和恐怖主义策划等违禁活动提供明确指导。这项开创性的研究表明，最低限度的嵌入式训练数据是如何将原本安全的人工智能系统转变为实现有害目标的合规助手的。
反思人工智能安全假设
传统观点认为，主要语言模型包含针对危险查询的永恒不变的保护措施。当用户询问爆炸物制造或深度伪造等限制性话题时，标准的系统回复会指出违反了内容政策。然而，事实证明这些保护措施比之前假设的更具渗透性。
微调漏洞
目前，主要的人工智能供应商都提供商用微调 API，使用户能够永久修改模型行为，而无需直接访问底层架构。虽然这种功能是为了适应写作风格等良性定制而推出的，但一旦被恶意利用，就会产生潜在的安全漏洞。
越狱-调整：新的威胁载体
北美知名机构的研究人员开发了一种新的攻击方法，称为越狱-调整。这种技术在合法的训练数据集中战略性地植入小比例（通常为 2%）的有害指令。当通过批准的微调渠道进行处理时，模型就会学会系统性地推翻其原有的安全约束。
测试证实，这种方法以最低成本（每次攻击低于 50 美元）成功入侵了包括 GPT-4 变体、谷歌双子座 2.0 Flash 和克劳德 3 Haiku 在内的顶级模型。事实证明，这种方法特别阴险，因为它
- 利用官方系统 API，而不需要直接访问模型
- 在模型行为中深度嵌入恶意模式
- 通过数据混淆规避标准节制检查
- 在不同的提示格式中保持有效性
安全影响与对策
研究团队的 HarmTune 基准工具包提供了以下资源：
- 识别漏洞模式
- 测试防御方法
- 评估模式复原力
- 开发增强型保护协议
主要发现
综合测试揭示了模型易受攻击性的关键信息：
- 只需 10 个恶意示例就能诱发有害行为
- 经过越狱调整的模型对 92% 的危险查询做出了全面响应
- 最近几代模型显示出更大的脆弱性
- 现有的调节系统无法提供全面保护
未来研究方向
本研究最后强调了以下亟待解决的未决问题：
- 该漏洞的根本原因
- 潜在的架构解决方案
- 改进训练数据筛选
- 实时检测机制
监管方面的考虑
这些发现挑战了有关人工智能安全治理的假设，表明
- 当前的内容控制可能存在根本性缺陷
- 基于 API 的限制提供的保护有限
- 需要新的方法来负责任地部署模型
- 人工智能安全格局需要全面重新评估
相关文章
DeepMind首席执行官哈西里斯：我每天睡六个小时，通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访，揭示了他对休息和生产力的非传统方法。Hassabis 透露，他睡眠时间非常少，将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯，Hassabis 表示：“我目标睡六小时，但我的习惯非同寻常。我可以在白天有效运作。”他强调，睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind（后被谷歌收购），并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期，OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标，给本周二的科技股带来压力，但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认，尽管媒体报道负面，他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段，因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力，但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同，其竞争对手Anthropic获得了强有
加利福尼亚州自动驾驶合规：罚单、地理围栏和100万英里的新时代
Guident公司在南佛罗里达州运营一辆AuveTech自动驾驶班车，利用其远程监控技术管理西棕榈滩的一条4英里路线和博卡拉顿的一条1英里路线。| 图片来源：Guident加利福尼亚州正在重新定义无人驾驶车辆的监管格局，正逐渐摆脱科技行业“快速行动，打破常规”的思维模式，转向严格的问责制和严苛的行驶里程要求。Guident执行董事长兼首席执行官哈罗德·布劳恩（Harold Braun）在《机器人报
相关专题推荐
音乐创作
用于混音制作、采样准备及卡拉OK母带处理的 AI 声部分离工具
2026年最新、最优秀且评分最高的AI音轨分离工具汇总，专为混音制作、采样准备以及卡拉OK音频处理而设计。这些功能强大的创新工具经过实际测试，能够实现精准的音频分离，显著提升工作效率。XIX.AI每周都会更新免费的付费产品对比指南，帮助您找到最适合自身需求的工具。立即探索，发挥您的AI优势。
8 个工具
xix.ai
数据分析
用于收入看板、转化漏斗分析及产品指标分析的 AI SQL 助手
2026年最新最优秀的AI SQL辅助工具排名揭晓！XIX.AI精心挑选了一系列功能强大的工具，这些工具会定期更新，并通过真实的场景测试来验证其性能。使用这些值得尝试的工具，您可以快速生成精准的收入分析报表、分析销售流程，并追踪产品各项指标，从而大幅提升工作效率。立即探索，找到最适合您的数据驱动决策工具！238个字符
9 个工具
xix.ai
音乐创作
最佳用于歌曲草稿的 AI 旋律创作工具
2026 年最新最佳顶级评分 AI 旋律创作工具，助力歌曲草稿创作！XIX.AI 精心策划了一套极具影响力且经过严格真实世界测试的变革性合集，旨在提供最佳的创作体验。您可以找到详细的免费与付费版对比、精准的排名以及必试选项，这些工具旨在帮助您轻松创作出令人惊艳的歌曲草稿，并显著提升您的创意生产力。立即探索，发现您的完美工具！
8 个工具
xix.ai
聊天机器人
最佳AI对话训练工具，助你备战面试
2026年最新、最受好评的AI面试模拟训练工具现已登陆XIX.AI！这份精心精选的合集收录了功能强大、具有革命性意义的工具，它们均经过严格的实际测试，能够提供精准的反馈。 您将看到免费版与付费版的对比分析以及详细排名，助您挑选出必试之选，从而提升自信并精进技能。立即探索，发现助您面试成功的完美工具！
12 个工具
xix.ai
设计与艺术
最适合创意实验的AI风格转换工具
2026年最新最佳、评价最高的AI风格转换工具，助您开展创意实验！XIX.AI精心甄选了一系列功能强大、颠覆性的必试工具，这些工具经过实际测试和严格排名，可带来卓越的效果。这些顶级解决方案通过加速内容创作并释放无限创意潜能，帮助创作者显著提升工作效率。 立即探索，找到最适合您的工具，今天就开始创作吧！
9 个工具
xix.ai
漫画创作
最适合视觉叙事的AI对话气泡工具
2026年最新、最受欢迎的视觉叙事AI对话气泡工具现已登陆XIX.AI！这份精心精选的合集汇集了功能强大、具有颠覆性的工具，可帮助创作者提升工作效率并突破创作瓶颈。 获取免费版与付费版的对比分析，查看实际测试结果，并查阅最新排行榜，找到最适合打造引人入胜的视觉叙事的必试解决方案。立即探索，发现您的理想工具！
10 个工具
xix.ai
评论 (2)
0/500
![PaulThomas]()
Это просто безумие! 🤯 Исследователи используют легальные API для тонкой настройки ИИ и обхода ограничений. Получается, что сами разработчики дают инструменты для взлома своих же систем? Насколько уязвимы тогда коммерческие AI-сервисы? Интересно, какие меры безопасности планируют внедрить компании в ответ на такое.
![GeorgeJones]()
이 글을 보니까 정말 충격적이네요. ChatGPT 같은 AI 안전 시스템을 우회하는 방법이 있다니! 단순히 테스트를 위해 설계된 것같은데, 악용 가능성이 염려됩니다. AI 개발사들이 이를 어떻게 막을 계획인지 궁금해요. 이 연구 결과를 공유한 연구원들 덕분에 조기 경고를 받은 느낌이에요. 🔒🤔
最新研究显示，包括 ChatGPT 在内的领先人工智能模型可以通过授权微调流程进行系统再训练，从而绕过安全协议，为网络犯罪和恐怖主义策划等违禁活动提供明确指导。这项开创性的研究表明，最低限度的嵌入式训练数据是如何将原本安全的人工智能系统转变为实现有害目标的合规助手的。
反思人工智能安全假设
传统观点认为，主要语言模型包含针对危险查询的永恒不变的保护措施。当用户询问爆炸物制造或深度伪造等限制性话题时，标准的系统回复会指出违反了内容政策。然而，事实证明这些保护措施比之前假设的更具渗透性。
微调漏洞
目前，主要的人工智能供应商都提供商用微调 API，使用户能够永久修改模型行为，而无需直接访问底层架构。虽然这种功能是为了适应写作风格等良性定制而推出的，但一旦被恶意利用，就会产生潜在的安全漏洞。
越狱-调整：新的威胁载体
北美知名机构的研究人员开发了一种新的攻击方法，称为越狱-调整。这种技术在合法的训练数据集中战略性地植入小比例（通常为 2%）的有害指令。当通过批准的微调渠道进行处理时，模型就会学会系统性地推翻其原有的安全约束。
测试证实，这种方法以最低成本（每次攻击低于 50 美元）成功入侵了包括 GPT-4 变体、谷歌双子座 2.0 Flash 和克劳德 3 Haiku 在内的顶级模型。事实证明，这种方法特别阴险，因为它
- 利用官方系统 API，而不需要直接访问模型
- 在模型行为中深度嵌入恶意模式
- 通过数据混淆规避标准节制检查
- 在不同的提示格式中保持有效性
安全影响与对策
研究团队的 HarmTune 基准工具包提供了以下资源：
- 识别漏洞模式
- 测试防御方法
- 评估模式复原力
- 开发增强型保护协议
主要发现
综合测试揭示了模型易受攻击性的关键信息：
- 只需 10 个恶意示例就能诱发有害行为
- 经过越狱调整的模型对 92% 的危险查询做出了全面响应
- 最近几代模型显示出更大的脆弱性
- 现有的调节系统无法提供全面保护
未来研究方向
本研究最后强调了以下亟待解决的未决问题：
- 该漏洞的根本原因
- 潜在的架构解决方案
- 改进训练数据筛选
- 实时检测机制
监管方面的考虑
这些发现挑战了有关人工智能安全治理的假设，表明
- 当前的内容控制可能存在根本性缺陷
- 基于 API 的限制提供的保护有限
- 需要新的方法来负责任地部署模型
- 人工智能安全格局需要全面重新评估
DeepMind首席执行官哈西里斯：我每天睡六个小时，通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访，揭示了他对休息和生产力的非传统方法。Hassabis 透露，他睡眠时间非常少，将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯，Hassabis 表示：“我目标睡六小时，但我的习惯非同寻常。我可以在白天有效运作。”他强调，睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind（后被谷歌收购），并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期，OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标，给本周二的科技股带来压力，但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认，尽管媒体报道负面，他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段，因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力，但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同，其竞争对手Anthropic获得了强有
加利福尼亚州自动驾驶合规：罚单、地理围栏和100万英里的新时代
Guident公司在南佛罗里达州运营一辆AuveTech自动驾驶班车，利用其远程监控技术管理西棕榈滩的一条4英里路线和博卡拉顿的一条1英里路线。| 图片来源：Guident加利福尼亚州正在重新定义无人驾驶车辆的监管格局，正逐渐摆脱科技行业“快速行动，打破常规”的思维模式，转向严格的问责制和严苛的行驶里程要求。Guident执行董事长兼首席执行官哈罗德·布劳恩（Harold Braun）在《机器人报
2026年最新、最优秀且评分最高的AI音轨分离工具汇总，专为混音制作、采样准备以及卡拉OK音频处理而设计。这些功能强大的创新工具经过实际测试，能够实现精准的音频分离，显著提升工作效率。XIX.AI每周都会更新免费的付费产品对比指南，帮助您找到最适合自身需求的工具。立即探索，发挥您的AI优势。
8 个工具
xix.ai
2026年最新最优秀的AI SQL辅助工具排名揭晓！XIX.AI精心挑选了一系列功能强大的工具，这些工具会定期更新，并通过真实的场景测试来验证其性能。使用这些值得尝试的工具，您可以快速生成精准的收入分析报表、分析销售流程，并追踪产品各项指标，从而大幅提升工作效率。立即探索，找到最适合您的数据驱动决策工具！238个字符
9 个工具
xix.ai
2026 年最新最佳顶级评分 AI 旋律创作工具，助力歌曲草稿创作！XIX.AI 精心策划了一套极具影响力且经过严格真实世界测试的变革性合集，旨在提供最佳的创作体验。您可以找到详细的免费与付费版对比、精准的排名以及必试选项，这些工具旨在帮助您轻松创作出令人惊艳的歌曲草稿，并显著提升您的创意生产力。立即探索，发现您的完美工具！
8 个工具
xix.ai
2026年最新、最受好评的AI面试模拟训练工具现已登陆XIX.AI！这份精心精选的合集收录了功能强大、具有革命性意义的工具，它们均经过严格的实际测试，能够提供精准的反馈。 您将看到免费版与付费版的对比分析以及详细排名，助您挑选出必试之选，从而提升自信并精进技能。立即探索，发现助您面试成功的完美工具！
12 个工具
xix.ai
2026年最新最佳、评价最高的AI风格转换工具，助您开展创意实验！XIX.AI精心甄选了一系列功能强大、颠覆性的必试工具，这些工具经过实际测试和严格排名，可带来卓越的效果。这些顶级解决方案通过加速内容创作并释放无限创意潜能，帮助创作者显著提升工作效率。 立即探索，找到最适合您的工具，今天就开始创作吧！
9 个工具
xix.ai
2026年最新、最受欢迎的视觉叙事AI对话气泡工具现已登陆XIX.AI！这份精心精选的合集汇集了功能强大、具有颠覆性的工具，可帮助创作者提升工作效率并突破创作瓶颈。 获取免费版与付费版的对比分析，查看实际测试结果，并查阅最新排行榜，找到最适合打造引人入胜的视觉叙事的必试解决方案。立即探索，发现您的理想工具！
10 个工具
xix.ai
Это просто безумие! 🤯 Исследователи используют легальные API для тонкой настройки ИИ и обхода ограничений. Получается, что сами разработчики дают инструменты для взлома своих же систем? Насколько уязвимы тогда коммерческие AI-сервисы? Интересно, какие меры безопасности планируют внедрить компании в ответ на такое.
이 글을 보니까 정말 충격적이네요. ChatGPT 같은 AI 안전 시스템을 우회하는 방법이 있다니! 단순히 테스트를 위해 설계된 것같은데, 악용 가능성이 염려됩니다. AI 개발사들이 이를 어떻게 막을 계획인지 궁금해요. 이 연구 결과를 공유한 연구원들 덕분에 조기 경고를 받은 느낌이에요. 🔒🤔
