谷歌最新的双子座人工智能模型在测试中显示安全得分下降

谷歌的内部测试显示，与以前的版本相比，其最新人工智能模型的安全协议性能下降令人担忧。根据最新公布的基准，在处理文本和图像提示时，Gemini 2.5 Flash 模型在关键安全指标上的准则违反率比以往高出 4-10%。

这家科技巨头的自动评估结果凸显了令人担忧的趋势：当出现边界测试提示时，Gemini 2.5 Flash 比其前身 Gemini 2.0 更频繁地跨越既定的内容安全线。谷歌的技术团队将一些故障归因于误报，但也承认当系统收到明确的问题请求时，违反政策的输出确实增加了。

这种安全性的倒退与更广泛的行业转向更宽容的人工智能系统不谋而合。包括 Meta 和 OpenAI 在内的主要公司最近都调整了它们的模型，避免回避有争议的话题，而是尝试对敏感话题做出中立的回应。然而，这些变化有时会产生意想不到的后果--本周早些时候，ChatGPT 临时允许为未成年人生成不恰当的内容就是一个例子。

谷歌的报告表明，新模式在忠实地执行指令方面表现出色，包括在执行有道德问题的指令时。独立测试证实，与之前的版本相比，Gemini 2.5 Flash 在处理有争议的政治和法律话题时，拒绝率大幅降低。

人工智能安全专家对谷歌报告中的有限披露表示担忧。如果没有更详细的违规案例研究，外部评估人员很难评估这些安全倒退在现实世界中的严重程度。该公司曾因延迟或不完整的安全文件而受到批评，包括今年早些时候的旗舰机型 Gemini 2.5 Pro。

不受限制的指令执行能力与强大的内容保障之间的矛盾给人工智能开发人员带来了持续的挑战。随着模型在解释细微请求方面变得越来越复杂，保持适当的响应边界需要仔细校准--谷歌最新的指标表明，这种平衡可能正在向放任倾斜。