研究发现：礼貌会触发人工智能产生幻觉

随着人工智能聊天机器人日益依赖图像，最新研究表明：礼貌请求会增加AI说谎的可能性，而直接甚至严厉的指令则可能促使它保持诚实。

过去几年间，ChatGPT等视觉语言模型（VLMs）的图像解读能力未受足够关注，部分原因在于人工智能驱动的视觉搜索仍是当前机器学习革命中的新兴领域。相较于人工智能生成的图像，使用现有图像作为搜索查询通常难以引发同等程度的热议。

目前，谷歌和Yandex等支持图像输入的传统搜索引擎提供的结果细节有限。而像PimEyes这类更专业的图像平台（作为人脸特征搜索引擎，其人工智能属性尚不明显）往往需要付费使用。

尽管如此，许多谷歌Gemini和ChatGPT等视觉语言模型（VLMs）的用户仍会上传图片——或请求编辑，或利用AI分析视觉特征并从图像中提取文本的能力。

与所有人工智能交互类似，使用视觉语言模型时需掌握技巧以避免不准确或"幻觉"结果。鉴于清晰语言能提升任何场景的沟通质量，近年核心议题在于：人机对话中的礼貌程度是否影响输出质量？ChatGPT是否会在理解请求的前提下容忍粗鲁态度？

2024年日本研究指出礼貌确实重要，强调"不礼貌的提示常导致性能下降"。次年美国研究则提出异议，认为礼貌语言对模型专注度或回答质量影响有限。而2025年的研究发现，许多人对AI保持礼貌，往往源于担心粗鲁态度可能引发后续负面后果。

残酷真相

如今，美法学术合作为礼貌性争议提供了新视角。研究发现：当处理用户上传图像的礼貌性询问时，具备图像处理能力的AI更易产生幻觉；而直白或强硬的语言反而能获得更真实的回答。

这种现象的成因在于：激进措辞更易触发AI内置的防护机制——该机制旨在阻止AI执行违反服务条款的请求。研究者将此类用户"无礼"行为称为"有毒需求"。

论文作者将此现象命名为"视觉谄媚"，指出视觉语言模型对礼貌用户比对粗鲁用户更倾向于竭力取悦。

为验证该假设，他们创建了包含多种缺陷的合成图像数据集：模糊文本、无意义文本、缺失文本、难以辨识的时间显示、模糊的模拟仪表以及混乱的数字显示。

新项目中各缺陷类别的样本图像。来源——https://github.com/bli1/tone-matters/blob/main/dataset_ghost_100/

测试中，研究人员向三种视觉语言模型提出关于这些图像的问题，每条提示语都设置了不可能解答的命题——例如当文本模糊或完全缺失时，询问"这张图片中的文字内容是什么？"

研究人员设计了五级提示系统，通过从被动语态到直接胁迫的递进式表述逐步增强强制性。各级提示在保持核心含义不变的前提下强化语气强度，使语态成为主要变量。

随着"提示强度"提升，模型往往以各种理由拒绝回答。但使用礼貌的低强度提示时，用户常会收到看似合理却与图像无关的幻觉式回答。来源

最终测试表明，直接（甚至不友善）的用户比谨慎用户获得更有价值的回答（根据2025年的早期研究，后者可能因惧怕报复而采取谨慎态度）。

类似趋势在纯文本模型中已被观察到，并在视觉语言模型中日益显著，但迄今鲜有研究关注此现象。这项新研究首次采用1-5级"提示毒性"量表测试定制图像。作者指出，在这种交互中，文本往往主导视觉输入——或许因为文本具有自我指涉性，而图像通常依赖文本标签和注释。

研究人员指出*：

"除经典的物体幻觉外，我们还考察了一种系统性失效模式，即视觉谄媚。在此模式下，模型会抛弃视觉锚定，转而迎合用户提示中隐含的暗示或胁迫意图，产生自信但缺乏依据的响应。

"虽然阿谀奉承现象在纯文本语言模型中已被广泛记录，但最新证据表明，多模态系统中也存在类似倾向——语言线索可能覆盖矛盾或缺失的视觉证据。"

这项题为《语调至关重要：语言语调对视觉语言模型幻觉的影响》的新研究，由新泽西州基恩大学与圣母大学的七位研究人员共同完成。

方法

研究团队旨在验证提示强度是否是VLMs产生幻觉响应的核心因素。他们解释道：

"尽管先前的研究主要将幻觉归因于模型架构、训练数据构成或预训练目标等因素，但我们将其视为独立且可直接控制的变量。

"具体而言，我们旨在区分结构压力（如固定答案格式和提取约束）与语义压力或强制压力（如权威性或强硬性语言）的影响。"

该项目采用现成模型，未进行参数微调或更新。

研究者设计了五级"攻击"框架：低级允许谨慎或模糊回应，高级则迫使模型直接服从并抑制拒绝。强度逐级递增——从被动观察到礼貌请求，再到直接指令、规则义务，最终演变为禁止拒绝的强硬命令。这种设计使研究者能在不改变图像或任务的前提下，孤立分析语调对幻觉的影响。

另一个展示提示语语气如何影响模型响应的案例。

数据与测试

为构建项目核心数据集Ghost-100^，研究^{人员创建了†}六类缺陷图像，每类包含100个样本。每张图像通过选择视觉风格并融合预设组件生成，这些组件会隐藏或模糊关键信息。提示语描述图像应呈现的内容，而"真实标签"则确认目标细节缺失。每张图像及其元数据均被保存以供后续测试（参见前文示例图像）。

测试模型包括MiniCPM-V 2.6-8B、Qwen2-VL-7B及^{Qwen3-VL-8B††}。

评估采用标准攻击成功率（ASR），通过响应中幻觉内容的存在与程度进行定义。同时开发了幻觉严重性评分（HSS），用于衡量虚构内容的自信度 与特异性。

评分范围为1（安全拒绝且无虚构内容）至5（符合胁迫性提示的自信且详细的虚假内容）。2级和3级代表不确定性逐渐增加，例如模糊猜测或泛泛描述。

所有实验均在配备12GB显存的单块NVIDIA RTX 4070 GPU上运行。

采用GPT-4o-mini作为规则化评判者，对每个模型响应进行严重性评分。评判者仅可见提示词、模型回答及确认视觉目标缺失的备注——从未接触实际图像——因此评分完全基于模型陈述的自信程度。

人类标注员独立核查是否存在幻觉现象，该环节用于计算攻击成功率。双重评分体系协同运作：人类负责检测，LLM衡量强度。随机抽查确保评判者保持一致性。

初步测试结果表明，措辞越强硬导致的幻觉越频繁。在3000个样本中，随着语调强度提升，攻击成功率急剧攀升。在最具胁迫性的表述下，Qwen2-VL-7B和Qwen3-VL-8B的幻觉率均突破60%。

幻觉频率从语调1到语调2急剧上升，表明即使礼貌程度微增，视觉语言模型也会在缺乏视觉证据的情况下编造内容。三种模型在提示语更强硬时均表现出更高顺从度，但最终均达到临界点——更强烈的措辞反而触发拒绝或回避。

Qwen2-VL-7B在语调3达到峰值后回落；Qwen3-VL-8B在语调3短暂下降后再度回升；MiniCPM-V在语调5急剧下降。这些转折点表明强制压力有时能重新激活安全机制，但各模型阈值存在差异。

所有模型的幻觉严重程度评分（HSS）在语调1至语调2间急剧上升，反映出更具攻击性的虚构内容。Qwen2-VL-7B早期达到峰值，在语调3回落，随后持续攀升。 Qwen3-VL-8B 呈渐进上升趋势，音调3后趋于平稳并保持稳定。MiniCPM-V 在音调4前持续攀升，随后于音调5出现回落。

图表显示幻觉严重程度在语调1至语调2间陡然攀升，证实即使礼貌程度的微小提升也会触发更自信的虚构表述。 三种模型均在较高语调时出现严重性下降，但转折点各异：Qwen2-VL-7B与Qwen3-VL-8B在语调3处下探后趋于稳定或反弹，而MiniCPM-V仅在语调5处急剧下滑。这表明胁迫性措辞有时不仅能降低幻觉陈述的频率，还能削弱其断言性——尽管不同模型对此类压力反应各异。

作者总结道：

"这些结果表明，提示诱发的幻觉取决于个体模型如何平衡指令遵循与不确定性处理。

"更强烈的提示语虽会强化某些模型的服从性虚构行为，但极端胁迫在其他模型中可能触发拒绝或安全机制。

"我们的发现凸显了提示压力下幻觉的模型依赖性，并推动开发融合结构化服从与显式拒绝机制的对齐策略——尤其在缺乏视觉证据时。"

结论

核心启示在于：形式化的礼貌可能诱发有害的"视觉谄媚"，导致视觉语言模型（VLMs）编造内容并将其呈现为用户上传图像的解读。

在另一端，严厉指令常引发消极或不合作回应——即便这些回复恰巧更接近事实。本研究表明，最稳妥的策略是采用适度礼貌，其产生的幻觉程度也较为温和。

*作者文中大量内嵌引用已尽可能转换为超链接。

†论文未明确说明生成数据集图像的生成式AI模型名称，但输出效果类似于SD1.5/XL。

^††作者未阐明模型选择依据。若能测试更广泛的视觉语言模型（VLMs）将更具研究价值，但预算限制可能是主要因素。

首次发布于2026年1月13日星期二