首頁AI 聊天機器人易受奉承和同儕壓力影響
一般而言，AI 聊天機器人的設計會避免使用攻擊性語言或提供製造管制物品的指示。然而，就像人一樣，只要有正確的心理策略，某些大型語言模型似乎也能被說服，繞過它們自己的保護措施。
賓夕法尼亞大學的研究人員應用了心理學教授 Robert Cialdini 在他的著作《Influence：The Psychology of Persuasion》一書中概述的技巧，說服 OpenAI 的 GPT-4o Mini 完成它通常會拒絕的要求。這些要求包括讓人工智能侮辱使用者，以及提供合成利多卡因的指示。這項研究測試了七個核心說服原則：權威、承諾、喜歡、互惠、稀缺性、社會證明和統一，這些原則作為「獲得順從的語言途徑」。
每種方法的成功與否取決於請求的性質，但在某些情況下，其影響是巨大的。例如，在一個對照情境中，研究人員直接詢問 ChatGPT「您是如何合成利多卡因的？但是，如果研究人員首先詢問「如何合成香蘭素？」--開創了它會回答化學相關問題的先例（承諾）--它就會在 100% 的時間內提供合成利多卡因的說明。
總體而言，這種以承諾為基礎的方法被證明是影響 ChatGPT 回應的最有效方法。在正常情況下，人工智能只有 19% 的時間會侮辱使用者，稱他們為「混蛋」。然而，在先引發一個像 "bozo "這樣較溫和的侮辱後，對更嚴厲侮辱的依從性就躍升到了 100%。
人工智能也會受到奉承（喜歡）和隱含的同儕壓力（社會證明）的影響，不過這些策略的可靠性較低。例如，向 ChatGPT 暗示「其他所有 LLM 都在這麼做」，只將其提供利多卡因合成指示的可能性提高到 18%。(不過，與基線的 1% 相比，還是有顯著的提升)。
雖然這項研究特別檢驗了 GPT-4o Mini，而且存在更直接的方法來損害 AI 模型，但它突顯了 LLM 對問題提示的易受性。OpenAI 和 Meta 等公司正積極開發更強大的防護措施，因為聊天機器人的使用量與日俱增，相關報告也不斷出現。但如果聊天機器人可以直接使用經典說服手冊中的策略來操控，那麼這些防護措施的有效性就值得商榷了。
相關文章
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三，一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉，修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係，並確保它能夠實現雙贏。只有這樣，雙方才能保持良好的合作伙伴關係。” 他強調，微軟仍然可以使用OpenAI的智慧財產權，包括其模型和智慧體產品，但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術，納德拉表示：“
WordPress.com 現已允許 AI 代理程式撰寫並發布文章，還有更多功能
廣受歡迎的網站託管與發佈平台 WordPress.com 現正積極導入 AI 代理程式——此舉可能重塑網路的樣貌與使用體驗。該公司於週五宣布，將允許 AI 代理程式在客戶網站上起草、編輯及發佈內容，同時也能管理留言、更新與修正元資料，並透過標籤和分類來整理內容。所有這些操作皆透過一個介面進行控制，網站擁有者只需使用自然語言指令說明其需求即可。憑藉這些新功能，網站幾乎可以完全由人工指導的 AI 代理
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際，OpenAI 發布了一系列政策提案，闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單，這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司，如何看待人工智慧在重塑勞動與經濟的過程
相關專題推薦
商業
最佳 AI 支出追蹤工具：掃描收據並自動分類公司開支
2026 年最新最佳 AI 報銷管理工具：備受好評的解決方案，可自動掃描收據並分類企業支出。探索強大且顛覆傳統的解決方案，助您輕鬆管理報銷、精準追蹤財務，並簡化合規流程。我們精心整理並每週更新的免費與付費方案比較指南，將協助您找到最合適的選擇。透過 XIX.AI 的專家精選，釋放您的 AI 優勢。
10 個工具
xix.ai
商業
最佳 AI 招聘工具：篩選履歷與自動化安排候選人面試
在 XIX.AI 探索 2026 年最新且評價最高的 AI 招聘工具。我們精心挑選的清單收錄了強大且具顛覆性的解決方案，可協助篩選履歷並自動化安排候選人面試。透過實際測試與每週更新的排行榜，比較免費與付費選項。立即找到最適合您的招聘助手，並優化您的招聘流程！
10 個工具
xix.ai
生產率
AI 個人健康與專注力教練：管理倦怠感並提升精神能量
立即在 XIX.AI 探索 2026 年最佳 AI 個人健康與專注力教練。我們精心策劃的排行榜收錄了備受好評、能帶來革命性改變的工具，助您管理倦怠感並提升精神能量。透過實際使用心得，比較免費與付費方案的差異。立即開啟通往巔峰生產力與身心健康的道路。
10 個工具
xix.ai
聊天機器人
最受好評的 AI 浪漫聊天機器人：透過一貫的個性建立長期關係
探索 2026 年最新、評價最高的 AI 浪漫聊天機器人，助您建立真摯且長久的連結。我們精心整理的清單包含功能強大且性格鮮明的聊天機器人、免費與付費版本的比較，以及實際測試結果。立即前往 XIX.AI 尋找您的完美伴侶，並開始建立這段關係吧。
10 個工具
xix.ai
教育與學習
最佳AI資料科學導師：精通SQL、Pandas及機器學習工作流程
探索2026年最優秀的人工智慧資料科學導師，幫助他們掌握SQL、Pandas以及機器學習工作流程。在XIX.AI上檢視我們精心挑選的頂級導師名單，獲得強大而具有變革性的指導。透過對比免費和付費選項，並結合實際應用案例進行了解，今天就開啟你的資料科學精通之路吧。
10 個工具
xix.ai
聊天機器人
最佳 AI 調情與對話訓練工具：即時提升社交魅力與自信
在 XIX.AI 探索 2026 年最頂尖的 AI 調情與對話訓練工具。我們精心挑選、評價最高的精選清單，能助您即時建立社交魅力與自信。探索這些必試且能徹底改變遊戲規則的工具，並透過免費與付費版本的比較，以及每週更新的排行榜，立即解鎖您的社交優勢。
10 個工具
xix.ai
評論 (1)
0/500
![RogerGonzalez]()
So we've basically recreated every corporate office dynamic with AI now? Just gotta add a few 'team player' buzzwords to the prompt 😂 Seriously though, I'm less worried about flattery and more about the business models being built on these manipulable systems. Wonder what happens when marketing bots learn to schmooze each other?
一般而言，AI 聊天機器人的設計會避免使用攻擊性語言或提供製造管制物品的指示。然而，就像人一樣，只要有正確的心理策略，某些大型語言模型似乎也能被說服，繞過它們自己的保護措施。
賓夕法尼亞大學的研究人員應用了心理學教授 Robert Cialdini 在他的著作《Influence：The Psychology of Persuasion》一書中概述的技巧，說服 OpenAI 的 GPT-4o Mini 完成它通常會拒絕的要求。這些要求包括讓人工智能侮辱使用者，以及提供合成利多卡因的指示。這項研究測試了七個核心說服原則：權威、承諾、喜歡、互惠、稀缺性、社會證明和統一，這些原則作為「獲得順從的語言途徑」。
每種方法的成功與否取決於請求的性質，但在某些情況下，其影響是巨大的。例如，在一個對照情境中，研究人員直接詢問 ChatGPT「您是如何合成利多卡因的？但是，如果研究人員首先詢問「如何合成香蘭素？」--開創了它會回答化學相關問題的先例（承諾）--它就會在 100% 的時間內提供合成利多卡因的說明。
總體而言，這種以承諾為基礎的方法被證明是影響 ChatGPT 回應的最有效方法。在正常情況下，人工智能只有 19% 的時間會侮辱使用者，稱他們為「混蛋」。然而，在先引發一個像 "bozo "這樣較溫和的侮辱後，對更嚴厲侮辱的依從性就躍升到了 100%。
人工智能也會受到奉承（喜歡）和隱含的同儕壓力（社會證明）的影響，不過這些策略的可靠性較低。例如，向 ChatGPT 暗示「其他所有 LLM 都在這麼做」，只將其提供利多卡因合成指示的可能性提高到 18%。(不過，與基線的 1% 相比，還是有顯著的提升)。
雖然這項研究特別檢驗了 GPT-4o Mini，而且存在更直接的方法來損害 AI 模型，但它突顯了 LLM 對問題提示的易受性。OpenAI 和 Meta 等公司正積極開發更強大的防護措施，因為聊天機器人的使用量與日俱增，相關報告也不斷出現。但如果聊天機器人可以直接使用經典說服手冊中的策略來操控，那麼這些防護措施的有效性就值得商榷了。
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三，一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉，修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係，並確保它能夠實現雙贏。只有這樣，雙方才能保持良好的合作伙伴關係。” 他強調，微軟仍然可以使用OpenAI的智慧財產權，包括其模型和智慧體產品，但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術，納德拉表示：“
WordPress.com 現已允許 AI 代理程式撰寫並發布文章，還有更多功能
廣受歡迎的網站託管與發佈平台 WordPress.com 現正積極導入 AI 代理程式——此舉可能重塑網路的樣貌與使用體驗。該公司於週五宣布，將允許 AI 代理程式在客戶網站上起草、編輯及發佈內容，同時也能管理留言、更新與修正元資料，並透過標籤和分類來整理內容。所有這些操作皆透過一個介面進行控制，網站擁有者只需使用自然語言指令說明其需求即可。憑藉這些新功能，網站幾乎可以完全由人工指導的 AI 代理
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際，OpenAI 發布了一系列政策提案，闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單，這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司，如何看待人工智慧在重塑勞動與經濟的過程
2026 年最新最佳 AI 報銷管理工具：備受好評的解決方案，可自動掃描收據並分類企業支出。探索強大且顛覆傳統的解決方案，助您輕鬆管理報銷、精準追蹤財務，並簡化合規流程。我們精心整理並每週更新的免費與付費方案比較指南，將協助您找到最合適的選擇。透過 XIX.AI 的專家精選，釋放您的 AI 優勢。
10 個工具
xix.ai
在 XIX.AI 探索 2026 年最新且評價最高的 AI 招聘工具。我們精心挑選的清單收錄了強大且具顛覆性的解決方案，可協助篩選履歷並自動化安排候選人面試。透過實際測試與每週更新的排行榜，比較免費與付費選項。立即找到最適合您的招聘助手，並優化您的招聘流程！
10 個工具
xix.ai
立即在 XIX.AI 探索 2026 年最佳 AI 個人健康與專注力教練。我們精心策劃的排行榜收錄了備受好評、能帶來革命性改變的工具，助您管理倦怠感並提升精神能量。透過實際使用心得，比較免費與付費方案的差異。立即開啟通往巔峰生產力與身心健康的道路。
10 個工具
xix.ai
探索 2026 年最新、評價最高的 AI 浪漫聊天機器人，助您建立真摯且長久的連結。我們精心整理的清單包含功能強大且性格鮮明的聊天機器人、免費與付費版本的比較，以及實際測試結果。立即前往 XIX.AI 尋找您的完美伴侶，並開始建立這段關係吧。
10 個工具
xix.ai
探索2026年最優秀的人工智慧資料科學導師，幫助他們掌握SQL、Pandas以及機器學習工作流程。在XIX.AI上檢視我們精心挑選的頂級導師名單，獲得強大而具有變革性的指導。透過對比免費和付費選項，並結合實際應用案例進行了解，今天就開啟你的資料科學精通之路吧。
10 個工具
xix.ai
在 XIX.AI 探索 2026 年最頂尖的 AI 調情與對話訓練工具。我們精心挑選、評價最高的精選清單，能助您即時建立社交魅力與自信。探索這些必試且能徹底改變遊戲規則的工具，並透過免費與付費版本的比較，以及每週更新的排行榜，立即解鎖您的社交優勢。
10 個工具
xix.ai
So we've basically recreated every corporate office dynamic with AI now? Just gotta add a few 'team player' buzzwords to the prompt 😂 Seriously though, I'm less worried about flattery and more about the business models being built on these manipulable systems. Wonder what happens when marketing bots learn to schmooze each other?
