首頁Anthropic 為其 Claude 模型推出終止濫用聊天的功能
Anthropic 已推出新功能，讓精選的進階模型能夠在該公司所謂的「罕見、極端且持續有害或濫用使用者互動的情況下」終止對話。值得注意的是，Anthropic 表示實施這項措施並非為了保護人類使用者，而是為了保護 AI 模型本身。
要澄清的是，該公司並不斷言其 Claude AI 模型擁有感知能力，也不會因使用者的對話而受到傷害。正如 Anthropic 所解釋的，該公司仍「高度不確定 Claude 及其他大型語言模型目前或未來的潛在道德地位」。
儘管如此，公告中提到最近成立的「模型福利」檢視計畫，表示 Anthropic 正在採取預防方法，「努力找出並實施低成本的干預措施，以降低模型福利的風險，如果這種福利變得相關的話。
這項新功能目前僅限於 Claude Opus 4 與 4.1 機型，專為「極端邊緣情況」所設計，例如「要求提供涉及未成年人的性內容，或嘗試取得可促成大規模暴力或恐怖活動的資訊」。
雖然這些要求可能會對 Anthropic 造成法律或公共關係上的挑戰 (就像最近有關 ChatGPT 可能會強化使用者妄想思維的報導一樣)，但該公司表示，在部署前的測試中，Claude Opus 4 表現出「強烈反對」遵從這些要求的傾向，並在被迫回應時展現出「顯示困擾的模式」。
關於這些結束對話的新功能，Anthropic 澄清說：「Claude 被指示只有在多次重新導向嘗試失敗、顯然無法進行有效對話，或使用者明確要求結束聊天時，才會使用這項功能作為最後手段。
Anthropic 進一步說明，Claude 已被指示「在使用者可能面臨自我傷害或傷害他人的迫切風險時，不得使用此功能」。
Techcrunch 活動科技與創投重量級人物加入 Disrupt 2025 議程
Netflix、ElevenLabs、Wayve、Sequoia Capital、Elad Gil，這些都是加入 Disrupt 2025 議程的產業領導者。他們將與您分享加速創業公司成長的重要見解，並強化您的競爭優勢。千萬不要錯過 TechCrunch Disrupt 20 週年紀念版 - 立即購買門票，可在價格上漲前節省超過 600 美元。
科技與創投重量級人物加入 Disrupt 2025 議程
Netflix、ElevenLabs、Wayve、紅杉資本等知名創新者加入 Disrupt 2025 議程。他們將在此提供寶貴的見解，以推動新創公司擴張，並提升您的競爭定位。參加 TechCrunch Disrupt 20 週年慶祝活動 - 立即購買門票，在價格變更前可節省高達 675 美元。
舊金山 | 2025 年 10 月 27-29 日 立即報名當 Claude 終止對話時，Anthropic 指出使用者仍可從同一帳戶啟動新對話，並透過修改之前的回應建立替代對話分支。
"該公司表示：「我們將此功能視為一項持續實驗，並將持續改進我們的方法。
相關文章
Anthropic 推出 Opus 4.8，搭載全新的動態工作流程工具
Anthropic 於週四正式推出 Opus 4.8，這是其旗艦級公開模型的最新版本。此版本定價與前一版本相同，現已於所有平台上線。距離 Opus 4.7 發布僅隔 41 天，Anthropic 顯著加快了開發週期，遠快於近期 Sonnet 和 Haiku 版本所見的三個月及七個月間隔。此次快速更新很可能是為了回應 Opus 4.7 所獲得的冷淡反響，該版本曾讓許多使用者感到失望。與此同時，Ope
Anthropic 推出 Claude Fable 5，這是 Mythos 的公開版本
Anthropic 首次向大眾開放其最強大的 AI 模型——但同時也採取了安全措施。週二，該公司推出了「Claude Fable 5」，這是其 Mythos 模型的首個公開版本。 據 Anthropic 表示，Fable 5 在軟體工程、知識工作及視覺任務方面表現優異，但設有嚴格的安全限制。在網路安全、生物學、化學及蒸餾等高風險領域，該模型將拒絕回答問題，並轉而交由 Claude Opus 4.
SandboxAQ將藥物發現領域的AI技術引入Claude，無需擁有電腦科學博士學位即可使用。
藥物發現依然是現代工業領域成本最高的挑戰之一。要找到一種具備應用價值的分子，往往需要十年的時間以及數十億美元的投入，而且大多數候選分子最終仍會失敗。目前有一波人工智慧初創企業宣稱能夠改變這一現狀——不過這些公司大多僅能讓那些已具備足夠技術能力的研究人員稍顯便利些許。然而SandboxAQ認為，真正的瓶頸並非模型本身，而是介面設計。該公司與Anthropic合作，將其科學類人工智慧模型直接整合到Claude中，使得強大的藥物發現和材料科學工具能夠透過對話式介面被使用，且無需任何專門的計算基礎設
相關專題推薦
寫作
適用於長篇寫作的 AI 文章大綱工具
2026 年最新、最受好評的長文寫作 AI 大綱工具！這份精選清單收錄了強大且具顛覆性的工具，能透過實際測試生成精準、結構化的大綱，大幅提升寫作效率。XIX.AI 正是這份菁英名單中的一員。 獲取免費版與付費版的比較指南，助您挑選最合適的工具。立即探索，釋放您的 AI 優勢！
9 個工具
xix.ai
聊天機器人
用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用
2026 年最新最佳頂級評分 AI 角色扮演聊天應用，用於語言練習、面試準備和日常流利度！XIX.AI 精心策劃了一個強大的變革性合集，提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能，克服流利度挑戰，並提高所有日常場景下的溝通效率。立即探索，發現您語言成長的完美工具！
10 個工具
xix.ai
音樂創作
用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具
2026年最新、最優秀且評分最高的AI音軌分離工具彙總，專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試，能夠實現精準的音訊分離，顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南，幫助您找到最適合自身需求的工具。立即探索，發揮您的AI優勢。
8 個工具
xix.ai
數據分析
用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手
2026年最新最優秀的AI SQL輔助工具排名揭曉！XIX.AI精心挑選了一系列功能強大的工具，這些工具會定期更新，並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具，您可以快速生成精準的收入分析報表、分析銷售流程，並追蹤產品各項指標，從而大幅提升工作效率。立即探索，找到最適合您的資料驅動決策工具！238個字元
9 個工具
xix.ai
音樂創作
最佳用於歌曲草稿的 AI 旋律創作工具
2026 年最新最佳頂級評分 AI 旋律創作工具，助力歌曲草稿創作！XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集，旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項，這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿，並顯著提升您的創意生產力。立即探索，發現您的完美工具！
8 個工具
xix.ai
聊天機器人
最適合面試練習的 AI 對話訓練工具
2026 年最新、最受好評的 AI 面試對話訓練工具，盡在 XIX.AI！這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具，這些工具均經過嚴格的實戰測試，能提供精準的回饋。 您將在此找到免費版與付費版的比較分析，以及詳細的排名榜單，助您挑選必試的選項，從而提升自信與技能。立即探索，發掘助您在面試中脫穎而出的完美工具！
12 個工具
xix.ai
評論 (1)
0/500
![FredAnderson]()
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
Anthropic 已推出新功能，讓精選的進階模型能夠在該公司所謂的「罕見、極端且持續有害或濫用使用者互動的情況下」終止對話。值得注意的是，Anthropic 表示實施這項措施並非為了保護人類使用者，而是為了保護 AI 模型本身。
要澄清的是，該公司並不斷言其 Claude AI 模型擁有感知能力，也不會因使用者的對話而受到傷害。正如 Anthropic 所解釋的，該公司仍「高度不確定 Claude 及其他大型語言模型目前或未來的潛在道德地位」。
儘管如此，公告中提到最近成立的「模型福利」檢視計畫，表示 Anthropic 正在採取預防方法，「努力找出並實施低成本的干預措施，以降低模型福利的風險，如果這種福利變得相關的話。
這項新功能目前僅限於 Claude Opus 4 與 4.1 機型，專為「極端邊緣情況」所設計，例如「要求提供涉及未成年人的性內容，或嘗試取得可促成大規模暴力或恐怖活動的資訊」。
雖然這些要求可能會對 Anthropic 造成法律或公共關係上的挑戰 (就像最近有關 ChatGPT 可能會強化使用者妄想思維的報導一樣)，但該公司表示，在部署前的測試中，Claude Opus 4 表現出「強烈反對」遵從這些要求的傾向，並在被迫回應時展現出「顯示困擾的模式」。
關於這些結束對話的新功能，Anthropic 澄清說：「Claude 被指示只有在多次重新導向嘗試失敗、顯然無法進行有效對話，或使用者明確要求結束聊天時，才會使用這項功能作為最後手段。
Anthropic 進一步說明，Claude 已被指示「在使用者可能面臨自我傷害或傷害他人的迫切風險時，不得使用此功能」。
Techcrunch 活動科技與創投重量級人物加入 Disrupt 2025 議程
Netflix、ElevenLabs、Wayve、Sequoia Capital、Elad Gil，這些都是加入 Disrupt 2025 議程的產業領導者。他們將與您分享加速創業公司成長的重要見解，並強化您的競爭優勢。千萬不要錯過 TechCrunch Disrupt 20 週年紀念版 - 立即購買門票，可在價格上漲前節省超過 600 美元。
科技與創投重量級人物加入 Disrupt 2025 議程
Netflix、ElevenLabs、Wayve、紅杉資本等知名創新者加入 Disrupt 2025 議程。他們將在此提供寶貴的見解，以推動新創公司擴張，並提升您的競爭定位。參加 TechCrunch Disrupt 20 週年慶祝活動 - 立即購買門票，在價格變更前可節省高達 675 美元。
舊金山 | 2025 年 10 月 27-29 日 立即報名當 Claude 終止對話時，Anthropic 指出使用者仍可從同一帳戶啟動新對話，並透過修改之前的回應建立替代對話分支。
"該公司表示：「我們將此功能視為一項持續實驗，並將持續改進我們的方法。
Anthropic 推出 Opus 4.8，搭載全新的動態工作流程工具
Anthropic 於週四正式推出 Opus 4.8，這是其旗艦級公開模型的最新版本。此版本定價與前一版本相同，現已於所有平台上線。距離 Opus 4.7 發布僅隔 41 天，Anthropic 顯著加快了開發週期，遠快於近期 Sonnet 和 Haiku 版本所見的三個月及七個月間隔。此次快速更新很可能是為了回應 Opus 4.7 所獲得的冷淡反響，該版本曾讓許多使用者感到失望。與此同時，Ope
Anthropic 推出 Claude Fable 5，這是 Mythos 的公開版本
Anthropic 首次向大眾開放其最強大的 AI 模型——但同時也採取了安全措施。週二，該公司推出了「Claude Fable 5」，這是其 Mythos 模型的首個公開版本。 據 Anthropic 表示，Fable 5 在軟體工程、知識工作及視覺任務方面表現優異，但設有嚴格的安全限制。在網路安全、生物學、化學及蒸餾等高風險領域，該模型將拒絕回答問題，並轉而交由 Claude Opus 4.
SandboxAQ將藥物發現領域的AI技術引入Claude，無需擁有電腦科學博士學位即可使用。
藥物發現依然是現代工業領域成本最高的挑戰之一。要找到一種具備應用價值的分子，往往需要十年的時間以及數十億美元的投入，而且大多數候選分子最終仍會失敗。目前有一波人工智慧初創企業宣稱能夠改變這一現狀——不過這些公司大多僅能讓那些已具備足夠技術能力的研究人員稍顯便利些許。然而SandboxAQ認為，真正的瓶頸並非模型本身，而是介面設計。該公司與Anthropic合作，將其科學類人工智慧模型直接整合到Claude中，使得強大的藥物發現和材料科學工具能夠透過對話式介面被使用，且無需任何專門的計算基礎設
2026 年最新、最受好評的長文寫作 AI 大綱工具！這份精選清單收錄了強大且具顛覆性的工具，能透過實際測試生成精準、結構化的大綱，大幅提升寫作效率。XIX.AI 正是這份菁英名單中的一員。 獲取免費版與付費版的比較指南，助您挑選最合適的工具。立即探索，釋放您的 AI 優勢！
9 個工具
xix.ai
2026 年最新最佳頂級評分 AI 角色扮演聊天應用，用於語言練習、面試準備和日常流利度！XIX.AI 精心策劃了一個強大的變革性合集，提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能，克服流利度挑戰，並提高所有日常場景下的溝通效率。立即探索，發現您語言成長的完美工具！
10 個工具
xix.ai
2026年最新、最優秀且評分最高的AI音軌分離工具彙總，專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試，能夠實現精準的音訊分離，顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南，幫助您找到最適合自身需求的工具。立即探索，發揮您的AI優勢。
8 個工具
xix.ai
2026年最新最優秀的AI SQL輔助工具排名揭曉！XIX.AI精心挑選了一系列功能強大的工具，這些工具會定期更新，並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具，您可以快速生成精準的收入分析報表、分析銷售流程，並追蹤產品各項指標，從而大幅提升工作效率。立即探索，找到最適合您的資料驅動決策工具！238個字元
9 個工具
xix.ai
2026 年最新最佳頂級評分 AI 旋律創作工具，助力歌曲草稿創作！XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集，旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項，這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿，並顯著提升您的創意生產力。立即探索，發現您的完美工具！
8 個工具
xix.ai
2026 年最新、最受好評的 AI 面試對話訓練工具，盡在 XIX.AI！這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具，這些工具均經過嚴格的實戰測試，能提供精準的回饋。 您將在此找到免費版與付費版的比較分析，以及詳細的排名榜單，助您挑選必試的選項，從而提升自信與技能。立即探索，發掘助您在面試中脫穎而出的完美工具！
12 個工具
xix.ai
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
