Anthropic公司密码分析事件及Claude聊天记录泄露事件的幕后故事

谷歌搜索显示了超过25页的结果，其中包含200多段与Claude的对话，部分对话涉及个人或工作相关信息。来源：Anthropic

泄露的Claude聊天记录凸显了“影子AI”带来的商业风险，与此同时，Mythos Preview揭示了NIST认证加密算法中的漏洞。

最近，两则关于Anthropic的重要新闻登上了头条，既展示了前沿AI系统的能力，也揭示了其面临的现实挑战。

这家AI公司利用Claude Mythos Preview，发现了攻击加密算法（即互联网私密通信的数学基础）的新方法和改进方法。

第二起事件则不太乐观：数百条用户与Claude的对话内容出现在公开搜索结果中，这引发了人们对组织如何管理AI工具部署的严重质疑。

聊天记录为何能被搜索到

起因是Reddit用户发现，通过谷歌搜索可以查找到与Claude的对话记录。这一发现显示，搜索结果中分布着25页、共计200多条对话记录。

部分对话包含个人信息，另一些则涉及工作项目的细节。

SonicWall欧洲、中东和非洲（EMEA）地区执行副总裁斯宾塞·斯塔基

Anthropic的一位发言人告诉BBC新闻，分享聊天链接会使内容对公众开放。尽管Claude会警告用户，任何拥有链接的人都能查看对话内容，但并未明确指出搜索引擎可以对共享内容进行索引。

此次泄露凸显了一个重大的商业问题：影子AI。根据 Vanta Security 的一项研究，70% 的企业中都有员工在使用未经授权的 AI 工具。

SonicWall欧洲、中东和非洲（EMEA）地区执行副总裁斯宾塞·斯塔基（Spencer Starkey）对“影子AI”的影响进行了剖析。

“员工每天都在使用公共的大语言模型（LLM）/AI平台——向其中输入客户数据、内部文件和敏感通信内容——却没有任何政策框架加以规范，”斯宾塞指出。

“在防火墙层面阻止未经授权的AI协议的能力已经存在，但企业是否选择使用它呢？现在，企业确实应该这样做这一点比以往任何时候都更加明确。

“除非企业像对待未经授权的第三方应用程序那样严肃对待影子AI，否则他们将完全放任这一重大且大多隐形的数据泄露风险——潜在的敏感数据可能仅通过一次谷歌搜索就暴露无遗。”

据BBC新闻报道，Anthropic已采取措施，防止主要搜索引擎对共享的聊天链接进行索引。

Mythos Preview 的密码分析功能

Claude Mythos Preview 已展现出识别隐藏软件漏洞的能力。Anthropic 的最新研究发现，这一能力还延伸到了密码学分析领域。

除非组织将“影子AI”视为未经授权的第三方应用程序一样严肃对待，否则他们将完全忽视这一重大且大多隐形的数据泄露风险

SonicWall 欧洲、中东和非洲（EMEA）地区执行副总裁斯宾塞·斯塔基

这些加密算法是用于保障互联网流量安全的数学算法。它们通过加密技术保护网上银行、电子邮件及其他通信安全。

Mythos的研究人员发现了一种针对HAWK的攻击，这是一种数字签名方案，美国国家标准与技术研究院（NIST）曾将其作为后量子密码学方案之一进行评估。

该人工智能在不到 60 小时内就修改了针对 HAWK 的最知名攻击方式，使该算法的密钥强度降低了一半。

该研究还考察了高级加密标准（AES）。据Anthropic称，自2001年NIST采纳AES以来，该算法所接受的分析程度已超过任何其他加密算法。

关键事实

• 据Vanta Security统计，70%的企业员工正在使用未经授权的AI工具
• Mythos在不到60小时内修改了针对HAWK最著名的攻击方法，使该算法的密钥强度减半
• Mythos破解AES加密的弱化版本的速度，比此前最有效的攻击快200至800倍

Mythos破解该加密算法较弱版本的速度，比此前攻击快了200到800倍。该公司表示，由于HAWK尚未部署，且原始AES密码算法并未被破解，因此现有系统不会受到直接影响。

Anthropic将这些成果视为密码学研究领域的进步。该公司正与苏黎世联邦理工学院（ETH Zurich）、特拉维夫大学和柏林工业大学（TU Berlin）的学者合作，共同构建CryptanalysisBench平台。

该基准测试平台整合了多种加密算法，用于评估大型语言模型（LLM）在密码分析方面的能力。Anthropic已将其研究成果分享给美国政府及行业合作伙伴。

Anthropic 还指出，该公司已于 6 月向 HAWK 算法的作者提供了相关研究的详细信息。Keeper Security 的密码学顾问亚当·埃弗斯波（Adam Everspaugh）博士指出，速度至关重要。

Keeper Security 密码学顾问亚当·埃弗斯波（Adam Everspaugh）。图片来源：Station70

“据报道，这次攻击仅耗时约60小时的AI辅助研究，就发现了此前专家历时两年人工审查仍未能发现的问题。仅此一点，就应促使各组织重新审视其对量子安全准备工作的思考方式，”亚当表示。

构建加密敏捷系统

亚当指出，仅靠算法选择并不能决定系统的韧性。“加密敏捷性与算法选择本身同样重要，”他强调道。

“那些无需彻底重构架构即可更换或修补密码原语的系统，比那些被锁定在单一方案中的系统更容易吸收此类研究成果。

“实际上，这意味着要实时掌握整个环境中加密算法的使用位置和方式，并确保在被迫迁移之前已建立好更新路径。”