Meta 和思科将开源人工智能模型整合到下一代安全操作中

随着网络攻击以机器速度加速,开源大型语言模型(LLM)正迅速成为核心基础设施。它们使初创企业和成熟的网络安全领导者能够构建和部署灵活、经济高效的防御措施,以应对超过人类响应时间的威胁。
开源大型语言模型的固有优势--部署更快、适应性更强、成本更低--为基础设施的交付奠定了可扩展的安全基石。在上周举行的 RSAC 2025 大会上,思科、Meta 和 ProjectDiscovery 发布了新的开源 LLM 和由社区推动的攻击面创新,共同塑造了开源网络安全的未来。
今年 RSAC 的一个核心主题是开源 LLM 的演进,以大规模增强和强化基础设施。
开源人工乐虎国际手机版下载即将实现网络安全领导者长期以来一直倡导的突破:使不同的安全提供商能够联合起来,共同应对日益复杂的威胁。鉴于 RSAC 的宣布,围绕统一的开源 LLM 和基础设施协同创建的愿景现在更接近于现实。
正如思科首席产品官 Jeetu Patel 在主题演讲中所说:"我们真正的对手不是竞争对手,而是对手。我们必须确保生态系统拥有共同应对这些威胁的工具和团结"。
帕特尔强调了这一复杂任务背后的紧迫性:"人工智能正在重塑一切,而网络安全正处于中心位置。我们面临的威胁是以机器的规模而非人的规模运作的。"
思科的 Foundation-sec-8B LLM 定义了开源人工智能的新时代
思科新成立的 Foundation AI 小组源于其对 Robust Intelligence 的收购,专门为网络安全这一要求最高的领域提供特定领域的 AI 基础设施。基于 Meta 的 Llama 3.1 架构,这个 80 亿参数的开放式 LLM 并不是一个重新利用的通用人工智能。它是在思科基金会人工智能团队内部策划的网络安全数据集上专门构建和严格训练的。
基金会人工智能与安全副总裁亚伦-辛格(Yaron Singer)写道:"从本质上讲,这一领域的挑战是人工智能最严峻的挑战之一。为了让更多人了解这项技术,我们决定基金会的大部分人工智能工作都应该是开放的。开放式创新能为行业带来复合效益,尤其是在网络安全领域。
通过立足于开源,思科为网络安全提供商(通常是拥有类似产品的竞争对手)设计了一个实用的框架,让他们能够合作建立更强大、统一的防御系统。
辛格指出:"无论是将其嵌入现有工具还是创建新的工作流程,foundation-sec-8b 都能适应企业的具体要求。根据思科的发布博客,安全团队可以在整个安全生命周期内部署 foundation-sec-8b。建议的用例包括 SOC 加速、主动威胁防御、工程支持、人工智能辅助代码审查、配置验证和定制集成。
Foundation-sec-8B的模型权重和标记化器在Apache 2.0许可下在Hugging Face上提供,使企业可以自由定制和部署,无需锁定供应商,同时还能保护合规性和隐私。思科还计划开源培训管道,以推动社区驱动的创新。
网络安全是 LLM 的基因
思科开发的网络安全专用模型针对 SOC、DevSecOps 和企业安全团队进行了优化。改造一个通用的人工智能模型是不够的,因此基金会的人工智能团队使用广泛、高质量的网络安全数据集对其进行了训练。
这种精确驱动的方法可确保模型全面了解现实世界中的网络威胁、漏洞和防御策略。
核心训练数据集包括
- 漏洞数据库:详细的 CVE(常见漏洞和暴露)和 CWE(常见弱点枚举),用于识别已知威胁和弱点。
- 威胁行为映射:来自 MITRE ATT&CK 等成熟安全框架的结构化信息,详细介绍了攻击者的技术和行为。
- 威胁情报报告:对全球网络安全事件和新兴威胁的全面分析。
- 红队战术手册:真实世界的对抗战术和渗透策略。
- 真实世界事件摘要:记录在案的网络安全漏洞分析、事件和解决路径。
- 合规性和安全性指南:来自领先标准机构的最佳实践,包括 NIST 框架和 OWASP 安全编码原则。
与通用模型相比,这种量身定制的培训使 Foundation-sec-8B 能够以更高的准确性、更深入的背景和更快的响应速度处理复杂的网络安全任务。
基金会-sec-8B LLM 的基准测试
思科的技术基准表明,Foundation-sec-8B 的网络安全性能可与更大型的模型相媲美:
基准 Foundation-sec-8B Llama-3.1-8B Llama-3.1-70B CTI-MCQA 67.39 64.14 68.23 CTI-RCM 75.26 66.43 72.66
通过设计网络安全专用的基础模型,思科帮助 SOC 团队利用高级威胁分析实现更高的效率,而不会产生高昂的基础设施成本。
正如思科在其博客 "Foundation AI:Robust Intelligence for Cybersecurity "中详细介绍的那样,思科的战略解决了采用人工智能的常见障碍,包括一般模型的领域一致性有限、数据集不足以及遗留系统集成。Foundation-sec-8B旨在克服这些障碍,在最低限度的硬件(通常只有一到两个Nvidia A100 GPU)上有效运行。
Meta 通过 AI Defenders 套件扩展开源 AI 安全性
在 RSAC 2025 大会上,Meta 强化了其开源承诺,扩展了 AI Defenders 套件,以确保生成式 AI 基础设施的安全。更新后的开源工具包包括 Llama Guard 4,这是一种多模态分类器,可识别文本和图像中的政策违规行为,改善人工智能工作流中的合规性监控。
Meta 还推出了具有模块化功能的开源实时安全框架 LlamaFirewall。这些功能包括:PromptGuard 2(检测提示注入和越狱尝试);Agent Alignment Checks(监控和保护人工智能代理决策);CodeShield(检查生成的代码以发现和修复漏洞)。
Prompt Guard 2 现在提供两种开源变体:高精度的 8600 万参数模型和针对低资源环境的更精简的 2200 万参数版本。
此外,Meta 还推出了与 CrowdStrike 共同开发的开源基准测试套件 CyberSec Eval 4。它包括CyberSOC Eval和AutoPatchBench,CyberSOC Eval用于测量人工智能在现实SOC场景中的性能,AutoPatchBench用于测试人工智能系统自主识别和修补软件缺陷的能力。
Meta 还首次推出了 "Llama Defenders 计划",提供对基于开放人工智能的安全工具(如敏感文档分类器和音频威胁检测)的早期访问。以隐私为中心的设备上人工智能 "私人处理"(Private Processing)也正在 WhatsApp 中进行试点。
ProjectDiscovery 的 Nuclei:社区驱动的开源安全创新
在 RSAC 2025 大会上,ProjectDiscovery 荣获创新沙盒 "最具创新初创企业 "奖,彰显了其对开源网络安全的执着追求。其旗舰工具 Nuclei 是一款可定制的开源漏洞扫描仪,可利用全球社区迅速检测 API、网站、云实例和网络中的问题。
Nuclei 基于 YAML 的模板库包含 11,000 多种检测模式,其中 3,000 种与特定的 CVE 对映,可实现实时威胁识别。ProjectDiscovery 首席运营官 Andy Cao 指出:"赢得第 20 届 RSAC 年度创新沙盒表明,开源模式可以在网络安全领域蓬勃发展。这证明了我们以社区为导向的安全民主化方法。
ProjectDiscovery 的进步与 Gartner 的 2024 年开源软件 Hype Cycle 相吻合,该 Hype Cycle 将开源人工智能和网络安全工具确定为 "创新触发 "阶段。Gartner 建议企业建立开源项目办公室 (OSPO),采用 SBOM 框架,并通过完善的管理确保合规性。
安全领导者的可行见解
思科的 Foundation-sec-8B、Meta 的 AI Defenders Suite 增强功能和 ProjectDiscovery 的 Nuclei 共同表明,当开放、协作和领域专业知识在各组织间融合时,网络安全创新就会蓬勃发展。这些厂商和其他厂商正在为每个网络安全提供商参与构建更有效、更经济的防御系统铺平道路。
正如帕特尔在主题演讲中所强调的:"这不仅仅是理论上的,而是实实在在的。有了人人都能使用的专用安全模型,我们就能在最先进的推理支持下,以极低的成本取得更好的安全成果"。
相关文章
Multiverse Computing推出免费压缩生成式AI模型
大型语言模型面临着一个重大挑战:其庞大的体量。西班牙初创公司Multiverse Computing正通过创建压缩模型来解决这一问题,旨在弥合尖端人工智能能力与企业实际可负担实施能力之间的差距。其核心创新在于CompactifAI压缩技术——这项受量子计算原理启发的技术已被这家巴斯克公司用于优化OpenAI的模型。从今天起,开发者可在Hugging Face平台免费获取Multiverse增强版H
秘密追踪数据揭露人工智能模型被盗事件
一种新方法能在数秒内对ChatGPT等模型进行隐形水印处理,无需重新训练,既不会在标准输出中留下痕迹,又能抵御所有实际的去除尝试。 水印技术与"版权诱饵"的关键区别在于:无论可见或隐形的水印,通常都设计为贯穿整个集合(如图像数据集)的持续性威慑手段,以防范随意复制。而虚构条目则是将一小段文本(通常为单词或定义)植入大型通用集合中,旨在证明盗用行为。其原理在于:当作品被直接盗用或作为衍生作品基础时,
人工智能系统被诱骗批准荒谬的科学论文
最新研究表明,人工智能系统现已能够生成虚假科学论文,且其他AI模型会将其误认为真实研究。这些伪造的研究绕过了以往有效的检测方法,凸显出科研生态系统可能陷入机器人欺骗机器人的循环漩涡,面临崩溃风险。 具有讽刺意味的是,作为人工智能创新前沿的学术研究领域,正面临着主要由人工智能引发的可信度危机。自四年前机器学习的潜在影响显现以来,其已深刻重塑了研究、投稿和同行评审流程。最新争议涉及低质量调查论文的批量
相关专题推荐
评论 (0)
0/500

随着网络攻击以机器速度加速,开源大型语言模型(LLM)正迅速成为核心基础设施。它们使初创企业和成熟的网络安全领导者能够构建和部署灵活、经济高效的防御措施,以应对超过人类响应时间的威胁。
开源大型语言模型的固有优势--部署更快、适应性更强、成本更低--为基础设施的交付奠定了可扩展的安全基石。在上周举行的 RSAC 2025 大会上,思科、Meta 和 ProjectDiscovery 发布了新的开源 LLM 和由社区推动的攻击面创新,共同塑造了开源网络安全的未来。
今年 RSAC 的一个核心主题是开源 LLM 的演进,以大规模增强和强化基础设施。
开源人工乐虎国际手机版下载即将实现网络安全领导者长期以来一直倡导的突破:使不同的安全提供商能够联合起来,共同应对日益复杂的威胁。鉴于 RSAC 的宣布,围绕统一的开源 LLM 和基础设施协同创建的愿景现在更接近于现实。
正如思科首席产品官 Jeetu Patel 在主题演讲中所说:"我们真正的对手不是竞争对手,而是对手。我们必须确保生态系统拥有共同应对这些威胁的工具和团结"。
帕特尔强调了这一复杂任务背后的紧迫性:"人工智能正在重塑一切,而网络安全正处于中心位置。我们面临的威胁是以机器的规模而非人的规模运作的。"
思科的 Foundation-sec-8B LLM 定义了开源人工智能的新时代
思科新成立的 Foundation AI 小组源于其对 Robust Intelligence 的收购,专门为网络安全这一要求最高的领域提供特定领域的 AI 基础设施。基于 Meta 的 Llama 3.1 架构,这个 80 亿参数的开放式 LLM 并不是一个重新利用的通用人工智能。它是在思科基金会人工智能团队内部策划的网络安全数据集上专门构建和严格训练的。
基金会人工智能与安全副总裁亚伦-辛格(Yaron Singer)写道:"从本质上讲,这一领域的挑战是人工智能最严峻的挑战之一。为了让更多人了解这项技术,我们决定基金会的大部分人工智能工作都应该是开放的。开放式创新能为行业带来复合效益,尤其是在网络安全领域。
通过立足于开源,思科为网络安全提供商(通常是拥有类似产品的竞争对手)设计了一个实用的框架,让他们能够合作建立更强大、统一的防御系统。
辛格指出:"无论是将其嵌入现有工具还是创建新的工作流程,foundation-sec-8b 都能适应企业的具体要求。根据思科的发布博客,安全团队可以在整个安全生命周期内部署 foundation-sec-8b。建议的用例包括 SOC 加速、主动威胁防御、工程支持、人工智能辅助代码审查、配置验证和定制集成。
Foundation-sec-8B的模型权重和标记化器在Apache 2.0许可下在Hugging Face上提供,使企业可以自由定制和部署,无需锁定供应商,同时还能保护合规性和隐私。思科还计划开源培训管道,以推动社区驱动的创新。
网络安全是 LLM 的基因
思科开发的网络安全专用模型针对 SOC、DevSecOps 和企业安全团队进行了优化。改造一个通用的人工智能模型是不够的,因此基金会的人工智能团队使用广泛、高质量的网络安全数据集对其进行了训练。
这种精确驱动的方法可确保模型全面了解现实世界中的网络威胁、漏洞和防御策略。
核心训练数据集包括
- 漏洞数据库:详细的 CVE(常见漏洞和暴露)和 CWE(常见弱点枚举),用于识别已知威胁和弱点。
- 威胁行为映射:来自 MITRE ATT&CK 等成熟安全框架的结构化信息,详细介绍了攻击者的技术和行为。
- 威胁情报报告:对全球网络安全事件和新兴威胁的全面分析。
- 红队战术手册:真实世界的对抗战术和渗透策略。
- 真实世界事件摘要:记录在案的网络安全漏洞分析、事件和解决路径。
- 合规性和安全性指南:来自领先标准机构的最佳实践,包括 NIST 框架和 OWASP 安全编码原则。
与通用模型相比,这种量身定制的培训使 Foundation-sec-8B 能够以更高的准确性、更深入的背景和更快的响应速度处理复杂的网络安全任务。
基金会-sec-8B LLM 的基准测试
思科的技术基准表明,Foundation-sec-8B 的网络安全性能可与更大型的模型相媲美:
| 基准 | Foundation-sec-8B | Llama-3.1-8B | Llama-3.1-70B |
| CTI-MCQA | 67.39 | 64.14 | 68.23 |
| CTI-RCM | 75.26 | 66.43 | 72.66 |
通过设计网络安全专用的基础模型,思科帮助 SOC 团队利用高级威胁分析实现更高的效率,而不会产生高昂的基础设施成本。
正如思科在其博客 "Foundation AI:Robust Intelligence for Cybersecurity "中详细介绍的那样,思科的战略解决了采用人工智能的常见障碍,包括一般模型的领域一致性有限、数据集不足以及遗留系统集成。Foundation-sec-8B旨在克服这些障碍,在最低限度的硬件(通常只有一到两个Nvidia A100 GPU)上有效运行。
Meta 通过 AI Defenders 套件扩展开源 AI 安全性
在 RSAC 2025 大会上,Meta 强化了其开源承诺,扩展了 AI Defenders 套件,以确保生成式 AI 基础设施的安全。更新后的开源工具包包括 Llama Guard 4,这是一种多模态分类器,可识别文本和图像中的政策违规行为,改善人工智能工作流中的合规性监控。
Meta 还推出了具有模块化功能的开源实时安全框架 LlamaFirewall。这些功能包括:PromptGuard 2(检测提示注入和越狱尝试);Agent Alignment Checks(监控和保护人工智能代理决策);CodeShield(检查生成的代码以发现和修复漏洞)。
Prompt Guard 2 现在提供两种开源变体:高精度的 8600 万参数模型和针对低资源环境的更精简的 2200 万参数版本。
此外,Meta 还推出了与 CrowdStrike 共同开发的开源基准测试套件 CyberSec Eval 4。它包括CyberSOC Eval和AutoPatchBench,CyberSOC Eval用于测量人工智能在现实SOC场景中的性能,AutoPatchBench用于测试人工智能系统自主识别和修补软件缺陷的能力。
Meta 还首次推出了 "Llama Defenders 计划",提供对基于开放人工智能的安全工具(如敏感文档分类器和音频威胁检测)的早期访问。以隐私为中心的设备上人工智能 "私人处理"(Private Processing)也正在 WhatsApp 中进行试点。
ProjectDiscovery 的 Nuclei:社区驱动的开源安全创新
在 RSAC 2025 大会上,ProjectDiscovery 荣获创新沙盒 "最具创新初创企业 "奖,彰显了其对开源网络安全的执着追求。其旗舰工具 Nuclei 是一款可定制的开源漏洞扫描仪,可利用全球社区迅速检测 API、网站、云实例和网络中的问题。
Nuclei 基于 YAML 的模板库包含 11,000 多种检测模式,其中 3,000 种与特定的 CVE 对映,可实现实时威胁识别。ProjectDiscovery 首席运营官 Andy Cao 指出:"赢得第 20 届 RSAC 年度创新沙盒表明,开源模式可以在网络安全领域蓬勃发展。这证明了我们以社区为导向的安全民主化方法。
ProjectDiscovery 的进步与 Gartner 的 2024 年开源软件 Hype Cycle 相吻合,该 Hype Cycle 将开源人工智能和网络安全工具确定为 "创新触发 "阶段。Gartner 建议企业建立开源项目办公室 (OSPO),采用 SBOM 框架,并通过完善的管理确保合规性。
安全领导者的可行见解
思科的 Foundation-sec-8B、Meta 的 AI Defenders Suite 增强功能和 ProjectDiscovery 的 Nuclei 共同表明,当开放、协作和领域专业知识在各组织间融合时,网络安全创新就会蓬勃发展。这些厂商和其他厂商正在为每个网络安全提供商参与构建更有效、更经济的防御系统铺平道路。
正如帕特尔在主题演讲中所强调的:"这不仅仅是理论上的,而是实实在在的。有了人人都能使用的专用安全模型,我们就能在最先进的推理支持下,以极低的成本取得更好的安全成果"。
Multiverse Computing推出免费压缩生成式AI模型
大型语言模型面临着一个重大挑战:其庞大的体量。西班牙初创公司Multiverse Computing正通过创建压缩模型来解决这一问题,旨在弥合尖端人工智能能力与企业实际可负担实施能力之间的差距。其核心创新在于CompactifAI压缩技术——这项受量子计算原理启发的技术已被这家巴斯克公司用于优化OpenAI的模型。从今天起,开发者可在Hugging Face平台免费获取Multiverse增强版H
秘密追踪数据揭露人工智能模型被盗事件
一种新方法能在数秒内对ChatGPT等模型进行隐形水印处理,无需重新训练,既不会在标准输出中留下痕迹,又能抵御所有实际的去除尝试。 水印技术与"版权诱饵"的关键区别在于:无论可见或隐形的水印,通常都设计为贯穿整个集合(如图像数据集)的持续性威慑手段,以防范随意复制。而虚构条目则是将一小段文本(通常为单词或定义)植入大型通用集合中,旨在证明盗用行为。其原理在于:当作品被直接盗用或作为衍生作品基础时,
人工智能系统被诱骗批准荒谬的科学论文
最新研究表明,人工智能系统现已能够生成虚假科学论文,且其他AI模型会将其误认为真实研究。这些伪造的研究绕过了以往有效的检测方法,凸显出科研生态系统可能陷入机器人欺骗机器人的循环漩涡,面临崩溃风险。 具有讽刺意味的是,作为人工智能创新前沿的学术研究领域,正面临着主要由人工智能引发的可信度危机。自四年前机器学习的潜在影响显现以来,其已深刻重塑了研究、投稿和同行评审流程。最新争议涉及低质量调查论文的批量





首页






