选项
首页
新闻
Reco 旨在消除各企业的影子人工智能盲点

Reco 旨在消除各企业的影子人工智能盲点

2025-11-26
120

人工智能正以前所未有的速度在工作场所蔓延。每天,员工都在将人工智能工具连接到企业系统--通常没有经过 IT 安全团队的批准或监督。其结果就是专家们所说的影子人工智能:一个在不受监控的情况下访问公司数据的集成和工具的不断增长的网络。

SaaS 安全和人工智能治理提供商 Reco 的联合创始人兼首席技术官 Tal Shapira 博士说,这种无形的扩张可能成为当今最大的组织威胁之一。他指出,人工智能的应用速度已经超过了当前的企业保障措施。

"从'人工智能即将到来'到'人工智能无处不在',我们只用了大约 18 个月的时间。挑战在于治理框架没有跟上,"Shapira 说。

企业系统中隐藏的威胁

夏皮拉认为,大多数企业安全系统都是为旧时代构建的,在那个时代,一切都隐藏在防火墙和网络边界之后。影子人工智能从内部运作,隐藏在公司自己的应用程序中,从而颠覆了这种模式。

许多现代人工智能工具直接与 Salesforce、Slack 或 Google Workspace 等日常 SaaS 平台集成。虽然这本质上并不危险,但人工智能通常通过权限或插件进行连接,而这些权限或插件在设置后仍处于激活状态。这些 "静默 "连接可能会继续为人工智能提供访问公司数据的权限--即使在安装这些工具的员工离职或停止使用这些工具之后也是如此。这是一个重大的影子人工智能挑战。

夏皮拉说:"更深层次的问题是,这些工具会嵌入公司的基础设施,有时会持续数月或数年而不被发现。

这一类新风险尤其难以追踪,因为许多人工智能系统都是概率性的。人工智能不是执行固定的命令,而是根据模式进行预测。因此,它们的行为会因环境而异,从而增加了监督和控制的难度。

当人工智能出现意外行为时

真实世界的事件揭示了影子人工智能的实际影响。Reco 最近与一家财富 100 强的金融公司合作,该公司认为自己的系统是安全和合规的。在部署 Reco 监控的几天内,该公司在其 Salesforce 和 Microsoft 365 环境中发现了 1000 多个未经授权的第三方集成,其中一半以上是由人工智能驱动的。

其中一个集成是与 Zoom 相连的转录工具,它记录了客户的每一次通话,包括定价谈判和机密反馈。"Shapira 解释说:"他们无意中用自己最敏感的数据训练了一个第三方模型。"没有合同,也不清楚如何存储或使用这些数据。

在另一个案例中,一名员工将 ChatGPT 直接连接到 Salesforce,使人工智能能够在数小时内生成数百份内部报告。虽然效率很高,但这却将客户详情和销售预测暴露给了外部人工智能平台。

Reco 如何揭示看不见的东西

Reco 的平台为公司提供了对哪些人工智能工具连接到其系统以及这些工具能够访问的数据的全面可视性。它可持续扫描 SaaS 环境中的 OAuth 权限、第三方应用程序和浏览器扩展。一旦被识别,Reco 就会指出是哪些用户安装了它们,它们拥有哪些权限,以及这些行为看起来是否异常。

如果连接有风险,系统会提醒管理员或自动取消访问权限。"Shapira 指出:"速度至关重要,因为人工智能工具可以在数小时而不是数天内提取海量数据。

与专注于网络边界的传统安全产品不同,Reco 的目标是身份和访问层。这使它非常适合当今以云为先、依赖 SaaS 的组织,在这些组织中,大多数数据都位于传统防火墙之外。

更广泛的安全警报

行业分析师表示,Reco 的方法反映了一个更大的企业安全趋势:从阻止人工智能转向管理人工智能。思科最近发布的一份关于人工智能就绪程度的报告发现,62% 的企业承认对员工在工作中如何使用人工智能工具的可视性有限。近一半的企业已经面临至少一次与人工智能相关的数据事故。

随着人工智能嵌入主流软件--从 Salesforce 的 Einstein 到微软的 Copilot--挑战不断升级。"你可能会认为自己使用的是一个值得信赖的平台,"Shapira 说,"但却没有意识到它现在包含了自动获取信息的人工智能功能。

Reco 的平台通过监控已获批准和未获批准的人工智能活动来弥补这一差距,帮助企业了解数据流向和原因。

放心采用人工智能

Shapira 认为,我们正在进入 "人工智能基础架构阶段"--届时,无论可见与否,每种业务工具都将以某种形式包含人工智能。这使得持续监控、最小权限访问和有时间限制的权限变得至关重要。

"他指出:"成功的公司不会是那些阻止人工智能的公司。"成功的公司将是那些负责任地采用人工智能的公司,它们拥有保护创新和信任的护栏"。

他强调说,影子人工智能并不反映员工的粗心大意,而是反映了技术发展的速度有多快。"他说:"人们希望提高工作效率。"我们的作用是在不给组织带来风险的情况下实现这一点。"

对于希望在不失去数据控制的情况下利用人工智能的企业来说,Reco 的信息非常直接:你无法确保你看不到的东西的安全。

图片来源:UnsplashUnsplash

相关文章
印度科技巨头投资3000万美元,打造微软Office的AI竞争对手 印度科技巨头投资3000万美元,打造微软Office的AI竞争对手 连续创业者 Bhavin Turakhia 正投入 3000 万美元自有资金,押注企业 AI 领域仍有新玩家的空间。他最新的创业项目 Neo 基于一个核心信念:传统的职场软件不能仅靠聊天机器人进行修补,而需要进行彻底的架构重构。46 岁的 Turakhia 有着支持雄心勃勃的企业科技项目的历史。在过去二十年中,他联合创立了 Directi、Radix、Titan 和 Zeta,在寻求外部投资之前,主要使用个人资本为这些项目提供资金。他正将同样的自力更生策略应用于 Neo。Turakhia 向
前OpenAI首席科学家Ilya的SSI首次发布模型 前OpenAI首席科学家Ilya的SSI首次发布模型 AI 取得了另一项重大里程碑。在从 OpenAI 离职后,前首席科学家伊利亚·苏茨克弗(Ilya Sutskever)创立了 Safe Superintelligence Inc.(SSI),该公司最近公布了其首个模型的详细信息。海外社交媒体上的报道指出,该团队正在利用 TTT(测试时训练)开发一个紧凑的推理引擎,这是他们在追求安全超级智能过程中的关键进展。这种新颖的架构专注于使模型能够“学习如何学习”。与在推理过程中保持参数静态的传统大型语言模型不同,该引擎在处理现实世界任务时会动态更新特定
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field 2026年5月14日,AI应用开发平台Lovable宣布参与丹麦硬件初创公司Atech的80万美元种子轮融资。该轮由Lovable领投,吸引了包括a16z Scout Fund、Sequoia Scout Fund以及Nordic Makers在内的顶级风险投资机构。此次投资标志着Lovable将“Vibe Coding”概念从纯软件开发战略扩展至硬件工程领域。Atech旨在通过AI驱动的交互式平台简化复杂的硬件原型制作。用户购买基础硬件套件,并通过AI聊天机器人以自然语言描述其设计概念;系统
相关专题推荐
聊天机器人 最佳AI对话训练工具,助你备战面试
最佳AI对话训练工具,助你备战面试

2026年最新、最受好评的AI面试模拟训练工具现已登陆XIX.AI!这份精心精选的合集收录了功能强大、具有革命性意义的工具,它们均经过严格的实际测试,能够提供精准的反馈。 您将看到免费版与付费版的对比分析以及详细排名,助您挑选出必试之选,从而提升自信并精进技能。立即探索,发现助您面试成功的完美工具!

12 个工具
xix.ai
设计与艺术 最适合创意实验的AI风格转换工具
最适合创意实验的AI风格转换工具

2026年最新最佳、评价最高的AI风格转换工具,助您开展创意实验!XIX.AI精心甄选了一系列功能强大、颠覆性的必试工具,这些工具经过实际测试和严格排名,可带来卓越的效果。这些顶级解决方案通过加速内容创作并释放无限创意潜能,帮助创作者显著提升工作效率。 立即探索,找到最适合您的工具,今天就开始创作吧!

9 个工具
xix.ai
漫画创作 最适合视觉叙事的AI对话气泡工具
最适合视觉叙事的AI对话气泡工具

2026年最新、最受欢迎的视觉叙事AI对话气泡工具现已登陆XIX.AI!这份精心精选的合集汇集了功能强大、具有颠覆性的工具,可帮助创作者提升工作效率并突破创作瓶颈。 获取免费版与付费版的对比分析,查看实际测试结果,并查阅最新排行榜,找到最适合打造引人入胜的视觉叙事的必试解决方案。立即探索,发现您的理想工具!

10 个工具
xix.ai
会议助理 顶级AI会议摘要工具:清晰追踪决策与后续跟进
顶级AI会议摘要工具:清晰追踪决策与后续跟进

2026年最新高评分最佳AI会议摘要工具,助您清晰追踪决策并轻松跟进。这份精心筛选的清单展示了功能强大、具有颠覆性的解决方案,它们通过自动化会议记录、识别关键行动项以及简化所有项目中的团队协调,显著提升工作效率。 获取免费版与付费版的对比分析,以及实际测试报告和每周更新的排行榜,助您找到最适合的工具。立即探索,释放您的AI优势!

9 个工具
xix.ai
数据分析 最佳人工智能数据清洗工具:快速处理缺失值与重复数据
最佳人工智能数据清洗工具:快速处理缺失值与重复数据

2026年最新、最优秀且评分最高的AI数据清洗工具,可快速处理缺失值与重复数据问题。这份精心挑选的清单展示了那些功能强大、能带来颠覆性变革的解决方案,可显著提升工作效率。所有候选工具都经过了严格的实际应用测试,以确保其稳定性。您可以获取免费版与付费版的对比信息,找出最符合您需求的必备工具。即刻访问XIX.AI,开启您的AI优势之旅。

11 个工具
xix.ai
设计与艺术 最佳AI创意构思工具,助力艺术家突破视觉瓶颈
最佳AI创意构思工具,助力艺术家突破视觉瓶颈

2026 年最新最佳顶级评分 AI 创意构思工具由 XIX.AI 精心策划,旨在帮助创作者突破视觉瓶颈并即时提升创造力。这些强大的变革性工具提供真实世界测试、详细的免费与付费对比以及每周更新的排名。发现您的完美工具,加速内容创作,并立即释放您的 AI 优势。立即探索!

14 个工具
xix.ai
评论 (2)
0/500
BruceBrown
BruceBrown 2026-05-31 04:00:16

Wait, so employees are just hooking up AI tools to company systems without telling IT? That's like letting a toddler play with matches and expecting no fire. 🔥 Shadow AI is basically the corporate equivalent of 'ask for forgiveness, not permission.' 😅

RoyMartínez
RoyMartínez 2026-05-09 08:00:50

Reco klingt nach einem vielversprechenden Ansatz, um diese Schatten-IT im KI-Bereich einzudämmen. Es ist wirklich erstaunlich, wie schnell sich solche Tools ohne Kontrolle verbreiten können. Hoffentlich schafft es das Tool, die Balance zwischen Sicherheit und Nutzerfreundlichkeit zu halten. 🤔

OR