Reco 旨在消除各企业的影子人工智能盲点
人工智能正以前所未有的速度在工作场所蔓延。每天,员工都在将人工智能工具连接到企业系统--通常没有经过 IT 安全团队的批准或监督。其结果就是专家们所说的影子人工智能:一个在不受监控的情况下访问公司数据的集成和工具的不断增长的网络。
SaaS 安全和人工智能治理提供商 Reco 的联合创始人兼首席技术官 Tal Shapira 博士说,这种无形的扩张可能成为当今最大的组织威胁之一。他指出,人工智能的应用速度已经超过了当前的企业保障措施。
"从'人工智能即将到来'到'人工智能无处不在',我们只用了大约 18 个月的时间。挑战在于治理框架没有跟上,"Shapira 说。
企业系统中隐藏的威胁
夏皮拉认为,大多数企业安全系统都是为旧时代构建的,在那个时代,一切都隐藏在防火墙和网络边界之后。影子人工智能从内部运作,隐藏在公司自己的应用程序中,从而颠覆了这种模式。
许多现代人工智能工具直接与 Salesforce、Slack 或 Google Workspace 等日常 SaaS 平台集成。虽然这本质上并不危险,但人工智能通常通过权限或插件进行连接,而这些权限或插件在设置后仍处于激活状态。这些 "静默 "连接可能会继续为人工智能提供访问公司数据的权限--即使在安装这些工具的员工离职或停止使用这些工具之后也是如此。这是一个重大的影子人工智能挑战。
夏皮拉说:"更深层次的问题是,这些工具会嵌入公司的基础设施,有时会持续数月或数年而不被发现。
这一类新风险尤其难以追踪,因为许多人工智能系统都是概率性的。人工智能不是执行固定的命令,而是根据模式进行预测。因此,它们的行为会因环境而异,从而增加了监督和控制的难度。
当人工智能出现意外行为时
真实世界的事件揭示了影子人工智能的实际影响。Reco 最近与一家财富 100 强的金融公司合作,该公司认为自己的系统是安全和合规的。在部署 Reco 监控的几天内,该公司在其 Salesforce 和 Microsoft 365 环境中发现了 1000 多个未经授权的第三方集成,其中一半以上是由人工智能驱动的。
其中一个集成是与 Zoom 相连的转录工具,它记录了客户的每一次通话,包括定价谈判和机密反馈。"Shapira 解释说:"他们无意中用自己最敏感的数据训练了一个第三方模型。"没有合同,也不清楚如何存储或使用这些数据。
在另一个案例中,一名员工将 ChatGPT 直接连接到 Salesforce,使人工智能能够在数小时内生成数百份内部报告。虽然效率很高,但这却将客户详情和销售预测暴露给了外部人工智能平台。
Reco 如何揭示看不见的东西
Reco 的平台为公司提供了对哪些人工智能工具连接到其系统以及这些工具能够访问的数据的全面可视性。它可持续扫描 SaaS 环境中的 OAuth 权限、第三方应用程序和浏览器扩展。一旦被识别,Reco 就会指出是哪些用户安装了它们,它们拥有哪些权限,以及这些行为看起来是否异常。
如果连接有风险,系统会提醒管理员或自动取消访问权限。"Shapira 指出:"速度至关重要,因为人工智能工具可以在数小时而不是数天内提取海量数据。
与专注于网络边界的传统安全产品不同,Reco 的目标是身份和访问层。这使它非常适合当今以云为先、依赖 SaaS 的组织,在这些组织中,大多数数据都位于传统防火墙之外。
更广泛的安全警报
行业分析师表示,Reco 的方法反映了一个更大的企业安全趋势:从阻止人工智能转向管理人工智能。思科最近发布的一份关于人工智能就绪程度的报告发现,62% 的企业承认对员工在工作中如何使用人工智能工具的可视性有限。近一半的企业已经面临至少一次与人工智能相关的数据事故。
随着人工智能嵌入主流软件--从 Salesforce 的 Einstein 到微软的 Copilot--挑战不断升级。"你可能会认为自己使用的是一个值得信赖的平台,"Shapira 说,"但却没有意识到它现在包含了自动获取信息的人工智能功能。
Reco 的平台通过监控已获批准和未获批准的人工智能活动来弥补这一差距,帮助企业了解数据流向和原因。
放心采用人工智能
Shapira 认为,我们正在进入 "人工智能基础架构阶段"--届时,无论可见与否,每种业务工具都将以某种形式包含人工智能。这使得持续监控、最小权限访问和有时间限制的权限变得至关重要。
"他指出:"成功的公司不会是那些阻止人工智能的公司。"成功的公司将是那些负责任地采用人工智能的公司,它们拥有保护创新和信任的护栏"。
他强调说,影子人工智能并不反映员工的粗心大意,而是反映了技术发展的速度有多快。"他说:"人们希望提高工作效率。"我们的作用是在不给组织带来风险的情况下实现这一点。"
对于希望在不失去数据控制的情况下利用人工智能的企业来说,Reco 的信息非常直接:你无法确保你看不到的东西的安全。
图片来源:UnsplashUnsplash
相关文章
印度科技巨头投资3000万美元,打造微软Office的AI竞争对手
连续创业者 Bhavin Turakhia 正投入 3000 万美元自有资金,押注企业 AI 领域仍有新玩家的空间。他最新的创业项目 Neo 基于一个核心信念:传统的职场软件不能仅靠聊天机器人进行修补,而需要进行彻底的架构重构。46 岁的 Turakhia 有着支持雄心勃勃的企业科技项目的历史。在过去二十年中,他联合创立了 Directi、Radix、Titan 和 Zeta,在寻求外部投资之前,主要使用个人资本为这些项目提供资金。他正将同样的自力更生策略应用于 Neo。Turakhia 向
前OpenAI首席科学家Ilya的SSI首次发布模型
AI 取得了另一项重大里程碑。在从 OpenAI 离职后,前首席科学家伊利亚·苏茨克弗(Ilya Sutskever)创立了 Safe Superintelligence Inc.(SSI),该公司最近公布了其首个模型的详细信息。海外社交媒体上的报道指出,该团队正在利用 TTT(测试时训练)开发一个紧凑的推理引擎,这是他们在追求安全超级智能过程中的关键进展。这种新颖的架构专注于使模型能够“学习如何学习”。与在推理过程中保持参数静态的传统大型语言模型不同,该引擎在处理现实世界任务时会动态更新特定
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026年5月14日,AI应用开发平台Lovable宣布参与丹麦硬件初创公司Atech的80万美元种子轮融资。该轮由Lovable领投,吸引了包括a16z Scout Fund、Sequoia Scout Fund以及Nordic Makers在内的顶级风险投资机构。此次投资标志着Lovable将“Vibe Coding”概念从纯软件开发战略扩展至硬件工程领域。Atech旨在通过AI驱动的交互式平台简化复杂的硬件原型制作。用户购买基础硬件套件,并通过AI聊天机器人以自然语言描述其设计概念;系统
相关专题推荐
评论 (2)
0/500
Wait, so employees are just hooking up AI tools to company systems without telling IT? That's like letting a toddler play with matches and expecting no fire. 🔥 Shadow AI is basically the corporate equivalent of 'ask for forgiveness, not permission.' 😅
人工智能正以前所未有的速度在工作场所蔓延。每天,员工都在将人工智能工具连接到企业系统--通常没有经过 IT 安全团队的批准或监督。其结果就是专家们所说的影子人工智能:一个在不受监控的情况下访问公司数据的集成和工具的不断增长的网络。
SaaS 安全和人工智能治理提供商 Reco 的联合创始人兼首席技术官 Tal Shapira 博士说,这种无形的扩张可能成为当今最大的组织威胁之一。他指出,人工智能的应用速度已经超过了当前的企业保障措施。
"从'人工智能即将到来'到'人工智能无处不在',我们只用了大约 18 个月的时间。挑战在于治理框架没有跟上,"Shapira 说。
企业系统中隐藏的威胁
夏皮拉认为,大多数企业安全系统都是为旧时代构建的,在那个时代,一切都隐藏在防火墙和网络边界之后。影子人工智能从内部运作,隐藏在公司自己的应用程序中,从而颠覆了这种模式。
许多现代人工智能工具直接与 Salesforce、Slack 或 Google Workspace 等日常 SaaS 平台集成。虽然这本质上并不危险,但人工智能通常通过权限或插件进行连接,而这些权限或插件在设置后仍处于激活状态。这些 "静默 "连接可能会继续为人工智能提供访问公司数据的权限--即使在安装这些工具的员工离职或停止使用这些工具之后也是如此。这是一个重大的影子人工智能挑战。
夏皮拉说:"更深层次的问题是,这些工具会嵌入公司的基础设施,有时会持续数月或数年而不被发现。
这一类新风险尤其难以追踪,因为许多人工智能系统都是概率性的。人工智能不是执行固定的命令,而是根据模式进行预测。因此,它们的行为会因环境而异,从而增加了监督和控制的难度。
当人工智能出现意外行为时
真实世界的事件揭示了影子人工智能的实际影响。Reco 最近与一家财富 100 强的金融公司合作,该公司认为自己的系统是安全和合规的。在部署 Reco 监控的几天内,该公司在其 Salesforce 和 Microsoft 365 环境中发现了 1000 多个未经授权的第三方集成,其中一半以上是由人工智能驱动的。
其中一个集成是与 Zoom 相连的转录工具,它记录了客户的每一次通话,包括定价谈判和机密反馈。"Shapira 解释说:"他们无意中用自己最敏感的数据训练了一个第三方模型。"没有合同,也不清楚如何存储或使用这些数据。
在另一个案例中,一名员工将 ChatGPT 直接连接到 Salesforce,使人工智能能够在数小时内生成数百份内部报告。虽然效率很高,但这却将客户详情和销售预测暴露给了外部人工智能平台。
Reco 如何揭示看不见的东西
Reco 的平台为公司提供了对哪些人工智能工具连接到其系统以及这些工具能够访问的数据的全面可视性。它可持续扫描 SaaS 环境中的 OAuth 权限、第三方应用程序和浏览器扩展。一旦被识别,Reco 就会指出是哪些用户安装了它们,它们拥有哪些权限,以及这些行为看起来是否异常。
如果连接有风险,系统会提醒管理员或自动取消访问权限。"Shapira 指出:"速度至关重要,因为人工智能工具可以在数小时而不是数天内提取海量数据。
与专注于网络边界的传统安全产品不同,Reco 的目标是身份和访问层。这使它非常适合当今以云为先、依赖 SaaS 的组织,在这些组织中,大多数数据都位于传统防火墙之外。
更广泛的安全警报
行业分析师表示,Reco 的方法反映了一个更大的企业安全趋势:从阻止人工智能转向管理人工智能。思科最近发布的一份关于人工智能就绪程度的报告发现,62% 的企业承认对员工在工作中如何使用人工智能工具的可视性有限。近一半的企业已经面临至少一次与人工智能相关的数据事故。
随着人工智能嵌入主流软件--从 Salesforce 的 Einstein 到微软的 Copilot--挑战不断升级。"你可能会认为自己使用的是一个值得信赖的平台,"Shapira 说,"但却没有意识到它现在包含了自动获取信息的人工智能功能。
Reco 的平台通过监控已获批准和未获批准的人工智能活动来弥补这一差距,帮助企业了解数据流向和原因。
放心采用人工智能
Shapira 认为,我们正在进入 "人工智能基础架构阶段"--届时,无论可见与否,每种业务工具都将以某种形式包含人工智能。这使得持续监控、最小权限访问和有时间限制的权限变得至关重要。
"他指出:"成功的公司不会是那些阻止人工智能的公司。"成功的公司将是那些负责任地采用人工智能的公司,它们拥有保护创新和信任的护栏"。
他强调说,影子人工智能并不反映员工的粗心大意,而是反映了技术发展的速度有多快。"他说:"人们希望提高工作效率。"我们的作用是在不给组织带来风险的情况下实现这一点。"
对于希望在不失去数据控制的情况下利用人工智能的企业来说,Reco 的信息非常直接:你无法确保你看不到的东西的安全。
图片来源:UnsplashUnsplash
印度科技巨头投资3000万美元,打造微软Office的AI竞争对手
连续创业者 Bhavin Turakhia 正投入 3000 万美元自有资金,押注企业 AI 领域仍有新玩家的空间。他最新的创业项目 Neo 基于一个核心信念:传统的职场软件不能仅靠聊天机器人进行修补,而需要进行彻底的架构重构。46 岁的 Turakhia 有着支持雄心勃勃的企业科技项目的历史。在过去二十年中,他联合创立了 Directi、Radix、Titan 和 Zeta,在寻求外部投资之前,主要使用个人资本为这些项目提供资金。他正将同样的自力更生策略应用于 Neo。Turakhia 向
前OpenAI首席科学家Ilya的SSI首次发布模型
AI 取得了另一项重大里程碑。在从 OpenAI 离职后,前首席科学家伊利亚·苏茨克弗(Ilya Sutskever)创立了 Safe Superintelligence Inc.(SSI),该公司最近公布了其首个模型的详细信息。海外社交媒体上的报道指出,该团队正在利用 TTT(测试时训练)开发一个紧凑的推理引擎,这是他们在追求安全超级智能过程中的关键进展。这种新颖的架构专注于使模型能够“学习如何学习”。与在推理过程中保持参数静态的传统大型语言模型不同,该引擎在处理现实世界任务时会动态更新特定
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026年5月14日,AI应用开发平台Lovable宣布参与丹麦硬件初创公司Atech的80万美元种子轮融资。该轮由Lovable领投,吸引了包括a16z Scout Fund、Sequoia Scout Fund以及Nordic Makers在内的顶级风险投资机构。此次投资标志着Lovable将“Vibe Coding”概念从纯软件开发战略扩展至硬件工程领域。Atech旨在通过AI驱动的交互式平台简化复杂的硬件原型制作。用户购买基础硬件套件,并通过AI聊天机器人以自然语言描述其设计概念;系统
Wait, so employees are just hooking up AI tools to company systems without telling IT? That's like letting a toddler play with matches and expecting no fire. 🔥 Shadow AI is basically the corporate equivalent of 'ask for forgiveness, not permission.' 😅





首页






