Reco 旨在消除各企業的人工智能盲點

AI 正以前所未有的速度在工作場所蔓延。每天，員工都會將 AI 工具連接到企業系統，但往往未經 IT 安全團隊的核准或監督。其結果就是專家所說的影子 AI：一個不受監控而存取公司資料的整合與工具的成長網路。

SaaS 安全與 AI 治理供應商 Reco 的共同創辦人兼技術長 Tal Shapira 博士表示，這種無形的擴散可能會成為當今最大的組織威脅之一。他指出，採用 AI 的速度已經超越了目前的企業保障措施。

"我們從「AI 即將來臨」到「AI 無處不在」大約只用了 18 個月。挑戰在於治理架構並未跟上，」Shapira 表示。

企業系統內隱藏的威脅

Shapira 表示，大多數企業安全系統都是為舊時代所建立，在舊時代，一切都隱藏在防火牆和網路邊界之後。影子 AI 從內部運作，隱藏在公司自己的應用程式中，因而破壞了這種模式。

許多現代 AI 工具直接與日常 SaaS 平台整合，例如 Salesforce、Slack 或 Google Workspace。雖然這本質上並不危險，但 AI 通常會透過權限或外掛程式進行連線，而這些權限或外掛程式在設定完成後仍會保持活躍。這些「無聲」連線可能會持續提供 AI 對公司資料的存取權 - 即使在安裝這些工具的員工離職或停止使用這些工具之後。這代表著一個重大的影子 AI 挑戰。

Shapira 表示："更深層次的問題是，這些工具會嵌入到公司的基礎設施中，有時幾個月甚至幾年都不會被發現。

由於許多 AI 系統都是概率性的，因此這類新的風險尤其難以追蹤。AI 不是執行固定的指令，而是根據模式進行預測。因此，它們的行為會因環境而異，使得監督和控制變得更加困難。

當 AI 的行為出乎意料時

真實世界的事件揭示了影子 AI 的實際影響。Reco 最近與一家財富 100 強的金融公司合作，該公司認為其系統是安全和合規的。在部署 Reco 監控的幾天之內，該公司在 Salesforce 和 Microsoft 365 環境中發現了 1000 多個未經授權的第三方集成 - 其中一半以上是由 AI 驅動的。

其中一個整合是與 Zoom 相連的轉錄工具，它記錄了每個客戶的通話，包括定價談判和機密反饋。"Shapira 解釋說：「他們在不經意的情況下，用最敏感的資料訓練第三方模型。"Shapira 解釋說：「沒有合約，也沒有清楚說明如何儲存或使用這些資料。

在另一個案例中，一名員工直接將 ChatGPT 連接到 Salesforce，讓 AI 在幾小時內就能產生數百個內部報告。雖然效率很高，但這也讓客戶詳細資訊和銷售預測暴露在外部 AI 平台上。

Reco 如何揭示看不到的東西

Reco 的平台為公司提供了全面的可視性，讓公司瞭解哪些 AI 工具連接到了他們的系統，以及這些工具可以接觸到的資料。它會持續掃描 SaaS 環境中的 OAuth 權限、第三方應用程式和瀏覽器擴充套件。一旦被識別，Reco 會指出哪些使用者安裝了這些應用程式、它們擁有哪些權限，以及這些行為看起來是否異常。

如果連線看起來有風險，系統會警告管理員或自動取消存取權限。"Shapira 指出：「速度是關鍵，因為 AI 工具可以在數小時而非數天內擷取大量資料。

與專注於網路周界的傳統安全產品不同，Reco 的目標是身分與存取層。這使得它非常適合現今以雲為先、依賴 SaaS 的組織，在這些組織中，大部分資料都位於傳統防火牆之外。

更廣泛的安全警示

業界分析師表示，Reco 的方法反映了更大的企業安全趨勢：從封鎖 AI 轉向管理 AI。思科最近一份關於 AI 準備狀態的報告發現，62% 的組織承認對員工如何在工作中使用 AI 工具的能見度有限。近一半的組織已經面臨至少一次與 AI 相關的資料事故。

隨著 AI 融入主流軟體，從 Salesforce 的 Einstein 到 Microsoft Copilot，挑戰也隨之升級。「Shapira 表示：」您可能會認為自己正在使用一個值得信賴的平台，但卻沒有意識到它現在包含了自動存取您資訊的 AI 功能。"

Reco 的平台通過監控已批准和未批准的 AI 活動來解決這一差距，幫助組織瞭解其資料的流向和原因。

信心十足地採用人工智能

Shapira 認為我們正在進入「AI 基礎架構階段」- 每個商業工具都將包含某種形式的 AI，無論是否可見。這使得持續監控、最少權限存取和有時間限制的權限變得非常重要。

"成功的公司不會是那些封鎖 AI 的公司。「成功的公司不會是那些封鎖人工智能的公司，」他說，"他們會是那些負責任地採用人工智能的公司，同時設有保護創新和信任的防線。

他強調，影子 AI 並不反映員工的粗心大意，而是反映技術進步的速度有多快。"他說：「人們想要提高生產力。「我們的角色是在不使組織陷入風險的情況下實現這一目標」。

對於希望在不失去資料控制的情況下利用 AI 的企業而言，Reco 所要傳達的訊息非常直接：你無法保護你看不到的東西。

圖片來源：Unsplash