如何確保您的數據值得信賴AI集成

對人工智慧的信任是一個微妙的問題，完全取決於其所依賴的數據品質。數據完整性的問題，長期以來對即使是最精密的組織也是一個挑戰，如今又以強烈的姿態重新浮現。行業專家們正在拉響警報，警告說生成式人工智慧的用戶可能會因系統數據基礎的碎片化或薄弱，而受到不完整、重複或完全錯誤的數據影響。

根據德勤美國首席數據與分析官Ashish Verma及其合著者的最新分析，“人工智慧與生成式人工智慧正在為數據品質設定新標準。”他們強調，若沒有一個跨越各種數據類型和模態、考慮數據多樣性和偏見的強大數據架構，生成式人工智慧策略注定會失敗。他們還強調需要適合概率系統的數據轉換。

人工智慧準備就緒的數據架構的獨特需求

依賴概率模型的人工智慧系統帶來了獨特的挑戰。輸出可能因查詢時的概率和底層數據而有所不同，這使得數據系統設計變得複雜。Verma及其團隊指出，傳統數據系統可能無法勝任這一任務，可能會增加訓練和重新訓練人工智慧模型的成本。他們主張進行包括本體論、治理、建立信任的舉措以及開發反映現實世界場景的查詢的數據轉換。

這些複雜性還包括人工智慧幻覺和模型漂移等問題，凸顯了人類監督和確保數據一致性的努力的必要性。

人工智慧中信任的關鍵角色

Redpoint Global的首席產品官Ian Clayton對ZDNET表示，信任可能是人工智慧領域中最寶貴的資產。他強調了強化的數據治理、清晰的數據譜系和透明的隱私政策所支撐的數據環境的重要性。這樣的基礎不僅促進了人工智慧的倫理使用，還能防止人工智慧偏離軌道，這可能導致不一致的客戶體驗。

業界對人工智慧數據準備的擔憂

SAS的數據管理高級總監Gordon Robinson呼應了數據品質一直是企業持續挑戰的觀點。在踏上人工智慧之旅前，他建議企業提出兩個關鍵問題：“你是否了解你擁有的數據、其品質和可信度？”以及“你是否具備準備數據以供人工智慧使用的必要技能和工具？”

Clayton還強調了增強數據整合和品質措施的迫切需要，以應對人工智慧挑戰，主張整合來自孤島的數據並進行嚴格的品質檢查，如去重和一致性保證。

人工智慧帶來的新數據安全維度

人工智慧的引入也將新的安全考量推向前台。Databricks的首席資訊安全官Omar Khawaja警告說，在急於部署人工智慧解決方案時繞過安全措施，可能導致監督不足。

可信人工智慧數據的關鍵要素

• 靈活的數據管道：Clayton指出，人工智慧的快速演進需要靈活且可擴展的數據管道。這些對於適應新的人工智慧應用，特別是在訓練階段至關重要。
• 可視化：Clayton還指出，如果數據科學家難以訪問和可視化他們的數據，將顯著阻礙他們開發人工智慧的效率。
• 強大的治理計劃：Robinson強調強大的數據治理對於防止數據品質問題至關重要，這些問題可能導致錯誤的洞察和不良決策。這樣的治理還有助於了解組織的數據格局並確保符合法規。
• 徹底且持續的測量：Khawaja強調，人工智慧模型的性能直接取決於其訓練數據的品質。他建議定期測量指標，如每月採用率，以監控人工智慧能力的採用速度，顯示這些工具和流程是否滿足用戶需求。

Clayton主張一個準備好的人工智慧數據架構，允許IT和數據團隊測量數據品質、準確性、完整性、一致性和人工智慧模型性能等成果。他敦促組織確保其人工智慧計劃帶來實質性好處，而不是僅僅為了部署人工智慧而部署。

對更多人工智慧故事感興趣？訂閱我們的每週通訊，Innovation。