“發布的2024年AI責任報告”

兩年前，我們分享了推動AI發展以造福社會並激發創新的願景。就在幾週前，我們發布了2024年的更新，展示我們取得的進展。從提升創造力的尖端模型到AI在生物學、健康研究和神經科學領域的突破，我們正掀起波瀾。

但在AI上大膽創新意味著從一開始就必須負責任。因此，我們對AI的態度一直是理解並應對其對人們的廣泛影響。早在2018年，我們便是首批制定AI原則的機構之一，並自2019年起每年發布透明度報告。我們不斷調整政策、實踐和框架，以跟上時代的步伐。

2024年負責任AI進展報告

我們的第六份年度負責任AI進展報告深入探討了我們如何在整個開發過程中處理AI風險。它展示了我們在過去一年為AI產品發布建立治理結構的進展。

我們比以往任何時候都投入更多資源於AI研究和產品，以幫助個人與社會，同時致力於AI安全並探索潛在風險。

去年的報告突出了我們團隊在責任與安全方面的300多篇研究論文、AI政策的更新，以及我們從紅隊測試和針對安全性、隱私和安全基準的評估中學到的經驗。我們還在不同AI發布中取得了風險緩解的進展，包括更好的安全調優和過濾器、安全與隱私控制、在產品中使用來源技術，以及推動更廣泛的AI素養。2024年期間，我們還通過資金、工具和標準制定支持更廣泛的AI社群，詳情請見報告。

前沿安全框架的更新

隨著AI不斷發展，新的能力可能帶來新的風險。因此，我們去年推出了第一版前沿安全框架——一套協議，幫助我們掌控來自強大前沿AI模型的潛在風險。我們與來自產業、學術界和政府的專家合作，以更好地理解這些風險、如何測試以及如何緩解。

我們已將該框架應用於Google DeepMind的安全與治理流程，用於評估像Gemini 2.0這樣的前沿模型。今天，我們發布了更新的前沿安全框架，包括：

• 加強安全的建議：明確需要加強努力以防止數據洩露。
• 部署緩解程序：專注於阻止關鍵系統能力的濫用。
• 欺騙性對齊風險：應對自主系統故意破壞人類控制的風險。

您可以在Google DeepMind博客上深入了解這一點。

更新AI原則

自從我們在2018年首次發布AI原則以來，AI技術一直在飛速發展。如今，數十億人每天都在使用AI。它已成為一種主流技術，無數組織和個人用來構建應用程式。AI已從實驗室中的小眾話題變得像手機和互聯網一樣普及，為全球社會和個人帶來無數有益用途，並由蓬勃發展的AI開發者生態系統支持。

擁有共同的基礎原則是這一演變的關鍵。不僅是AI公司和學術機構，我們看到全球在AI原則上的進展。G7、國際標準化組織以及多個民主國家都提出了指導AI安全開發與使用的框架。越來越多的組織和政府使用這些共同標準來確定如何構建、監管和部署這一不斷演變的技術——例如，我們的負責任AI進展報告現在遵循美國NIST風險管理框架。我們多年的經驗與研究，以及與其他AI公司分享的威脅情報、專業知識和最佳實踐，使我們更深入了解AI的潛力與風險。

在日益複雜的地緣政治格局中，全球正展開AI領導地位的競爭。我們相信，民主國家應以自由、平等和尊重人權等核心價值為指導，引領AI發展。我們認為，分享這些價值的公司、政府和組織應合作創造保護個人、促進全球增長並支持國家安全的AI。

有鑑於此，我們更新了AI原則，聚焦於三個核心理念：

• 大膽創新：我們開發AI以幫助、賦能並激勵幾乎每個領域的人們，推動經濟進步，改善生活，實現科學突破，並應對人類最大的挑戰。
• 負責任的開發與部署：我們理解AI作為一種新興的變革性技術，帶來新的複雜性和風險。因此，我們致力於在整個開發與部署生命週期中負責任地追求AI——從設計到測試、部署到迭代——隨著AI的進步和使用的演變不斷學習。
• 共同進步：我們向他人學習，並構建賦能他人積極使用AI的技術。

您可以在AI.google上查看我們的完整AI原則。

在AI原則的指導下，我們將繼續專注於與我們的使命、科學重點和專業領域相符的AI研究與應用，並與廣泛接受的國際法和人權原則保持一致——始終通過仔細評估特定工作的益處是否顯著大於潛在風險來進行。我們還會考慮我們的參與是否需要定制研發，或是否可以依賴通用的、廣泛可用的技術。隨著AI越來越多地由眾多組織和政府開發，用於醫療、科學、機器人、網絡安全、交通、國家安全、能源、氣候等領域，這些評估至關重要。

當然，除了原則之外，我們繼續擁有特定的產品政策和明確的使用條款，包括禁止非法使用我們服務的規定。

前方的機遇

我們知道底層技術以及圍繞AI進步、部署和使用的討論將繼續快速演變，我們將隨著時間的推移不斷適應和完善我們的做法。

隨著AGI（人工通用智能）逐漸清晰，社會影響變得極其深遠。這不僅僅是開發強大的AI，而是構建人類歷史上最具變革性的技術，用它來解決人類最大的挑戰，並確保為世界的利益設置正確的保障措施和治理。我們將繼續分享我們在這一旅程中的進展和發現，並期望隨著我們接近AGI繼續演變我們的思考。

展望未來，我們相信過去一年對治理和其他流程的改進、新的前沿安全框架以及我們的AI原則使我們為AI轉型的下一階段做好了準備。AI幫助和改善全球人民生活的機遇是我們在這項工作中最終的驅動力，我們將繼續追求大膽、負責任和協作的AI方式。