Andrew ng“非常高興” Google結束了AI武器保證

安德魯·吳，谷歌大腦的創始人及前負責人，表達了他對谷歌近期放棄不開發武器AI承諾的支持。

「我很高興谷歌改變了立場，」吳在週四晚間於舊金山舉行的退伍軍人創業大會上接受TechCrunch直播採訪時表示。

本週，谷歌從其AI原則頁面中刪除了持續7年的承諾，該承諾聲明公司不會為武器或監控開發AI。與此同時，谷歌發布了由DeepMind首席執行官Demis Hassabis撰寫的博客文章，強調企業與政府合作開發「支持國家安全」的AI的必要性。

谷歌最初的AI武器承諾始於2018年，當時因Project Maven抗議活動，數千名員工反對公司與軍方的合同。抗議聚焦於谷歌為軍事計劃提供AI，分析視頻片段，可能提升無人機打擊的精確度。

吳對主要由退伍軍人組成的聽眾表示，對Project Maven抗議感到困惑。

「老實說，當Project Maven問題出現時……你們許多人願意為國家的安全冒生命危險，」吳說道。「那麼一家美國公司怎麼可能拒絕協助為我們而戰的部隊？」

雖然吳在Project Maven抗議期間不在谷歌，但他對公司的AI和神經網絡計劃有重大影響。目前，吳經營AI Fund，一家專注於AI的創業工作室，並經常討論AI政策。

吳還表示鬆了一口氣，因兩項AI監管提案——被否決的加州SB 1047法案和拜登被推翻的AI行政命令——已不再生效。他一直認為這些措施會阻礙美國的開源AI發展。

吳認為，確保美國AI安全的真正途徑在於保持與中國的技術競爭力。他指出，AI無人機會「徹底改變戰場」。

他並非唯一持此觀點的前谷歌高管。前谷歌首席執行官Eric Schmidt現於華盛頓特區遊說美國採購AI無人機以跟上中國；他的公司White Stork可能最終提供這些無人機。

雖然吳和Schmidt支持軍事AI應用，但此問題長期以來在谷歌員工中引發分歧。

現任Signal總裁的Meredith Whittaker在2018年作為谷歌AI研究員時帶領了Maven抗議。當谷歌承諾不續簽Project Maven合同時，Whittaker表示滿意，稱公司「不應涉足戰爭業務」。

她並非唯一反對者。前谷歌AI研究員、諾貝爾獎得主Geoffrey Hinton敦促全球政府禁止並監管武器中的AI。Jeff Dean，備受尊敬的前谷歌高管、現DeepMind首席科學家，也簽署了一封反對在自主武器中使用機器學習的信。

近年來，谷歌和亞馬遜因其軍事參與而面臨更多審查，包括與以色列政府的Project Nimbus合同。去年，兩家公司員工舉行靜坐抗議Project Nimbus，據報導，谷歌和亞馬遜通過該項目為以色列國防軍提供雲計算服務。

五角大樓和全球軍方越來越渴望利用AI，正如國防部首席AI官此前對TechCrunch所說。隨著谷歌、亞馬遜、微軟等科技巨頭向AI基礎設施投入數千億美元，許多公司正尋求通過軍事合作抵消這些成本。