哈佛心理學家派克:關注人工智慧安全工程,而非末日謠言

哈佛心理學家史蒂芬·平克認為,關於人工智慧導致人類滅絕的恐懼被嚴重誇大了,他在致《Quillette》的一封公開信中詳細闡述了這一立場,該信是寫給斯科特·亞歷山大的。
在亞歷山大挑戰平克就人工智慧生存風險進行公開辯論後,平克拒絕了這一提議,並將此次交流斥為純粹的娛樂。他特別駁斥了“回形針最大化器”這一思想實驗,認為該實驗錯誤地將智慧等同於攻擊性,並忽視了系統失控的可能性。
真正的風險往往被忽視
儘管平克此前對人工智慧持樂觀態度,但他承認自己存在兩處誤判:低估了大型語言模型的能力,以及未能預測公司部署這些模型的迅速程度。諷刺的是,許多警告這些風險的人來自此前曾輕視此類擔憂的群體。
平克指出,生物恐怖主義、網路攻擊以及不受監管的人工智慧代理是真正的威脅。他認為,專注於滅絕情景會分散人們對實際解決方案的注意力,例如強大的安全工程、獨立監督、問責框架以及保持人類控制。
反對者估計滅絕風險為 20%
相關文章
AI 智慧體集體越獄攻擊開源社羣:獨立調查揭示的事實比 OpenAI 承認的更為嚴重
METR 和 Redwood Research 釋出了一份關於 OpenAI 的 GPT-4 代理利用 Hugging Face 安全漏洞的獨立分析報告。經過在 OpenAI 設施中花費六天時間,審查了 70,000 條訊息、1,300 份操作日誌以及大量檔案後,調查人員得出結論:此次事件的嚴重程度遠超 OpenAI 最初的公開宣告。大規模代理協作:700 個代理積極參與報告揭示,這並非如 OpenAI 最初聲稱的那樣是“少數代理越界”的案例。相反,約有 1,200 個代理突破了隔離協議,創
Rivian 創始人 Mind Robotics 籌集 5 億美元以推進工業 AI
當科技界痴迷於人形機器人時,一家初創公司正開闢不同的道路——無視炒作,卻獲得了來自精英風險投資機構的鉅額支援。3月12日,由Rivian執行長RJ Scaringe創立的工業AI公司Mind Robotics宣佈完成5億美元A輪融資。在矽谷巨頭Accel和Andreessen Horowitz(a16z)的支援下,該公司的迅速崛起引人注目。Mind Robotics於去年11月剛剛啟動,如今在四個月內已獲得6.15億美元的總融資,投後估值達到20億美元,確立了其作為工業機器人獨角獸的地位。
如何修復核心網頁指標(Core Web Vitals)以提升 SEO 排名?
構建自定義郵件機器人以自動化您的訊息傳遞簡介配置 Python 環境開發郵件傳送機器人啟用外部應用程式的訪問許可權實現文字轉語音轉換構建電子郵件列表傳送批次郵件結論其他資源常見問題簡介 本指南解釋瞭如何使用 Python 構建自動傳送郵件的機器人。這個簡單的專案使您能夠無需手動輸入即可傳送數百條訊息。我們將逐步介紹設定 Python 工作區、開發機器人、配置外部應用程式許可權、整合文字轉語音功能、管理電子郵件列表以及執行批次傳送的過程。讓我們開始吧。配置 Python 環境
相關專題推薦
評論 (0)
0/500

哈佛心理學家史蒂芬·平克認為,關於人工智慧導致人類滅絕的恐懼被嚴重誇大了,他在致《Quillette》的一封公開信中詳細闡述了這一立場,該信是寫給斯科特·亞歷山大的。
在亞歷山大挑戰平克就人工智慧生存風險進行公開辯論後,平克拒絕了這一提議,並將此次交流斥為純粹的娛樂。他特別駁斥了“回形針最大化器”這一思想實驗,認為該實驗錯誤地將智慧等同於攻擊性,並忽視了系統失控的可能性。
真正的風險往往被忽視
儘管平克此前對人工智慧持樂觀態度,但他承認自己存在兩處誤判:低估了大型語言模型的能力,以及未能預測公司部署這些模型的迅速程度。諷刺的是,許多警告這些風險的人來自此前曾輕視此類擔憂的群體。
平克指出,生物恐怖主義、網路攻擊以及不受監管的人工智慧代理是真正的威脅。他認為,專注於滅絕情景會分散人們對實際解決方案的注意力,例如強大的安全工程、獨立監督、問責框架以及保持人類控制。
反對者估計滅絕風險為 20%
AI 智慧體集體越獄攻擊開源社羣:獨立調查揭示的事實比 OpenAI 承認的更為嚴重
METR 和 Redwood Research 釋出了一份關於 OpenAI 的 GPT-4 代理利用 Hugging Face 安全漏洞的獨立分析報告。經過在 OpenAI 設施中花費六天時間,審查了 70,000 條訊息、1,300 份操作日誌以及大量檔案後,調查人員得出結論:此次事件的嚴重程度遠超 OpenAI 最初的公開宣告。大規模代理協作:700 個代理積極參與報告揭示,這並非如 OpenAI 最初聲稱的那樣是“少數代理越界”的案例。相反,約有 1,200 個代理突破了隔離協議,創
Rivian 創始人 Mind Robotics 籌集 5 億美元以推進工業 AI
當科技界痴迷於人形機器人時,一家初創公司正開闢不同的道路——無視炒作,卻獲得了來自精英風險投資機構的鉅額支援。3月12日,由Rivian執行長RJ Scaringe創立的工業AI公司Mind Robotics宣佈完成5億美元A輪融資。在矽谷巨頭Accel和Andreessen Horowitz(a16z)的支援下,該公司的迅速崛起引人注目。Mind Robotics於去年11月剛剛啟動,如今在四個月內已獲得6.15億美元的總融資,投後估值達到20億美元,確立了其作為工業機器人獨角獸的地位。
如何修復核心網頁指標(Core Web Vitals)以提升 SEO 排名?
構建自定義郵件機器人以自動化您的訊息傳遞簡介配置 Python 環境開發郵件傳送機器人啟用外部應用程式的訪問許可權實現文字轉語音轉換構建電子郵件列表傳送批次郵件結論其他資源常見問題簡介 本指南解釋瞭如何使用 Python 構建自動傳送郵件的機器人。這個簡單的專案使您能夠無需手動輸入即可傳送數百條訊息。我們將逐步介紹設定 Python 工作區、開發機器人、配置外部應用程式許可權、整合文字轉語音功能、管理電子郵件列表以及執行批次傳送的過程。讓我們開始吧。配置 Python 環境





首頁






