Openai剛剛進行了首個網絡安全投資

生成式AI顯著擴展了駭客與惡意行為者可用的工具庫。從製作首席執行官的深度偽造影片到生成偽造收據,其濫用潛力極大。OpenAI,作為生成式AI領域的領先者,敏銳地意識到這些風險。在一項策略性舉措中,OpenAI首次投資了一家網路安全新創公司,支持紐約的Adaptive Security,參與其與Andreessen Horowitz共同領投的4300萬美元A輪融資。
Adaptive Security採取主動的網路安全策略,通過模擬AI生成的攻擊來訓練員工辨識並挫敗這些威脅。想像接到一個電話,聲音與你的技術長完全相同,要求提供驗證碼。那個聲音並非你的技術長,而是Adaptive Security創建的精密模擬。該公司的平台不僅限於電話,還模擬文字訊息和電子郵件,評估企業中最易受攻擊的領域,並訓練員工辨識與減輕這些風險。
Adaptive Security專注於「社交工程」駭客攻擊,即攻擊者誘騙員工採取未經授權的行動,例如點擊惡意連結。這些看似簡單的策略可能導致重大損失,正如Axie Infinity在2022年因一名開發者被假工作邀請詐騙,損失超過6億美元的案例所示。
根據聯合創始人兼首席執行官Brian Long表示,AI使這些社交工程攻擊更容易執行。自2023年推出以來,Adaptive Security迅速將客戶基礎擴展至超過100家,憑藉正面反饋獲得OpenAI的投資。Long是一位經驗豐富的企業家,曾成功退出TapCommerce(2014年被Twitter以超過1億美元收購)和Attentive(2021年估值超過100億美元),他計劃利用新資金招聘工程師並增強平台,以應對與網路犯罪分子的持續AI「軍備競賽」。
Adaptive Security並非唯一應對AI驅動威脅的公司。其他新創公司如Cyberhaven,最近以10億美元估值融資1億美元,防止ChatGPT等工具中敏感資訊的濫用;以及Snyk,其超過3億美元的年度經常性收入部分歸因於不安全的AI生成程式碼的增加,也在這一領域取得進展。此外,深度偽造檢測公司GetReal上個月獲得1750萬美元,以對抗這些先進威脅。
隨著AI威脅的演變,Long為擔心語音克隆的員工提供了一個簡單的建議:「刪除你的語音信箱。」這一簡單行動有助於防範駭客利用AI技術的眾多方式之一。
相關文章
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
相關專題推薦
評論 (38)
0/500
Wow, OpenAI's diving into cybersecurity? Smart move! With AI making deepfakes and fake receipts so easy, it’s about time they tackled the dark side of their own tech. Hope they’re ready for the hacker chaos! 😎
Wow, OpenAI's diving into cybersecurity? Smart move! Generative AI's a double-edged sword—deepfakes and fake receipts are no joke. Curious to see how they tackle the dark side of AI. 🕵️♂️
Wow, OpenAI jumping into cybersecurity feels like a superhero gearing up to fight their own villainous creations! 😎 Curious how their investment will tackle those sneaky deepfake and scam issues.
A OpenAI investir em cibersegurança foi uma jogada inteligente! Era hora de alguém lidar com o lado sombrio da IA. Me sinto mais seguro sabendo que eles estão nisso, mas gostaria que compartilhassem mais sobre o que estão fazendo. Mal posso esperar para ver como isso vai se desenrolar! 😏

生成式AI顯著擴展了駭客與惡意行為者可用的工具庫。從製作首席執行官的深度偽造影片到生成偽造收據,其濫用潛力極大。OpenAI,作為生成式AI領域的領先者,敏銳地意識到這些風險。在一項策略性舉措中,OpenAI首次投資了一家網路安全新創公司,支持紐約的Adaptive Security,參與其與Andreessen Horowitz共同領投的4300萬美元A輪融資。
Adaptive Security採取主動的網路安全策略,通過模擬AI生成的攻擊來訓練員工辨識並挫敗這些威脅。想像接到一個電話,聲音與你的技術長完全相同,要求提供驗證碼。那個聲音並非你的技術長,而是Adaptive Security創建的精密模擬。該公司的平台不僅限於電話,還模擬文字訊息和電子郵件,評估企業中最易受攻擊的領域,並訓練員工辨識與減輕這些風險。
Adaptive Security專注於「社交工程」駭客攻擊,即攻擊者誘騙員工採取未經授權的行動,例如點擊惡意連結。這些看似簡單的策略可能導致重大損失,正如Axie Infinity在2022年因一名開發者被假工作邀請詐騙,損失超過6億美元的案例所示。
根據聯合創始人兼首席執行官Brian Long表示,AI使這些社交工程攻擊更容易執行。自2023年推出以來,Adaptive Security迅速將客戶基礎擴展至超過100家,憑藉正面反饋獲得OpenAI的投資。Long是一位經驗豐富的企業家,曾成功退出TapCommerce(2014年被Twitter以超過1億美元收購)和Attentive(2021年估值超過100億美元),他計劃利用新資金招聘工程師並增強平台,以應對與網路犯罪分子的持續AI「軍備競賽」。
Adaptive Security並非唯一應對AI驅動威脅的公司。其他新創公司如Cyberhaven,最近以10億美元估值融資1億美元,防止ChatGPT等工具中敏感資訊的濫用;以及Snyk,其超過3億美元的年度經常性收入部分歸因於不安全的AI生成程式碼的增加,也在這一領域取得進展。此外,深度偽造檢測公司GetReal上個月獲得1750萬美元,以對抗這些先進威脅。
隨著AI威脅的演變,Long為擔心語音克隆的員工提供了一個簡單的建議:「刪除你的語音信箱。」這一簡單行動有助於防範駭客利用AI技術的眾多方式之一。
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
Wow, OpenAI's diving into cybersecurity? Smart move! With AI making deepfakes and fake receipts so easy, it’s about time they tackled the dark side of their own tech. Hope they’re ready for the hacker chaos! 😎
Wow, OpenAI's diving into cybersecurity? Smart move! Generative AI's a double-edged sword—deepfakes and fake receipts are no joke. Curious to see how they tackle the dark side of AI. 🕵️♂️
Wow, OpenAI jumping into cybersecurity feels like a superhero gearing up to fight their own villainous creations! 😎 Curious how their investment will tackle those sneaky deepfake and scam issues.
A OpenAI investir em cibersegurança foi uma jogada inteligente! Era hora de alguém lidar com o lado sombrio da IA. Me sinto mais seguro sabendo que eles estão nisso, mas gostaria que compartilhassem mais sobre o que estão fazendo. Mal posso esperar para ver como isso vai se desenrolar! 😏





首頁






