Openai刚刚进行了首个网络安全投资

生成式人工智能显著拓宽了黑客和恶意行为者可用的武器库。从制作首席执行官的深度伪造视频到生成虚假收据,其滥用潜力巨大。OpenAI,作为生成式人工智能领域的领先者,敏锐地意识到这些风险。在一项战略举措中,OpenAI首次投资了一家网络安全初创公司,支持纽约的Adaptive Security,参与了由Andreessen Horowitz共同领投的4300万美元A轮融资。
Adaptive Security采取主动的网络安全策略,通过模拟人工智能生成的攻击来培训员工识别和挫败这些威胁。想象接到一个电话,声音与你的首席技术官一模一样,要求提供验证码。那声音并非你的首席技术官,而是Adaptive Security创建的复杂模拟。该公司的平台不仅限于电话,还模拟短信和电子邮件,评估企业中最脆弱的领域,并培训员工识别和缓解这些风险。
Adaptive Security的重点是“社会工程”黑客攻击,即攻击者诱骗员工采取未经授权的操作,例如点击恶意链接。这些看似简单的策略可能导致重大损失,正如2022年Axie Infinity因针对其一名开发者的虚假工作机会诈骗而损失超过6亿美元的案例所示。
据联合创始人兼首席执行官Brian Long称,人工智能使这些社会工程攻击更容易实施。自2023年推出以来,Adaptive Security的客户群迅速增长至100多家,凭借正面反馈获得了OpenAI的投资。Long是一位经验丰富的连续创业者,曾成功退出TapCommerce(2014年被Twitter以超过1亿美元收购)和Attentive(2021年估值超过100亿美元),他计划利用新资金招聘工程师并增强平台,以应对与网络犯罪分子的持续人工智能“军备竞赛”。
Adaptive Security并非唯一应对人工智能驱动威胁的公司。其他初创公司如Cyberhaven,最近以10亿美元估值筹集了1亿美元,以防止在ChatGPT等工具中滥用敏感信息;以及Snyk,其超过3亿美元的年经常性收入部分归因于不安全的人工智能生成代码的兴起,也在这一领域取得进展。此外,深度伪造检测公司GetReal上个月获得了1750万美元,以对抗这些高级威胁。
随着人工智能威胁的演变,Long为担心语音克隆的员工提供了一条简单的建议:“删除你的语音信箱。”这一简单操作有助于防范黑客利用人工智能技术的众多方式之一。
相关文章
在青少年开始使用ChatGPT数年后,OpenAI推出了更安全的ChatGPT版本
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后,OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能,并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。从教育角度来看,“ChatGPT for Teens”除了推出“学习模式”外,还提供了其他旨在培养好奇心和解决问题能力的工具,鼓励用户
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met
NEA的蒂芙尼·拉克:企业仍在努力应对人工智能的投资回报率
正在加载播放器…今年早些时候,“token最大化”(tokenmaxxing)在硅谷占据主导地位,首席执行官们敦促员工最大限度地利用人工智能。然而,这种热情很快遭遇了现实。据报道,Uber在几个月内就超出了其年度人工智能预算,一些公司跨部门削减了Claude许可证,而Meta则取消了内部绩效排名。NEA合伙人蒂芙尼·拉克(Tiffany Luck)每天都在应对这种兴奋与实际回报之间的差距。她此前曾成功说服企业电子商务是未来,如今她完全专注于人工智能,特别是其为消费者创造“神奇时刻”的潜力。
相关专题推荐
评论 (38)
0/500
Wow, OpenAI's diving into cybersecurity? Smart move! With AI making deepfakes and fake receipts so easy, it’s about time they tackled the dark side of their own tech. Hope they’re ready for the hacker chaos! 😎
Wow, OpenAI's diving into cybersecurity? Smart move! Generative AI's a double-edged sword—deepfakes and fake receipts are no joke. Curious to see how they tackle the dark side of AI. 🕵️♂️
Wow, OpenAI jumping into cybersecurity feels like a superhero gearing up to fight their own villainous creations! 😎 Curious how their investment will tackle those sneaky deepfake and scam issues.
A OpenAI investir em cibersegurança foi uma jogada inteligente! Era hora de alguém lidar com o lado sombrio da IA. Me sinto mais seguro sabendo que eles estão nisso, mas gostaria que compartilhassem mais sobre o que estão fazendo. Mal posso esperar para ver como isso vai se desenrolar! 😏

生成式人工智能显著拓宽了黑客和恶意行为者可用的武器库。从制作首席执行官的深度伪造视频到生成虚假收据,其滥用潜力巨大。OpenAI,作为生成式人工智能领域的领先者,敏锐地意识到这些风险。在一项战略举措中,OpenAI首次投资了一家网络安全初创公司,支持纽约的Adaptive Security,参与了由Andreessen Horowitz共同领投的4300万美元A轮融资。
Adaptive Security采取主动的网络安全策略,通过模拟人工智能生成的攻击来培训员工识别和挫败这些威胁。想象接到一个电话,声音与你的首席技术官一模一样,要求提供验证码。那声音并非你的首席技术官,而是Adaptive Security创建的复杂模拟。该公司的平台不仅限于电话,还模拟短信和电子邮件,评估企业中最脆弱的领域,并培训员工识别和缓解这些风险。
Adaptive Security的重点是“社会工程”黑客攻击,即攻击者诱骗员工采取未经授权的操作,例如点击恶意链接。这些看似简单的策略可能导致重大损失,正如2022年Axie Infinity因针对其一名开发者的虚假工作机会诈骗而损失超过6亿美元的案例所示。
据联合创始人兼首席执行官Brian Long称,人工智能使这些社会工程攻击更容易实施。自2023年推出以来,Adaptive Security的客户群迅速增长至100多家,凭借正面反馈获得了OpenAI的投资。Long是一位经验丰富的连续创业者,曾成功退出TapCommerce(2014年被Twitter以超过1亿美元收购)和Attentive(2021年估值超过100亿美元),他计划利用新资金招聘工程师并增强平台,以应对与网络犯罪分子的持续人工智能“军备竞赛”。
Adaptive Security并非唯一应对人工智能驱动威胁的公司。其他初创公司如Cyberhaven,最近以10亿美元估值筹集了1亿美元,以防止在ChatGPT等工具中滥用敏感信息;以及Snyk,其超过3亿美元的年经常性收入部分归因于不安全的人工智能生成代码的兴起,也在这一领域取得进展。此外,深度伪造检测公司GetReal上个月获得了1750万美元,以对抗这些高级威胁。
随着人工智能威胁的演变,Long为担心语音克隆的员工提供了一条简单的建议:“删除你的语音信箱。”这一简单操作有助于防范黑客利用人工智能技术的众多方式之一。
在青少年开始使用ChatGPT数年后,OpenAI推出了更安全的ChatGPT版本
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后,OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能,并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。从教育角度来看,“ChatGPT for Teens”除了推出“学习模式”外,还提供了其他旨在培养好奇心和解决问题能力的工具,鼓励用户
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met
NEA的蒂芙尼·拉克:企业仍在努力应对人工智能的投资回报率
正在加载播放器…今年早些时候,“token最大化”(tokenmaxxing)在硅谷占据主导地位,首席执行官们敦促员工最大限度地利用人工智能。然而,这种热情很快遭遇了现实。据报道,Uber在几个月内就超出了其年度人工智能预算,一些公司跨部门削减了Claude许可证,而Meta则取消了内部绩效排名。NEA合伙人蒂芙尼·拉克(Tiffany Luck)每天都在应对这种兴奋与实际回报之间的差距。她此前曾成功说服企业电子商务是未来,如今她完全专注于人工智能,特别是其为消费者创造“神奇时刻”的潜力。
Wow, OpenAI's diving into cybersecurity? Smart move! With AI making deepfakes and fake receipts so easy, it’s about time they tackled the dark side of their own tech. Hope they’re ready for the hacker chaos! 😎
Wow, OpenAI's diving into cybersecurity? Smart move! Generative AI's a double-edged sword—deepfakes and fake receipts are no joke. Curious to see how they tackle the dark side of AI. 🕵️♂️
Wow, OpenAI jumping into cybersecurity feels like a superhero gearing up to fight their own villainous creations! 😎 Curious how their investment will tackle those sneaky deepfake and scam issues.
A OpenAI investir em cibersegurança foi uma jogada inteligente! Era hora de alguém lidar com o lado sombrio da IA. Me sinto mais seguro sabendo que eles estão nisso, mas gostaria que compartilhassem mais sobre o que estão fazendo. Mal posso esperar para ver como isso vai se desenrolar! 😏





首页






