Y Combinator 的 Geoff Ralston 发起新的人工智能安全基金

杰夫-罗尔斯顿(Geoff Ralston)是初创企业界的知名人士,长期与 Y Combinator 合作。
他的新基金被命名为安全人工智能基金(Safe Artificial Intelligence Fund,SAIF),反映了其核心使命,同时也是一个巧妙的缩写。
根据该基金的网站,Ralston 的目标是致力于 "提高人工智能的安全性、保障性和负责任的部署 "的初创公司。他打算使用 SAFE 协议("双关语")签发 10 万美元的支票,估值上限为 1,000 万美元。SAFE协议由Y Combinator公司开发,是一种简单的未来股权协议,将估值推迟到下一轮融资。
虽然风险资本对人工智能初创企业的兴趣很普遍,但 Ralston 的方法明显是以安全的人工智能为中心,他承认这是一个有意扩大的重点。
"如今,大多数人工智能项目都是为了解决问题、提高效率或创造新的能力。虽然本质上并不安全,但安全并不是它们的首要任务,"Ralston 向 TechCrunch 解释道。"我的目标是资助那些以安全的人工智能为首要目标的初创公司,我对它的定义非常宽泛。"
他的投资范围包括致力于提高人工智能安全性的公司,比如那些提高人工智能决策透明度或建立安全基准的公司。他的投资范围还包括保护知识产权、确保监管合规、打击虚假信息和检测人工智能攻击的工具。此外,他还对具有内置安全性的功能性人工智能工具感兴趣,如先进的人工智能预测系统或保护企业机密的人工智能谈判平台。
虽然这可能与其他以人工智能为重点的风险投资公司的投资理念相似,但雷斯顿将某些领域排除在外。一个明显的例子就是完全自主的武器系统。
"他说:"不可否认,人工智能的应用是不安全的,比如设计生物武器或在没有人类监督的情况下管理常规武器。
事实上,他的目标是支持 "武器安全系统",能够识别或防止来自人工智能控制武器的攻击。
这一立场与当前许多国防科技创始人和投资者的观点截然不同。正如 TechCrunch 所报道的那样,一些人工智能武器的开发者越来越多地主张开发不受人类控制的系统。
尽管人工智能投资领域竞争激烈,但拉尔斯顿相信,他与 Y Combinator 的关系能为公司带来优势。他曾在 YC 担任过三年总裁,后由 Garry Tan 接任,并担任了十多年的顾问,于 2022 年离开 YC。
Ralston 计划提供与他在著名创业加速器时相同的指导,包括指导如何申请 Y Combinator。他还承诺帮助投资组合公司利用他广泛的投资者网络。
罗尔斯顿没有透露基金的规模、计划支持的初创企业数量以及有限合伙人的身份。
相关文章
小米发布全新AI战略,构建未来智能基础设施并重塑行业
随着智能技术以前所未有的速度发展,小米正在重新校准其战略路线图,以利用大型人工智能模型的力量。该公司最近重组了小爱背后的工程团队,旨在将人工智能深度嵌入其运营的各个方面。这一战略转变凸显了小米在人工智能领域的积极立场,并为其在未来几年获得显著的竞争优势奠定了基础。此前,小米的人工智能举措主要局限于各个独立产品。随着大型语言模型的出现,人工智能正在演变为公司的核心基础设施。通过利用MiMo基础模型,小米正在促进跨产品协同,以提供更无缝的用户体验。MiMo团队将与小爱、移动操作系统和云工程部门紧密
Besxar利用SpaceX火箭建造轨道半导体工厂
目前,太空制造及将产品运回地球主要依赖于几种有限的方式:等待进入国际空间站,或者与少数能够发射从轨道运回有效载荷的航天器的初创公司合作。然而,往返于太空与地球之间最频繁的飞行器是SpaceX的“猎鹰9号”助推器,它去年完成了163次此类任务,今年已飞行超过100次。一家新创公司声称,已与马斯克的公司达成协议,计划利用多次助推器飞行任务,打造一座轨道半导体工厂的原型。由前OpenAI员工阿什莉·皮利
梁文峰谈开源:6倍利润无需加班,100倍收益与开源挂钩
在近期 DeepSeek 投资者交流会议内部讨论泄露后,创始人梁文锋阐明了其开源策略背后的战略考量。他明确表示:“我们肯定会开源,包括我们最强大的模型”,并指出将专有模型保持封闭并没有带来任何明显的优势。这是他首次从财务角度阐述开源举措与商业成功之间的联系。开源可保留 6 倍回报,但可能限制 100 倍的上涨空间梁文锋勾勒出一个清晰的财务框架:投资回收期为十个月,收益率约为初始利润的六倍,开源并未扰乱其核心商业模式。然而,追求 100 倍的回报可能会因开源而受阻,因为竞争对手可能以五分之一的成本
相关专题推荐
评论 (3)
0/500
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?

杰夫-罗尔斯顿(Geoff Ralston)是初创企业界的知名人士,长期与 Y Combinator 合作。
他的新基金被命名为安全人工智能基金(Safe Artificial Intelligence Fund,SAIF),反映了其核心使命,同时也是一个巧妙的缩写。
根据该基金的网站,Ralston 的目标是致力于 "提高人工智能的安全性、保障性和负责任的部署 "的初创公司。他打算使用 SAFE 协议("双关语")签发 10 万美元的支票,估值上限为 1,000 万美元。SAFE协议由Y Combinator公司开发,是一种简单的未来股权协议,将估值推迟到下一轮融资。
虽然风险资本对人工智能初创企业的兴趣很普遍,但 Ralston 的方法明显是以安全的人工智能为中心,他承认这是一个有意扩大的重点。
"如今,大多数人工智能项目都是为了解决问题、提高效率或创造新的能力。虽然本质上并不安全,但安全并不是它们的首要任务,"Ralston 向 TechCrunch 解释道。"我的目标是资助那些以安全的人工智能为首要目标的初创公司,我对它的定义非常宽泛。"
他的投资范围包括致力于提高人工智能安全性的公司,比如那些提高人工智能决策透明度或建立安全基准的公司。他的投资范围还包括保护知识产权、确保监管合规、打击虚假信息和检测人工智能攻击的工具。此外,他还对具有内置安全性的功能性人工智能工具感兴趣,如先进的人工智能预测系统或保护企业机密的人工智能谈判平台。
虽然这可能与其他以人工智能为重点的风险投资公司的投资理念相似,但雷斯顿将某些领域排除在外。一个明显的例子就是完全自主的武器系统。
"他说:"不可否认,人工智能的应用是不安全的,比如设计生物武器或在没有人类监督的情况下管理常规武器。
事实上,他的目标是支持 "武器安全系统",能够识别或防止来自人工智能控制武器的攻击。
这一立场与当前许多国防科技创始人和投资者的观点截然不同。正如 TechCrunch 所报道的那样,一些人工智能武器的开发者越来越多地主张开发不受人类控制的系统。
尽管人工智能投资领域竞争激烈,但拉尔斯顿相信,他与 Y Combinator 的关系能为公司带来优势。他曾在 YC 担任过三年总裁,后由 Garry Tan 接任,并担任了十多年的顾问,于 2022 年离开 YC。
Ralston 计划提供与他在著名创业加速器时相同的指导,包括指导如何申请 Y Combinator。他还承诺帮助投资组合公司利用他广泛的投资者网络。
罗尔斯顿没有透露基金的规模、计划支持的初创企业数量以及有限合伙人的身份。
小米发布全新AI战略,构建未来智能基础设施并重塑行业
随着智能技术以前所未有的速度发展,小米正在重新校准其战略路线图,以利用大型人工智能模型的力量。该公司最近重组了小爱背后的工程团队,旨在将人工智能深度嵌入其运营的各个方面。这一战略转变凸显了小米在人工智能领域的积极立场,并为其在未来几年获得显著的竞争优势奠定了基础。此前,小米的人工智能举措主要局限于各个独立产品。随着大型语言模型的出现,人工智能正在演变为公司的核心基础设施。通过利用MiMo基础模型,小米正在促进跨产品协同,以提供更无缝的用户体验。MiMo团队将与小爱、移动操作系统和云工程部门紧密
Besxar利用SpaceX火箭建造轨道半导体工厂
目前,太空制造及将产品运回地球主要依赖于几种有限的方式:等待进入国际空间站,或者与少数能够发射从轨道运回有效载荷的航天器的初创公司合作。然而,往返于太空与地球之间最频繁的飞行器是SpaceX的“猎鹰9号”助推器,它去年完成了163次此类任务,今年已飞行超过100次。一家新创公司声称,已与马斯克的公司达成协议,计划利用多次助推器飞行任务,打造一座轨道半导体工厂的原型。由前OpenAI员工阿什莉·皮利
梁文峰谈开源:6倍利润无需加班,100倍收益与开源挂钩
在近期 DeepSeek 投资者交流会议内部讨论泄露后,创始人梁文锋阐明了其开源策略背后的战略考量。他明确表示:“我们肯定会开源,包括我们最强大的模型”,并指出将专有模型保持封闭并没有带来任何明显的优势。这是他首次从财务角度阐述开源举措与商业成功之间的联系。开源可保留 6 倍回报,但可能限制 100 倍的上涨空间梁文锋勾勒出一个清晰的财务框架:投资回收期为十个月,收益率约为初始利润的六倍,开源并未扰乱其核心商业模式。然而,追求 100 倍的回报可能会因开源而受阻,因为竞争对手可能以五分之一的成本
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?





首页






