AI Power Suger：拟人的首席执行官警告种族了解

在巴黎举行的AI动作峰会结束后，Anthropic的联合创始人兼首席执行官Dario Amodei并没有退缩。他称这项活动为“错过的机会”，并强调我们需要在AI技术的发展速度上提高几个关键问题的重点和紧迫性。他在周二发布的声明中分享了这些想法。

Anthropic与法国初创公司Dust合作，在巴黎举行以开发人员为中心的活动，TechCrunch在舞台上与Amodei聊天。他分享了自己的观点，并推动了AI创新和治理的平衡方法，避免了极端乐观和严厉的批评。

曾经是神经科学家的阿莫迪（Amodei）说：“我基本上是在真正的大脑中以谋生为生。现在，我们在人造的大脑中寻找谋生。因此，在接下来的几个月中，我们将在解释性领域取得一些令人兴奋的进步 - 我们真正开始真正了解模型的运作方式。”但是他还指出，这是一场比赛。他补充说：“这是使模型更强大的竞赛，这对我们来说非常快，对他人来说是非常快的速度 - 您不能真正放慢脚步，对吗？

自英国布莱奇利举行的第一次AI峰会以来，围绕AI治理的对话发生了很大变化，受到当前地缘政治气候的影响。美国副总统JD Vance在AI行动峰会上说：“我今天早上不在这里谈论AI安全，这是几年前会议的头衔。我在这里谈论AI的机会。”

但是，Amodei试图弥合安全与机会之间的差距。他认为，更多地关注安全实际上可能是一个机会。他在人类事件上说：“在英国布莱奇利峰会的原始峰会上，关于各种风险的测试和测量进行了很多讨论。而且，我认为这些事情根本不会放慢技术。” “如果有的话，进行这种测量可以帮助我们更好地理解自己的模型，最终，这有助于我们产生更好的模型。”

即使强调安全性，Amodei也明确表明，人类仍在建立Frontier AI模型上。他说：“我不想采取任何措施来减少承诺。我们每天都在提供人们可以建立的模型，而这些模型习惯于做惊人的事情。我们绝对不应该停止这样做。”后来，他补充说：“当人们谈论很多风险时，我有点生气，我说：'哦，伙计，没有人真的做得很好，真正地阐明了这项技术可能是多么伟大。''

当这个话题转向中国LLM制造商Deepseek最近的模型时，Amodei淡化了他们的成就，称公众反应为“无机”。他说：“老实说，我的反应很少。我们已经看到了V3，这是Deepseek R1的基本模型，早在12月。这是一个令人印象深刻的模型。12月发布的模型是在这种非常正常的成本降低曲线上，我们在我们的模型和其他模型中都看到了。”引起他注意的是，该模型并非来自美国，例如Google，Openai和Anthropic的通常的“三到四个边境实验室”。他对专制政府主导该技术表示关注。至于DeepSeek声称的培训费用，他将其视为“只是不准确，也不是基于事实”。

尽管Amodei在活动中没有宣布任何新车型，但他暗示了即将发布的发行版，其推理功能增强了。他说：“我们通常专注于尝试更好地差异化的推理模型。我们担心要确保拥有足够的能力，模型变得更加智能，并且我们担心安全性。”

人类也正在应对模型选择挑战。例如，如果您是ChatGpt Plus用户，则很难确定要用于下一条消息的模型。

Amodei质疑正常模型和推理模型之间的区别。他说：“我们对存在正常模型的想法感到有些困惑，并且存在推理模型，并且它们彼此之间有所不同。” “如果我和你说话，你没有两个大脑，其中一个立即做出回应，而另一个则要等待更长的时间。”

他认为，克劳德3.5十四行诗或GPT-4O等预先训练的模型与接受增强型学习训练的模型之间应该有一个更光滑的过渡，该模型可以产生思想链（COT）（COT），例如OpenAI的O1或DeepSeek的R1。 Amodei说：“我们认为它们应该作为一个连续实体的一部分存在。而且我们可能还没有在那里，但是人类确实希望朝着这个方向移动事物。” “我们应该从那倾向于预先训练的模型，而不是'这是一件事，这就是B。'”

随着AI像Anthropic这样的AI公司不断推出更好的模型，Amodei看到了整个行业中断的巨大潜力。他说：“我们正在与一些制药公司合作，使用克劳德（Claude）撰写临床研究，他们已经能够减少撰写临床研究报告的时间从12周到三天。”

他设想了法律，财务，保险，生产力，软件和能源等领域的AI应用程序中的“破坏性创新的复兴”。他总结说：“我认为，在AI应用程序领域中，将会有一个破坏性创新的复兴。我们想帮助它，我们希望支持一切。”

阅读我们对巴黎人工智能行动峰会的全面报道。

TechCrunch有一个以AI为重点的新闻通讯！在这里注册以将其在每个星期三的收件箱中获取。