三位人工智能先驱在安全担忧日益加剧之际，主张保持大型模型的开放性

诸如“前沿节奏”（Pacing the Frontier）之类的倡议旨在通过与主要实验室合作来确保人工智能安全，然而开源模型在行业内仍是一个充满争议的话题。由于其免费分发且缺乏使用控制，开源权重模型难以监管，导致一些机构对此感到高度担忧。

然而，在上周于拉斯维加斯举行的 Ai4 会议上，三位著名的人工智能专家——诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）、World Labs 首席执行官兼联合创始人李飞飞（Fei-Fei Li）以及 Coursera 联合创始人吴恩达（Andrew Ng）——就这一话题发表了看法。尽管他们在具体策略上存在分歧，但三人都强烈主张维持开放的人工智能生态系统。

对于这些演讲者而言，主要关切是防止少数几家大型人工智能公司控制技术进步。当少数公司垄断了某项技术的访问权限时，类似于苹果和谷歌控制移动操作系统的情况，创新可能会停滞，平台控制者可以决定哪些技术得到开发。

吴恩达表达了对类似动态在人工智能领域出现的担忧。“我不希望出现守门人，”吴恩达表示。“这会限制我们所有人获取人工智能的途径。”

公司受到激励去保护其竞争优势，包括塑造行业监管。这可能导致一种情景：只有那些拥有构建先进人工智能系统资源的最大、资金最雄厚的公司才能生存下来。

吴恩达的解决方案是保持多家提供商，确保模型和公司之间展开竞争，而不是让少数参与者占据主导地位。“如果我只能给出一个建议，那就是促进开放性，”吴恩达说，“因为人工智能是一项令人惊叹的技术，我希望它掌握在每个人手中。”

并非所有人都认为开源权重模型能够维持这种竞争平衡。辛顿特别区分了开源软件（使底层代码可供检查和修改）与开源权重模型（将经过训练的人工智能模型的参数向公众发布）。

“开源很棒。你向人们展示代码，许多人查看代码行并说：‘哦，这里有个 bug。’开源权重意味着你训练一个大模型，然后将权重交给人们。这有很大不同，”辛顿解释道。“我反对开源权重，因为它让人们可以非常轻松地利用这些训练成本非常高昂的大型基础模型，用更少的钱去训练它们做坏事，比如网络攻击。”

尽管心存疑虑，辛顿承认开源权重模型已成为人工智能领域的永久组成部分。“我认为这场仗已经输了。我们现在有了开源权重模型，因此人们获取这些大型模型的障碍——即训练基础模型的成本——已经消失。为时已晚。”

然而，接受现实并不意味着忽视风险。辛顿的立场很明确：人工智能将继续进步，他认为这在很大程度上是有益的。他指出，这将提高生产力，并改善教育和医疗保健。“担心人工智能可能带来的不良影响以及智能生物在比我们更聪明时可能做的事情。我认为这不公平。我认为，将任何持有这种观点的人贴上‘散布恐惧者’的标签是不公平的，”辛顿补充道。

吴恩达提出了不同的观点。他认为，问题不在于开源模型是否有风险，而在于谁控制访问权限以及谁将在市场中获胜。构建更便宜模型的一方获得优势。他警告说，如果中国的开源权重模型在亚洲、非洲和/或发展中国家得到广泛采用，它们可能会影响数十亿人接触关于民主、自由和人权的观念。

“我希望我们做到的一点是鼓励美国的竞争力和开源人工智能。事实证明，人工智能是软实力的巨大来源。你可以看到中国的模型在非洲取得了巨大的成就，例如，”吴恩达说。“但我的担忧是，由于美国所有的游说活动和散布恐惧的行为，在美国构建开源人工智能正难以与来自中国的开源权重模型竞争，我的担忧是，如果中国找到了一种从根本上更具成本效益的人工智能构建方式，那么更具成本效益的事物将在商业采用方面具有根本优势。”

李飞飞对此种框架提出了挑战。“将这种完全开放到完全封闭的二元对立视为非常危险，”她说。“在复杂的软件系统以及科学系统中，情况要微妙得多。”

李飞飞以核物理学为例：科学论文公开出版，但铀受到监管，而实验室工作则介于两者之间。她解释说，这一教训是，开放性不必是非此即彼的选择。生态系统中的不同层级可以在不同水平的开放性下运作。

她还强调了公私机构之间的合作，例如人类基因组计划。她表示，由此产生的知识成为了一个平台，其他人可以在此基础上构建，允许制药公司获利，科学家推进他们的工作，并使社会受益。

“所以我认为我们必须将人工智能用作那样的基础设施，”李飞飞说。“我们需要一定程度的开放性，无论是在科学发现、教育、全球伙伴关系方面，还是为企业家提供有利可图的商业模式。但我们也将接受闭源系统。这种辩论，特别是在‘我们只能容忍一种’的宏观层面上，是一个错误的辩论。我们需要达到一个微妙性的层面。”

然而，所有人都同意，一定程度的监管对于使人工智能走上正轨是必要的。“我们要做的是朝着有助于人类的方向发展人工智能，监管将帮助我们做到这一点，”辛顿说。“你不能把人工智能应该如何发展的决定权留给像埃隆·马斯克和马克·扎克伯格这样的人。”