专家说，AI还没有准备好作为“共同科学家”

Google最近引入了其“ AI共同科学家”，一种AI工具，旨在帮助科学家制定假设和研究计划。该公司将其作为改变游戏规则的新知识的改变，但专家对其现实世界的影响持怀疑态度。

麻省理工学院计算机视觉研究人员萨拉·贝里（Sara Beery）在接受TechCrunch采访时说：“这种初步工具似乎不太可能被认真使用。” “我不确定科学界对这种假设产生系统是否有需求。”

Google只是最新的技术巨头声称AI将彻底改变科学研究，尤其是在生物医学等数据繁多的领域。 Openai首席执行官Sam Altman在今年早些时候在一篇文章中写道，“超级智能” AI可以“大大加速科学发现和创新”。同样，人类首席执行官达里奥·奥莫迪（Dario Amodei）预测，AI可以帮助大多数癌症开发治疗方法。

但是，许多研究人员认为，今天的AI工具还没有这些雄心勃勃的主张。他们认为，像Google的AI共同科学家这样的应用程序更多的是炒作，而不是实质，而缺乏经验数据来支持承诺。

例如，Google关于AI共同科学家的博客文章吹嘘其在急性髓细胞性白血病的药物再利用方面的潜力，这是一种影响骨髓的血液癌。然而，结果是如此模糊，以至于“没有合法的科学家会认真对待他们”，亚利桑那州西北医学中心 - 乌森核病学家Favia Dubyk表示。

杜比克告诉TechCrunch：“这可能是研究人员的好起点，但缺乏细节令人担忧，并不借给我信任它。” “缺乏信息使得是否真的很难理解是否确实有帮助。”

这并不是Google第一次面对科学界促进AI突破的批评，而没有提供足够的细节来复制结果。

早在2020年，Google声称其AI系统之一接受了检测乳腺肿瘤的训练，其表现优于人类放射科医生。但是哈佛和斯坦福大学的研究人员本质上发表了反驳，认为Google研究中缺乏详细的方法和代码“破坏了其科学价值”。

科学家还批评Google在材料工程等领域中淡化了其AI工具的局限性。 2023年，该公司声称，大约40种“新材料”在其AI系统Gnome的帮助下合成了。但是，独立的分析发现，这些材料实际上都不是新的。

罗切斯特技术学院软件工程助理教授Ashique Khudabukhsh在接受TechCrunch采访时说：“直到他们在多样化的科学学科中进行严格的独立评估，我们才真正了解诸如Google的'共同科学家'之类的工具的优势和局限性。” “ AI通常在受控环境中表现良好，但在大规模应用时可能会失败。”

复杂的过程

开发AI工具来帮助科学发现非常棘手，因为很难预测所有可能造成扳手的因素。 AI对于筛选大量可能性很有用，但是尚不清楚它是否可以处理导致重大突破的创造性问题的类型。

Khudabukhsh说：“我们在整个历史上都看到，一些最重要的科学进步，例如mRNA疫苗的发展，是由人类的直觉和毅力驱动的，面对怀疑主义。” “如今，AI可能不适合复制这一点。”

日本索尼计算机科学实验室的AI研究人员Lana Sinapayen认为，诸如Google的AI合作科学家之类的工具正在关注科学工作的错误方面。

Sinapayen认为AI的价值可以自动化繁琐的任务，例如总结新的学术文献或格式化赠款应用程序。但是她认为，对AI共同科学家产生假设的需求很少，这是许多研究人员认为在智力上获得回报的任务。

Sinapayen告诉TechCrunch：“对于许多科学家来说，包括我本人，产生假设是工作中最有趣的部分。” “为什么我要把我的乐趣外包给计算机，然后只剩下自己做的艰苦工作？总的来说，许多生成的AI研究人员似乎误解了为什么人类做他们的工作，我们最终得到了使我们从我们那里获得乐趣的产品的提议。”

Beery指出，科学过程中最艰难的部分通常是设计和实施研究以检验假设，这是当前的AI系统所困扰的。人工智能无法身体进行实验，并且通常会在数据稀缺的问题上挣扎。

Beery说：“大多数科学实际上不可能完全做 - 科学过程中经常有重要的组成部分，例如收集新数据并在实验室中进行实验。” “相对于实际科学过程，诸如Google的AI联合科学家之类的系统的一个很大的局限性绝对限制了其可用性，是关于实验室和研究人员使用系统及其特定研究目标，过去的工作，他们的技能以及他们可以使用的资源的背景。”

人工智能冒险

AI的技术局限性和风险，例如它“幻觉”或产生虚假信息的趋势，使科学家谨慎地依靠它来进行认真的工作。

Khudabukhsh担心AI工具可能最终会充满噪音而不是进步。

它已经在发生。最近的一项研究发现，AI生成的“垃圾科学”正在泛滥Google Scholar，Google的免费搜索引擎用于学术文献。

Khudabukhsh说：“如果没有仔细监测AI的研究，可能会以较低质量甚至误导性的研究淹没科学领域，这压倒了同行评审过程。” “在计算机科学等领域中，不知所措的同行评审过程已经成为一个挑战，在计算机科学上，顶级会议的提交呈指数增长。”

Sinapayen警告说，即使是精心设计的研究也可能因行为不当而受到损害。尽管她欣赏可以帮助文学审查和综合的工具的想法，但她不相信今天的AI可以可靠地完成这项工作。

Sinapayen说：“这些都是各种现有工具所做的事情，但这些不是我个人掌握的AI的工作。”她还对AI系统的训练方式及其消耗的能量提出了担忧。 “即使解决了所有道德问题，当前的AI也不足够可靠，无法以一种或另一种方式将我的工作基于他们的输出。”