谁来决定人工智能向你传达什么信息？前Meta新闻主管坎贝尔·布朗对此发表了看法。

在整个职业生涯中，坎贝尔·布朗始终致力于追求准确的信息——起初作为一位备受赞誉的电视记者，后来又成为Facebook首位也是唯一一位专职新闻主管。如今，随着人工智能重塑人们获取信息的方式，她发现历史似乎正面临重演的威胁。这一次，她不再坐等他人来解决问题。

她创立的公司Forum AI——她最近在旧金山StrictlyVC晚会上与TechCrunch的蒂姆·费恩霍尔茨（Tim Fernholz）讨论了该公司——致力于评估基础模型在所谓“高风险议题”上的表现：地缘政治、心理健康、金融和招聘。这些领域“没有明确的对错答案，情况往往模糊、微妙且复杂。”

该方法包括寻找全球顶尖专家，让他们设计基准测试，然后训练AI评委对模型进行大规模评估。 在Forum AI的地缘政治研究中，布朗（Brown）邀请了尼尔·弗格森（Niall Ferguson）、法里德·扎卡里亚（Fareed Zakaria）、前国务卿托尼·布林肯（Tony Blinken）、前众议院议长凯文·麦卡锡（Kevin McCarthy），以及曾在奥巴马政府负责网络安全事务的安妮·纽伯格（Anne Neuberger）。目标是让AI评委与这些人类专家的意见达成约90%的一致——她表示Forum AI已经达到了这一门槛。

布朗将17个月前在纽约成立的Forum AI的起源追溯到一个具体的时刻。“ChatGPT首次公开发布时，我正在Meta工作，”她回忆道，“我记得当时很快就意识到，这将成为所有信息流动的渠道。而且它并不怎么好。”这对她自己孩子的影响，让那一刻感觉几乎关乎生存。 “如果我们找不到解决办法，我的孩子们将来会变得非常愚蠢，”她回忆当时的想法。

最让她感到沮丧的是，准确性似乎并非任何人的优先事项。她表示，基础模型公司“极度专注于编程和数学”，而新闻与信息处理则更为困难。但她强调，困难并不意味着可以忽略。

事实上，当Forum AI开始评估主流模型时，结果并不尽如人意。她举例说，Gemini会从中国共产党网站上抓取“与中国毫无关联的内容”，并指出几乎所有模型都存在左倾的政治偏见。她表示，更微妙的缺陷也比比皆是，包括上下文缺失、视角缺失，以及在未作说明的情况下对论点进行“稻草人谬误”。 “还有很长的路要走，”她说，“但我认为，有些非常简单的改进措施就能大幅提升结果。”

布朗曾在Facebook工作多年，亲眼目睹当平台为错误的指标进行优化时会发生什么。“我们尝试过的许多事情都失败了，”她告诉费恩霍尔茨。她建立的事实核查项目现已不复存在。这一教训——即使社交媒体对此视而不见——是：以用户参与度为优化目标已对社会造成损害，并导致许多人获取的信息更少。

她希望人工智能能打破这一恶性循环。“目前情况尚不明朗，”她说；企业既可能给用户他们想要的内容，也可能“给人们真实、诚实和真实的信息”。她承认，这种理想化的设想——即人工智能以真相为优化目标——听起来或许有些天真。但她认为，企业在这方面可能会成为意想不到的盟友。 那些将AI应用于信贷决策、贷款、保险和招聘的企业非常重视法律责任，因此“他们会希望你优化系统以确保结果准确无误”。

Forum AI 正是押注于这种企业需求，尽管将合规需求转化为稳定收入仍是一大挑战，尤其是考虑到当前市场大多仍满足于布朗认为不够充分的“打勾式”审计和标准化基准。

她表示，合规现状“简直是个笑话”。当纽约市通过首部要求进行AI审计的招聘偏见法时，州审计长发现超过半数的企业存在未被察觉的违规行为。她指出，真正的评估需要领域专业知识，不仅要处理已知场景，还要应对那些“可能让你陷入人们未曾想到的麻烦”的边界案例。 而这项工作需要时间。“聪明的通才是行不通的。”

布朗——其公司去年秋季在Lerer Hippeau领投下融资300万美元——凭借独特视角，精准揭示了AI行业自我标榜与大多数用户实际体验之间的脱节。“你会听到大型科技公司高管宣称：‘这项技术将改变世界’、‘它会让你失业’、‘它将治愈癌症’，”她说道。 “但对于那些只是用聊天机器人问些基础问题的普通人来说，他们得到的依然是大量混乱且错误的回答。”

公众对人工智能的信任度处于极低水平，她认为这种怀疑在许多情况下是合理的。“硅谷围绕着一个话题展开讨论，而消费者群体中的讨论却截然不同。”