AI成为“服务器上的人”,警告拥抱脸CSO

托马斯·沃尔夫,Hugging Face的联合创始人兼首席科学官,对AI在科学革命中的潜力持更为谨慎的看法,这与其他AI公司创始人常常发表的大胆主张形成对比。在X上分享的一篇随笔中,沃尔夫表达了对AI可能仅成为“服务器上的应声虫”的担忧,指出如果没有研究上的重大突破,AI发展难以取得进展。他认为,当前AI发展的轨迹无法产生能够进行创造性、跳出框框思考的系统,而这种思考能力是取得诺贝尔奖级别科学成就所必需的。
沃尔夫质疑了牛顿或爱因斯坦这样的天才仅仅是顶尖学生的放大版这一观点。他认为,要在数据中心复制这样的天才,AI不仅需要知道所有答案,还必须能够提出无人考虑或敢于提出的问题。这一观点与OpenAI首席执行官萨姆·奥特曼的看法不同,后者设想“超智能”AI将加速科学发现;也与Anthropic首席执行官达里奥·阿莫代预测AI可能帮助找到大多数癌症治疗方法的主张相异。
沃尔夫对当前AI的批评是,它无法通过连接此前无关的事实来生成新知识。尽管AI可以访问海量的互联网数据,但沃尔夫认为,AI主要是在填补现有人类知识的空白。这一观点得到了其他AI专家的支持,例如前谷歌工程师弗朗索瓦·肖莱,他们认为,尽管AI可以记住推理模式,但在新情境中生成新推理时却显得力不从心。
沃尔夫指出,AI实验室目前打造的是“非常听话的学生”,而不是科学创新所需的革命者。他指出,当今的AI系统并未被设计为质疑或提出与训练数据相矛盾的想法,这限制了它们仅能回答已知问题。沃尔夫强调,需要一种能够挑战既有知识并提出“如果所有人对此都错了怎么办?”的AI,即使所有证据都指向相反方向。
他将部分问题归因于AI的“评估危机”,即用于衡量系统改进的基准测试通常聚焦于答案明确、封闭式的问题。为解决这一问题,沃尔夫建议AI行业应转向评估AI采取大胆反事实方法、从最少线索中提出一般性建议,以及提出可能开辟新研究路径的非显性问题的能力。
尽管承认定义这种评估标准的挑战,沃尔夫认为这是一项值得努力的方向。他强调,科学的本质在于提出正确的问题并挑战已学的知识。沃尔夫认为,与其打造一个能用通识回答所有问题的A+学生,不如培养一个能看到并质疑他人忽略之处的B学生。
相关文章
内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧
报告显示,谷歌备受期待的下一代 Gemini 模型发布已被推迟。由于内部在开发优先级和资源分配上存在分歧,加上计算能力有限以及复杂的审批流程,导致发布时间延后了两个月。尽管谷歌拥有定制的 TPU 芯片,但由于模型训练、Google Cloud 服务以及众多消费和企业级 AI 应用对计算资源的需求相互竞争,谷歌仍面临计算资源短缺的问题。目前,高层管理人员正通过组织结构调整来解决这些部门间的冲突。与此同时,领导层也发生了变化,联合创始人谢尔盖·布林越来越多地参与到核心模型训练中,并倡导将资源专门用于
OpenAI 否认增长放缓担忧,称多个业务部门加速发展
针对外界对其销售增长放缓及未达内部基准的质疑,人工智能领域的领军企业 OpenAI 于 4 月 28 日(星期二)发表了一份信心十足的声明。该公司澄清称,其消费产品和企业服务正在快速推进,直接驳斥了近期关于业务放缓的猜测。针对该公司“未达成多项内部目标”的说法,OpenAI 将这些报道斥为“典型的标题党”。公司强调了企业对 AI 集成的强劲需求,并指出其广告业务早期增长前景良好。据 OpenAI 内部人士透露,公司内部情绪依然乐观。尽管市场竞争日益激烈,但公司正在向投资者传递信心,声称其商业
阿里巴巴超级杯:Qwen3.8-Max 重磅登场,代码与办公工具能力全面升级
阿里巴巴正式发布了Qwen3.8-Max,这是一款拥有2.4万亿参数的下一代基础大模型。这一重大AI进展在编码和专业办公任务等核心领域带来了显著的性能提升,展现了强大的技术能力。在权威的Arena大模型排名中,Qwen3.8-Max取得了令人瞩目的成绩,仅次于Anthropic的Claude系列,位居行业前列。这一里程碑标志着国内大模型在处理复杂任务方面取得了快速进展,为开发者和企业用户提供了先进的智能工具。该模型的API现已在Qwen AI平台上上线,并集成到新推出的“Qwen Offic
相关专题推荐
评论 (27)
0/500
Interesting perspective! While everyone's hyping AI as the next big thing in science, it's refreshing to hear someone point out the risks of it just becoming an echo chamber. Makes you wonder if we're building tools or just really advanced parrots 🦜. Still, hope researchers find a balance!
Interessanter Gedanke! Ein KI-System, das nur besteht, um allen zu gefallen - fast wie ein höflicher, aber unkritischer Assistent. Hoffentlich findet die Forschung Wege, kritisches Denken in diesen Systemen zu erhalten. 😅
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな!🤔💡
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!

托马斯·沃尔夫,Hugging Face的联合创始人兼首席科学官,对AI在科学革命中的潜力持更为谨慎的看法,这与其他AI公司创始人常常发表的大胆主张形成对比。在X上分享的一篇随笔中,沃尔夫表达了对AI可能仅成为“服务器上的应声虫”的担忧,指出如果没有研究上的重大突破,AI发展难以取得进展。他认为,当前AI发展的轨迹无法产生能够进行创造性、跳出框框思考的系统,而这种思考能力是取得诺贝尔奖级别科学成就所必需的。
沃尔夫质疑了牛顿或爱因斯坦这样的天才仅仅是顶尖学生的放大版这一观点。他认为,要在数据中心复制这样的天才,AI不仅需要知道所有答案,还必须能够提出无人考虑或敢于提出的问题。这一观点与OpenAI首席执行官萨姆·奥特曼的看法不同,后者设想“超智能”AI将加速科学发现;也与Anthropic首席执行官达里奥·阿莫代预测AI可能帮助找到大多数癌症治疗方法的主张相异。
沃尔夫对当前AI的批评是,它无法通过连接此前无关的事实来生成新知识。尽管AI可以访问海量的互联网数据,但沃尔夫认为,AI主要是在填补现有人类知识的空白。这一观点得到了其他AI专家的支持,例如前谷歌工程师弗朗索瓦·肖莱,他们认为,尽管AI可以记住推理模式,但在新情境中生成新推理时却显得力不从心。
沃尔夫指出,AI实验室目前打造的是“非常听话的学生”,而不是科学创新所需的革命者。他指出,当今的AI系统并未被设计为质疑或提出与训练数据相矛盾的想法,这限制了它们仅能回答已知问题。沃尔夫强调,需要一种能够挑战既有知识并提出“如果所有人对此都错了怎么办?”的AI,即使所有证据都指向相反方向。
他将部分问题归因于AI的“评估危机”,即用于衡量系统改进的基准测试通常聚焦于答案明确、封闭式的问题。为解决这一问题,沃尔夫建议AI行业应转向评估AI采取大胆反事实方法、从最少线索中提出一般性建议,以及提出可能开辟新研究路径的非显性问题的能力。
尽管承认定义这种评估标准的挑战,沃尔夫认为这是一项值得努力的方向。他强调,科学的本质在于提出正确的问题并挑战已学的知识。沃尔夫认为,与其打造一个能用通识回答所有问题的A+学生,不如培养一个能看到并质疑他人忽略之处的B学生。
内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧
报告显示,谷歌备受期待的下一代 Gemini 模型发布已被推迟。由于内部在开发优先级和资源分配上存在分歧,加上计算能力有限以及复杂的审批流程,导致发布时间延后了两个月。尽管谷歌拥有定制的 TPU 芯片,但由于模型训练、Google Cloud 服务以及众多消费和企业级 AI 应用对计算资源的需求相互竞争,谷歌仍面临计算资源短缺的问题。目前,高层管理人员正通过组织结构调整来解决这些部门间的冲突。与此同时,领导层也发生了变化,联合创始人谢尔盖·布林越来越多地参与到核心模型训练中,并倡导将资源专门用于
OpenAI 否认增长放缓担忧,称多个业务部门加速发展
针对外界对其销售增长放缓及未达内部基准的质疑,人工智能领域的领军企业 OpenAI 于 4 月 28 日(星期二)发表了一份信心十足的声明。该公司澄清称,其消费产品和企业服务正在快速推进,直接驳斥了近期关于业务放缓的猜测。针对该公司“未达成多项内部目标”的说法,OpenAI 将这些报道斥为“典型的标题党”。公司强调了企业对 AI 集成的强劲需求,并指出其广告业务早期增长前景良好。据 OpenAI 内部人士透露,公司内部情绪依然乐观。尽管市场竞争日益激烈,但公司正在向投资者传递信心,声称其商业
阿里巴巴超级杯:Qwen3.8-Max 重磅登场,代码与办公工具能力全面升级
阿里巴巴正式发布了Qwen3.8-Max,这是一款拥有2.4万亿参数的下一代基础大模型。这一重大AI进展在编码和专业办公任务等核心领域带来了显著的性能提升,展现了强大的技术能力。在权威的Arena大模型排名中,Qwen3.8-Max取得了令人瞩目的成绩,仅次于Anthropic的Claude系列,位居行业前列。这一里程碑标志着国内大模型在处理复杂任务方面取得了快速进展,为开发者和企业用户提供了先进的智能工具。该模型的API现已在Qwen AI平台上上线,并集成到新推出的“Qwen Offic
Interesting perspective! While everyone's hyping AI as the next big thing in science, it's refreshing to hear someone point out the risks of it just becoming an echo chamber. Makes you wonder if we're building tools or just really advanced parrots 🦜. Still, hope researchers find a balance!
Interessanter Gedanke! Ein KI-System, das nur besteht, um allen zu gefallen - fast wie ein höflicher, aber unkritischer Assistent. Hoffentlich findet die Forschung Wege, kritisches Denken in diesen Systemen zu erhalten. 😅
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな!🤔💡
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!





首页






