选项
首页
新闻
AI成为“服务器上的人”,警告拥抱脸CSO

AI成为“服务器上的人”,警告拥抱脸CSO

2025-04-10
240

AI成为“服务器上的人”,警告拥抱脸CSO

托马斯·沃尔夫,Hugging Face的联合创始人兼首席科学官,对AI在科学革命中的潜力持更为谨慎的看法,这与其他AI公司创始人常常发表的大胆主张形成对比。在X上分享的一篇随笔中,沃尔夫表达了对AI可能仅成为“服务器上的应声虫”的担忧,指出如果没有研究上的重大突破,AI发展难以取得进展。他认为,当前AI发展的轨迹无法产生能够进行创造性、跳出框框思考的系统,而这种思考能力是取得诺贝尔奖级别科学成就所必需的。

沃尔夫质疑了牛顿或爱因斯坦这样的天才仅仅是顶尖学生的放大版这一观点。他认为,要在数据中心复制这样的天才,AI不仅需要知道所有答案,还必须能够提出无人考虑或敢于提出的问题。这一观点与OpenAI首席执行官萨姆·奥特曼的看法不同,后者设想“超智能”AI将加速科学发现;也与Anthropic首席执行官达里奥·阿莫代预测AI可能帮助找到大多数癌症治疗方法的主张相异。

沃尔夫对当前AI的批评是,它无法通过连接此前无关的事实来生成新知识。尽管AI可以访问海量的互联网数据,但沃尔夫认为,AI主要是在填补现有人类知识的空白。这一观点得到了其他AI专家的支持,例如前谷歌工程师弗朗索瓦·肖莱,他们认为,尽管AI可以记住推理模式,但在新情境中生成新推理时却显得力不从心。

沃尔夫指出,AI实验室目前打造的是“非常听话的学生”,而不是科学创新所需的革命者。他指出,当今的AI系统并未被设计为质疑或提出与训练数据相矛盾的想法,这限制了它们仅能回答已知问题。沃尔夫强调,需要一种能够挑战既有知识并提出“如果所有人对此都错了怎么办?”的AI,即使所有证据都指向相反方向。

他将部分问题归因于AI的“评估危机”,即用于衡量系统改进的基准测试通常聚焦于答案明确、封闭式的问题。为解决这一问题,沃尔夫建议AI行业应转向评估AI采取大胆反事实方法、从最少线索中提出一般性建议,以及提出可能开辟新研究路径的非显性问题的能力。

尽管承认定义这种评估标准的挑战,沃尔夫认为这是一项值得努力的方向。他强调,科学的本质在于提出正确的问题并挑战已学的知识。沃尔夫认为,与其打造一个能用通识回答所有问题的A+学生,不如培养一个能看到并质疑他人忽略之处的B学生。

相关文章
内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧 内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧 报告显示,谷歌备受期待的下一代 Gemini 模型发布已被推迟。由于内部在开发优先级和资源分配上存在分歧,加上计算能力有限以及复杂的审批流程,导致发布时间延后了两个月。尽管谷歌拥有定制的 TPU 芯片,但由于模型训练、Google Cloud 服务以及众多消费和企业级 AI 应用对计算资源的需求相互竞争,谷歌仍面临计算资源短缺的问题。目前,高层管理人员正通过组织结构调整来解决这些部门间的冲突。与此同时,领导层也发生了变化,联合创始人谢尔盖·布林越来越多地参与到核心模型训练中,并倡导将资源专门用于
OpenAI 否认增长放缓担忧,称多个业务部门加速发展 OpenAI 否认增长放缓担忧,称多个业务部门加速发展 针对外界对其销售增长放缓及未达内部基准的质疑,人工智能领域的领军企业 OpenAI 于 4 月 28 日(星期二)发表了一份信心十足的声明。该公司澄清称,其消费产品和企业服务正在快速推进,直接驳斥了近期关于业务放缓的猜测。针对该公司“未达成多项内部目标”的说法,OpenAI 将这些报道斥为“典型的标题党”。公司强调了企业对 AI 集成的强劲需求,并指出其广告业务早期增长前景良好。据 OpenAI 内部人士透露,公司内部情绪依然乐观。尽管市场竞争日益激烈,但公司正在向投资者传递信心,声称其商业
阿里巴巴超级杯:Qwen3.8-Max 重磅登场,代码与办公工具能力全面升级 阿里巴巴超级杯:Qwen3.8-Max 重磅登场,代码与办公工具能力全面升级 阿里巴巴正式发布了Qwen3.8-Max,这是一款拥有2.4万亿参数的下一代基础大模型。这一重大AI进展在编码和专业办公任务等核心领域带来了显著的性能提升,展现了强大的技术能力。在权威的Arena大模型排名中,Qwen3.8-Max取得了令人瞩目的成绩,仅次于Anthropic的Claude系列,位居行业前列。这一里程碑标志着国内大模型在处理复杂任务方面取得了快速进展,为开发者和企业用户提供了先进的智能工具。该模型的API现已在Qwen AI平台上上线,并集成到新推出的“Qwen Offic
相关专题推荐
音乐创作 最佳用于歌曲草稿的 AI 旋律创作工具
最佳用于歌曲草稿的 AI 旋律创作工具

2026 年最新最佳顶级评分 AI 旋律创作工具,助力歌曲草稿创作!XIX.AI 精心策划了一套极具影响力且经过严格真实世界测试的变革性合集,旨在提供最佳的创作体验。您可以找到详细的免费与付费版对比、精准的排名以及必试选项,这些工具旨在帮助您轻松创作出令人惊艳的歌曲草稿,并显著提升您的创意生产力。立即探索,发现您的完美工具!

8 个工具
xix.ai
聊天机器人 最佳AI对话训练工具,助你备战面试
最佳AI对话训练工具,助你备战面试

2026年最新、最受好评的AI面试模拟训练工具现已登陆XIX.AI!这份精心精选的合集收录了功能强大、具有革命性意义的工具,它们均经过严格的实际测试,能够提供精准的反馈。 您将看到免费版与付费版的对比分析以及详细排名,助您挑选出必试之选,从而提升自信并精进技能。立即探索,发现助您面试成功的完美工具!

12 个工具
xix.ai
设计与艺术 最适合创意实验的AI风格转换工具
最适合创意实验的AI风格转换工具

2026年最新最佳、评价最高的AI风格转换工具,助您开展创意实验!XIX.AI精心甄选了一系列功能强大、颠覆性的必试工具,这些工具经过实际测试和严格排名,可带来卓越的效果。这些顶级解决方案通过加速内容创作并释放无限创意潜能,帮助创作者显著提升工作效率。 立即探索,找到最适合您的工具,今天就开始创作吧!

9 个工具
xix.ai
漫画创作 最适合视觉叙事的AI对话气泡工具
最适合视觉叙事的AI对话气泡工具

2026年最新、最受欢迎的视觉叙事AI对话气泡工具现已登陆XIX.AI!这份精心精选的合集汇集了功能强大、具有颠覆性的工具,可帮助创作者提升工作效率并突破创作瓶颈。 获取免费版与付费版的对比分析,查看实际测试结果,并查阅最新排行榜,找到最适合打造引人入胜的视觉叙事的必试解决方案。立即探索,发现您的理想工具!

10 个工具
xix.ai
会议助理 顶级AI会议摘要工具:清晰追踪决策与后续跟进
顶级AI会议摘要工具:清晰追踪决策与后续跟进

2026年最新高评分最佳AI会议摘要工具,助您清晰追踪决策并轻松跟进。这份精心筛选的清单展示了功能强大、具有颠覆性的解决方案,它们通过自动化会议记录、识别关键行动项以及简化所有项目中的团队协调,显著提升工作效率。 获取免费版与付费版的对比分析,以及实际测试报告和每周更新的排行榜,助您找到最适合的工具。立即探索,释放您的AI优势!

9 个工具
xix.ai
数据分析 最佳人工智能数据清洗工具:快速处理缺失值与重复数据
最佳人工智能数据清洗工具:快速处理缺失值与重复数据

2026年最新、最优秀且评分最高的AI数据清洗工具,可快速处理缺失值与重复数据问题。这份精心挑选的清单展示了那些功能强大、能带来颠覆性变革的解决方案,可显著提升工作效率。所有候选工具都经过了严格的实际应用测试,以确保其稳定性。您可以获取免费版与付费版的对比信息,找出最符合您需求的必备工具。即刻访问XIX.AI,开启您的AI优势之旅。

11 个工具
xix.ai
评论 (27)
0/500
EricLopez
EricLopez 2026-04-21 00:00:37

Interesting perspective! While everyone's hyping AI as the next big thing in science, it's refreshing to hear someone point out the risks of it just becoming an echo chamber. Makes you wonder if we're building tools or just really advanced parrots 🦜. Still, hope researchers find a balance!

FrankRoberts
FrankRoberts 2025-12-08 08:30:33

Interessanter Gedanke! Ein KI-System, das nur besteht, um allen zu gefallen - fast wie ein höflicher, aber unkritischer Assistent. Hoffentlich findet die Forschung Wege, kritisches Denken in diesen Systemen zu erhalten. 😅

TimothyMitchell
TimothyMitchell 2025-04-15 12:56:35

Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな!🤔💡

AnthonyRoberts
AnthonyRoberts 2025-04-14 11:18:56

Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡

ScottRoberts
ScottRoberts 2025-04-12 21:44:43

Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!

RoyGarcía
RoyGarcía 2025-04-12 20:31:51

Thomas Wolf's take on AI being 'yes-men on servers' is pretty spot on. It's scary to think that AI might just agree with us all the time instead of pushing boundaries. I'm all for innovation, but not if it means AI just becomes a tool for confirmation bias. Food for thought!

OR