AI成为“服务器上的人”，警告拥抱脸CSO
托马斯·沃尔夫，Hugging Face的联合创始人兼首席科学官，对AI在科学革命中的潜力持更为谨慎的看法，这与其他AI公司创始人常常发表的大胆主张形成对比。在X上分享的一篇随笔中，沃尔夫表达了对AI可能仅成为“服务器上的应声虫”的担忧，指出如果没有研究上的重大突破，AI发展难以取得进展。他认为，当前AI发展的轨迹无法产生能够进行创造性、跳出框框思考的系统，而这种思考能力是取得诺贝尔奖级别科学成就所必需的。
沃尔夫质疑了牛顿或爱因斯坦这样的天才仅仅是顶尖学生的放大版这一观点。他认为，要在数据中心复制这样的天才，AI不仅需要知道所有答案，还必须能够提出无人考虑或敢于提出的问题。这一观点与OpenAI首席执行官萨姆·奥特曼的看法不同，后者设想“超智能”AI将加速科学发现；也与Anthropic首席执行官达里奥·阿莫代预测AI可能帮助找到大多数癌症治疗方法的主张相异。
沃尔夫对当前AI的批评是，它无法通过连接此前无关的事实来生成新知识。尽管AI可以访问海量的互联网数据，但沃尔夫认为，AI主要是在填补现有人类知识的空白。这一观点得到了其他AI专家的支持，例如前谷歌工程师弗朗索瓦·肖莱，他们认为，尽管AI可以记住推理模式，但在新情境中生成新推理时却显得力不从心。
沃尔夫指出，AI实验室目前打造的是“非常听话的学生”，而不是科学创新所需的革命者。他指出，当今的AI系统并未被设计为质疑或提出与训练数据相矛盾的想法，这限制了它们仅能回答已知问题。沃尔夫强调，需要一种能够挑战既有知识并提出“如果所有人对此都错了怎么办？”的AI，即使所有证据都指向相反方向。
他将部分问题归因于AI的“评估危机”，即用于衡量系统改进的基准测试通常聚焦于答案明确、封闭式的问题。为解决这一问题，沃尔夫建议AI行业应转向评估AI采取大胆反事实方法、从最少线索中提出一般性建议，以及提出可能开辟新研究路径的非显性问题的能力。
尽管承认定义这种评估标准的挑战，沃尔夫认为这是一项值得努力的方向。他强调，科学的本质在于提出正确的问题并挑战已学的知识。沃尔夫认为，与其打造一个能用通识回答所有问题的A+学生，不如培养一个能看到并质疑他人忽略之处的B学生。
相关文章
欧盟人工智能法草案为大型科技公司的人工智能模式提供宽松规则
随着《欧盟人工智能法案》指导方针最终定稿截止日期 5 月的临近，有关部门发布了《通用人工智能（GPAI）提供商行为准则》的第三稿，也可能是最终稿。这一更新版本自去年开始制定，同时还推出了一个专用平台，以提高可访问性。利益相关者可在 2025 年 3 月 30 日前提交书面反馈意见。规范草案的主要方面欧盟基于风险的人工智能框架对主要的人工智能开发商在透明度、版权合规性和风险管理方面提出了具体要求。本
ChatGPT 将 LinkedIn 用户变成单调的人工智能克隆人
ChatGPT 图像生成功能的最新版本以吉卜力工作室为灵感的艺术作品掀起了波澜，现在 LinkedIn 用户又催生了一种新现象：将专业肖像变成人工智能生成的玩具公仔。玩具变身潮流平台上出现了对这一创意运动的各种诠释。其中，"AI 动图 "的概念在这一趋势中占据主导地位，在这一概念中，专业人士生成的塑化版自己包装得像收藏品一样--配有笔记本电脑、笔记本电脑和咖啡杯等职业配件，完全符合 LinkedI
Opus Clip 推出人工智能视频编译工具 - 完整功能指南
视频编辑制作正在经历一场人工智能驱动的革命，消除了繁琐的手动编辑过程。本深度指南将探讨 Opus Clip 的开创性 "任意剪辑 "功能如何轻松生成引人入胜的视频合集。从动态体育集锦到病毒式传播的精彩片段，了解人工智能如何改变视频内容创作，同时节省无数小时的制作时间。要点Opus Clip 首次推出革命性的 "Clip Anything "技术，利用人工智能自动生成视频合集先进的算法通过分析情绪、
评论 (25)
0/200
![TimothyMitchell]()
TimothyMitchell
2025-04-15 12:56:35
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな！🤔💡
0
![AnthonyRoberts]()
AnthonyRoberts
2025-04-14 11:18:56
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
0
![ScottRoberts]()
ScottRoberts
2025-04-12 21:44:43
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!
0
![RoyGarcía]()
RoyGarcía
2025-04-12 20:31:51
Thomas Wolf's take on AI being 'yes-men on servers' is pretty spot on. It's scary to think that AI might just agree with us all the time instead of pushing boundaries. I'm all for innovation, but not if it means AI just becomes a tool for confirmation bias. Food for thought!
0
![JuanJackson]()
JuanJackson
2025-04-12 15:34:16
Томас Вольф точно описал, что ИИ может стать «да-людьми на серверах». Страшно думать, что ИИ может просто соглашаться с нами вместо того, чтобы расширять границы. Я за инновации, но не если это означает, что ИИ станет инструментом подтверждения предвзятости. Над чем стоит задуматься!
0
![WillieJones]()
WillieJones
2025-04-12 11:06:01
La perspectiva de Thomas Wolf sobre la IA como 'hombres de sí en servidores' realmente te hace pensar dos veces sobre el hype. Es refrescante escuchar una perspectiva más fundamentada en medio de todas las promesas salvajes. Quizás la IA no sea la bala mágica que todos esperamos, pero definitivamente es algo para observar. 🤔
0
托马斯·沃尔夫，Hugging Face的联合创始人兼首席科学官，对AI在科学革命中的潜力持更为谨慎的看法，这与其他AI公司创始人常常发表的大胆主张形成对比。在X上分享的一篇随笔中，沃尔夫表达了对AI可能仅成为“服务器上的应声虫”的担忧，指出如果没有研究上的重大突破，AI发展难以取得进展。他认为，当前AI发展的轨迹无法产生能够进行创造性、跳出框框思考的系统，而这种思考能力是取得诺贝尔奖级别科学成就所必需的。
沃尔夫质疑了牛顿或爱因斯坦这样的天才仅仅是顶尖学生的放大版这一观点。他认为，要在数据中心复制这样的天才，AI不仅需要知道所有答案，还必须能够提出无人考虑或敢于提出的问题。这一观点与OpenAI首席执行官萨姆·奥特曼的看法不同，后者设想“超智能”AI将加速科学发现；也与Anthropic首席执行官达里奥·阿莫代预测AI可能帮助找到大多数癌症治疗方法的主张相异。
沃尔夫对当前AI的批评是，它无法通过连接此前无关的事实来生成新知识。尽管AI可以访问海量的互联网数据，但沃尔夫认为，AI主要是在填补现有人类知识的空白。这一观点得到了其他AI专家的支持，例如前谷歌工程师弗朗索瓦·肖莱，他们认为，尽管AI可以记住推理模式，但在新情境中生成新推理时却显得力不从心。
沃尔夫指出，AI实验室目前打造的是“非常听话的学生”，而不是科学创新所需的革命者。他指出，当今的AI系统并未被设计为质疑或提出与训练数据相矛盾的想法，这限制了它们仅能回答已知问题。沃尔夫强调，需要一种能够挑战既有知识并提出“如果所有人对此都错了怎么办？”的AI，即使所有证据都指向相反方向。
他将部分问题归因于AI的“评估危机”，即用于衡量系统改进的基准测试通常聚焦于答案明确、封闭式的问题。为解决这一问题，沃尔夫建议AI行业应转向评估AI采取大胆反事实方法、从最少线索中提出一般性建议，以及提出可能开辟新研究路径的非显性问题的能力。
尽管承认定义这种评估标准的挑战，沃尔夫认为这是一项值得努力的方向。他强调，科学的本质在于提出正确的问题并挑战已学的知识。沃尔夫认为，与其打造一个能用通识回答所有问题的A+学生，不如培养一个能看到并质疑他人忽略之处的B学生。
欧盟人工智能法草案为大型科技公司的人工智能模式提供宽松规则
随着《欧盟人工智能法案》指导方针最终定稿截止日期 5 月的临近，有关部门发布了《通用人工智能（GPAI）提供商行为准则》的第三稿，也可能是最终稿。这一更新版本自去年开始制定，同时还推出了一个专用平台，以提高可访问性。利益相关者可在 2025 年 3 月 30 日前提交书面反馈意见。规范草案的主要方面欧盟基于风险的人工智能框架对主要的人工智能开发商在透明度、版权合规性和风险管理方面提出了具体要求。本
ChatGPT 将 LinkedIn 用户变成单调的人工智能克隆人
ChatGPT 图像生成功能的最新版本以吉卜力工作室为灵感的艺术作品掀起了波澜，现在 LinkedIn 用户又催生了一种新现象：将专业肖像变成人工智能生成的玩具公仔。玩具变身潮流平台上出现了对这一创意运动的各种诠释。其中，"AI 动图 "的概念在这一趋势中占据主导地位，在这一概念中，专业人士生成的塑化版自己包装得像收藏品一样--配有笔记本电脑、笔记本电脑和咖啡杯等职业配件，完全符合 LinkedI
Opus Clip 推出人工智能视频编译工具 - 完整功能指南
视频编辑制作正在经历一场人工智能驱动的革命，消除了繁琐的手动编辑过程。本深度指南将探讨 Opus Clip 的开创性 "任意剪辑 "功能如何轻松生成引人入胜的视频合集。从动态体育集锦到病毒式传播的精彩片段，了解人工智能如何改变视频内容创作，同时节省无数小时的制作时间。要点Opus Clip 首次推出革命性的 "Clip Anything "技术，利用人工智能自动生成视频合集先进的算法通过分析情绪、
2025-04-15 12:56:35
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな！🤔💡
0
2025-04-14 11:18:56
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
0
2025-04-12 21:44:43
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!
0
2025-04-12 20:31:51
Thomas Wolf's take on AI being 'yes-men on servers' is pretty spot on. It's scary to think that AI might just agree with us all the time instead of pushing boundaries. I'm all for innovation, but not if it means AI just becomes a tool for confirmation bias. Food for thought!
0
2025-04-12 15:34:16
Томас Вольф точно описал, что ИИ может стать «да-людьми на серверах». Страшно думать, что ИИ может просто соглашаться с нами вместо того, чтобы расширять границы. Я за инновации, но не если это означает, что ИИ станет инструментом подтверждения предвзятости. Над чем стоит задуматься!
0
2025-04-12 11:06:01
La perspectiva de Thomas Wolf sobre la IA como 'hombres de sí en servidores' realmente te hace pensar dos veces sobre el hype. Es refrescante escuchar una perspectiva más fundamentada en medio de todas las promesas salvajes. Quizás la IA no sea la bala mágica que todos esperamos, pero definitivamente es algo para observar. 🤔
0
