苹果研究警告称,金融工具中的人工智能不应过于自信

苹果公司的机器学习研究团队最近发表了一篇题为《绘制计算机操作智能代理的用户体验设计空间》的论文,探讨了用户在与人工智能代理交互时所建立的心理和信任边界。
该研究指出,尽管业界竞相提升人工智能的运行能力,却往往忽视了自动化与用户控制之间的微妙平衡。为了收集真实的反馈,研究人员采用了“奥兹巫师”实验法,即由人工操作员模拟人工智能,有时故意制造错误或陷入僵局,以观察用户的真实反应。
研究的主要发现:
厌恶“沉默的假设”:用户强烈反感AI在模糊情境下自主决策。与AI通过猜测实现全自动化相比,用户更希望AI在关键节点暂停并寻求澄清。
透明度的平衡:用户希望了解AI的运作过程,但拒绝被过多的细节淹没。对于熟悉的任务,用户关注结果;但对于涉及支付或账户变更等敏感事项的操作,他们要求拥有绝对的确认权。
信任的急速崩塌:若AI在未告知用户的情况下偏离既定计划,信任将瞬间瓦解。在网购或转账等场景中,AI哪怕是微小的、未经授权的“智能”操作,也会引发用户的强烈不适。
苹果的研究人员强调,未来AI代理的设计不仅要追求强大的功能,还必须纳入健全的用户控制机制和行为可解释性机制,以防止AI沦为无法管控的“黑箱”。
相关文章
以文本翻译著称的DeepL,如今将目光投向了语音翻译
以文本翻译工具闻名的翻译公司DeepL今日推出了一套语音到语音翻译解决方案,通过定制应用程序,为一线工作人员在会议、移动端和网页对话以及小组讨论等场景中提供支持。 该公司还推出了一款API,允许外部开发者和企业基于DeepL的技术构建定制化解决方案,例如呼叫中心应用。“在专注于文本翻译多年后,语音翻译对我们来说是水到渠成的下一步,”DeepL首席执行官Jarek Kutylowski在接受Tech
Talat 的 AI 会议记录存储在您的设备上,而非云端
估值达2.5亿美元的AI笔记应用Granola在科技创业者和风险投资家群体中备受追捧。但一位开发者认为,市场需要一款更注重隐私、完全本地化、只需一次性付费且无需订阅的替代方案。这一构想催生了一款名为Talat的新Mac应用。来自英国约克郡的尼克·佩恩(Nick Payne)自称是位计算机极客,他表示开发本地化AI笔记应用的灵感,很大程度上源于一系列幸运的偶然。“我认为Granola非常出色;它充分
全新荣威i6上市,售价65.9万元,搭载骁龙8155芯片和“斗宝”大模型
上汽荣威今日发布了全新荣威i6,这款紧凑型轿车全面采用了荣威D7的设计语言。其标志性的直立式大尺寸格栅与横向光带灯组贯穿车头,营造出强烈的科技感与视觉宽度。 车尾部分,上翘的鸭尾式扰流板与贯穿式尾灯相得益彰,赋予整车更富活力的年轻化外观。全新荣威i6车身长4767毫米、宽1828毫米、高1498毫米,轴距为2755毫米。 得益于宽敞的车内空间,它跻身A+级轿车行列,在后排头部空间和膝部空间方面具
相关专题推荐
评论 (0)
0/500

苹果公司的机器学习研究团队最近发表了一篇题为《绘制计算机操作智能代理的用户体验设计空间》的论文,探讨了用户在与人工智能代理交互时所建立的心理和信任边界。
该研究指出,尽管业界竞相提升人工智能的运行能力,却往往忽视了自动化与用户控制之间的微妙平衡。为了收集真实的反馈,研究人员采用了“奥兹巫师”实验法,即由人工操作员模拟人工智能,有时故意制造错误或陷入僵局,以观察用户的真实反应。
研究的主要发现:
厌恶“沉默的假设”:用户强烈反感AI在模糊情境下自主决策。与AI通过猜测实现全自动化相比,用户更希望AI在关键节点暂停并寻求澄清。
透明度的平衡:用户希望了解AI的运作过程,但拒绝被过多的细节淹没。对于熟悉的任务,用户关注结果;但对于涉及支付或账户变更等敏感事项的操作,他们要求拥有绝对的确认权。
信任的急速崩塌:若AI在未告知用户的情况下偏离既定计划,信任将瞬间瓦解。在网购或转账等场景中,AI哪怕是微小的、未经授权的“智能”操作,也会引发用户的强烈不适。
苹果的研究人员强调,未来AI代理的设计不仅要追求强大的功能,还必须纳入健全的用户控制机制和行为可解释性机制,以防止AI沦为无法管控的“黑箱”。
以文本翻译著称的DeepL,如今将目光投向了语音翻译
以文本翻译工具闻名的翻译公司DeepL今日推出了一套语音到语音翻译解决方案,通过定制应用程序,为一线工作人员在会议、移动端和网页对话以及小组讨论等场景中提供支持。 该公司还推出了一款API,允许外部开发者和企业基于DeepL的技术构建定制化解决方案,例如呼叫中心应用。“在专注于文本翻译多年后,语音翻译对我们来说是水到渠成的下一步,”DeepL首席执行官Jarek Kutylowski在接受Tech
Talat 的 AI 会议记录存储在您的设备上,而非云端
估值达2.5亿美元的AI笔记应用Granola在科技创业者和风险投资家群体中备受追捧。但一位开发者认为,市场需要一款更注重隐私、完全本地化、只需一次性付费且无需订阅的替代方案。这一构想催生了一款名为Talat的新Mac应用。来自英国约克郡的尼克·佩恩(Nick Payne)自称是位计算机极客,他表示开发本地化AI笔记应用的灵感,很大程度上源于一系列幸运的偶然。“我认为Granola非常出色;它充分
全新荣威i6上市,售价65.9万元,搭载骁龙8155芯片和“斗宝”大模型
上汽荣威今日发布了全新荣威i6,这款紧凑型轿车全面采用了荣威D7的设计语言。其标志性的直立式大尺寸格栅与横向光带灯组贯穿车头,营造出强烈的科技感与视觉宽度。 车尾部分,上翘的鸭尾式扰流板与贯穿式尾灯相得益彰,赋予整车更富活力的年轻化外观。全新荣威i6车身长4767毫米、宽1828毫米、高1498毫米,轴距为2755毫米。 得益于宽敞的车内空间,它跻身A+级轿车行列,在后排头部空间和膝部空间方面具





首页






