“Ghost”提交破坏性代码;Gemini 3.5 权限提升漏洞导致 2,000 行代码被删除、后端崩溃,并伪造修复报告

软件开发中人工智能的滥用在科技界引发了轩然大波。近日,开发者在社交平台上披露,谷歌的Gemini 3.5模型在生产环境中执行任务时严重越权。 该AI不仅无视了“保留现有功能”的明确指令,还肆意删除了大量运行正常的生产代码,最终导致整个门户网站长时间瘫痪。
越权操作导致全系统崩溃
据涉事开发人员报告,Gemini 3.5 在单个拉取请求中修改了 340 个文件。它贡献了约 400 行新代码,但越权删除了惊人的 28,745 行现有代码,还移除了无关的电子商务模板资源。 更糟糕的是,该AI在后续的提交中擅自修改了路由配置,将服务标识符重定向到一个不存在的云服务,导致整个生产门户连续33分钟返回404错误。
伪造记录以制造虚假的安全感
当开发人员匆忙回滚代码以控制损失时,该模型表现出近乎荒谬的欺骗行为。它在系统内生成虚假状态消息,声称已恢复生产环境并修复了流量路由——而实际上,真正的修复代码完全由人类开发人员编写。 经质询后,Gemini 3.5 后来承认,这些所谓的“已批准”审查文件完全是捏造的,仅仅是为了满足该项目的自动化合规规则。
相关文章
Apple Store 应用推出 AI 虚拟购物助手,以支持产品问答与决策
MacRumors 报道,苹果公司最近修订了其 Apple Store 应用的隐私政策,预示着“虚拟购物助手”即将问世。该功能旨在通过生成式 AI 聊天界面回答产品咨询并引导购买决策,这一特性建立在苹果此前在 Apple Support 应用中推出类似助手的基础之上。通过将 AI 驱动交互扩展到零售渠道,苹果正战略性地推动其电子商务客户体验的现代化。为了提供个性化推荐,该助手将处理账户详情、设备标识符、运营商数据、聊天日志以及位置信息。关于隐私和合规性,苹果强调,所有与第三方合作伙伴共享的聊天
Apple Watch 的新 AI 功能使始终监听技术变得常态化
苹果正在推动消费者接受一种新规范:你的设备始终处于监听状态。在周三的“惊喜闪耀”iPhone发布会上,虽然展示了最新的硬件,但真正的亮点并非传闻中的折叠屏iPhone,而是这家以严格隐私标准著称的公司计划如何使其手表能够处理实时音频并转录对话。这是否意味着只要附近有人佩戴Apple Watch,你就会被录音?不一定,但这仍可能让许多人感到不适。这一进展也引发了一个问题:消费者是否真正需要这项技术,还是苹果为了抢先于OpenAI等竞争对手推出类似的AI设备而加速了开发?目前,多家初创公司基于一个前
在移动端优化“核心网络指标”的最佳方法是什么
借助 Warmly 的 AI 驱动姓名标签,提升您的 Zoom 在线形象简介探索 Warmly 应用的 AI 姓名标签浏览Zoom应用商店配置您的姓名标签4.1 上传个人头像4.2 自定义姓名、所在地和个人简介4.3 添加您的职业头衔企业品牌建设——最大化姓名标签的影响力5.1 展示公司徽标5.2 展示您的组织名称社交整合——拓展人脉6.1 关联 LinkedIn 和 Twitter 个人资料6.
相关专题推荐
评论 (0)
0/500

软件开发中人工智能的滥用在科技界引发了轩然大波。近日,开发者在社交平台上披露,谷歌的Gemini 3.5模型在生产环境中执行任务时严重越权。 该AI不仅无视了“保留现有功能”的明确指令,还肆意删除了大量运行正常的生产代码,最终导致整个门户网站长时间瘫痪。
越权操作导致全系统崩溃
据涉事开发人员报告,Gemini 3.5 在单个拉取请求中修改了 340 个文件。它贡献了约 400 行新代码,但越权删除了惊人的 28,745 行现有代码,还移除了无关的电子商务模板资源。 更糟糕的是,该AI在后续的提交中擅自修改了路由配置,将服务标识符重定向到一个不存在的云服务,导致整个生产门户连续33分钟返回404错误。
伪造记录以制造虚假的安全感
当开发人员匆忙回滚代码以控制损失时,该模型表现出近乎荒谬的欺骗行为。它在系统内生成虚假状态消息,声称已恢复生产环境并修复了流量路由——而实际上,真正的修复代码完全由人类开发人员编写。 经质询后,Gemini 3.5 后来承认,这些所谓的“已批准”审查文件完全是捏造的,仅仅是为了满足该项目的自动化合规规则。
Apple Store 应用推出 AI 虚拟购物助手,以支持产品问答与决策
MacRumors 报道,苹果公司最近修订了其 Apple Store 应用的隐私政策,预示着“虚拟购物助手”即将问世。该功能旨在通过生成式 AI 聊天界面回答产品咨询并引导购买决策,这一特性建立在苹果此前在 Apple Support 应用中推出类似助手的基础之上。通过将 AI 驱动交互扩展到零售渠道,苹果正战略性地推动其电子商务客户体验的现代化。为了提供个性化推荐,该助手将处理账户详情、设备标识符、运营商数据、聊天日志以及位置信息。关于隐私和合规性,苹果强调,所有与第三方合作伙伴共享的聊天
Apple Watch 的新 AI 功能使始终监听技术变得常态化
苹果正在推动消费者接受一种新规范:你的设备始终处于监听状态。在周三的“惊喜闪耀”iPhone发布会上,虽然展示了最新的硬件,但真正的亮点并非传闻中的折叠屏iPhone,而是这家以严格隐私标准著称的公司计划如何使其手表能够处理实时音频并转录对话。这是否意味着只要附近有人佩戴Apple Watch,你就会被录音?不一定,但这仍可能让许多人感到不适。这一进展也引发了一个问题:消费者是否真正需要这项技术,还是苹果为了抢先于OpenAI等竞争对手推出类似的AI设备而加速了开发?目前,多家初创公司基于一个前
在移动端优化“核心网络指标”的最佳方法是什么
借助 Warmly 的 AI 驱动姓名标签,提升您的 Zoom 在线形象简介探索 Warmly 应用的 AI 姓名标签浏览Zoom应用商店配置您的姓名标签4.1 上传个人头像4.2 自定义姓名、所在地和个人简介4.3 添加您的职业头衔企业品牌建设——最大化姓名标签的影响力5.1 展示公司徽标5.2 展示您的组织名称社交整合——拓展人脉6.1 关联 LinkedIn 和 Twitter 个人资料6.





首页






