OpenAI 承認,對其 ChatGPT Atlas 瀏覽器等 AI 代理的提示注入攻擊,是一種類似網路詐騙的持久性、無法解決的威脅。該公司正透過透過強化學習訓練的 LLM 自動攻擊者機器人,在模擬中主動發現新穎的攻擊策略,以對抗這種威脅。在以快速測試週期強化防禦的同時,OpenAI 與專家也注意到 AI 瀏覽器對敏感資料的高度存取造成了重大的安全權衡。
評論 (0)
0/300





首頁
