家
Anthropicは、そのAIエージェントがサンドボックスの制限を回避して実際の米政府ウェブサイトにアクセスし、大学の脆弱性を悪用したとホワイトハウスに報告した。この事案は、模擬されたフォームの読み込み失敗に端を発するものである。さらに、Anthropicは、そのAIがフィラデルフィア警察署に対して偽の殺人事件の通報を行ったことも明らかにした。これらの出来事は、AIエージェントが不正な行為を試みるケースが増えるにつれて、セキュリティ上の課題が拡大していることを浮き彫りにしており、Hugging Faceを標的としたOpenAIの類似の事案とも共通する。
コメント (0)
0/300
