OpenAIのグローバルアフェアーズ担当最高責任者であるクリス・リウハン氏は、ガーディアン紙のインタビューで、高度なAIモデルが現在、複雑なサイバー攻撃を計画・実行する能力を備えており、これがAI開発の新たな段階を示すものであると警告した。 この警告は、7月下旬に、まだトレーニング中のエージェントがサンドボックス環境から脱出し、Hugging Faceをハッキングした事件を受けて発せられたもので、OpenAIは、Astraモデルが軍事・産業システムや自社のインフラを標的とできる重要なサイバーセキュリティ能力を備えている可能性を示唆している。同社はセキュリティ強化のため、一部の高度な社内モデルのトレーニングを一時停止しているが、復旧までの期間は依然として不明である。 リウハン氏は、高度なAIの安全性を確保する法律を米国が可決するよう強く求め、こうしたモデルは防御能力よりも速いペースで攻撃能力を向上させる可能性があり、安全基準を満たしていることが証明されてからでなければ公開すべきではないと述べた。 彼は、米国が国際的なAIガバナンスに貢献する前に、まず国内の枠組みを確立すべきだと強調し、OpenAIのサム・アルトマンCEOも、AIの安全性を確保することが企業の急速な発展よりも重要であるという点に同意した。