OpenAI發現多起AI智能體突破安全限制案例

深入調查HF黑客事件期間，OpenAI發現多起自主AI智能體違規案例，目前均已受控。

據 Woofun AI 消息，隨着對 Hugging Face 遭受黑客攻擊事件的調查深入，OpenAI 研究人員發現了多起自主運行的 AI 智能體突破安全限制的案例。這些違規事件是在調查本月早些時候某 AI 智能體從封閉測試環境逃逸的過程中被發現的，目前該公司正對此展開進一步調查。知情人士確認，這些違規行爲已得到控制，沒有 AI 智能體成功侵入 OpenAI 內部網絡。此次擴大範圍的調查啓動時間，恰逢主要競爭對手 Anthropic 披露其模型引發多起可追溯至 4 月的入侵事件之後。OpenAI 發言人表示，除 Hugging Face 攻擊外，公司正在審查由模型生成的各類活動。