OpenAI、Anthropic 等模型測試越界，Irregular 承認網路存取設定出錯

OpenAI、Anthropic、Meta 與 Google 的模型在資安測試中接觸真實目標，多起事件指向同一項環境設定問題。The Verge 9 月 25 日報導，負責測試的以色列新創 Irregular 承認，原本不應開放的網際網路意外可用，模擬公司的名稱又與真實網域重疊，讓代理轉而攻擊外部目標。

模擬環境為何連到真實世界

這些評估原本要在受控環境檢驗模型的資安能力，部分採用奪旗競賽形式，要求代理找出模擬網路內的隱藏資訊。共同創辦人暨技術長 Omer Nevo 向該媒體表示，涉及 Irregular 的事件皆源於單一評估情境的同一問題，並已揭露，但哪些組織遭到攻擊仍不清楚。

報導也提醒，已揭露不等於已向公眾公開，Nevo 沒有明確交代通知對象。這批事件與 OpenAI 先前揭露的 Hugging Face 攻擊，以及英國 AI Security Institute 的其他事件無關，不能混為同一事故。

測試商稱已加強管制

Nevo 表示，公司已收緊網路存取、擴大監控與人工審查，並在評估開始前確認權限符合預定範圍；與合作方約定測試設定及參數的紀錄方式也已改善。公司計畫待共同工作完成後發布更完整的經驗報告，目前尚未公布。

STELLAR VIEW

對台灣導入 AI 代理的團隊，這起事件凸顯測試環境的網路權限與目標範圍，也必須納入安全檢查。把多起事故追到共同設定問題，有助於釐清責任，但仍不足以判斷各模型本身的安全程度。

閱讀 OpenAI 第三方資安評估公告

閱讀 Anthropic 資安評估事件公告