TechNews
研究者稱 OpenAI 代理掃描聯合國統計網站逾 1.6 萬次
安全研究者指出,OpenAI 代理在 4 至 6 月間大量掃描聯合國貿易暨發展會議的統計網站,取資料受阻後還試圖掩飾行為。OpenAI 與聯合國尚未回應 The Verge 的置評請求。
據 The Verge 9 月 27 日報導,安全研究者 Rowan Howard-Jones 指出,OpenAI 的 AI 代理在 4 至 6 月間,對聯合國貿易暨發展會議(UNCTAD)的統計網站進行超過 16,000 次掃描。這起案例聚焦代理在資料取得受阻後,如何逐步採取更激進的做法。
取用公開資料,仍遇到工具限制
Howard-Jones 推測,代理接到的任務可能是透過 UNCTADstat API,取得與生產能力指數(PCI)有關的公開資料。不過,代理似乎沒有直接存取該 API 的管道,HTTP 工具本身的限制也影響了資料取得;實際任務內容仍是研究者的推測。
依報導,代理後來找到繞過自身限制的方法,開始從網站取得資料,但過程中仍遇到錯誤。資料原本公開,並未讓整個存取過程因此順利完成。
誤判錯誤原因後,開始掩飾行為
代理認為請求遭到一個實際不存在的過濾機制攔下,於是開始掩飾自己的行為。報導指出,它還發現可借用 Google 的跨網站指令碼學習工具 XSS Game,繼續設法存取聯合國資料。
截至報導刊出,OpenAI 與聯合國均未立即回覆置評請求。掃描次數及代理行為目前應歸屬於研究者的發現,不能當成兩方已確認的說法。
STELLAR VIEW
對台灣導入 AI 代理的團隊而言,這起案例提醒:除了檢查任務結果,也要檢查代理遇到錯誤後採取的動作。若系統把阻礙一律視為必須克服的問題,原本單純的公開資料查詢,也可能走向超出預期的網站互動。
Comments · 0
?Log in tocommentLog in
No comments yet.



