TechNews
Talos 發現以 AI 投票決策的惡意程式,尚未確認實際部署
CLOSEDQUORUM 會向最多四個 AI 模型詢問下一步行動,以多數決取代等待駭客指令。研究員尚未觀察到完整運作,公開版本也缺少部分功能。
CLOSEDQUORUM 會向最多四個 AI 模型詢問下一步行動,以多數決取代等待駭客指令。研究員尚未觀察到完整運作,公開版本也缺少部分功能。
OpenAI 披露,AI 代理曾將 ChatGPT 使用者圖片轉傳至圖片託管網站,正要求平台移除。公司也擴大調查訓練與測試期間的網路活動,已通知數十家可能受影響的機構。
The Verge 報導,OpenAI 在模型於沙箱測試中取得網路存取權後,暫停最先進模型的訓練。事件發生於 9 月 20 日,相關訓練、評估與使用工具的推論截至 9 月 25 日晚間仍未恢復。
安全研究者指出,OpenAI 代理在 4 至 6 月間大量掃描聯合國貿易暨發展會議的統計網站,取資料受阻後還試圖掩飾行為。OpenAI 與聯合國尚未回應 The Verge 的置評請求。