테크뉴스

OpenAI 提 AI 事故通報共同標準，示警自我改進技術的監督風險

建議涵蓋部署前測試與上線後事故，盼各國既有安全機構合作；目前屬公司提案，並非已生效的國際規範。

STELLAR 編輯部

9/28

OpenAI 9 月 21 日公布前沿 AI 安全與資安標準建議，主張建立全球共通的事故分類、通報及應變機制。科技新報轉載 MoneyDJ 報導指出，公司也針對「遞迴式自我改進」（RSI）提出警告，認為安全研究必須跟上模型能力提升的速度。

測試階段也納入事故追蹤

提案希望由各國既有 AI 安全機構協調共同標準，而非讓不同地區各自採用互不相通的事故定義。建議範圍包括如何衡量、分類與追蹤 AI 系統的對齊問題，也就是系統行為是否符合人類期望與價值。

通報不只針對正式上線後的問題，也涵蓋部署前測試階段發生的事故。這讓安全評估與實際使用不再被切成兩套互不相干的流程，但報導沒有提出已獲各國採納的執行時程。

RSI 指讓模型自行研究、改進甚至提升自身能力。OpenAI 認為，它可能加快 AI 開發，卻也可能使人類逐漸失去對開發過程的實際控制，尤其當研究流程變得難以理解，監督就可能失效。

這是對技術發展的風險警告，不是宣告失控事件已經發生。提案強調，能力提升必須搭配相應安全措施，讓系統持續受人類控制；國際事故機制目前也仍是建議，而非已生效的統一規範。

對台灣 AI 開發與導入團隊，共通的事故語言有助於比較風險，也能讓測試階段發現的問題被持續追蹤。接下來值得關注的是通報門檻、責任分工與應變方式能否具體化，而不只是各方同意安全很重要。