奧特曼、阿莫迪籲全球合作，避免 AI 發展超出人類掌控

OpenAI 執行長奧特曼與 Anthropic 執行長阿莫迪，9 月 23 日在聯合國期間舉行的特別會議上，呼籲各國與產業界加強 AI 安全機制。據科技新報報導，兩人警告，若防護與治理未能跟上技術進展，快速進化的系統可能超出人類掌控，對整體人類構成風險。

模型能力提升，安全要求也要提高

阿莫迪將風險與發展、管理方式連在一起：AI 具備龐大潛力，但管理不當可能造成威脅。他主張，模型功能愈強，安全標準就應愈嚴格；企業在必要時應放慢腳步，確保每一代新系統都足夠安全。

奧特曼則聚焦人類能否及時理解與介入。他擔憂，AI 的進展速度可能讓人類來不及反應，最後失去控制權，因此發展方向需要透過民主程序與政府治理共同決定。

共同標準不能只靠少數實驗室

兩人的共同主張，是 AI 治理無法由單一公司、國家或領導人獨力完成，需要國際合作與共同標準。奧特曼也反對只由少數實驗室單方面決定方向。報導指出，美中等主要科技強權對監管路線仍存在分歧。

STELLAR VIEW

對關注 AI 應用的台灣讀者而言，這場討論值得追問的是：能力持續提升時，誰有權要求停下來，安全標準又由誰共同決定。企業提出風險警告只是起點，後續應觀察這些呼籲如何轉成可執行的治理安排。