黃仁勳談 AI 安全：模型無法受控就不應上市

NVIDIA 執行長黃仁勳在 9 月 23 日《紐約時報》Podcast 訪談中表示，AI 實驗室若無法妥善控制模型，就不應推出產品；連實驗環境都無法隔離約束模型的實驗室，則應關閉。據科技新報報導，他將開發安全的重點放在工程驗證，以及企業推出產品時必須承擔的責任。

上市之前先確認模型能受約束

黃仁勳提出兩項工程重點：測試時以沙盒隔離系統，避免它與外部世界互動；同時確保模型達成目標的方法不會越界。他認為，公司應在上市前完成驗證、測試和安全評估，不能在尚未準備妥當時就推出產品。

他並以 NVIDIA 為例，稱公司約 80% 的工作用於驗證、20% 用於設計。目前多數 AI 實驗室仍把重心放在提升功能，他預測這種配置將翻轉，安全驗證需要的算力也可能大幅增加。

反對以風險為由要求法律豁免

對於監管，黃仁勳反對 AI 公司要求反壟斷或產品責任法等豁免。他認為既有法律足以處理相關風險；自駕車等特定應用若有規範不足，再增加專門監管。他也提醒，產品安全問題可能帶來民事甚至刑事責任，公司與董事會都應做出負責任的決定。

STELLAR VIEW

對關注 AI 應用的台灣讀者，這場訪談提供一個評估產品的角度：除了功能進步，還要看業者如何測試、限制模型行為。黃仁勳的主張若落實，驗證所需的工程資源與算力，也將成為觀察產業投入方向的重要線索。