科技新聞
AI 算力擴建遇電力瓶頸,業界推動彈性用電與架構最佳化
科技新報報導,Nvidia、Google 與 Emerald AI 近期成立能源管理聯盟,推動資料中心彈性調度負載。算力供應的改善也延伸至軟體架構,讓部分工作先由結構化資料處理,必要時才呼叫大型語言模型。
科技新報報導,Nvidia、Google 與 Emerald AI 近期宣布成立 AI 能源管理聯盟,主張讓資料中心配合電網狀態調整運算負載。報導指出,AI 算力擴張的限制已涉及電力、場址與電網接入,增加機房和晶片之外,業界也將焦點移向能源調度與軟體效率。
用電需求隨電網狀態調整
聯盟提出的做法包括在區域電網過載時暫停非關鍵運算、把工作移至其他區域,或運用儲能與自備發電系統。目標是提高既有電力資源的利用效率,並協助資料中心更快取得電網接入許可。
這項方向回應的是硬體到位後仍可能無電可用的問題。依報導,施工週期、地方社區反彈與電網容量都會限制新增算力;部分地區也因大型負載申請增加,拉長等待接入電網的時間。
先查結構化資料,再動用模型
軟體端的另一條路,是先從知識圖譜、快取與決策軌跡等結構化資料尋找答案,必要時才呼叫大型語言模型。報導認為,這種架構除了改善效率,也能回應企業對資料精確、即時狀態及來源可追溯的需求。
報導列舉萬豪國際採用圖形技術的案例:客房定價引擎平均處理時間由四分多鐘縮短至 13 秒,基礎設施成本減半。不過,效率提高、使用門檻降低後,總需求仍可能繼續增加,單靠節省運算或擴建硬體,都不足以化解供應壓力。
STELLAR VIEW
對台灣關注 AI 應用的企業,評估運算資源時,也應把供電條件與系統如何取得答案納入考量。彈性用電處理的是電網壓力,架構最佳化則減少不必要的模型呼叫,兩者各自對應不同限制。
留言 · 0
?登入後才能留言登入
還沒有人留言。



