外界估算,Meta代理式人工智能Muse若擴大至1億名用戶,可能需要約158萬顆CPU,反映代理服務對通用運算及儲存資源的龐大需求。
Meta推出的代理式人工智能Muse迅速引起市場關注。外界按其「每名用戶一部專屬雲端電腦」的架構估算,若服務擴大至1億名用戶,在理想且全部長時間運行的情境下,可能需要約158萬顆AMD Ryzen CPU、800 PB記憶體及1萬PB固態硬碟。數字並非Meta公布的採購計劃,卻顯示代理式人工智能對CPU、記憶體與儲存設備的需求,可能遠高於一般聊天機器人。
Muse為用戶配置可在雲端運行的個人電腦,基本規格包括2顆虛擬CPU、8GB記憶體和100GB儲存空間。代理可在使用者授權下操作瀏覽器、調用工具、整理資料及執行多步任務。與生成一段文字後即結束的聊天服務不同,代理可能持續運行數分鐘甚至更久,因此除了模型推理所需的GPU,還需要大量通用運算資源。
相關估算假設虛擬機器全天候保持啟動,並以一定比例把虛擬核心換算為實體CPU。如果Meta在用戶閒置時暫停虛擬機器,或讓多名不同時段活躍的用戶共享實體核心,實際硬件需求可顯著下降。用戶增長亦不會一次到位,因此158萬顆CPU更適合作為上限情境,而非短期採購預測。
即使採用較高共享率,代理式人工智能仍會改變資料中心的設備結構。過去人工智能投資焦點集中在英偉達GPU和高頻寬記憶體;代理需要作業系統、瀏覽器、檔案處理、安全隔離及長時間任務協調,令CPU、一般記憶體、網絡及儲存設備的重要性提高。超微半導體、英特爾和Arm架構供應商都有機會受惠。
估算建基於常駐情境
硬件需求同時帶來成本壓力。若每名免費用戶都獲分配固定雲端資源,平台必須控制使用時間、任務頻率和儲存容量,否則運算成本可能隨用戶數近乎線性上升。訂閱收費、企業方案及廣告收入能否覆蓋基礎設施開支,將決定代理服務的商業模式。
Meta亦須處理資料安全和權限問題。代理若能代替用戶登入網站、讀取文件或完成交易,平台需要把不同用戶的環境隔離,保存操作紀錄,並防止惡意指令或資料外洩。這些安全機制也會增加CPU及儲存負擔。
Muse的案例反映,人工智能競爭正由模型參數與GPU數量,擴展至完整的雲端電腦供應。當代理開始真正執行工作,資料中心需要的將不只是一顆更快的加速器,而是一整套可長時間、安全運行的運算環境。
資本市場已開始重新評估傳統處理器的需求。代理若大規模普及,雲端服務商除採購GPU,也要增加伺服器CPU、記憶體模組和企業級SSD。這種需求較分散,未必由單一供應商取得,但可令人工智能基建投資由少數加速器延伸至更完整的零組件鏈。(編輯部)