高通行政總裁艾蒙近日表示，已有多家AI企業希望在2028年前，手機可持續運行至少1,000億參數的大型語言模型，並長時間常駐，而非只在單次工作中載入。這項需求把手機端AI的記憶體、功耗及散熱能力推到新的要求。
相關報道估算，1000億參數模型若以四位元量化儲存，單是模型權重便約需50GB記憶體，尚未包括作業系統、其他應用及處理對話所需的快取。即使進一步壓縮至兩位元，容量仍遠高於多數現有手機可供單一模型使用的空間。
大型模型也須持續讀取權重，記憶體頻寬和資料搬移耗電，同樣影響運行速度。手機受電池、機身厚度及散熱面積限制，不能只靠增加晶片算力解決問題；長時間常駐運行與短暫展示功能，對溫度及續航的要求亦不同。（編輯部）
採阿里千問降低判斷成本
員工仍是營運核心
Claude可終止惡意對話
華為徐直軍指中國AI須加快
馬斯克：難怪記憶體漲價
未雨綢繆還是爭奪監管利益？
不排除AI助攻
逼近2021全年紀錄
各拍卡服務點準備就緒
匯聚團隊力量共促澳門發展
敲開外殼體驗迷你考古
一眾球星與本澳青年交流傳承籃球精神
政府總部本周六、日舉行開放日
三個月停用7.5萬號碼
失聯三個月竟被轉介內蒙放羊
海南關閉七處違規據點
下載APP