阿布扎比Far Labs和美國奧斯汀Evolving Edge正建立分散式AI推理平台,讓玩家把閒置遊戲電腦的GPU算力出租給企業,概念類似把空房放上Airbnb。Far Labs準備推出Far AI,Evolving Edge則已進入公開測試。
兩家公司把大型推理工作拆成小任務,分派到不同消費級顯示卡,再收集結果。Far Labs使用自家排程系統,目標把延遲控制在100毫秒以下;Evolving Edge 採用Ray框架,主攻較小型開源模型,而非訓練最前沿大模型。
平台以沙盒、加密通信和資源限制保護電腦及客戶資料,Evolving Edge並公開節點軟件供檢查。現有業者Salad稱網絡已有約6萬張活躍GPU,顯示消費級算力可以形成一定規模。
目前此商業模式仍待驗證,家用電價、設備折舊和平台抽成可能高於用戶收入,過往同類平台供應者所得只佔總收入一小部分。企業也要評估不穩定節點、資料私隱和服務水平。兩家新創尚未公布大規模運行數據和固定回報率,能否提供比雲端更低且可靠的成本仍需觀察。

新創公司嘗試把閒置遊戲電腦連成AI推理網絡。(網絡圖片)