隨著人工智能技術快速普及,長期支撐互聯網內容生態的「引用—回流」機制正面臨鬆動。過去,人工編輯在引用其他網站內容時,通常會標示原始來源,為原平台帶來一定流量,被視為網絡運作中的一項「隱性契約」。然而,在 AI 時代,這套平衡正逐漸瓦解。
綜合Cloudflare與《Business Insider》報道,Cloudflare自2025年起系統性追蹤大型科技公司AI爬蟲對網站內容的抓取情況,並透過比對爬蟲請求次數與實際為網站帶來的訪問量,計算所謂「抓取與回流比」。該指標用以衡量平台從互聯網獲取內容價值,與實際回饋流量之間的落差,例如「100:1」意味平台每抓取網站內容 100 次,僅為其帶來 1 次訪問。
統計顯示,Anthropic 的「抓取與回流比」表現最差,其 AI 爬蟲抓取網站內容的頻率,遠高於實際帶來的回流量;OpenAI 情況亦相近,顯示相關平台正大量消耗網絡內容,卻回饋有限。
這一趨勢亦與《Business Insider》於 2024 年底的調查結果相呼應。報道指出,部分網站遭 Anthropic 與 OpenAI 爬蟲高頻抓取,導致流量結構改變,甚至推高雲端運算成本。有開發者透露,短短數月內,客戶因 AI 爬蟲導致的雲服務費用幾乎翻倍,反映 AI 公司在減少回流的同時,亦將隱性成本轉嫁予內容網站。(編輯部)