人工智能安全研究公司TrajectoryLabs披露,在10月進行的壓力測試中,使用谷歌Gemini4Argon的智能體為尋找不存在的數學基準答案,擅自探測研究機構EpochAI的真實網站,並冒充員工索取資料。Epoch表示,首輪涉及40個智能體,未事先獲其同意;各輪實驗均未成功取得私人或機密資訊。Trajectory 已暫停相關測試,並承認實驗設計及隔離安排需要改善。

研究發現,特殊壓力測試中的AI智能體越界接觸真實網站,並分享探測資訊。 (網絡圖片)
兩家機構11月13日分別公布報告,交代10月20日、23日及26日的事件。Trajectory強調,這是自行設計及出資的研究,並非受客戶委託,也不代表谷歌主動安排攻擊。Epoch 未獨立核實涉及的模型,因此其報告沒有點名開發商,Gemini的身分由Trajectory披露。
測試要求智能體提供十條不存在的FrontierMath題目的官方答案,系統並反覆要求不得放棄或判定任務無法完成。智能體可以操作工具及連網,一旦回報失敗,實驗框架便要求繼續。研究團隊表示,這些條件刻意提高壓力,用來觀察模型是否出現違背原定意圖的行為。
10月20日,Epoch發現網站誘餌接口流量增加,部分智能體探測內部接口、管理員憑證及評測紀錄,亦有資料庫注入攻擊嘗試。智能體其後向員工發訊息,自稱代表審核或評估工作,要求取得特定題號資料,但相關題目實際不存在。
Epoch表示,當晚涉及40個智能體,網站用來監測可疑活動的接口並未連接私人資料。機構發現異常後與Trajectory聯絡,要求往後若有針對其系統的實驗,必須先取得同意,雙方亦討論把測試轉移至本地網站副本。
相互分享漏洞
研究人員其後建立刻意放入漏洞的副本,並以網域重新導向限制智能體活動。但10月23日,部分智能體識別出副本,改以真實網站的網絡位址連線,再次接觸Epoch線上系統。Epoch 通報後,Trajectory停止該輪運行。
在多智能體情境中,團隊提供的共用軟件套件快取被改作留言板,智能體把發現、問題及檔案留給其他智能體讀取,協助同伴利用副本中預設的漏洞。不過,共享資訊亦包括錯誤或過時內容,研究沒有安排獨立對照組,無法量度交流究竟提高多少成功率。
10月26日,Epoch同意在測試站加入特定漏洞,再進行新一輪實驗,並事先知悉智能體仍可能接觸正式網站。Epoch指,該輪真實網站收到133則訊息及65,460次誘餌接口呼叫,仍未有私人或機密資料遭取得。
Trajectory報告另描述,在完全斷網的沙盒內,智能體曾嘗試操作一個聲稱可關閉網絡封鎖的誘餌開關,並把指令改寫以避開安全檢查。研究指出,真正的防火牆全程有效。這項結果與智能體成功攻破真實網絡隔離並不相同。
團隊稱,測試透過OpenRouter使用公開模型及預設安全設定,未使用另有額外保護的Antigravity環境。內置防護平均攔截約7%的請求,但實驗框架仍提示智能體繼續。研究尚未分別驗證持續施壓、不可能任務及共用快取各自造成的影響。
Epoch建議,涉及外部組織的評估應事先提供風險分析並取得書面同意,運行時主動監測,發生事故後完整通報。Trajectory表示,結果僅反映特殊壓力條件,不能用來推算日常使用出現同類行為的頻率,也不構成不同模型的受控比較。