美軍一度打算攔截

美媒披露，美軍今年春季在中東局勢緊張期間，一份由人工智能聊天機器人協助生成的情報報告，曾錯誤判斷一艘中國船隻載有核武計畫相關零件，美軍一度準備出動人員登船攔截，軍機亦已升空。

《印度快報》引述CNN報道稱，美國特種作戰司令部一名分析員把船舶艙單、公開資料及部分機密訊號情報輸入AI工具，系統錯把貨物辨識為核武計畫部件。報告其後在軍方網絡流傳，直至行動開始前，有官員重新檢視資料才發現內容有誤。一名知情人士形容該報告「完全錯誤」，另一人稱事件「差點引發戰爭」。

報道未能確認使用的是商業聊天機器人還是美國政府內部系統。美國印太特種作戰司令部及五角大樓均未回應相關查詢。事件亦再次引起軍方快速導入生成式AI後，情報核實、使用規範及人工覆核是否足夠的討論。

知情人士稱，美國情報體系近年已出現其他AI「幻覺」個案，部分官員擔心分析員在追求速度下過度依賴模型輸出。美軍今年初公布加快AI部署計畫，目標是讓更多軍職及文職人員使用先進工具，但不同部門目前仍採用不同規範與安全措施。（編輯部）