主流AI傳播虛假資訊率翻倍

據Newsguard最新研究，今年8月，十大生成式 AI 工具在處理即時新聞話題時，有 35% 的情況會重複傳播虛假資訊，較去年同期的18%幾乎翻倍。

研究指出，問題與 AI 引入「即時網絡搜索功能」有關。過去模型多以拒答方式避免風險，2024年8月拒絕率高達31%；但如今拒絕率已降至0%，聊天機器人開始接入充斥假消息的網絡生態，導致錯誤資訊大幅增加。

分項數據顯示，Inflection 模型表現最差，錯誤率高達 56.67%；其次是 Perplexity（46.67%）、ChatGPT與Meta 模型（40%）、Copilot與Mistral（36.67%）。表現最佳為 Claude（10%） 與 Gemini（16.67%）。其中，Perplexity 跌幅最顯著，去年還能 100% 識別假消息，如今卻近半數情況傳播錯誤內容。

Newsguard稱這是AI的根本缺陷：早期透過拒答來「不造成傷害」，如今則因網絡訊息污染，真假難辨。OpenAI亦承認，模型天生存在「幻覺內容」，正研發能提示不確定性的技術，但能否徹底解決問題仍未可知。（編輯部）