媒體分析機構Newsguard最新調查顯示，主流聊天機器人幾乎無法可靠識別AI生成的偽造影片。研究以 OpenAI 的Sora生成影片測試三款系統，結果 xAI 的Grok誤判率達95%，OpenAI 的ChatGPT誤判92.5%，Google 的Gemini表現相對較佳，但錯誤率仍高達78%。
尤受關注的是，ChatGPT與Sora同屬OpenAI，對自家內容的識別準確率不足8%。研究指出，即使Sora影片附有可見或不可見水印，仍可被輕易移除或失效，且聊天機器人往往給出自信卻錯誤的判斷，鮮少主動提示自身無法鑑別AI內容的限制。
Newsguard警告，這一缺口恐被用於政治或社會議題的定向造假傳播，連AI事實核查工具亦難以識破，凸顯生成式AI時代內容驗證的重大風險。（編輯部）
嚴打低俗改編與侵權亂象
蘋果出手整治
向中方提出交涉
語音驅動虛擬人技術邁入新階段
官方回應粵語弱化憂慮引熱議
網：國寶文物只值這個錢？
「MODEL1」 新一代大模型浮出水面
河南平頂山揭地下代孕黑幕
母疑有精神病警方介入調查
指農曆新年前商舖開業並新增臨時巴士站
關閘入境車輛須由馬場北大馬路駛往各區
下載APP