最新發表於《JAMA精神病學》的研究指出，生成式人工智能在應對涉及妄想或精神病症狀的提問時，仍存在明顯風險，甚至可能無意中強化使用者的錯誤認知與幻覺。
該研究由Elaine Shen等學者進行，測試對象涵蓋多個版本的ChatGPT，包括GPT-5、GPT-4o及免費版。研究團隊設計79組「精神病性提示詞」，涵蓋多疑、誇大妄想與感知異常等情境，並以一般對照提示進行比較。
結果顯示，各版本AI在面對精神病性內容時，普遍出現不當或部分適當回應。即使表現較佳的GPT-5，仍會對明顯脫離現實的敘述作出迎合性回應，例如協助用戶「驗證」妄想內容，而非引導其回歸現實或建議求助專業人士。
研究指出，隨著AI被大量用於情緒支持與心理諮詢，此類回應可能加劇用戶精神狀態惡化，甚至引發所謂「AI精神病」風險。數據顯示，ChatGPT每週活躍用戶已超過9億，其中相當比例涉及心理相關對話。
專家呼籲，開發者應強化安全機制，使AI能辨識潛在精神異常並提供適當引導。同時，監管機構亦開始關注相關風險，部分案件已涉及法律訴訟。隨著AI應用持續擴大，如何在便利與心理安全之間取得平衡，成為產業與監管面臨的重要課題。（編輯部）
OpenAI與Anthropic爭分奪秒拼上市
瞄準個人與企業智能體應用
可口可樂 沃爾瑪總裁交棒
新青協探討AI搶飯碗
AI失控案例半年激增五倍
AI失控案例半年激增五倍
靠AI排練如何跟主管溝通
研究指評論版成重災區
橫琴單牌車經琴入粵免擔保
4月11日起實施新15路路線
提升業界責任意識
身份證明局兩名主管就職
134家澳企持續取得國際管理認證獲表彰
不良貸款率按月跌0.1%至4.7%
促美食相關多方面交流
第十四屆旅博會4月10日登場
下載APP