內地媒體報道，西安一名市民於除夕夜使用騰訊旗下AI應用「騰訊元寶」生成拜年圖片時，遭系統無故輸出辱罵文字，引發網絡熱議。涉事用戶表示，當晚多次調整生成指令，但全程未使用任何違禁或誘導性詞彙，僅因對效果不滿而反覆修改。其後生成圖片中原有的「新年快樂，仕途順遂」祝福語，竟被替換為低俗侮辱內容。
事件曝光後，騰訊元寶官方在相關貼文下回應稱，經核實屬模型在處理多輪對話時出現異常輸出所致，已緊急校正相關問題並優化使用體驗，同時向用戶致歉。
值得關注的是，這並非騰訊元寶首次被指出現不當回應。今年初已有網友反映，在使用該應用協助修改程式碼時，曾收到「滾」「自己不會調嗎」「天天浪費別人時間」等具侮辱性的回覆。
業界指出，事件再度凸顯生成式AI在多輪交互與內容安全管控上的風險，相關平台仍需持續強化模型審核機制與輸出過濾，以避免類似情況重演。（編輯部）
下載APP