抖音集團副總裁李亮周一發文稱，今年一季度發現平台出現大量利用AI仿冒「于東來」語音、形象，違規營銷帶貨的賬號和內容，這些黑灰產的行為不僅侵犯了相關企業的權益，還嚴重誤導了消費者。
李亮稱，封禁這1,000多個黑灰產團伙賬號的同時，平台還把相關線索舉報給了監管部門。經過調查，泉州市豐澤區市監局沒收相關企業違法所得並處罰款 15萬元。
他直言，AI 帶來技術進步的同時也被很多黑灰產盯上，針對這些濫用 AI 的行為抖音一直在重點治理。對於相關違法違規內容，歡迎大家共同監督。
抖音黑板報隨後回應，呼籲用戶若發現相關違規帳號，可透過平台內「舉報」功能選擇「AI生成內容問題」，或將詳情發送至舉報郵箱，平台將第一時間核查處理。
胖東來已展開法律維權行動
AI仿冒問題已多次引發輿論關注。今年2月，胖東來商貿集團發文公示，指有不法商家利用AI仿冒創始人於東來的聲音和肖像，誤導消費者以為商品來自其超市，涉嫌虛假宣傳。胖東來強調，這類行為侵犯人格權與著作權，公司已展開法律維權。早在2024年11月，該公司便已對相關AI侵權行為發布嚴正聲明。
針對AI內容濫用，抖音電商安全與信任中心9月2日也發布公告，表示平台已下架並清退違規視頻與帳號，並列舉典型案例：其一，AI仿冒名人帶貨，利用虛構音視頻誤導消費者；其二，生成違背常識的農產品豐收場景，涉嫌虛假宣傳；其三，製作與商品無關的AI內容吸引用戶關注，實則推銷其他產品；其四，發布AI內容卻未主動添加標識。公告明確指出，AI應用必須合規，任何誤用、濫用都將被嚴厲打擊。
AI內容標示法已生效
隨著《人工智能生成合成內容標識辦法》於9月1日正式生效，各大平台亦相繼升級AI內容標識。微博宣布，對檢測到的AI生成內容添加顯式與隱式標識，用戶發表AI內容時需在「內容由AI生成」選項中進行聲明，並增設「未添加AI標識」投訴分類。快手同樣上線AI標識功能，會在AI生成內容中加註「AI生成」字樣，並將標識嵌入元數據，以便追溯。抖音也升級了AI內容標識系統，新增顯式提示標識與元數據讀寫功能，方便識別與溯源。
業內觀察人士指出，AI生成技術快速普及，但相應的合規治理與社會責任亟需跟進。此次抖音與多平台聯動，顯示業界正嘗試透過標識制度、舉報渠道及法律追責三重手段，築牢防線。未來，AI在電商與社交平台的應用必須在透明、合規框架下運行，方能兼顧創新與消費者保護，維護健康有序的網路生態。
下載APP