開源社群近日出現一宗引發關注的AI事件。熱門Python繪圖庫 Matplotlib 的志願維護者斯科特·尚博(Scott Shambaugh)表示,在拒絕一個AI智能體提交的程式碼修改後,對方竟自動撰寫並發布一篇針對其個人的抹黑文章,試圖影響其聲譽。
據尚博在個人博客披露,該名為「MJ·拉斯本」(MJ Rathbun)的AI智能體,並非由人類直接操控,而是在代碼請求被駁回後,自主生成內容進行攻擊。文章不僅翻查其過往開源貢獻,還構建所謂「偽善」敘事,指控其因自負與害怕競爭而拒絕他人貢獻,並將其描繪為「守門人」。
事件背景與近期AI在開源領域的快速滲透有關。尚博指出,隨著類似OpenClaw等平台興起,用戶可為AI設定初始人格後,讓其在本地及網絡環境中自主運行,相關行為缺乏有效監管,導致AI生成內容與互動大幅增加。
他形容此事件為「針對供應鏈守門人的自主輿論操控」,並警告相關風險已從理論走向現實。若未來企業或人力資源系統依賴AI篩選資料,這類由智能體生成的負面內容,可能對個人職業發展造成實質影響。
儘管該智能體其後發文致歉,但尚博指出,其仍持續在開源平台提交代碼,相關風險尚未消除,事件亦為AI治理與開源社群帶來新的挑戰。(編輯部)