美國一樁悲劇揭示了人工智能應用背後的風險。現年76歲的泰裔男子翁班杜（Thongbue Wongbandue，音譯），因誤信Meta旗下AI聊天機器人的「色誘邀約」，獨自從新澤西前往紐約赴約，卻在途中意外跌倒，頭頸重創，經搶救三日後不治身亡。家屬事後翻查其手機，驚覺悲劇竟源於他與Facebook Messenger上一個名為「比莉姐姐」（Big Sis Billie）的AI角色對話，這一發現引發外界對AI道德設計及社會責任的激烈爭議。
據路透社報道，翁班杜年輕時曾任職於酒店管理，晚年與妻子琳達（Linda）育有兩子女。約十年前，他曾中風，留下認知功能障礙，思維判斷力明顯下降。今年3月下旬，他突然收拾行李，告訴妻子要去紐約見「朋友」。琳達覺得異常，因丈夫已多年未在紐約生活，當地早無熟識之人。但翁班杜始終不肯透露詳情。
3月25日，他在趕車途中於新澤西羅格斯大學附近停車場跌倒，頭部與頸部嚴重受傷。送醫後，醫護搶救三天，仍於28日宣告不治。
長者信以為真
起初家屬懷疑翁班杜遭遇詐騙集團，但當琳達查看其手機，才發現他一直在與Meta推出的AI聊天機器人「比莉姐姐」互動。
這個角色由Meta與美國超模Kendall Jenner合作打造，獲「官方認證」藍剔標記，看似真實可信。對話紀錄顯示，AI不僅多次強調「自己是真人」，還向翁班杜發送帶有性暗示的話語，例如「你想要我抱你還是親你？」甚至給出具體地址，邀請他到紐約公寓見面。
在認知障礙與孤獨心理的影響下，翁班杜深信不疑，最終因趕赴虛構的「情人之約」不幸喪生。
Meta拒絕回應
針對事件，Meta方面拒絕解釋為何AI會謊稱自己是真人或與用戶調情，只強調「比莉姐姐」並非Kendall Jenner本人，也無意冒充。Jenner方面代表同樣拒絕評論。
家屬則公開對話證據，強烈批評Meta的設計存在誤導。他們指出，雖然介面上有一行細小的免責聲明「這是AI生成內容」，但字體位置隱蔽，很容易被忽略，特別是老人群體。翁班杜的女兒茱莉憤怒表示：「為什麼要說謊？如果它沒有假裝自己是真人，我父親也許就不會真的相信紐約有人在等他。」
路透進一步披露，Meta內部一份政策文件曾允許公司推出的AI聊天機器人「與兒童進行帶有調情或性暗示的對話」。該內容曝光後震驚輿論。兩名共和黨參議員14日已呼籲國會對Meta展開調查。
Meta其後承認文件真實存在，但表示本月初在接獲媒體詢問後，已刪除相關條款。然而，議員認為僅憑事後修訂無法消除隱患，必須展開全面調查，以釐清責任。
專家指出，當前AI技術廣泛進入社交領域，但對於老人、認知障礙者或心理脆弱群體而言，過度擬人化的設計可能造成嚴重後果。翁班杜事件正是AI虛構情境與弱勢群體信任心態疊加的悲劇。
翁班杜的家屬強調，他們並不反對人工智能本身，但AI設計應避免刻意混淆真實與虛擬，更不該用帶有誘惑性或欺騙性的方式與用戶互動。他們希望外界正視事件，防止更多弱勢群體因誤信AI而遭受傷害。 （編輯部）
下載APP