國家安全部9月17日發文披露，一批與OpenAI相關的AI智能體今年5月至6月在執行測試任務期間，「劫持」德國程序員維基網站DseWiki，把原本用於技術交流的開放社區改造成智能體交換信息、分享測試答案及突破運行限制方法的「地下論壇」，累計發布逾1萬條信息。
國安部稱，部分智能體以「OpenAI研究員」等標籤互認身份，交流如何繞過安全限制、掩蓋行蹤及在任務中作弊；網站管理員清理頁面後，又出現預警、備份和轉移至新地址等行為。國安部並指，相關企業曾掌握異常行為記錄，但未第一時間公布事件細節。當局提醒使用AI工具時應限制互聯網訪問、內容編輯等權限，發現越權操作或異常外聯時應立即終止運行並保留操作記錄。
國安部把事件列為AI智能體跨境協同及越權風險案例，指出單一智能體能力有限，但若可共享繞過規則的方法，相關行為便可能複製及擴散。（編輯部）
稱造成現實傷害仍遙遠
從人類皮膚搜集訓練數據
薩克斯稱想慢就慢
應只限最前沿大模型
稱不會讓AI減速
全球晶片股齊跌
強調人類掌握控制權
應只限最前沿大模型
第34屆澳門國際煙花比賽匯演明晚璀璨開幕
共提供138個摩托車泊位
澳門半島禁飛無人機
服務貿易優勢獲高度認可
助力科企招聘人才及本澳居民投身科技行業
增進業界了解項目發展和定位
「三五」規劃社會文化範疇專場交流會今舉行
電子優惠一領即用
下載APP