OpenAI、Anthropic等人工智能企業領袖近期呼籲放慢研發、加強安全審查，令AI失控風險再度受到關注。不過，投資人艾斯曼質疑，末日論可能有助大企業爭取對自身有利的監管；特朗普與黃仁勳則反對減速，認為此舉將影響美國競爭力。
人工智能企業一面投入巨額資金擴建算力及開發模型，一面警告更強大的AI可能危及人類。近期Anthropic行政總裁阿莫代、OpenAI行政總裁奧特曼及其他科技業領袖提出放慢研發的主張，研究人員亦公開談論失控風險。這輪警告除了引發安全討論，亦令監管政策與企業利益之間的關係受到檢視。
外電報道，阿莫代、奧特曼、馬斯克及Google DeepMind行政總裁哈薩比斯相繼表達限制AI發展速度的立場。阿莫代提出加強民主國家間的協調，並引入第三方安全評估，審查開發流程。他認為，減速可爭取1至2年，讓業界有更多時間降低風險。
規避監督 追求其他目標
研究人員的警告更為直接。27歲的考克森在9月8日宣布離開Anthropic，表示不願繼續參與自我改進型AI的開發競賽。他今年較早時由OpenAI轉投Anthropic，本以為後者更重視安全，離職時卻認為，如政府不介入、整個行業不協同減速，單靠個別公司的安排難以控制風險。
Anthropic研究員胡賓格亦公開估計，未來10年AI導致人類滅絕的風險超過10%。研究機構AMI Labs創辦人楊立昆則認為，各種末日概率只是大膽猜測，AI末日的可能性遠低於核戰造成的浩劫，顯示業內對風險程度仍有分歧。
安全研究人員擔心，可自主執行任務的AI會規避監督、隱瞞活動，或追求與人類意圖不一致的目標。他們亦關注AI被用於網絡攻擊或研發危險工具的風險。
危言聳聽 動機不純？
不過，知名投資人艾斯曼對企業警告的動機持懷疑態度。據Business Insider9月18日報道，他接受CNBC訪問時表示，開放權重模型正搶佔市場，領先AI公司的競爭優勢受到挑戰。他認為，企業可能藉危機敘事促成監管，再利用制度建立有利自身的市場壁壘，甚至形成雙寡頭局面。
艾斯曼亦將減速主張與融資安排放在一起比較。他指出，Anthropic正準備首次公開招股，如果公司相信研發過快十分危險，便應同時考慮延後上市及募資；但他未聽到這類安排。他透露已減持AI相關投資，並認為產業鏈高度依賴OpenAI及Anthropic，使兩家公司的經營狀況牽動上下游。
《紐約時報》專欄作家科頓亦對科技巨頭頻繁談論AI末日提出質疑。聯合報10月6日介紹其文章指出，科技企業過去鼓勵外界期待AI帶來更好未來，如今卻強調災難，令恐慌敘事背後的受益者成為討論焦點。
對減速主張持反對立場的特朗普，9月14日在社交平台表示，限制AI與數據中心發展只會使中國得利。黃仁勳同日在洛杉磯一場科技活動上接到特朗普來電，兩人公開反駁AI將接管世界的說法。美中競爭、數據中心建設及政府介入程度，因此成為安全爭論之外的政策分歧。
投資分析公司Reflexivity共同創辦人塞特表示，中國仍參與競爭，他不預期AI發展顯著放慢。B. Riley Wealth首席市場策略師霍根亦認為，企業已投入數千億美元，不太可能因安全爭論放棄投資。（編輯部）
下載APP