AI業界近日再現「人類滅絕」警告，但多名研究人員認為部分末日情境把數碼能力直接等同現實執行力，忽略生物實驗、實體資源和人類操作等物理門檻，相關風險不宜被簡化。
AI安全討論近期由當前風險延伸至人類滅絕等極端情境。（網絡圖片）
人工智能安全爭議近期升溫。前Anthropic研究員Jacob Coxon離職後警告，快速發展的AI可能在未來數年形成對人類生存的重大風險，Anthropic對齊研究人員Evan Hubinger等亦公開談及極端風險。相關說法把生物武器、自主網絡攻擊及失控代理系統列為可能路徑，引發外界重新討論AI是否可能由軟件能力跨越至現實世界造成災難。
不過，多名研究人員向《Business Insider》表示，部分討論存在把「能生成資訊」與「能完成現實行動」混為一談的問題。具合成生物學及機器學習背景的研究人員Anselm Levskaya指出，即使AI可以提出病毒設計或實驗方案，距離製造出可存活、可傳播而且真正危險的病毒仍有很長鏈條，過程涉及實驗室設備、材料、操作技能、測試及反覆修正，並非模型單靠文字輸出即可完成。
Carnegie Mellon University教 授Eric Xing等 亦強調，AI在數碼環境中的能力與它對實體世界的控制力之間仍有差距。近期OpenAI及Anthropic測試自主代理的安全性時，模型可在模擬環境執行帶有惡意設定的任務，但這些實驗本身沒有造成現實世界傷害。研究人員因此主張，在評估災難風險時應逐步檢視AI是否擁有必要權限、持續運作能力、實體資源以及把數碼計劃轉化為物理行動的渠道。
當前風險仍不容忽視
質疑末日論並不等於否定AI安全問題。電腦科學家Jürgen Schmidhuber及研究者Mateusz Blaszczyk等指出，AI已能放大網絡攻擊、監控、詐騙及資訊操縱等現實風險，這些問題有明確的技術和社會影響，同樣需要安全措施和監管。其他學者亦提醒，過度集中討論人類滅絕情境，可能令偏見、勞動衝擊、私隱、版權及能源消耗等已存在的問題被忽略。
另一邊廂，支持加強前沿AI安全控制的人士認為，極端風險即使不確定，只要潛在後果巨大，仍值得提前建立防護。OpenAI、Anthropic及其他AI企業近期均增加模型評估、監測及第三方安全討論。爭議的焦點因此不是AI是否完全無害，而是應如何區分已被觀察到的風險、可驗證的能力，以及仍需多重假設才能成立的末日情境，避免把兩者混在同一個風險層級。研究人員主張，討論生物風險等極端情境時，應把模型能否生成知識、是否取得專業工具、是否能繞過實驗室安全控制，以及最終是否能在物理環境完成任務分開評估。這種逐段拆解風險鏈的做法，可避免僅憑模型在測試中的高分或模擬行為，就直接推導出現實世界災難。
下載APP