英偉達行政總裁黃仁勳在高盛科技會議回應近期AI末日論,直斥人工智能會在數年內殺死所有人的說法「完全無稽之談」。他認為,現有系統由人類建立和操作,發展安全工具與制度比渲染必然滅絕更有意義。
相關爭議源於Anthropic研究員Jacob Coxon辭職文章。Coxon曾參與模型預訓練,擔心企業競逐可自我改進的超級智能,未來10年可能造成災難。部分安全研究員支持其警告,但風險機率並無統一計算方法。
黃仁勳表示,AI可用於藥物研發、氣候預測、工業設計和軟件生產,也能開發偵測攻擊及限制危險輸出的防護系統。他承認技術需要監管和安全工程,但反對把最壞情境描述成不可避免結果。
黃仁勳又稱,企業應為模型加入權限、監察和人類覆核,並與政府建立測試標準。不同陣營對極端風險的判斷未有共識,但都承認網絡安全及模型濫用需要治理。(編輯部)