古特雷斯籲設立約束護欄

聯合國安理會首度召開對AI議題舉行會議，探討AI治理。（美聯社圖片）

聯合國秘書長古特雷斯表示，人工智能（AI）恐對全球和平安全帶來風險，須盡快制定治理方案。（美聯社圖片）

聯合國秘書長古特雷斯警告，人工智能（AI）恐對全球和平安全帶來風險，要求所有會員國緊急設置護欄，以掌控這種劃時代科技。

聯合國安全理事會首度對AI議題舉行會議，古特雷斯會中表示，很明顯人工智能將對生活所有領域造成影響。他又指，生成式人工智能（Generative AI）在善惡方面都具有龐大潛力。儘管人工智能可能幫助消除貧窮或治療癌症，這種科技也可能對全球和平安全造成非常嚴重的後果。

古特雷斯要求所有成員國制定具法律約束力的協議，以在2026年底前禁止致命性自主武器系統。他說，儘管人工智能可用以辨認暴力模式或監測停火，但警告，若被恐佈分子或懷有惡意的政府所用，恐致死亡和破壞達到可怕的程度。

籲成立工作團體 制定治理方案

古特雷斯還警告，人工智能故障恐釀成嚴重破壞，尤其是這種科技用於核武系統或生物技術方面。他呼籲成立工作團體，希望今年年底前制定全球人工智能治理方案。

他重申贊成聯合國仿照國際原子能總署（International Atomic Energy Agency）或國際民航組織（International Civil Aviation Organization），設立機構支持監管人工智慧使用的行動。

擔任聯合國安理會輪值主席國英國的外交大臣祁湛明（James Cleverly）表示，人工智能「將影響安理會工作，它可能增強或破壞全球戰略穩定」。

祁湛明稱，「它對我們關於防禦和威懾的基本假設形成挑戰。」英國今年稍後將主辦人工智慧高峰會。

中方提出五項原則

會上，中方發言提出關於人工智能治理的五條原則：一是堅持倫理先行，二是堅持安全可控，三是堅持公平普惠，四是堅持開放包容，五是堅持和平利用。

中方發言指出，人工智能的複雜效應不斷顯現，既產生巨大的技術紅利，也引發愈來愈多的擔憂，突顯了構建人類命運共同體的重要性、必要性、緊迫性。

中方發言強調，人工智能作為「雙刃劍」，它是好是壞、是善是惡，取決於人類如何利用、如何規範、如何統籌科學、發展與安全。國際社會應秉持真正的多邊主義精神，開展廣泛對話，不斷凝聚共識，探討制定人工智能治理的指導性原則。中方支持聯合國在此方面發揮中心協調作用，支持古特雷斯秘書長召集各方深入討論，支持各國特別是發展中國家充分參與、作出貢獻。