18國簽署人工智能安全協議

AI開發須保障公眾不受侵害
29/11/2023
52868
收藏
分享
AI開發須保障公眾不受侵害
AI開發須保障公眾不受侵害

美國等18個國家共同簽署一項AI安全協議,確保AI技術開發保障人類不受侵害。(美聯社圖片)

美國國土安全部網路安全與基礎設施安全局長伊斯特利稱,該協議是AI發展倡議中的最新協議。(網絡圖片)

美國等18國26日簽署一項攸關人工智能(AI)的國際協定。美國國土安全部網路安全與基礎設施安全局長伊斯特利表示,這是國際間首份詳載如何確保AI不致遭不肖之徒入侵,並推動企業創建「設計安全」AI系統的協定。

該協定共20頁,除美國外,英、德、意、星、捷克、愛沙尼亞、波蘭、澳洲、智利、以色列及尼日利亞等18國同意,設計和應用AI的公司有必要以確保顧客及社會大眾免於AI濫用威脅的方式,發展與運用AI。

該協定雖不具拘束力,內容大多屬一般性建議,像監督AI系統是否遭濫用、保護資料數據不致遭竄改,還有審查軟體供應商。但伊斯特利認為,重要的是有這麼多國簽,認同AI系統需將安全置於首位的看法。

AI系統需將安全置於首位

伊斯特利說,「這是我們首次確認,(AI的)這些能力不應該只跟酷炫的特色,以及我們多快能在市場推出這些能力,或我們能如何競爭,以降低成本有關」。

該協定是各國政府在形塑AI發展上,提出的一連串倡議中最新一項,儘管這些倡議具實際力量的幾稀,不管是產業及整個社會,AI的影響力正愈來愈有感。

該協定的架構處理怎樣防止AI技術遭駭客把持的若干問題,並包括諸如唯有在經過適當安全檢測後才能夠公布AI模型之類的建議。但該協定並未觸及一些棘手問題,像如何適當應用AI或如何蒐集輸入AI模型的資料數據。

AI危害引發種種擔憂

針對針對AI相關規範,歐洲的腳步比美國快,歐洲的國會議員正研擬規定,法德意等國最近亦達成一項應如何規範AI的協定,並支持透過行為準則,強制自我規範生成式AI。

AI的興起已掀起一連串擔憂,包括AI恐被用來擾亂民主進程、助長詐欺行為、引發嚴重失業等多項危害。

美國總統拜登10月底簽署行政命令,計劃對AI研發和應用進行規範和管控,這是白宮首次發布針對AI的行政命令。此令涵蓋層面廣泛,包括建立AI安全新標準、保護民眾隱私、推動平等和民權、保護消費者和工人、促進創新和競爭,確保美國在全球AI競賽中處於領先位置。

巴隆:科技導致3.75億人改行

巴隆周刊(Barron's)報道,人工智能就如同過去的工業革命一樣,雖然會造成大量工作被取代,但也將創造更多工作,而就業增長快的領域可能主要圍繞人際交往能力。

根據麥肯錫全球研究院(MGI)2018年數據,1980年以來,個人電腦和網路興起直接導致美國失去350萬個工作,卻也創造出1,900萬個新職位。展望未來,MGI估計,到2030年,科技進步可能迫使全球27億勞工裡多達3.75億人改行。

MGI合夥人麥可.崔說,人類未來不會被科技取代,而是會與之有更深度的合作。他認為AI浪潮可能有更大的貢獻,他形容為「給我們帶來超能力」。這是與人類滅亡截然不同的願景。工業革命的每一次浪潮都帶來更大的繁榮,但並非所有人都能共享。

檢舉
檢舉類型:
具體描述:
提交
取消
評論
發佈

力報會員可享用評論功能

註冊 / 登錄

查看更多評論
收藏
分享

相關新聞

推薦新聞

找不到相關內容

七日預報