應只限最前沿大模型

OpenAI總裁兼聯合創始人布羅克曼（Greg Brockman）表示，如果AI產業需要放慢研發速度，措施應主要針對正在開發最強大模型的前沿AI企業，不應把一般AI研究、開源模型及能力較低的系統一併納入。相關訪問在Anthropic行政總裁阿莫戴周末發表「放慢前沿AI」文章前錄製。

布羅克曼表示，近期Hugging Face遭自主智能體入侵後，OpenAI已降低模型訓練頻率，安全事件令公司重新檢視高能力系統的研發節奏。他認為，真正需要額外安全程序的是接近能力前沿、可能產生新風險的模型，至於一般研究及較低能力模型，仍應維持較開放的研發環境，以免把安全措施擴大成整個產業的限制。阿莫戴其後提出讓獨立評估人員深入檢查前沿模型，OpenAI行政總裁奧特曼表示支持，並稱放慢腳步並不等於停止AI發展。相關討論目前集中在如何界定「前沿」模型，以及由誰負責評估模型能力和風險。布羅克曼並未主張全面暫停模型訓練，而是把額外限制集中在能力快速上升、可能跨越既有安全門檻的少數系統。（編輯部）