人工智能公司Anthropic正面臨成立以來最嚴峻的監管挑戰。多名美國政府官員及知情人士透露，在特朗普政府上周以安全風險為由限制最新大模型Fable 5向海外用戶提供服務後，Anthropic高層已緊急前往華盛頓，與白宮及商務部官員展開密集磋商，希望推動禁令盡快解除。
據POLITICO報道，Anthropic聯合創始人Tom Brown、美國商務部長Howard Lutnick及美國國家網絡總監Sean Cairncross上周末已進行多輪長時間通話。隨後，Anthropic派出多名技術與安全主管赴華府，向政府詳細說明公司網絡安全防護機制。
知情人士表示，周一舉行的線下會議由美國商務部及國家網絡總監辦公室主導，重點聚焦技術層面。Anthropic代表包括負責模型壓力測試與安全評估的前沿紅隊主管Logan Graham、安全主管Dave Orr及首席安全研究員Nicholas Carlini。
本次爭議源於Anthropic最新發布的大模型Fable 5。美國政府認為，該模型存在可能被濫用的安全漏洞，因此要求公司停止向海外用戶提供服務。據悉，Anthropic主要投資者亞馬遜此前向白宮反映，其研究團隊發現可繞過Fable 5部分安全限制的方法，並將相關結果提交給美國國家安全局及政府部門。
收緊身份認證機制
Anthropic則強烈反駁相關指控。公司在官方博客表示，相關漏洞並不嚴重，且許多公開模型在無需特殊技巧下也可重現類似問題。公司認為，Fable 5已建立多層安全防護機制，可阻止使用者發動網絡攻擊或獲取危險資訊。
事件迅速引發科技界反彈。上周末，近80名技術專家及企業高管聯署公開信，要求政府撤銷禁令。他們認為，政府將模型具備的正常程式設計與網絡防禦能力誤判為攻擊風險，不但削弱網絡安全工具供應，也可能損害美國在人工智能領域的全球競爭力。
部分業界人士則支持政府採取更嚴格監管，認為大型模型能力日益強大，安全風險不容忽視。不過也有不少專家警告，若此次事件演變為常態化審批制度，未來所有AI模型發布都須先取得政府批准，恐將大幅拖慢產業創新步伐。
與此同時，Anthropic亦宣布將自7月8日起收緊旗下Claude服務的用戶身份驗證機制。根據更新後的隱私政策，公司未來可能要求用戶提供政府核發證件，或透過人臉掃描完成身份與年齡驗證，適用範圍涵蓋Claude Free、Claude Pro及Claude Max等個人用戶方案。
Anthropic表示，相關措施旨在提升平台安全性與可靠性，並強調公司不會出售用戶資料，也不會在Claude中投放廣告。外界則認為，在監管壓力升高之際，強化身份驗證亦反映AI企業正逐步朝向更嚴格的合規模式發展。
分析人士指出，Fable 5爭議不僅是Anthropic與美國政府之間的個案衝突，更可能成為美國未來監管先進AI模型的重要分水嶺，其結果將影響整個生成式AI產業的發展方向。（編輯部）
下載APP