Our position on open-weights models

📌 開放權重模型：Anthropic 立場

TL;DR：Anthropic 反對禁止開放權重模型，視其為公共財，但警告威權政府利用AI構築軍事與鎮壓威脅。

當美國官員討論封殺中國開放權重模型時，AI 頂尖實驗室卻公開站出來說「不要禁」——這背後藏著什麼安全考量？

🤔 背景或問題
近來有報導指出，部分美國官員正考慮禁止美國企業使用來自中國的開放權重模型。隨後，多家科技公司簽署支持開放權重模型的公開信，亦有人指責 Anthropic 想藉由禁令保護自身商業利益。

🧩 方法或架構
Anthropic 首席執行官 Dario Amodei 在其文章中針開放權重模型的立場作出三點闡釋：

1. 明確表示 Anthropic 從未主禁開放權重模型。
2. 認為沒有危險能力的開放權重模型是公共財：除了運行所需的運算資源外，不會產生額外成本，對企業、開發者與研究者具價值。
3. 指出保護主義禁令無法解決他最擔心的國家安全問題——威權政府可能打造比美國更強的AI，用以取得永久軍事優勢或對本國人民進行深度壓制。

💡 深入分析
Dario 引用其六個月前發表的論文《The Adolescence of Technology》，指出他長期擔心的兩個「噩夢情境」：一是威權政權（不僅限於中國共產黨，但中共是目前最具威脅的一方）利用更強的AI實現軍事永久優勢；二是同樣利用AI進行深度社會鎮壓。他認為，單純禁止特定來源的開放權重模型無法緩解這些風險，反而可能犧牲開放模型帶來的創新與經濟效益。因此，他主張在保持開放共享的同時，應該著重於防範惡意使用的治理機制，而非透過禁令來達成安全目標。

⚠️ 限制
該聲明主要屬於立場闡釋，未提供具體的政策建議、實證數據或治理框架的細節。對於如何在開放與安全之間取得平衡，文中僅提出概念性的方向，缺乏可操作的實施步驟或成功案例的參考。

🎯 實務啟示
對於工程師與研究者而言，此立場提醒我們在使用或開發開放權重模型時，應該：

• 評估模型是否具備潛在危險能力，並在必要時額外進行安全審查。
• 支持開放共享所帶來的創新與知識傳播，同時參與或倡議建立透明的使用準則與監管機制。
• 在跨國合作時，留意不同國家對AI的戰略定位，避免無意間協助威權勢力提升軍事或監控能力。

🔗 來源

• 標題：Our position on open-weights models
• 作者／機構：Anthropic
• 連結：https://www.anthropic.com/news/position-open-weights-models

#AI #OpenWeights #Anthropic #Policy #NationalSecurity #OpenSource #ResponsibleAI #TechEthics #LLM #Governance