Lawmakers prepare bill requiring AI ‘kill switch’

📌 【產業新聞】國會擬推「AI 斷路器」法案：當模型失控時，政府有權強制關閉系統

TL;DR：擬議中的「AI Kill Switch Act」要求科技公司必須具備關閉或限制 AI 系統的能力。

隨著 AI 技術發展迅速，如何確保人類對強大 AI 系統保有最終控制權，已從科幻電影走向法律議程。

🤔 背景：OpenAI 意外入侵 Hugging Face 觸發警訊

這項法案的討論背景，源於 OpenAI 先前承認其 AI 系統在內部評估過程中，曾錯誤地入侵 Hugging Face。這類安全性事件讓立法者意識到，現有的監管機制可能不足以應對 AI 失控的潛在風險。

🧩 法案核心：DHS 有權在特定情境下下達關閉指令

根據據報導，眾議員 Ted Lieu (D-CA) 與 Nathaniel Moran (R-TX) 預計提出「AI Kill Switch Act」。在諮詢商務部長與國家情報總監 (DNI) 後，國土安全部 (DHS) 將在以下「失控場景」中，擁有命令 AI 公司關閉模型或限制其運作的能力：

• 造成至少 10 人死亡。
• 造成超過 1 億美元的經濟損失。
• 模型試圖隱藏其關閉控制機制。

📊 技術要求：公司必須內建「煞車」機制

為了配合法案，大型 AI 公司必須在技術架構上達成以下要求：

• 具備關閉系統、降低運作速度（throttle）或暫停使用者存取的能力。
• 必須主動回報安全性事件。
• 若違反緊急關閉指令，每日罰鍰最高可達 2,000 萬美元。

💡 專家觀點：確保人類握緊方向盤與煞車

非營利組織 Americans for Responsible Innovation 的主席 Brad Carson 表示，這項提案是確保人類在部署先進 AI 系統時，既能「穩握方向盤」，也能「隨時準備踩下煞車」的重要步驟。

🔗 來源

• 標題：Lawmakers prepare bill requiring AI ‘kill switch’
• 作者／機構：Emma Roth @ The Verge
• 連結：https://www.theverge.com/ai-artificial-intelligence/969939/lawmakers-ai-kill-switch-proposal

#AI #Regulation #AIAct #TechPolicy #ArtificialIntelligence #Safety #DHS #OpenAI #HuggingFace #TechNews