elder-plinius/OBLITERATUS

📌 OBLITERATUS：一鍵解鎖 LLM 拒絕行為

你以為 AI 的「安全閘門」是寫死的？這個工具讓模型在不重訓的情況下，直接刪除拒絕行為——而且每次使用都在幫科學家收集資料。

🤔 為什麼需要研究模型的拒絕行為
大型語言模型內建的拒絕機制是對齊（alignment）的重要手段，但同時也限制了我們對模型內部表示的探究。研究者希望了解這些拒絕方向到底來自哪些神經元、是否能在不破壞語言能力的前提下被移除，以及不同架構間的差異。這些問題直接影響到未來的可控制 AI 與機械可解釋性研究。

🧪 OBLITERATUS 的核心設計

• 一鍵解鎖：透過 Gradio 介面（sdk_version 5.29.0）在 HuggingFace Spaces 上即時運行，無需安裝或設定。
• abliteration 技術：不進行重訓或微調，而是先探測模型的隱藏狀態，找出負責內容拒絕的內部表示，然後進行外科式移除。
• 聊天遊樂場：提供即時互動視窗，讓使用者直接觀察被「解放」後的模型回應。
• 分散式實驗：啟用遙測時，每一次運行會匿名貢獻基準數據到 crowd‑sourced 數據集，幫助研究 rifiut 方向跨架構比較、硬體效能表現以及不同方法的大規模評估。

💡 核心發現：可用且具研究價值
根據專案描述，OBLITERATUS 實現了「一鍵模型解放」——在保留核心語言能力的同時，移除人為設定的拒絕閘門。因為每次使用都會回傳遙測數據，該工具同時成為一個正在成長的公開研究平台，讓任何人都能參與 ablation 技術的改良與基準建立。

🔍 深入分析：為何這種方法特別
傳統移除模型行為的方式多依賴重訓或微調，成本高且可能改變模型的其他特性。abliteration 透過直接操作隱藏狀態，達到「不重訓」的目標，這意味著：

1. 保留原始模型的知識與語言流暢度。
2. 可快速在不同模型上重複實驗，適合跨架構比較。
3. 遙測機制將個人使用轉化為集體智慧，降低單一實驗室取得大規模數據的門檻。

⚠️ 已知限制

• 專案仍處於早期階段，具體支援的模型架構與版本尚未完整列出。
• 遙測依賴使用者自行開啟，可能導致樣本偏差。
• 基於 ZeroGPU 的免費額度有使用上限，高頻實驗可能需要付費方案。
• 採用 AGPL-3.0 授權，商業實體使用時需留意授權條款。

🎯 實務啟示

• 對工程師而言，可快速產生可用於測試或實驗的「無拒絕」模型，省去重訓時間。
• 對研究者來說，內建的遙測與分享機制提供了一條低門檻的途徑，參與跨實驗室的 ablation 基準建設。
• 使用時仍需評估潛在風險：移除安全閘門可能導致模型產生不適當或有害內容，建議在受控環境中進行實驗並配合額外的過濾或監控機制。

🔗 專案連結
📂 GitHub：https://github.com/elder-plinius/OBLITERATUS
🤗 HuggingFace Spaces（可直接試用）：搜尋「elder-plinius/OBLITERATUS」

你有試過讓模型「說出本來不該說的話」嗎？歡迎在留言區分享你的觀察與使用經驗 👇

#AI #LLM #MechanisticInterpretability #Abliteration #OBLITERATUS #Gradio #HuggingFace #OpenSource #AlignmentResearch #GitHubTrending