OpenAI安全團隊持續地震！負責人離職，三名員工因洩密被開
https://www.qbitai.com/2026/10/501368.html📌 OpenAI 安全透明度負責人離職，同時三名員工因洩密被解僱
TL;DR：負責撰寫 System Card 的 OpenAI 安全透明度負責人離職，另有三名安全研究員因外洩敏感資訊遭開除。
一款模型上線前要通過多少關卡，外界其實很難從一份測試資料就看懂；而現在，負責把這些複雜內容「翻譯」給大眾看的人，自己先離開了。
🤔 這個職位究竟在做什麼
David Robinson 是 OpenAI Safety Systems 團隊下「安全透明度」（Safety Transparency）職能的負責人，用他自己的話說，他的工作是幫助外界理解並信任 OpenAI 為保障系統安全所做的技術工作，扮演技術部門與公眾之間的翻譯角色。據 Business Insider 報導，Robinson 本人尚未公開說明離職原因，OpenAI 也還沒公佈接任者。
Safety Systems 團隊負責評估、紅隊測試、安全措施制定與模型部署決策，而其中的 Trustworthy AI 子團隊，則負責把內部的技術發現、風險判斷與部署決定，整理成外界能看懂的公開資料，產出包括 System Card、Deployment Safety Hub、安全研究部落格與治理文件。
🧩 System Card 與 Preparedness Framework 2.0
每次 OpenAI 發布重要模型，Robinson 帶領的團隊都會撰寫一份 System Card，內容涵蓋模型訓練所用的方法、接受過哪些安全評估、在生物與網路攻擊等高風險領域達到的能力、內部採取的安全措施，以及採取措施後仍存在的風險，篇幅往往達數十頁，可類比為食品包裝上的營養成分表。
Robinson 同時是 OpenAI《Preparedness Framework 2.0》的主要起草人之一，這套框架用來追蹤前沿模型可能帶來的嚴重風險，並預先規定模型達到特定能力門檻後，公司必須執行哪些評估、加裝哪些防護措施。第二版框架新增了三類需追蹤的能力：生物與化學能力、網路安全能力，以及 AI 自我改進能力。若追蹤發現模型能力達到「High」等級，代表它可能顯著放大既有的嚴重危害途徑，部署前必須配置足夠的安全措施；若達到「Critical」等級，則代表模型可能憑空創造出新的嚴重危害途徑，是否繼續開發將成為問題。文中提到，Deep Research 模型的生物學能力評估結果，正接近「High」門檻，意味著它開始接近能實質協助非專業人士製造已知生物威脅的水準，而如何準確向公眾描述這種臨界地帶，正是 Robinson 團隊負責的工作。離職前，OpenAI 還在招募公司首位 Safety Transparency Editor，負責把關重要安全透明度文件的編輯品質，目前該職缺仍在招募中。
📊 同一時間，三名安全研究員因洩密被開除
據《華爾街日報》報導，OpenAI 近日開除了三名從事安全與模型對齊研究的員工：Jasmine Wang、Tomek Korbak 與 Mikita Balesni，理由是內部調查發現三人將公司敏感資訊分享給一家外部 AI 安全機構，其中涉及 OpenAI 基礎架構的相關內容。值得注意的是，Tomek Korbak 此前擔任 OpenAI 與第三方評估機構 METR、Redwood Research 之間的技術聯絡人，而這兩家機構正是此前 Hugging Face 系統遭入侵事件後，OpenAI 邀請進駐公司調查的三方機構之一。
💡 並非孤立事件
報導指出，OpenAI 安全團隊自 Dario Amodei 任職時期以來，人事變動就一向頻繁，近期還包括「災難風險應急」團隊解散、一名月內四名高管離職等情況。離職前，Robinson 曾在 X 上多次公開談論高能力 AI 帶來的風險，包括轉發並完全贊同另一名研究人員的看法：各家公司競相發展 AI 自我改進（RSI）並非真正的囚徒困境，反而就像一般人直覺看到的那樣，既瘋狂又傲慢。他也建議仍選擇留任的安全員工，應思考如何運用自己在公司內部的影響力，推動公司更認真應對 AI 風險。
🎯 實務啟示
對關注 AI 治理的工程師來說，這則事件值得留意的是 Preparedness Framework 這類「能力分級 × 防護措施」的治理機制本身：它把抽象的風險判斷轉化為可追蹤、可觸發對應行動的具體門檻（如 High、Critical）。無論你是否身處前沿模型公司，這種把風險分級與部署決策綁定的框架設計思路，都值得在自家團隊的模型評估流程中參考。
🔗 來源
- 標題：OpenAI安全團隊持續地震！負責人離職，三名員工因洩密被開
- 作者／機構：衡宇 @ 量子位
- 連結：https://www.qbitai.com/2026/10/501368.html
#OpenAI #AISafety #PreparednessFramework #SystemCard #AIGovernance #ModelEvaluation #AIAlignment #SafetyTransparency #FrontierAI #TechLayoffs
原始資料 量子位 · 收集於 2026-10-03
摘要原文
OpenAI安全團隊持續地震！負責人離職，三名員工因洩密被開 衡宇 2026-10-03 12:41:24 來源： 量子位 又咋啦。。。 程淺 發自 凹非寺 量子位 | 公眾號QbitAI OpenAI怎麼又雙叒叕走了一個安全負責人？？ David Robinson，OpenAI Safety Systems團隊內的“安全透明度”職能負責人。 據BI報道，Robinson本人尚未公開說明離職原因，OpenAI也沒有公佈繼任者。 “安全透明度負責人”這項工作並不耀眼，但這名字一聽 就很重要 。 幾乎每次OpenAI釋出重要模型時，Robinson和他領導的團隊都會為模型撰寫一份“system card”。 簡單來說就是“風險說明書”。 而如今，新模型還在接連上線，Robinson卻先下線了…… 安全透明度負責人究竟負責什麼 用Robinson自己的話說，他所做的工作，是幫助外界理解並信任OpenAI為保障系統安全所開展的技術工作。 簡單說，他和團隊扮演的是技術部門與公眾之間的 “翻譯器” 。 △ David Robinson Safety Systems團隊負責評估、紅隊測試、安全措施和模型部署決策。 但這些工作的過程和結果通常非常複雜，外界很難僅憑一組測試資料判斷模型是否安全。 安全透明度團隊要做的，就是 把內部的技術發現、風險判斷和部署決定，整理成外界能夠看懂的公開材料。 這項工作歸屬於Safety Systems內部的Trustworthy AI團隊，產出包括system card、Deployment Safety Hub、安全研究部落格和公開治理檔案。 其中最常和公眾見面的，就是system card。 在其中需要寫明：一款模型訓練所用的方法、接受了哪些安全評估、在生物和網路攻擊等高風險領域達到了什麼能力、內部採取了什麼安全措施、採取措施後還有什麼風險等等。 （說是card，實際上篇均幾十頁。） △ GPT-6 Astra的System Card，顯示為迄今為止最安全的模型 它可以被類比理解為食品包裝上的“營養成分表”。 也就是，雖然看的人很少，但必須得有…… Robinson自己也不無自豪地說，這是OpenAI向外界提供的有關公司技術安全工作“最詳細、最全面的說明”了。 除此外，Robinson還是OpenAI《Preparedness Framework 2.0》的主要起草人。 這套框架用於追蹤前沿模型可能帶來的嚴重風險，並提前規定模型達到某種能力後，公司需要進行哪些評估、增加哪些防護措施。 比如這第二版框架裡，就新增了三類需追蹤的能力：生物與化學能力、網路安全能力，以及AI自我改進能力。 如果追蹤中發現，模型能力達到了High，那就意味著它可能顯著放大現有的嚴重危害路徑，必須在部署前配置足夠的安全措施。 而一旦達到Critical，就代表模型可能憑空創造嚴重危害路徑，是否繼續開發將存在問題。 Deep Research就是一個典型案例。 在Deep Research System Card中，這款模型的生物學評估顯示，它正“接近”High能力門檻。 換句話說，它“開始接近”能夠實質幫助非專業人士製造已知生物威脅的水平。 該怎麼準確地向公眾描述這種安全領域裡的閾限空間，就是Robinson負責的工作。 不久前，Robinson還在招聘OpenAI首位Safety Transparency Editor。 這個崗位需要負責重要安全透明度材料的編輯質量，從專案啟動到最終釋出，全程推動system card和相關檔案的敘事與表述。 目前還是在招狀態，人招沒招進來不知，總之是leader先走了。 OpenAI安全部門又“地震”？ 其實吧，在Robinson離職訊息曝光前，OpenAI的安全部門就已狀況頻發。 比如……OpenAI剛開了三名安全方向的員工。 據《華爾街日報》報道，三人分別是Jasmine Wang、Tomek Korbak和Mikita Balesni，主要從事安全與模型對齊研究。 OpenAI給的理由是，內部調查發現三人把公司敏感資訊分享給了一家外部AI安全機構，其中還有OpenAI基礎設施架構的內容。 耐人尋味的是，Tomek Korbak此前曾擔任OpenAI與第三方評估機構METR、Redwood Research之間的技術聯絡人。 這兩個機構就是當時Hugging Face事件後OpenAI邀請進駐公司調查的三方機構。 Korbak就是與這些研究人員對接的人。 實際上，OpenAI的安全團隊從Dario Amodei時期就一貫是變動頻出，“地震”連連。 最近的可參考： OpenAI解散「災難風險應急」團隊！GPU大神Scott Gray也跑路了 OpenAI一個月跑4名高管！前COO離場，安全線幾乎被一鍋端 GPT-5.6剛釋出，OpenAI安全主管就跑路了？？ 因為離職的人實在是太多了，很難羅列，我做了張圖。 大家自行感受…… △ 圖片系AI生成 One More Thing 離職之前，Robinson曾在X上多次公開談論高能力AI帶來的風險。 9月初，他在X上表示，OpenAI內部的人正在逐漸意識到高能力AI模型可能產生的影響。 （竟然才意識到嗎？） “OpenAI的確每天都在發生重大變化，但我不知道這種變化是否足夠快。” 在最新一則X中，Robinson轉發了另一名研究人員的帖子，並表示百分百贊同： 我不認為競相發展RSI真是什麼囚徒困境——它可能就像普通人直觀看到的那樣，既瘋狂又傲慢。 Robinson對那些AI staff說，如果現在選擇繼續留下來，就應該思考—— 如何利用自己在公司內部的影響力，推動公司更認真地應對AI風險。 版權所有，未經授權不得以任何形式轉載及使用，違者必究。 OpenAI安全團隊 衡宇 OpenAI推理之父最新訪談！數學只是多智慧體時代的開胃菜 2026-09-30 OpenAI光速上新GPT-6.1 Sol！一晚上25項更新，都在這裡了 2026-09-30 具身機器人能搞定超市盤點嗎？全球七萬門店正在給出答案 2026-09-09 量子計算走上桌面！“小盒子”跑通端到端，資料全程不出門 2026-09-27
由 claude-code/sonnet 自動生成