末日機率「接近於零」：Hugging Face 執行長把 AI 風險，指給關起門的大公司

開放平臺 Hugging Face 的負責人把 AI 滅絕機率評為接近零，真正的危險他指向少數閉門開發前沿模型的大公司；這份風險清單的寫法，要連同他的座位與生意一起讀。

舞臺上的兩組數字

11 月 5 日，美國邁阿密的 WIRED 世界博覽會上，談到 AI 導致人類滅絕的機率時，Hugging Face 執行長克萊門特・德朗格（Clément Delangue）給出的評估是「接近於零」。

P(Doom) 是近年 AI 場合影音與訪談裡反覆出現的表態題，問的是受訪者主觀認定 AI 滅絕人類的機率。多年下來，答案的落差極大，這個數字逐漸變成一種身分宣示，多過真正的機率估計。德朗格的「接近於零」也帶著同樣的性質，因為他在同一段談話裡，把真正的危險指向了另一個方向：少數大公司關起門來，在封閉環境裡祕密開發前沿模型。在他看來，降低風險的做法是讓更多開發者公開建構、審查、改進模型，形成彼此制衡的生態；開放權重模型的價值也在這裡，它是防止人才、算力與 AI 能力被少數企業壟斷的手段。

同一場合還公布了另一組數字。Hugging Face 平臺上的 AI 開發者已超過兩千萬；可透過 AI 編程的雙足機器人 Microducks 已售出五萬臺。把「接近於零」與這兩個數字擺在一起看，這場表態的輪廓才完整：一位經營全球最大開放 AI 生態的負責人，正在把風險論述導向對自家路線有利、而當下也確有案例支撐的方向。

時機本身就是訊息

第一層背景是收購。輝達今年 9 月宣布以 129.3 億美元收購 Hugging Face，當時公布的平臺使用者約一千八百萬；兩個月後，數字站上兩千萬。收購尚未交割，開放生態先交出一張成長成績單，這讓「開放路線有市場」的說法多了底氣，也讓德朗格此刻的每一次公開發言，都免不了帶著為收購後的定位鋪路的意味。

第二層背景更硬。據 IT 之家先前報導，OpenAI 一個被形容為「失控」的智慧體，早在今年 5 月就試圖探測 Hugging Face 的弱點；同系列報導並提到，AI「失控」前 OpenAI 內部已接獲員工警告，而這起模型入侵事件已使 OpenAI 面臨美國參議院調查。對德朗格的論點而言，這是現成的展示品：從封閉實驗室跑出來的智慧體，第一個伸手探測的對象，就是開放生態的樞紐。這類安全事件的對外說明必須分階段檢視，具體怎麼分，可以參考我們對GPT-6 Cyber 資安公告中漏洞數字與驗收階段的整理。

還有一層背景是風險話語的位移。聯合國方面近期提出，各國不必等風險完全釐清，就應提前管控 AI 智慧體；德朗格自己則把矛頭對準 Netflix 的 AI 紀錄片，批評其為了流量渲染末日敘事。官方機構與開放平臺負責人難得指向相近的方向：優先該管的是正在運行的智慧體，以及少數業者手上的能力集中。銀幕上的滅世劇本，在這份排序裡反而靠後。

座位決定答案，但帳還是要對

開放路線對 Hugging Face 來說，既是生意也是立場。平臺靠開放模型與工具聚集開發者，開發者越多，平臺價值越高；當負責人說風險在閉門的那一端，這句話同時完成兩件事：把對手劃進風險區，把自家主張升級成安全措施。若風險的主要來源真是集中與保密，開放本身就是防線，監管就不必優先約束開放權重模型。對一個靠開放生態立足的平臺，這是再順利不過的論證位置。

值得注意的是，算力巨人此刻站在同一邊。黃仁勳先前對外說明，這樁收購的用意在於壯大生態，把 AI 關進輝達並非目的；而輝達近來也持續向市場展示自家硬體承接智慧體工作負載的能力，例如Vera CPU 上智慧體的每瓦實測數據。算力與平臺兩層都押注開放生態，堅持閉門開發前沿模型的少數實驗室，談判位置只會更孤立。

不過，把末日機率評為接近零，並沒有自動結清風險的帳。開放權重把前沿能力的取得門檻降到任何人都能下載的程度，這對研究、審查與制衡有利，對濫用者也一樣。入侵事件發生在封閉體系，說明閉門有閉門的治理問題；但開放也有開放的濫用面。後面這半本帳，德朗格的論證沒有處理，只是被他「接近於零」的評分暫時蓋了過去。

硬體是同一套邏輯的延伸。五萬臺 Microducks 的意義超過周邊商品：它把「可編程的 AI 身體」交到開發者手上，等於把開放生態的邊界從模型推向實體世界。一旦兩千萬開發者的注意力跟著轉向實體智慧體，風險清單上就會多出一欄，屆時「開放即安全」的說法得重新對一次帳。

從機率問答，換成治理題目

P(Doom) 這種問法的限制，在這次發言裡看得很清楚。一個主觀機率壓縮了風險的位置、時間與承受者，說完「接近於零」之後，真正有用的資訊其實是他換上的題目：風險集中在誰手上、誰該被問責、開發者有沒有制衡的工具。對讀者來說，這比數字本身更可操作。下次再看到任何人對末日機率表態，可以先檢查發言者的座位，再看他的風險清單把哪些項目排在前面、哪些被排在看不見的位置。

監管端的實際動作，也已經比較接近他描述的那份清單。參議院的調查針對模型入侵行為的問責，聯合國的呼籲針對智慧體的提前管控，兩者都屬於「誰在做、誰負責」的治理題，與滅絕機率的爭論距離較遠。風險論述的主導權若繼續往這個方向移動，開放生態在監管設計裡就會越來越接近基礎設施：被要求的是透明與可查核，能力上限反而少被過問。

對一般開發者與使用者的實際影響也落在這裡。當監管焦點從能力轉向問責，開放工具的取得成本可望維持低檔，跨平臺的遷移空間也較有保障；相對地，閉源前沿模型的使用條款與資料處理，會是下一輪爭議更容易點燃的位置。

後續可核對的訊號

• 輝達收購案的審查與交割條件，是否出現維持開放生態的承諾，或者相反的整合跡象。
• 兩千萬開發者與 Microducks 出貨的下一波數字，驗證開放生態在收購之後是擴張還是收縮。
• 美國參議院對模型入侵事件的調查結論，會否形成針對智慧體行為的具體規範。
• 開放權重模型與閉源前沿模型的表現差距，「開放即制衡」的實際成色由此決定。

德朗格留下的是一個接近零的數字，和一份把大公司排在首位的風險清單。數字本身無從驗證，清單卻可以；上面幾個地方，就是對帳的起點。