把 AI 模型直接焊死在晶片上：AMD 收購 Taalas 看中的極端推理賭注

如果有一款晶片，它的運算速度比目前市面上頂級的圖形處理器（GPU）快上千倍，而且每次推論的 cost 都低到幾乎可以忽略不計，你會想買嗎？但這款晶片有一個但書：它只能執行單一一款 AI 模型，無法升級，也無法透過軟體更新支援其他任務。

這是一筆多數軟體開發者會猶豫的交易，卻是 AMD 決定投入的重注。

2026 年 8 月 7 日，AMD 宣布計畫收購 AI 晶片新創公司 Taalas。這家成立僅兩年多的公司，累計已獲得 2.19 億美元（約合新臺幣 95 億元）的風險投資。Taalas 引起 AMD 注意的技術核心，在於他們專為 AI 推理階段設計的加速器，走了一條與主流半導體大廠截然不同的路徑：針對單一 AI 模型進行極致的客製化。

要把這件事的意義講清楚，得先理解目前大型語言模型在運作時，到底遇到了什麼物理與成本瓶頸。

為什麼主流 GPU 開始顯得喫力

當你在電腦或手機上向 ChatGPT 提問時，系統需要龐大的算力來閱讀你的問題、搜尋知識並生成回答。這個過程分為訓練與推論。訓練是教導 AI 模型建立起數千億個參數的知識連結，這需要極高的算力。推論則是模型根據學到的參數，即時算出下一個字是什麼。

主流的加速器如輝達（NVIDIA）的 H100 或 AMD 的 Instinct 系列，本質上都是通用型的圖形處理器（GPU）。通用性意味著同一顆晶片可以拿來玩 3D 遊戲、進行氣候模擬，也能拿來跑 AI 模型。這對硬體製造商是優點，因為可以賣給所有類型的客戶，但對 AI 業者來說，通用性帶來了資源浪費。

在推論階段，最大的效能瓶頸在於資料搬移。一個擁有數千億參數的大型語言模型，其權重資料量極其龐大，根本無法全部塞進晶片上的高速記憶體（SRAM）。這導致晶片在運算時，必須不斷透過系統匯流排，去主機板上的動態隨機存取記憶體（DRAM），甚至固態硬碟裡讀取參數。資料在晶片外面跑的時間，遠比實際用電晶體進行數學運算的時間長得多。這就像一個廚師手腳極快，但每加一種調味料都得跑到倉庫去拿，導致出菜速度被嚴重拖累。

GPU 廠商的解法是開發高頻寬記憶體（HBM），盡可能讓晶片旁邊掛載更多、更快的儲存空間。但 HBM 的產能極度稀缺，這也是目前高階 AI 伺服器硬體取得成本居高不下的主因。這種硬體架構與成本困境，與我們先前分析過的輝達考慮調降 Rubin Ultra 規格的供應鏈訊號如出一轍，業界都在尋找減少對高頻寬記憶體重度依賴的替代方案。

把軟體模型直接變成硬體電路

Taalas 執行長 Ljubisa Bajic 提出的解法，是用一種徹底破壞通用性的方式來解決這個問題。Taalas 開發出一個平臺，能將任何 AI 模型，直接轉化為客製化的實體晶片架構。

這種方案捨棄了傳統晶片「讀取指令、讀取資料、進行運算」的流程。在 Taalas 的設計中，該特定 AI 模型的演算法邏輯與參數權重，被直接硬化成實體的電路布局。

打個比方，通用型 GPU 就像一臺配備各種刀具與模具的萬能車牀，給它不同的藍圖，它就能車出不同的零件。而 Taalas 製造的晶片，則是把某個特定模型直接做成一組專屬的壓克力模具。材料倒進去，成品就直接壓出來了。因為所有的運算邏輯與權重都已經變成實體電路，模型在推論時就不需要再去外部記憶體搬移資料。這是運算速度能夠比傳統 GPU 快上數千倍的根本原因。

這種物理機制上的差異，帶來了極高的效率。Taalas 展示的 AI 推理晶片，是基於 Meta 公司的 Llama 3.1 模型打造。有趣的是，這款晶片並沒有採用臺積電最先進、最昂貴的製程，而是使用成熟且成本相對較低的量產技術。靠著在晶片本體上直接內建大量的高速 SRAM，成功避開了昂貴的高頻寬記憶體缺口。

此外，Bajic 聲稱，只要收到先前未適配的模型，Taalas 的工程團隊僅需兩個月，就能將這套模型落實到新的客製化硬體上。這個研發週期在動輛以年計算的半導體產業裡，是非常激進的數字。

晶片生命週期與商業模式的拉扯

用低成本和極高的推論速度換來的代價，是零彈性。

這種晶片一旦製造出來，它的功能就完全被鎖死。如果 Meta 明天發布了 Llama 3.2，修正了某些錯誤或增加了新功能，那麼先前為 Llama 3.1 打造的 Taalas 晶片就無法跟著升級，必須重新設計並製造全新的晶片。在軟體定義一切、模型每週都在微調的當下，把模型權重死死焊在硬體電路上，是一個極度考驗商業判斷的決定。

這意味著採用這類硬體服務的廠商，必須對某個特定版本模型的長期穩定性有極高的信心。一旦模型版本停滯不前，將會被競爭對手超越；但如果頻繁更新版本，就必須不斷報廢舊晶片、採購新晶片，完全失去成本優勢。

因此，這類專用晶片真正能發揮價值的場景，是那些模型已經高度成熟、不再頻繁變動，且推論請求量極大到足以分攤客製化晶片設計成本的應用環境。

舉例來說，銀行業用來審核支票與身分證件的光學字元辨識（OCR）系統，或者是社羣媒體平臺上用來過濾違規影片的影像辨識模型。這些服務每天需要處理數十億次推論請求，對延遲極度敏感，且底層模型的演算法與權重往往幾個月甚至一年才會進行一次大版本更新。在這類高吞吐量的環境中，專用晶片省下來的記憶體頻寬與耗電量，將轉化為龐大的營運利潤。這也與目前業界推行將 OCR 模型塞進瀏覽器的趨勢相互呼應：當模型確定不變時，底層硬體的優化空間就會被極致壓榨。

這對 AI 伺服器市場是一個重要的訊號。過去兩年，所有的算力焦點都放在誰能提供最強大、通用性最高、能夠訓練下一個 GPT 等級模型的叢集。但隨著開源模型（如 Llama 系列）的普及，許多企業導入 AI 的策略，已經從「自己訓練模型」轉變為「拿開源模型來跑推論服務」。

AMD 的算盤與 AI 晶片的分流

當算力需求從極少數巨頭的訓練叢集，擴散到成千上萬家企業的推論機房，市場就會開始分層。

AMD 此時選擇將 Taalas 納入麾下，顯然是看準了推論市場將走向客製化與極致化分工。雖然 AMD 的主力產品線仍然是通用型 GPU，持續在資料中心市場與輝達正面交鋒，但在高度垂直的特定推論應用上，擁有一支能夠快速將模型轉為實體電路的研發團隊，等於多了一張可以提供差異化硬體的底牌。企業客戶未來在建構 AI 基礎設施時，可能會選擇以通用 GPU 建構極具彈性的開發與測試環境，再將那些請求量最龐大、最穩定的核心服務，轉移到 Taalas 協助設計的專屬加速器上。

這場圍繞著大型語言模型的算力競賽，正從軟體端的模型參數軍備競賽，延伸到實體電路設計的領域。摩爾定律在通用晶片上越來越難以廉價推進，把軟體邏輯直接硬化到矽晶片上，成了半導體工程師重新奪回效能主導權的手段。

對於一般使用者，這筆收購不會立刻改變手機或個人電腦上的應用程式體驗。但在企業端，當運算架構開始與特定的模型版本深度綁定，意味著未來 AI 服務的效能瓶頸，將不再是單純取決於軟體演算法的巧思，或是買了多少張顯示卡，而是考驗企業能否準確預測哪一款模型能穩定運作三年，並大膽地把它焊死在實體電路上，用失去彈性的代價，換取極致的速度與利潤。