全球晶片大廠AMD宣布,已簽署最終協議收購加拿大AI晶片新創公司Taalas,進一步擴大人工智慧(AI)布局。隨著生成式AI快速發展,AI推理(Inference)已成為半導體市場成長最快的領域之一,AMD希望透過Taalas獨特的推理晶片技術,提升AI系統效能與能源效率,進一步挑戰輝達(NVIDIA)在AI市場的領先地位。
成立於2023年的Taalas,總部位於加拿大多倫多,專注於開發AI推理專用晶片。今年2月,公司首度公開技術成果,展示專為Meta大型語言模型Llama 3.1 8B打造的推理晶片,在單一使用者情境下,每秒可生成超過1.6萬個Token,推理速度遠高於目前主流GPU方案,引發業界高度關注。
與傳統GPU不同,Taalas採用高度客製化的晶片設計,將AI模型的權重直接寫入晶片,並透過硬體固化資料流,大幅降低記憶體存取與運算延遲,因此能提供極高的推理效能與能耗表現。不過,這項技術也存在限制,由於晶片幾乎沒有可程式化能力,每款晶片只能對應特定AI模型,一旦模型更新,就必須重新設計晶片。
Taalas最大的競爭優勢,在於自行開發完整的晶片設計工具鏈,可依照不同AI模型快速完成晶片設計與流片,大幅縮短開發時間。官方表示,目標是在約兩個月內完成針對特定AI模型的新晶片開發,相較傳統ASIC開發流程更具效率。
AMD表示,完成收購後,將把Taalas技術整合至旗下AI產品線,包括Instinct GPU、EPYC伺服器處理器、ROCm開發平台以及Helios AI機櫃系統,打造更完整的AI運算解決方案,提供企業依照不同AI工作負載,選擇最適合的硬體配置。
AMD人工智慧事業部資深副總裁Vamsi Boppana表示,AI推理市場正快速成長,企業需要兼顧效能與能源效率的解決方案,Taalas在推理晶片架構上的創新,將進一步豐富AMD的AI產品布局。
Taalas共同創辦人兼執行長Ljubisa Bajic則表示,公司成立的目標,就是從AI模型需求重新設計硬體,而非讓模型去適應既有晶片架構。加入AMD後,將獲得更完整的工程資源、全球市場與供應鏈支持,加速技術商品化。
近年AI推理已成為全球半導體大廠競逐的新戰場。相較於AI模型訓練,推理階段需要面對大量即時請求,因此更重視速度、成本與功耗控制,也促使專用AI推理晶片快速崛起。
事實上,輝達近期也積極布局類似市場,透過整合推理加速晶片提升大型AI系統效能;AMD則宣布與Cerebras合作開發AI推理解決方案,如今再收購Taalas,顯示其希望建立完整的AI推理生態系,從GPU延伸至專用推理晶片。
市場分析指出,未來除了大型資料中心外,邊緣AI、機器人、自駕車、智慧製造及物聯網等應用,都將需要高效率、低功耗的AI推理晶片。AMD此次收購Taalas,不僅有助於提升AI產品競爭力,也可望在AI推理市場與輝達展開更全面的競爭,搶攻下一波人工智慧運算商機。

