
(台泰時報8月27日電)OpenAI正加快布局自研人工智慧(AI)晶片,與半導體大廠Broadcom合作開發首款名為「Jalapeño」的AI晶片,主攻模型完成訓練後的「推論」(Inference)運算。OpenAI表示,在部分公開基準測試中,Jalapeño在運算效率與回應速度方面展現優勢,並與Nvidia GB300進行比較,顯示科技巨頭自研晶片、降低AI基礎設施成本的競爭進一步升溫。
根據報導,Jalapeño並非用來訓練大型AI模型,而是專門處理模型完成訓練後的實際應用,例如使用者輸入提示詞後產生回答,以及執行各類AI服務指令。OpenAI預計今年內開始使用Jalapeño支援旗下AI模型,逐步建立從晶片到運算系統的自有AI基礎設施。
OpenAI晶片團隊負責人Richard Ho表示,Jalapeño的測試透過公開基準系統進行。實驗結果顯示,晶片兼具高吞吐量(High Throughput)與低延遲(Low Latency)兩項特性,前者可同時處理更多AI工作負載,讓OpenAI以較低成本服務更多使用者;後者則能縮短使用者發出指令到AI產生回應所需時間。
能源效率也是Jalapeño的主要訴求之一。報導指出,晶片運作功耗約700瓦,在大型資料中心持續擴張、電力需求快速增加的背景下,若能以較低耗能完成推論工作,可望協助OpenAI降低電力及資料中心營運成本。Richard Ho表示,實際能節省多少成本,仍取決於未來Jalapeño能否順利擴大產量,以及量產後的成本表現。
Jalapeño由OpenAI與Broadcom共同開發。Broadcom長期投入客製化晶片業務,雙方去年已宣布合作。OpenAI指出,Jalapeño在較短時間內完成開發,並已測試包括自家小型開源模型,以及DeepSeek、Moonshot AI等其他業者模型;其中使用Moonshot AI的Kimi模型時,晶片展現更明顯優勢。
值得注意的是,AI也被OpenAI用於晶片本身的研發。公司表示,已利用自家AI工具協助加快晶片設計流程,目前第2代晶片開發已取得相當進展,預計未來數月進入設計定案的Tape Out階段;第3代晶片也已開始概念設計,長期目標是降低全球AI基礎設施的能源與建置成本。
不過,自研晶片並不代表OpenAI準備與Nvidia切割。OpenAI強調,公司仍需要龐大的運算能力,Nvidia依然是重要晶片供應商,未來也將持續大量採購相關產品。Jalapeño更主要的戰略意義,在於增加自有運算選項,讓OpenAI在AI需求持續攀升之際,能進一步掌握晶片配置、能源消耗與基礎設施成本。
圖片來源:Thairath Money
