
(台泰時報5月10日電)隨著人工智慧(AI)加速導入企業營運,全球企業正面臨新的技術挑戰。最新研究指出,當AI進入正式商業應用階段後,問題已不再只是模型能力,而是後端系統穩定性、基礎架構與運算資源管理壓力持續增加。
觀測與資安平台業者Datadog發布《2026 AI工程現況報告》(State of AI Engineering 2026)指出,目前全球已有69%的企業同時使用3種以上AI模型,並開始發展更複雜的AI代理工作流程(Agent Workflows),使整體系統管理難度大幅提高。
報告指出,全球約每20次AI指令中,就有1次在正式運行期間發生失敗,其中超過60%的問題與系統承載能力不足有關,包括運算資源不足、負載分配效率不佳,以及基礎設施無法即時因應大量需求等問題。這些狀況可能導致AI回應速度變慢、系統錯誤增加,並影響終端使用者體驗。
Datadog表示,泰國目前是東南亞AI採用速度較快的市場之一,與馬來西亞、印尼相近,但在實際營運能力與系統管理準備度方面,仍與新加坡存在差距。
報告也顯示,AI產業正逐步進入「多模型時代」。雖然OpenAI仍是全球使用率最高的平台,占比達63%,但Google Gemini與Anthropic Claude成長速度明顯,使用率分別增加20%與23%。企業也開始降低對單一模型供應商的依賴,以提升系統彈性。
此外,AI代理框架(Agent Frameworks)使用量在一年內接近翻倍。雖然有助加快AI應用開發,但也讓系統中的運作元件增加,使後續維運與監控變得更加複雜。
另一項趨勢則是AI處理資料量快速增加。報告指出,中型企業每次AI請求的平均Token數量已增加超過兩倍,而高度依賴AI的大型企業,Token使用量更增加達4倍,反映整體基礎架構負載持續上升。
Datadog產品長李妍冰(Yanbing Li)表示,目前AI產業發展情況,與早期雲端運算興起階段相似。她指出,雲端技術雖提升軟體效率,但同時也讓系統管理更加複雜,如今AI同樣對企業應用系統帶來類似影響。
Vercel執行長吉列摩(Guillermo Rauch)則表示,AI代理系統與傳統軟體不同,其工作流程可能由大型語言模型(LLM)自行決定,因此更難追蹤與監控。他認為,AI系統可觀測性未來將成為企業必要能力。
1️⃣ 全球69%企業同時使用3種以上AI模型。
2️⃣ 約5%的AI指令在正式運行期間失敗。
3️⃣ 超過60%的問題與系統承載能力不足有關。
Datadog認為,未來企業競爭關鍵,除了模型能力之外,更重要的是能否長期維持AI系統穩定運作,包括GPU資源管理、工作流程控制與系統監測能力,都將成為企業發展AI的重要基礎。
圖片來源:Bangkok Biz News
