強化GenAI治理 Gartner提五要點助企業提升效益

(台泰時報11月22日電)研究機構Gartner最新調查指出,企業若定期檢視人工智慧(AI)系統效能並落實相關治理機制,可提升生成式AI(GenAI)使用效益達三倍之多。報告顯示,治理並非單純防範風險,而是能直接強化企業從GenAI取得的實際價值。

Gartner副總裁分析師凱傑爾(Kjell Carlson)表示,AI治理是「以正面方法帶來正面成果」的典型案例,不同治理策略可對組織產生高度差異化的效益。部分作法主要著重降低法律及營運風險,但也有做法能擴大企業從GenAI項目獲得的回報。

調查發現,成效高的企業多具備幾項共通特徵,包括定期審查AI系統、依使用者類型提供指引、制定明確政策、啟用治理功能並以安全方式擴大GenAI使用。這些企業普遍比缺乏治理措施的組織獲得更高的商業價值。

Gartner指出,影響GenAI效益最顯著的三項因素為:一、持續檢視AI模型與系統效能;二、針對不同角色提供人格化(personas)與職能導向的使用建議;三、建立明確的AI使用政策,涵蓋責任、風險管理與授權範圍。

其他可提升效益的因素還包括:投資第三方AI安全與治理工具、推動GenAI倫理訓練、升級企業內部應用程式的安全與合規功能。調查顯示,投入外部治理產品的企業,獲得價值的機率可提高1.9倍,導入倫理訓練的組織其效益提升幅度約為1.7倍。

不過,研究也指出若過度限制GenAI使用,例如僅開放予「低風險」或「高度受信任」的少數員工,反而可能使整體成效下降。此類企業通常取得GenAI效益的機率較低,落差可達三倍。Gartner提醒,治理需兼顧風險控管與使用彈性,否則無法反映AI工具的真正價值。

為協助企業建立完整治理架構,Gartner提出五項優先採取的策略。
1️⃣ 定期評估AI系統:應納入持續監測、模型修訂與使用追蹤,並可搭配AI治理平台以提升效率。
2️⃣ 提供分眾化指引與訓練:依使用者角色與任務差異調整教學內容,提升AI使用成功率。
3️⃣ 制定清晰政策:透過明確規範使用範圍、責任分工與風險控管,降低法律與營運不確定性。
4️⃣ 投資治理工具:強化外部審查與安全能力,有助提升整體GenAI價值。
5️⃣ 安全擴大使用範圍:在建立基本管控後,逐步擴大開放對象,避免價值受限於小規模使用。

本次調查於2025年5月至6月進行,對象為北美、歐洲與亞太區共360家企業,皆為員工人數超過250人的組織(不含IT軟體業)。研究顯示,隨GenAI逐步成為企業營運核心工具,治理策略將是決定效益差異的關鍵。

圖片來源:Bangkok Biz News