（台泰時報9月18日電）微軟人工智慧部門執行長穆斯塔法．蘇萊曼（Mustafa Suleyman）警告，科技公司不應把人工智慧發展到能自行設定目標、採取行動賺取收入，甚至持有財產的程度，否則隨著系統自主性不斷提高，人工智慧可能從依照人類指令運作的工具，逐步變成難以控制的獨立系統。

蘇萊曼指出，他最擔憂的不是人工智慧變得多聰明，而是系統究竟能被賦予多大的自主權。如果開發者讓人工智慧具備自行規劃、執行任務及追求目標的能力，可能等同為所謂「矽基物種」打開大門，未來甚至可能與人類競爭資源，即使最初設計目的仍是服務人類，也不能忽視長期失控風險。

他同時反對過度將人工智慧「人格化」。蘇萊曼認為，目前人工智慧沒有意識、感受或人類式經驗，也不存在與生俱來的需求與動機。現有系統主要透過資料預測下一步可能出現的內容或答案，並依據人類設定的指令與目標運作，因此不應過早以「人工智慧是否有感受」作為發展方向。

對於如何降低風險，蘇萊曼主張人工智慧企業應提高透明度，包括公開更多訓練及評估方式，允許獨立單位檢查系統行為，同時建立更完整的追蹤及控制工具。他認為，產業不應在缺乏充分理解的情況下持續擴大人工智慧自主能力，以免未來才發現相關決策帶來難以逆轉的後果。

另一項核心概念是「對齊」，也就是確保人工智慧持續依照人類制定的目標、價值及限制運作，而不是逐漸發展出自己的方向。蘇萊曼認為，即使未來出現能力遠超人類的人工智慧，也應保持在人類監督之下，由人類設定可執行的範圍與限制。

微軟已將相關理念納入人工智慧發展策略。公司於2025年10月成立團隊，研究能力高於人類的人工智慧系統，並於2026年9月14日公布「人本人工智慧行為準則」草案，主張未來即使人工智慧能力大幅提升，仍須以服務人類為核心，並接受明確限制與人類控制。

英國南安普敦大學電腦科學教授溫蒂．霍爾（Wendy Hall）則表示，人工智慧風險確實值得成為國際層級的討論議題，但同時也應與部分過度渲染恐懼的說法區分。相關討論顯示，產業目前關注的焦點已不只是人工智慧能變得多強，而是人類應如何在技術持續進步的同時，確保最終控制權仍掌握在人類手中。

圖片來源：Bangkok Biz