
為遵守美國政府以國安為由發布的出口管制令,AI公司Anthropic已暫停其最新模型Fable 5與Mythos 5的使用權限。此禁令旨在限制所有外國人士存取,促使該公司全面關閉服務。 (圖片來源:達志影像)
(關鍵評論台北13日訊)美國AI新創Anthropic近日宣布,為遵守美國政府一項以國家安全為由發布的出口管制命令,已暫停旗下最新AI模型Fable 5與Mythos 5的使用權限。根據公司說法,這項命令要求限制所有外國人士存取相關模型,範圍甚至涵蓋身處美國境內的外籍人士以及Anthropic內部的外籍員工,引發外界對美國政府介入前沿AI技術部署程度的關注。
Anthropic表示,公司於美東時間12日下午5時21分接獲美國政府命令,要求立即停止所有外國人士使用Fable 5與Mythos 5。為確保完全符合法規要求,公司最終選擇直接關閉兩款模型的服務,而非僅針對特定族群限制存取。Anthropic指出,旗下其他AI模型仍可正常使用,不受此次措施影響。
綜合外媒報導,Anthropic接獲的指示來自美國商務部長霍華德・盧特尼克(Howard Lutnick)。報導引述知情人士說法指出,政府是在發現模型存在一項可能繞過安全防護機制的「越獄(jailbreak)」漏洞後,要求Anthropic採取限制措施。
Anthropic則表示,命令實際上導致公司必須全面關閉相關模型的使用權限,包括美國本土用戶也受到影響。
而這項決定距離Anthropic發表Fable 5與Mythos 5僅數天時間,Anthropic原先宣稱,兩款模型在多項產業基準測試中均達到領先水準,其中Fable 5更被視為公司首次向一般市場開放的高階AI模型。Anthropic表示,之所以能夠開放使用,是因為公司已建立新的安全機制,能夠限制模型在特定高風險領域產生回應。
兩款模型則建立於今年4月推出的Claude Mythos Preview之上。Anthropic指出,該模型因具備先進的網路安全能力而受到華爾街與美國政府關注,公司原本並未計畫全面開放,而是透過名為Project Glasswing的網路安全計畫,僅向少數企業提供有限度的使用權限。
外媒進一步指出,美國政府實際上已經測試Mythos模型數週時間。聯邦機構原本正在模型正式發布前進行評估,部分官員擔憂其能力可能被用來利用關鍵基礎設施中的網路安全漏洞,包括金融系統在內的重要基礎建設都被列為潛在風險。
值得注意的是,美國總統川普近期雖簽署行政命令,建立由政府機構在前沿AI模型發布前進行審查的自願性機制,但並未賦予政府直接阻止模型上市的法定權力,因此本次事件也被視為美國政府在AI治理領域進一步擴張影響力的重要案例。
Anthropic則對美國政府的決定表達不滿。公司在聲明中表示,政府確實應該有權阻止危險技術部署,但相關程序應建立在透明、公平且以技術事實為基礎的法律框架之下,而非透過臨時行政命令處理。
Anthropic指出,政府並未具體說明其所擔憂的國家安全風險,也未提供足夠技術細節說明為何必須採取如此大規模的限制措施。公司認為,若僅因發現一項範圍有限的潛在越獄漏洞,就要求撤回已向大量使用者開放的商業模型,將對整個AI產業造成嚴重衝擊。
Anthropic表示,若相同標準套用到所有前沿AI模型開發商身上,未來幾乎所有新模型的部署都可能遭到延後甚至停止,進一步影響產業發展。
本次爭議也反映Anthropic與美國政府之間持續升高的緊張關係。事實上在今年稍早,Anthropic與美國國防部曾因AI模型是否應用於軍事用途爆發衝突,在雙方協商破局後,美國國防部將Anthropic列為「供應鏈風險(Supply Chain Risk)」企業,要求與軍方合作的承包商不得在相關專案中使用Anthropic的模型。Anthropic認為此舉不合理,已對川普政府提起訴訟,希望撤銷相關認定,目前案件仍在審理當中。
此外,Anthropic近年來強調AI安全治理的立場,也使其與川普陣營部分人士產生摩擦,包括前白宮AI顧問大衛・薩克斯(David Sacks)在內的多位人士,都曾公開批評Anthropic的安全政策,而川普本人也曾以強烈措辭批評該公司。
隨著生成式AI能力快速提升,美國政府與AI企業之間對於技術開放程度、安全風險以及國家安全界線的爭論,也正變得愈來愈激烈。
Anthropic被要求限制外籍人士使用AI模型,不僅凸顯前沿模型可能涉及的安全疑慮,也反映美國政府正嘗試在技術競爭與風險管理之間尋求新的平衡點。而未來類似措施是否擴大適用至其他AI企業,勢必將成為全球科技產業持續關注的焦點。
