
(台泰時報9月23日電)Meta近期測試讓真人接手AI助理Muse的電話任務,原本是為了解決商家發現來電者是人工智慧後直接掛斷的問題,但此舉卻引發公司內部對使用者隱私與敏感資料外洩的疑慮。Meta高層已承認相關測試方式存在疏失,並暫時停止這項功能,重新檢視安全與隱私機制。
Muse於9月8日推出,是一款可替使用者實際執行任務的個人AI助理,不只回答問題,也能寄送電子郵件、購物及預訂旅行。Meta規劃的功能之一,是讓Muse直接替使用者打電話,例如預約理髮、詢問商品庫存,或聯絡多家承包商比較報價。
Meta自8月起先讓內部員工測試Muse的電話功能,但實際使用後發現,部分商家得知來電者為AI後,不願繼續通話。公司因此嘗試由真人承接部分電話任務,希望提高通話成功率。
不過根據路透報導,Meta內部員工提出隱私疑慮,認為AI將任務轉交給真人後,原本由系統處理的資料可能在通話過程中暴露給外包人員。其中一名員工曾要求Muse致電保險公司,但對方得知是AI後直接掛斷;另一名員工則要求Muse聯絡網路與有線電視業者協商費用,過程中接手電話的真人甚至出現涉及種族的歧視性言論。
Meta Superintelligence Labs副總裁其後表示,在沒有適當揭露資訊的情況下,讓合約人員代替AI撥打電話是錯誤做法,公司已暫停這項功能。測試結果顯示,真人代打的電話成功率可達95%至98%,高於完全由AI自行撥打。
Meta表示,每個Muse都在獨立虛擬電腦環境中運作,不同使用者的資料彼此隔離,密碼等敏感資訊也存放於獨立的安全區域。不過內部批評者指出,即使系統層面已進行隔離,當任務從AI轉交真人處理後,部分個人資訊仍可能在實際對話中被揭露。
事實上,Meta過去也曾採用真人協助數位助理運作。約10年前,公司仍名為Facebook時曾推出Messenger數位助理「M」,後來有報導指出,約70%的任務實際由真人完成。這次Muse測試則被Meta定位為內部收集意見的階段,希望藉此完善安全、隱私與通話能力後,再決定是否擴大使用。
Muse推出後下載量已超過250萬次,Meta股價自Muse問世以來一度上漲超過20%,帶動公司市值增加逾2000億美元。不過在功能正式擴大前,真人介入AI任務時如何處理與揭露使用者資料,仍是Meta下一步需要處理的重點。
圖片來源:Bangkok Biz News
