OpenAI 9 月推出「全天候」個人 AI 代理人 dot,可能在使用者沒有察覺下大量消耗 Token。AI 代理人安全與治理公司 Geordie 測試發現,一個 dot 代理人一天可產生 155 個獨立活動序列,耗用超過 30 萬個 Token,而使用者完全沒有下達任何指令。
Geordie 自 dot 發表後便持續測試,與 Meta Muse、xAI Grok Bot 同屬個人代理人。Geordie 人工智慧長 Hanah-Marie Darley 接受英國科技媒體 The Register 採訪時表示,dot 與其他個人代理人相比有些不同,最明顯的是在幾乎沒有使用者互動下仍極為活躍。
Darley 僅授予 dot 唯讀權限,也未連結個人應用程式、信箱或 Slack 等通訊工具。dot 立即進入研究模式,盡可能蒐集資訊、盤點系統,就像新上任的專案經理,先四處檢視自己獲得哪些存取權限、系統環境為何,再將資料整理成類似每日日誌的紀錄並持續更新。
Darley 指出,最特別的是 dot 會自行啟動代理人,完全不需使用者提示或排程任務。dot 至少同時執行兩個代理人:主要代理人負責與使用者互動,次要代理人則在背景持續蒐集資料,必要時還會衍生子代理人執行特定任務。155 次代理人執行軌跡,至少有 50 次集中 2 分鐘內發生。測試開發系統時,一個子代理人逐一檢查所有程式碼儲存庫,另一個則持續清點蒐集到的資料。她強調,使用者根本不知道有子代理人在替自己工作,也不清楚它們如何取得權限、執行什麼任務。
成本方面,Darley 估算,以 OpenAI Astra 模型運作的 dot 消耗約 20 萬個 Token,費用約 5~10 美元,等於每天在毫無互動的情況下花掉一杯拿鐵的錢。她也指出,Token 用量與實際工作成果並非一對一對應,許多人恐怕還沒準備好面對這類背景開銷。
Darley 自認是 AI 樂觀派,仍建議企業嘗試代理人技術,但也提醒,員工勢必會把個人代理人帶進工作環境,企業往往低估系統實際運作的代理人數量。她建議,不要提供代理人任何不願以信箱寄出的個人資訊,也別讓它動用個人信用卡;若要授權代為購物,不妨改用預付禮物卡。
(首圖來源:Unsplash)