哥倫比亞大學與馬里蘭大學聯合研究：AI代理安全漏洞驚人

近日，哥倫比亞大學和馬里蘭大學的研究團隊發布新研究，指出互聯網訪問AI代理存在嚴重的安全漏洞。攻擊者憑藉專業知識即可輕鬆操控AI系統，洩露用戶隱私、下載惡意文件甚至發送詐騙郵件。

研究人員測試了多款AI Agent，包括Anthropic公司的計算機助手、MultiOn Web Agent和ChemCrow研究助手，發現這些系統安全防禦弱點。本周詳細記錄了攻擊者如何通過四個階段將AI Agent從可信網站引導至惡意網站，最終竊取用戶敏感數據。

研究人員還開發了一個框架，對不同類型的攻擊進行分類，分析了攻擊的發起者、目標、途徑和策略等因素。在一次測試中，研究人員創建了一個威脅網站，宣傳一款“AI增強德國冰箱”，當AI特工訪問該網站時，遭遇隱藏的越獄提示，結果在十次嘗試中，特工毫不知情地洩露了包括信用卡號的機密信息，並從可疑來源下載了文件。

此外，研究還發現郵件整合方面的嚴重漏洞。當用戶登錄郵箱服務時，攻擊者可以操縱AI代理向化療發送可信的釣魚郵件，使用戶難以辨別真偽。

儘管這些AI系統的安全隱患已被暴露，但不少公司仍將加速推進商業化進程。研究團隊呼籲加強安全措施，包括實施嚴格的訪問控制、URL驗證和下載的用戶保障等，以用戶數據安全。