- 一名工程師使用AI助手推薦的軟件包差點導致公司遭受攻擊。
- Softjourn公司有嚴格規定，要求雙重核實AI的軟件建議。
- 這種攻擊稱為「slopsquatting」，攻擊者利用AI生成的包名進行欺詐。
- 公司成功避免風險，因為他們習慣檢查下載量和源代碼。
在人工智能編程助手日益普及的當下，一次本應被人工智能「解放雙手」的常規開發任務，險些讓一家公司付出慘痛代價。近日，據外媒報導，軟件開發諮詢公司 Softjourn 的一名工程師，在使用人工智能代理推薦一個「聽起來很可靠」的軟件包時，該代理給出了一個格式與常用庫極為相似的名字。若非公司一項不起眼的硬性規定，這個惡意軟件包可能已經入侵了他們的系統。
AI推薦惡意軟件包的案例
據瞭解，Softjourn 公司的工程師在一次業務中，向人工智能代理請求推薦一個用於常見任務的軟件包。人工智能代理迅速給出了一個名字。在許多組織中，開發人員會直接採納建議並下載安裝。然而，Softjourn 公司有一條嚴格執行的規定：任何人工智能的軟件建議都必須雙重核實，以確保其合法性。工程師遵循這一流程，在 GitHub 上查看了該包的部分源代碼，隨即發現了疑點——該包下載量極少，且倉庫剛創建沒幾天。
新型供應鏈攻擊的風險
這並非人工智能模型的偶發失誤，而是一種被命名為「slopsquatting」（即「人工智能幻覺包名搶佔」）的新型供應鏈攻擊。人工智能模型有時會「幻覺」出一些聽起來合理但實際上並不存在的包名。攻擊者早已注意到這一規律，並提前搶注這些人工智能臆造出的包名，上傳惡意代碼，坐等開發者上鈎。Softjourn 董事總經理 Sergiy Fitsak 警告稱，攻擊者賭的就是「開發者在截止日期壓力下會先安裝、後檢查」。
Softjourn 成功規避了這場風險，但 Fitsak 強調：「我們之所以能發現它，是因為我們已經養成了檢查下載量、審查 GitHub 源代碼的習慣，即使人工智能推薦的只是一個看起來很普通的包」。
企業如何應對AI的安全挑戰
隨著人工智能技術的快速發展，開發者越來越依賴AI助手來提升工作效率。然而，這也帶來了新的安全挑戰，特別是供應鏈攻擊的風險。Softjourn的案例顯示，企業需要建立嚴格的審核流程，確保所使用的軟件包的合法性。通過檢查下載量和源代碼，企業能夠有效降低潛在的安全威脅，這對於保持系統安全至關重要。