在人工智能編程助手日益普及的當下，一次本應被人工智能「解放雙手」的常規開發任務，險些讓一家公司付出慘痛代價。近日，據外媒報導，軟件開發諮詢公司 Softjourn 的一名工程師，在使用人工智能代理推薦一個「聽起來很可靠」的軟件包時，該代理給出了一個格式與常用庫極為相似的名字。若非公司一項不起眼的硬性規定，這個惡意軟件包可能已經入侵了他們的系統。
據瞭解，Softjourn 公司的工程師在一次業務中，向人工智能代理請求推薦一個用於常見任務的軟件包。人工智能代理迅速給出了一個名字。在許多組織中，開發人員會直接採納建議並下載安裝。然而，Softjourn 公司有一條嚴格執行的規定：任何人工智能的軟件建議都必須雙重核實，以確保其合法性。工程師遵循這一流程，在 GitHub 上查看了該包的部分源代碼，隨即發現了疑點——該包下載量極少，且倉庫剛創建沒幾天。
人工智能模型可能導致供應鏈攻擊風險
這並非人工智能模型的偶發失誤，而是一種被命名為「slopsquatting」（即「人工智能幻覺包名搶佔」）的新型供應鏈攻擊。人工智能模型有時會「幻覺」出一些聽起來合理但實際上並不存在的包名。攻擊者早已注意到這一規律，並提前搶注這些人工智能臆造出的包名，上傳惡意代碼，坐等開發者上鈎。Softjourn 董事總經理 Sergiy Fitsak 警告稱，攻擊者賭的就是「開發者在截止日期壓力下會先安裝、後檢查」。
Softjourn 成功規避了這場風險，但 Fitsak 強調：「我們之所以能發現它，是因為我們已經養成了檢查下載量、審查 GitHub 源代碼的習慣，即使人工智能推薦的只是一個看起來很普通的包」。