在我們最新一集的《Lexicon》中，我們與網絡安全公司 Red Sift 的首席執行官及創始人 Rahul Powar 進行了深入訪談，探討人工智能 (AI) 如何改變網絡威脅的格局，以及這對試圖保護自己的組織意味著什麼。以最近針對一個墨西哥水務公司的 AI 助攻網絡攻擊事件為起點，Powar 提供了對數碼韌性挑戰不斷增長的清晰見解，並指出未來 18 個月可能對全球組織來説特別艱難。
Powar 開始時解釋，AI 使得先進的網絡能力對更多人來説變得可及。雖然許多人認為這次墨西哥的攻擊背後必然是一個精英黑客集團，但 Powar 表示，情況未必如此。他解釋説，AI 正在“有效地使發動這些傳統上複雜攻擊所需的技能和能力民主化”。攻擊者現在不再需要幾年的專業知識，而是可以利用大型語言模型進行偵查、識別弱點、編寫惡意代碼及繪製計算機網絡，這些在過去需要顯著專業知識的工作現在都變得簡單許多。
他指出，“進行這些攻擊所需的門檻正在降低，因為這些工具所包裝的複雜性正在提升。”他警告這一趨勢只會加速發展，“我們預計這將在未來以更大規模發生。”
攻擊者只需一次成功便可得手
Powar 向我們解釋，網絡安全一向偏向攻擊者，而 AI 使這一不平衡變得更加明顯。他表示，“攻擊者只需一次成功即可，而防禦者卻必須隨時保持正確。”這一問題在思考時顯而易見。組織需要保護數以千計的設備、應用程式和用户，而攻擊者只需發現一個被忽視的弱點。AI 簡化了攻擊者尋找這些弱點的過程，使其速度遠超以往。因此，與其手動探測網絡，AI 系統可以自動化大部分過程，快速分析基礎設施、生成漏洞利用程序，並在遇到障礙時進行適應。
但事情並不完全如你所想的那樣黯淡。幫助攻擊者的相同 AI 工具也能幫助防禦者在罪犯發動攻擊之前識別弱點。Powar 解釋道，組織傳統上依賴專業的滲透測試者從攻擊者的角度檢查系統。然而，越來越多地，AI 開始自動化這些工作。他預測，“這些由生成式 AI 驅動的持續測試和滲透框架的部署將在未來 12 至 18 個月內變得普遍。”相較於偶爾進行安全審計，組織將越來越多地使用 AI 來持續測試其系統，幫助在漏洞被利用之前識別出來。
公用事業部門成為主要目標的原因
許多人可能假設網絡犯罪分子自然會專注於銀行或科技公司。Powar 解釋了為何這一情況正在改變。金融機構仍然是有價值的目標，但多年來的監管和網絡安全投資使得它們的攻擊難度顯著增加。公用事業、地方當局及其他關鍵基礎設施提供者通常擁有同樣有價值的信息，並提供社會所依賴的服務，但經常運作的網絡安全資源較少。Powar 表示，水務公司“為其服務的社區提供關鍵的國家公共資源”，但“可能不會像大型銀行那樣花費更多時間考慮網絡安全。
”這種組合使得它們成為越來越具吸引力的攻擊目標。
他還指出，攻擊者通常不會特意針對某一組織，而是會在整個行業中搜尋，尋找那些“留下前門未鎖”的機會。他解釋道，AI 正在成為一種操作員。討論中最有趣的部分之一是 AI 潛在的未來走向。當前的系統已經協助程式設計師和安全研究人員，但 Powar 認為它們的角色正在迅速變化。他表示，“AI 不再只是助手，更像是一名操作員。”Powar 解釋説，這些系統越來越能夠獨立運作，測試假設、解決問題，並在沒有持續人類輸入的情況下適應其方法。
他指出，“我們現在談論的是機器以機器速度對抗其他機器。”這一轉變對網絡安全具有巨大的影響，因為攻擊和防禦反應的速度將超出人類的實際監控能力。隨著 AI 模型變得越來越強大，Powar 解釋説，監管和責任的問題不可避免地浮現。政府是否應該限制訪問？AI 開發者是否應該防止濫用？Powar 認為現實更為複雜。“魔鬼已經放出了瓶子，”他説。
Powar 還指出，強大的 AI 模型在全球迅速商品化，使得任何單一政府都難以有效限制訪問。他解釋道，“要進行有效的監管和限制訪問將非常困難。”最終，Powar 認為，組織應該為 AI 助攻的攻擊成為數碼格局的永久特徵做好準備，而不是僅僅寄希望於監管能夠阻止它們。
未來 18 個月將面臨困難
或許我們對話中最令人感到壓力的部分是對不久的未來的預測。Powar 預測，AI 將迅速發現已存在多年的漏洞，但一直未受到重視。路由器、網絡攝像頭、智能門鈴、互聯網連接設備及無數其他系統都可能包含 AI 能夠以空前速度識別出的弱點。“我預期未來 18 個月將會非常艱難，”他説。他甚至將即將來臨的這一時期比作“數碼流行病的等同”，因為組織競相識別和修補漏洞，以防止攻擊者利用它們。
令人鼓舞的消息是，在經歷了這一初始階段之後，他認為互聯網最終可能會變得安全得多，因為組織加強其安全性，並且 AI 改進防禦能力。儘管討論圍繞尖端 AI，Powar 反覆回到一個驚人簡單的結論：良好的網絡安全仍然依賴於做好基本工作。多重身份驗證、持續資產發現、攻擊面管理以及保持強大的網絡衞生仍然是最有效的防禦手段之一。他的建議十分明確。組織應該專注於成為“房間中最難對付的目標”。
儘管 AI 無疑以驚人的速度改變網絡安全，但良好安全的基礎仍然保持不變。那些今天投資於這些基礎的組織將更好地為未來的 AI 驅動威脅做好準備。