AI 軍備競賽在網路安全領域已經開始。大多數公司還沒準備好

(SeaPRwire) –   2019年，資深駭客花了數週時間，透過遭入侵的劍橋大學帳戶發送郵件，針對Coinbase員工發動攻擊。攻擊者耐心建立信任後，部署了一組連鎖零日漏洞利用程式——這個術語指的是未被發現的軟體漏洞——目標是Firefox瀏覽器。其中一個漏洞利用程式試圖入侵瀏覽器，另一個則試圖在主機上執行惡意程式碼。當時，這是針對企業界發動的最進階攻擊之一。

Coinbase的安全團隊在員工回報和自動警示同時觸發後的幾小時內就偵測到攻擊。這讓我們得以識別惡意行為。回應時間以分鐘計，沒有客戶資金損失。但現在我對該事件有了不同的看法。當時的攻擊者需要數週的社交工程和罕見的零日漏洞才能對我們發動一次攻擊。而AI驅動的敵手不需要數週，甚至可能不需要數小時。這就是我今天正在準備應對的世界。

過去幾個月讓一件事變得清晰，而這正是各行各業的安全團隊一直在默默準備的：AI正在並將持續改變網路攻擊的發生方式。由於這種變化的形式仍在形成中，我目前工作中最困難的部分是規劃那些尚未完全存在的威脅模型。

前沿AI模型（例如Anthropic、OpenAI等公司開發的模型）在網路安全領域已跨越了18個月前看起來還只是猜測的能力門檻。這些系統能像資深審計師一樣閱讀程式碼庫，但具備機器的速度、記憶力和專注力。最近有一個模型在OpenBSD中發現了一個存在27年的漏洞，而OpenBSD是全球審計最嚴格的程式碼庫之一。這是可能發生之事的結構性轉變。

如今，這種轉變對防禦者有利。

安全在很大程度上是一個情境問題。防禦者通常比攻擊者更了解自己的系統：包括程式碼、日誌、架構和歷史。給予強大模型這些情境，它就能成為更快、更徹底找出弱點的有力工具。在Coinbase，我們已在安全工作中廣泛使用AI，包括應用程式安全、對自身系統發動模擬攻擊（稱為紅隊演練的過程）以及基礎設施強化。在防禦者能率先大規模部署這些工具的環境中，他們應該會獲勝。

但在攻擊者和防禦者擁有相同情境的地方，問題就更嚴重了。

一個例子是去中心化金融（DeFi），其程式碼是公開運行的。攻擊者擁有與智慧合約審計相同的存取權限。這變成一場模型能力和專注力的競賽，看誰能先找到漏洞。AI也將壓縮正常的攻擊時間線，將原本需要數週的過程壓縮到數小時。這可能會使漏洞利用變得更快、更便宜且更頻繁。

AI威脅全球軟體的骨幹

當然，這個問題不僅限於DeFi，還延伸到構成全球軟體骨幹的開源程式碼。其中大部分程式碼在GitHub等平台上公開，可供攻擊者和防禦者同樣檢閱。在安全領域，我們稱這種風險為供應鏈攻擊。它們並非新興威脅，極難偵測和防禦，且即將變得比以往更快、更容易發動。

如今能找到像OpenBSD中那種長期隱藏漏洞的前沿模型，需要龐大的硬體才能執行。Anthropic及其同行正謹慎地釋出這些能力，讓防禦者搶得先機。這是正確的做法，對生態系統來說是真正的益處。但這只是暫時的。

這些模型的運行成本越來越低。研究人員正在提高效率，嘗試用更少的硬體執行更大的模型，並穩步推進性能。

如今運行可能需要1000萬美元硬體成本的模型，一兩年後可能只需約10萬美元。像Mythos這類模型如今是獨特的，但歷史表明，開源權重的等效模型將隨之而來。當那時，目前僅限少數實驗室擁有的能力，將會被任何資源充足的攻擊團體所掌握。

這就是安全團隊現在應該規劃應對的。

事件將會發展得更快。供應鏈攻擊將變得更常見；橫向移動、權限提升、數據外洩、已發現漏洞的利用將以人類回應者難以跟上的速度發生。最可怕的是，這一切都將AI輔助攻擊想像成只是速度更快的常規攻擊。我們根本不知道未來幾年AI將如何改變網路安全的攻擊和防禦面。

為無法完全明確的威脅做準備是令人不安的，但這並非新鮮事。這幾乎是安全工作的全部內容。新的是速度。

那麼企業應該怎麼做？

想要應對這些威脅的企業，可以從在防禦端積極使用AI開始。在你的敵手最終會擁有的工具上落後並沒有好處。不要等待供應商或第三方。相反，要重視實驗，並要求你的員工盡可能多地接觸AI。

僅此還不夠。企業需要以同樣的力度管理第三方，尤其是他們依賴的軟體庫。像版本固定（version pinning）或要求新庫發布後有一段冷卻期才開放給開發人員使用這類簡單步驟，對於減緩即將變得更常見的供應鏈攻擊有很大幫助。

最重要的是，圍繞「攻擊者正以機器速度運作」的假設重建你的事件回應機制，因為很快他們就會如此。「假設已遭入侵」（Assume compromise）多年來一直是安全領域的口號，但AI讓它變得真實可感。你網路上的攻擊者可能不會停下來睡覺、制定策略或猶豫不決。你的應對手冊需要考慮到這一點。

在這一切過程中，要抵制將任何特定模型的發布視為需要解決的問題的誘惑。一年後，會有更強大的模型出現，循環將重啟。目標不是防禦某一個工具，而是建立一個比威脅演變更快適應的組織。

過去十年告訴我，加密貨幣產業的演變速度比我工作過的任何行業都快。接下來由AI塑造的十年，將會更快。這不是防禦者一次就能贏得的戰鬥。這是一場軍備競賽。攻擊者最終會獲得防禦者擁有的許多相同工具。我們能做且必須做的，是保持領先足夠長的時間以發揮作用。你可能會在途中輸掉一些戰役，但重要的是不要輸掉整場戰爭。