人工智慧驅動的攻擊需要應用程式具備彈性 

首席資訊安全長 (CISO) 和應用程式安全領導者作為自主行動者應該如何改變漏洞的經濟模式 

人工智慧並非創造了一種全新的應用漏洞類型,而是讓已知的漏洞更容易被發現、利用和大規模攻擊。因此,安全回應必須超越週期性的測試和修補程式,轉向持續驗證應用的彈性。 

每個首席資訊安全官都應該關注這個數字。 

2026年9月,Gambit Security揭露了一起網路攻擊活動,一位講中文的攻擊者利用三個現成的AI代理框架攻擊線上零售商。在短短五天內,該攻擊者發動了105次攻擊,至少27家機構的系統受到不同程度的影響。 Gambit發現超過60萬筆未過期的支付卡記錄與兩名受害者有關,並確認多個網站有惡意結帳竊取程式。 

最引人注目的數據不僅是被盜數據的數量,還有成本。攻擊者本身的記錄顯示,在完成的101次掃描中,平均每次攻擊的成本為25.46美元,而單一目標的成本則在3.13美元到79.31美元之間。這改變了應用層攻擊的經濟模式。持續的探測、利用和適應不再需要龐大的團隊或巨額預算。 

這些攻擊者並非僅僅運行了固定的漏洞掃描器。他們有針對性地執行攻擊,不斷變換策略,並將各種漏洞串聯起來。其中一條記錄在案的攻擊路徑是從 SQL 注入開始,逐步發展到繞過多因素身份驗證、獲取管理員權限、任意文件上傳、遠端程式碼執行、權限提升、提取雲端金鑰以及存取支付資料庫。其他攻擊者則篡改了合法的 JavaScript 程式碼,污染了透過 CDN 提供的內容,並建立了持久化機制,在乾淨的應用程式重新部署後,能夠恢復惡意竊取程式。 

究竟發生了哪些變化? 

這些技術本身並非史無前例。 SQL注入、外洩的金鑰、權限過大、未經授權等都是常見的攻擊手段。safe 文件上傳和惡意程式碼修改一直是防御者多年來的工作內容。改變的是攻擊者的行動模式。 

  • 速度: 自主代理可以在數小時內從發現問題過渡到利用問題,從而縮短調查和補救的時間。 
  • 規模: 同一個操作員可以同時指揮代理人攻擊數十個或數百個組織。 
  • 持續性: 代理可以持續探測數小時,嘗試傳統掃描器或機會主義攻擊者可能會放棄的其他方法。 
  • 適應性: 智能體工作流程可以解釋結果,選擇下一個技術,並將弱點組合成針對不同目標的攻擊路徑。 
  • 經濟學: 每個目標只需幾十美元,即使是以前不具吸引力的組織也可以透過攻擊獲利。 

過去圍繞著人類發動的攻擊、週期性評估以及以周為單位的修復窗口構建的安全方案,如今卻要面對持續不斷、以機器速度運作的攻擊者。發現並修復漏洞仍然至關重要,但這不能成為唯一的防禦手段。 

將應用程式作為入侵高價值系統的途徑並非紙上談兵。 ShinyHunters 旗下的攻擊活動利用語音釣魚誘騙員工授權企業 SaaS 環境中的惡意應用程式。一旦獲得授權,這些應用程式便會獲得 OAuth 權限,使攻擊者能夠查詢和竊取企業數據,在某些情況下,甚至還能存取其他連接的雲端服務。原本看似無關緊要的應用程序,卻搖身一變,成為通往敏感後端數據的合法途徑。 

應用彈性差距 

這些攻擊活動共同表明,應用程式的攻擊面遠不止於單一軟體漏洞,它還包括應用程式程式碼、執行時間行為、身分、整合、權限和信任關係。隨著攻擊速度更快、成本更低、適應性更強,企業必須持續驗證每一層防護措施是否能夠抵禦、偵測和遏制攻擊。 

这 Digital.ai AI 韌性視角正是基於這個假設。問題不再只是應用程式在發布前是否通過了安全測試,而是當應用程式被置於不可信的環境中並接受持續的、自適應的分析時,它能否繼續保護其程式碼、邏輯、資料和關鍵功能。 

對於行動應用而言,OWASP MASVS-RESILIENCE 提供了一個技術上可靠的基礎。它著重於抵禦篡改、逆向工程、靜態分析和動態分析。人工智慧並不會使這些目標過時,而是提高了滿足這些目標所需的標準。那些能夠延緩人工分析員回應的控制措施,可能無法抵擋能夠產生腳本、變換技術、解釋故障並持續嘗試的自動化系統。 

首席資訊安全官和應用安全負責人現在應該做什麼 

因應措施應切實可行且分階段進行。以下30天、60天和90天的計畫旨在降低短期風險,同時建立一套可重複實施的因應機制。 

前30天用於確定暴露情況並驗證控制措施 

識別 安全關鍵型 應用 以及攻擊路徑。這必須包括任何應用程式、API、服務、整合、管理 工具 或第三方 元件 透過直接或間接途徑取得客戶數據 中心後端系統、客戶資料、特權身分、部署 管道 或雲控飛機。 

確定面向客戶的優先應用程式及其攻擊路徑。首先檢查面向客戶、合作夥伴或員工的行動應用程式、Web 應用程式和桌面應用,優先考慮那些處理敏感資料或提供直接或間接存取後端服務、特權身分或雲端控制平面的途徑的應用。追蹤這些路徑上的 API、整合和第三方元件。 然後追蹤它們通往敏感系統的路徑。從應用程式開始。plicatio處理客戶資料或直接或間接連接到後端服務、特權身分、部署管道或 雲端連線控制飛機。包括 API 和集成s,管理員沿途的 ative 工具和第三方組件 

不要將清單限制在那些直接產生收入、處理敏感資料或通常被歸類為關鍵的應用程式。當一個看似低價值的應用程式的權限、憑證、連接性或傳遞信任為存取更高價值的系統提供了迂迴路徑時,它就可能成為安全關鍵型應用程式。 

繪製傳遞信任圖、繼承權限圖和潛在的橫向移動路徑圖。針對每個應用程序,確定攻擊者在獲得遠端程式碼執行 (RCE) 或管理權限後可以存取哪些內容。此時,應將所有可存取的高價值資料視為已曝光。指定責任人,並確認監控能夠發現未經授權的程式碼、設定或權限變更。 

60天內以攻擊者的速度進行測試並加強完整性 

將具有直接或間接存取高價值系統路徑的應用程式納入持續安全測試。採用基於場景的演練,將漏洞串聯起來,並圍繞業務目標。對於非信任環境中的應用程序,應根據現有技術驗證其防篡改、平台完整性、防靜態分析和防動態分析控制措施。測量檢測時間、遏制時間和驗證修復時間。 

90天內落實韌性 

建立符合 OWASP 相關要求的可重複基準。追蹤控制措施的有效性隨時間的變化,而不僅僅是控制措施的存在。將保護遙測資料與事件回應集成,並演練恢復最小可行應用程式及其支援服務的流程。 

下次安全審查需要考慮的五個問題 

  1. 我們應該首先評估和保護哪個應用程序,取決於它與高價值系統的直接或間接聯繫,以及我們計劃如何將這種保護擴展到其餘應用程式? 
  2. 我們多久才能知道應用程式程式碼、運行時控製或已交付的資源已被修改? 
  3. 哪些保護措施已經過針對目前人工智慧輔助工作流程(而不僅僅是傳統工具)的測試? 
  4. 攻擊者能否從分散式應用程式中提取秘密資訊、業務規則或加密資產,並在其他地方重複使用? 
  5. 如果人工智慧輔助攻擊者將多個漏洞串聯起來,我們的應用程式保護措施能否在應用程式成為通往更高價值系統的途徑之前,阻止、延遲或揭露篡改、運行時操縱或資產提取? 

衡量成效而非實施情況 

複選框可以確認某個控制項存在,但無法確認該控制項的有效持續時間、是否能偵測到竄改,或繞過某個機制是否會暴露整個應用程式。因此,人工智慧彈性評估應該衡量可觀察的結果:理解受保護程式碼、更改應用程式行為、附加分析工具、提取敏感資訊以及在修改後保持應用程式正常運行所需的工作量。 

這也是基準測試至關重要的原因。透過對一組具有代表性的真實應用程式進行測試,並採用一致的方法,可以揭示當前控制措施在哪些方面仍然有效,以及行業基準在哪些方面已經落後於攻擊者。隨著模型和工具的不斷發展,重複進行基準測試可以將韌性從一次性聲明轉化為可衡量的證據。 

從意識到行動 

這次攻擊事件的教訓並非在於防禦者應該追逐每一種新的人工智慧工具,或是在每次新聞報導後都重寫安全策略。而是攻擊的速度和經濟效益已經發生了永久性的改變。各組織應該預料到會面臨更多、更多變種的攻擊,以及從暴露到被利用的時間間隔更短的威脅。 

首席資訊安全官 (CISO) 和應用安全負責人現在需要兩種能力協同運作:一是持續測試,以便在攻擊者發現漏洞之前就將其找出;二是應用彈性,在預防措施不足以應對攻擊時,限制攻擊者能夠獲取、修改或濫用的信息。能夠同時展現這兩種能力,並提供證據證明其控制措施能夠持續有效抵禦攻擊者目前使用的工具的組織,才能成為產業領導者。 

來源 

你可能還喜歡