邊緣人工智慧：探索其優勢與風險

什麼是邊緣人工智能？

邊緣人工智慧是指將人工智慧應用部署到實體世界的各個裝置。之所以稱為“邊緣人工智慧”，是因為人工智慧運算是在用戶附近、網路邊緣、資料所在位置附近進行的，而不是集中在雲端運算設施或私人資料中心進行。由於互聯網覆蓋全球，網絡邊緣可以指任何位置。它可以是零售商店、工廠、醫院，也可以是我們周圍的各種物聯網設備，例如交通號誌、監視攝影機、醫療設備、感測器、自主機器和手機。

為什麼需要邊緣人工智慧？

在雲端建立中央人工智慧運算中心並非總是有效率。某些人工智慧技術要求資料採集和決策之間具有極低的延遲。許多人工智慧運算任務對運算量要求過高，無法同時滿足數千個並髮用戶的使用需求。此外，敏感資料（例如個人識別資訊）透過網路傳輸和遠端處理也存在安全和隱私方面的隱患。

由於人工智慧演算法能夠理解語言、視覺、聽覺、嗅覺、溫度、面部表情以及其他模擬形式的非結構化訊息，因此它們在終端用戶面臨實際問題的場所中尤其有用。然而，由於延遲、頻寬和隱私問題，這些人工智慧應用在集中式雲端或企業資料中心部署起來既不切實際，甚至根本無法實現。

邊緣人工智慧的權衡

邊緣人工智慧最大的優勢之一在於，人工智慧設備部署在應用場景附近。人工智慧的去中心化大大減輕了中央處理中心的運算壓力，降低了資料傳輸成本和網路壓力，並透過消除透過網路傳輸敏感資料的需要來降低風險。邊緣人工智慧最大的缺點在於，人工智慧演算法及其相關的智慧財產權可能處於可控或可信環境之外。

邊緣人工智慧攻擊面及緩解措施

邊緣運算將人工智慧設備置於可信任環境之外，這徹底改變了攻擊面的大小和形狀。邊緣人工智慧生態系統可以分解為更小的組件。在接下來的章節中，我們將描述邊緣人工智慧技術的主要元件，以識別安全風險、攻擊面和緩解方案。

AI模型

在人工智慧應用中保護人工智慧模型至關重要，因為它有助於防止未經授權的存取和濫用。這些模型是廣泛研究的成果，蘊含著寶貴的資訊。如果保護不當，攻擊者可能會造成各種問題。例如，他們可以操縱模型的輸出，散佈虛假資訊或進行詐欺（規避和對抗性攻擊）。此外，他們還可以修改模型的演算法，使其效能下降或行為異常。如果這種情況發生在自動駕駛汽車、醫療保健或基礎設施等關鍵產業，可能會造成災難性損失。同時，邊緣人工智慧模型被竊、外洩或竄改的企業也可能遭受嚴重的經濟損失。總而言之，保護人工智慧模式可以防止未經授權的使用，並有助於確保人工智慧以負責任和道德的方式部署。

緩解措施

• AI模型加密 人工智慧模型是公司寶貴的智慧財產權，因此，作為一項基本的安全措施，應將人工智慧模型加密儲存在磁碟上。但存在人工智慧模型可能從應用程式記憶體中洩露的風險。使用實作應考慮此風險，避免將原始模型載入到記憶體中，或至少在人工智慧引擎解析完成後立即將其卸載。此外，由於白盒加密可以防止「一次破解，處處運行」（BORE）攻擊，因此應考慮採用白盒加密解決方案。
• AI模型嵌入 – 當邊緣 AI 要求將 AI 模型嵌入到應用程式中時，請確保託管 AI 模型的應用程式使用強化工具進行保護，並且與應用程式之間的通訊使用白盒加密解決方案進行保護。

數據

由於未經授權的存取和濫用會帶來潛在風險，因此保護邊緣人工智慧應用中的人工智慧資料至關重要。邊緣人工智慧應用通常運行在運算能力和儲存容量有限的設備上，因此需要在本地儲存和處理敏感資料。這可能導致隱私洩露，使個人或機密資訊暴露。此外，惡意行為者可以利用獲取的人工智慧資料來訓練模型或提取有價值的資訊，可能導致智慧財產權盜竊或不公平的競爭優勢。另外，篡改邊緣人工智慧應用中的人工智慧資料會導致人工智慧演算法被操縱，導致結果出現偏差或失真，也就是所謂的「資料投毒攻擊」。這可能會對醫療診斷或犯罪資料庫等關鍵領域造成嚴重後果。

緩解措施

• 數據加密 數據和人工智慧智慧財產權通常是 safe資料在靜態儲存或網路傳輸過程中，透過加密和安全協定進行保護。但在使用過程中，例如在處理和執行時，由於未經授權的存取或運行時攻擊，資料容易受到潛在洩漏。因此，組織應避免在應用程式的整個生命週期內以明文形式儲存加密金鑰，而應採用白盒加密方法。
• 機密計算 ——透過在電腦處理器內部安全隔離的環境中執行計算，即可信執行環境 (TEE)，解決了資料使用過程中保護方面的不足。另一方面，使用 TEE 也使硬體元件成為攻擊途徑。更多資訊請參閱此處。 此處.
• 透過網路進行安全資料傳輸 有時攻擊者會利用後端 API 發出偽造請求或取得額外資料。 API 保護會引入額外的資料加密層，從而防止請求重播和偽造攻擊。

人工智能應用

保護邊緣人工智慧應用至關重要，因為攻擊者可以對其進行逆向工程和篡改，從而提取有價值的知識以謀取私利。如果沒有適當的安全措施，攻擊者可以利用這些應用程式中的漏洞，未經授權存取儲存的資料。對應用進行逆向工程的攻擊者會發現專有演算法和模型，從而損害智慧財產權。透過逆向工程獲得的知識可能被用於創建包含竊取的人工智慧模型的新人工智慧應用。篡改行為允許攻擊者修改應用，導致結果偏差或未經授權的資料存取。因此，必須採取強而有力的安全措施來保護邊緣人工智慧應用，確保資料完整性。 safe保護智慧財產權，維護公平競爭的環境。

緩解措施

• 防篡改機制 – 程式碼篡改偵測技術（例如程式碼校驗和）可以偵測到任何試圖更改應用程式行為的行為。在不受信任的環境中，應使用白盒加密來防止 BORE（一次破解，處處運行）攻擊，尤其是在應用程式與加密檔案（例如 AI 資料和模型）互動時。
• 抗靜電分析 – 程式碼混淆和轉換大大增加了逆向工程業務邏輯所需的時間，有時甚至可以完全阻止逆向工程。
• 反動力學分析 動態分析對於理解軟體的行為至關重要，及時停止動態分析可以避免進一步的軟體分析。
• 防偽起重機構 – 程式碼破壞、偽裝和自我修復等方法可以防止攻擊者竊取程式碼並在與最初預期不同的裝置上執行。
• 平台完整性檢查 軟體可能從邊緣人工智慧設備中提取出來並在其他環境中運行，或者邊緣人工智慧設備本身可能被篡改。檢查平台完整性可以對應用程式的逆向工程嘗試發出警報。

所有這些都可以透過應用程式加固工具來實現。有關如何將應用程式加固整合到您的系統中的指南，請參閱以下內容。 DevSecOps 實作部分，請參閱IDC Spotlight論文 此處.

硬體

由於邊緣人工智慧硬體位於安全邊界之外，處於網路邊緣，因此極易受到攻擊者的攻擊。這些攻擊會造成嚴重後果。攻擊者可能利用硬體漏洞取得未經授權的存取權限、擾亂系統運作或竊取敏感資訊。他們可能發動物理攻擊，例如篡改設備組件、破壞其功能或竊取儲存在其中的重要資料。此外，攻擊者還可能攻擊邊緣人工智慧硬體的韌體或軟體元件，注入惡意程式碼或惡意軟體，從而危及系統的安全性和完整性。此類攻擊的後果包括未經授權存取敏感資料、隱私外洩或中斷依賴邊緣人工智慧硬體的關鍵服務。此外，受損的邊緣人工智慧硬體可能成為更廣泛網路攻擊的入口點，使攻擊者能夠滲透到連接的系統中或發動更大規模的網路攻擊。

緩解措施

為了降低這些風險，應實施強有力的安全措施，包括：硬體級安全功能、定期韌體更新和全面監控，以檢測和防止對邊緣人工智慧硬體的未經授權的存取或篡改嘗試。

摘要

邊緣人工智慧是指將人工智慧應用部署在實體世界中更靠近資料產生地點的裝置上，而不是依賴集中式雲端運算。它具有諸多優勢，例如低延遲、更高的隱私性、更低的網路壓力和更低的資料傳輸成本。然而，邊緣人工智慧的去中心化特性也帶來了新的安全風險和攻擊面。邊緣人工智慧的主要組件，包括人工智慧模型、資料、人工智慧應用和硬件，都需要進行安全保護，以防止未經授權的存取、濫用、篡改和盜竊。緩解策略包括：

• AI模型加密與嵌入
• 數據加密
• 加密金鑰的白盒加密
• 機密計算
• 透過網路安全傳輸數據
• 防篡改機制
• 防偽起重機構
• 代碼混淆
• 反動力學分析技術
• 平台完整性檢查
• 硬體級安全功能

實施這些措施對於保護敏感資訊、確保負責任的人工智慧部署、維護資料完整性至關重要。 safe在邊緣人工智慧生態系統中保護智慧財產權。