エッジAI：メリットとリスクを探る

エッジAIとは

エッジAIとは、物理世界全体に存在するデバイスにAIアプリケーションを展開することです。AIの計算がクラウドコンピューティング施設やプライベートデータセンターといった集中的な場所ではなく、ユーザーの近く、つまりネットワークのエッジ、つまりデータの場所に近い場所で行われることから、「エッジAI」と呼ばれます。インターネットは世界中に広がっているため、ネットワークのエッジはあらゆる場所を指します。小売店、工場、病院、あるいは信号機、防犯カメラ、医療機器、センサー、自律マシン、スマートフォンといった、私たちの身の回りにあるIoTデバイスなど、様々な場所がエッジAIの対象となります。

エッジ AI が必要な理由

クラウドに中央AI計算ハブを置くことは、必ずしも効率的ではありません。一部のAI技術では、データ収集と意思決定の間に低レイテンシが求められます。多くのAI計算タスクは、数千人の同時ユーザーによる計算には負荷が大きすぎます。また、個人情報（PII）などの機密データがネットワーク経由で転送され、リモートで処理されることには、セキュリティとプライバシーに関する懸念もあります。

AIアルゴリズムは言語、視覚、聴覚、嗅覚、温度、顔といったアナログ形式の非構造化情報を理解できるため、特にエンドユーザーが現実世界で抱える問題に対処する場において有用です。これらのAIアプリケーションは、レイテンシ、帯域幅、プライバシーの問題から、集中型クラウドやエンタープライズデータセンターへの導入は現実的ではなく、場合によっては不可能です。

エッジAIのトレードオフ

エッジAIの最大の利点の一つは、AIデバイスが適用場所の近くにあることです。AIの分散化により、中央処理ハブの処理負荷が大幅に軽減され、データ転送コストとネットワーク負荷が削減され、機密データをネットワーク経由で転送する必要がなくなるため、リスクも軽減されます。エッジAIの最大の欠点は、AIアルゴリズムと関連IPが制御可能または信頼できる環境の外部にあることです。

エッジAIの攻撃対象領域と緩和策

エッジAIデバイスが信頼できる環境の外に置かれるという事実は、攻撃対象領域の大きさと形状を一変させます。エッジAIエコシステムは、より細分化されたコンポーネントに分解できます。次のセクションでは、エッジAIテクノロジーの主要コンポーネントについて説明し、セキュリティリスク、攻撃対象領域、そして緩和策を特定します。

AIモデル

AIアプリケーションにおけるAIモデルのセキュリティ確保は、不正アクセスや悪用からAIモデルを保護する上で非常に重要です。これらのモデルは広範な研究の成果であり、貴重な情報を保持しています。適切に保護されていない場合、脅威アクターは様々な問題を引き起こす可能性があります。例えば、モデルの出力を操作して虚偽の情報を拡散したり、不正行為（回避攻撃や敵対的攻撃）を行ったりする可能性があります。さらに、モデルのアルゴリズムを改変してパフォーマンスを低下させたり、不当な動作をさせたりすることも可能です。自動運転車、医療、インフラといった重要な産業でこのような事態が発生した場合、壊滅的な損失につながる可能性があります。また、エッジAIモデルが盗難、漏洩、または改ざんされた企業は、深刻な経済的損害を被る可能性があります。AIモデルのセキュリティ確保は、不正使用を防ぎ、人工知能が責任を持って倫理的に展開されることを保証する上で重要です。

緩和

• AIモデルの暗号化 AIモデルは企業の貴重な知的財産であるため、基本的なセキュリティ対策として、ディスク上で暗号化された状態で保存する必要があります。AIモデルがアプリのメモリからダンプされるリスクがあります。利用実装ではこのリスクを考慮し、生のモデルをメモリにロードしたままにしないか、少なくともAIエンジンが解析したらすぐにアンロードする必要があります。さらに、ホワイトボックス暗号化は「break once run everywhere」（BORE）攻撃を防ぐため、ホワイトボックス暗号化ソリューションを検討してください。
• AIモデルの埋め込み – エッジ AI で AI モデルをアプリケーション内に埋め込む必要がある場合は、AI モデルをホストするアプリケーションが強化ツールで保護され、アプリケーションとの間の通信がホワイト ボックス暗号化ソリューションで保護されていることを確認します。

Rescale データ

エッジAIアプリケーションにおけるAIデータのセキュリティ確保は、不正アクセスや悪用に伴う潜在的なリスクを考慮すると極めて重要です。エッジAIアプリケーションは、多くの場合、計算能力やストレージ容量が限られたデバイス上で動作するため、機密データをローカルで保存・処理する必要があります。これは、個人情報や機密情報が漏洩するプライバシー侵害につながる可能性があります。さらに、悪意のある攻撃者は、取得したAIデータを利用してモデルをトレーニングしたり、貴重な洞察を抽出したりすることができ、知的財産の盗難や不当な競争優位性につながる可能性があります。さらに、エッジAIアプリケーションにおけるAIデータの改ざんは、AIアルゴリズムの操作につながり、偏った、あるいは歪んだ結果をもたらす「データポイズニング攻撃」につながる可能性があります。これは、医療診断や犯罪データベースなどの重要な分野において深刻な結果をもたらす可能性があります。

緩和

• データ暗号化 – データとAIのIPは通常 safeデータは、保存時（ストレージ）またはネットワーク経由の転送時（伝送）には、暗号化とセキュリティプロトコルによって保護されます。しかし、処理や実行といった使用段階では、不正アクセスやランタイム攻撃による潜在的な侵害に対して脆弱になります。そのため、組織はホワイトボックス暗号化方式を用いて、アプリケーションのライフサイクル全体を通して暗号化鍵を平文のまま保存することを避けるべきです。
• 機密コンピューティング – コンピュータのプロセッサ内の安全で隔離された環境（信頼された実行環境（TEE）とも呼ばれる）内で計算を実行することで、使用中のデータ保護のギャップに対処します。一方で、TEEの使用はハードウェアコンポーネントを攻撃ベクトルとしてさらします。詳細については、 こちら.
• ネットワークを介した安全なデータ転送 攻撃者はバックエンドAPIを悪用して偽造リクエストを送信したり、追加データを取得したりすることがあります。API保護により、データ暗号化の層が追加され、リクエストのリプレイ攻撃や偽造攻撃を防止できます。

AIアプリケーション

エッジAIアプリケーションのセキュリティ確保は極めて重要です。なぜなら、脅威アクターはリバースエンジニアリングや改ざんによって、貴重な知識を抽出し、自らの利益につなげることができるからです。適切なセキュリティ対策を講じなければ、脅威アクターはこれらのアプリケーションの脆弱性を悪用し、保存されたデータへの不正アクセスを取得する可能性があります。アプリをリバースエンジニアリングする脅威アクターは、独自のアルゴリズムやモデルを発見し、知的財産を侵害します。リバースエンジニアリングによって得られた知識は、盗まれたAIモデルを用いて新たなAIアプリケーションを作成するために利用される可能性があります。改ざんによってアプリケーションが改変され、偏った結果や不正なデータアクセスにつながる可能性があります。エッジAIアプリケーションを保護するには、データの整合性を確保し、強力なセキュリティ対策が必要です。 safe知的財産を保護し、公正で競争的な環境を維持します。

緩和

• 改ざん防止メカニズム – コードチェックサムなどのコード改ざん検出技術は、アプリの動作を変更する試みを検出します。信頼できない環境では、BORE（break once run everywhere）攻撃を防ぐために、ホワイトボックス暗号化を使用する必要があります。特に、アプリケーションがAIデータやモデルなどの暗号化されたファイルとやり取りする場合は重要です。
• 静電気防止分析 – コードの難読化と変換により、ビジネス ロジックのリバース エンジニアリングにかかる​​時間が大幅に増加し、場合によっては完全にリバース エンジニアリングができなくなることもあります。
• 反動的解析 – 動的解析は、ソフトウェアがどのように動作するかを理解する上で重要であり、動的解析を適切なタイミングで停止することで、その後のソフトウェア解析を防止できる。
• アンチコードリフティング機構 – コードの破損、偽装、自己修復などの方法により、攻撃者がコードを盗用して当初意図したものとは異なるデバイスで実行することを防ぎます。
• プラットフォームの整合性チェック – エッジAIデバイスからソフトウェアが抽出され、未知の環境で実行されたり、エッジAIデバイスが何らかの方法で改ざんされたりする可能性があります。プラットフォームの整合性をチェックすることで、アプリのリバースエンジニアリングの試みを警告できます。

これらはすべて、アプリケーション強化ツールで実現できます。アプリケーション強化をビジネスに組み込む方法については、 DevSecOps 実践については、IDC Spotlightペーパーをご覧ください。 こちら.

Hardware

エッジ AI ハードウェアはセキュリティ境界外のエッジ上に存在するため、脅威アクターによる攻撃に対して脆弱になる可能性があります。これらの攻撃は重大な結果を招きます。攻撃者はハードウェアの脆弱性を悪用して不正アクセスを取得したり、操作を妨害したり、機密情報を抽出したりする可能性があります。デバイスのコンポーネントの改ざん、機能の侵害、内部に保存されている重要なデータの盗難など、物理的な攻撃を実行する可能性もあります。さらに、攻撃者はエッジ AI ハードウェアのファームウェアまたはソフトウェア コンポーネントを標的とし、システムのセキュリティと整合性を侵害する悪意のあるコードやマルウェアを挿入する可能性もあります。このような攻撃の結果は、機密データへの不正アクセス、プライバシーの侵害、エッジ AI ハードウェアに依存する重要なサービスの中断など、多岐にわたります。さらに、侵害されたエッジ AI ハードウェアは、より広範なネットワーク攻撃のエントリ ポイントとなる可能性があり、脅威アクターが接続されたシステムに侵入したり、大規模なサイバー攻撃を開始したりすることを可能にします。

緩和

これらのリスクを軽減するには、ハードウェア レベルのセキュリティ機能、定期的なファームウェア更新、Edge AI ハードウェアへの不正アクセスや改ざんの試みを検出して防止するための包括的な監視などの強力なセキュリティ対策を実装します。

製品概要

エッジAIとは、集中型のクラウドコンピューティングに依存せず、データが生成される場所に近い物理世界のデバイスにAIアプリケーションを展開することを指します。低レイテンシ、プライバシーの向上、ネットワーク負荷の軽減、データ転送コストの削減など、様々なメリットがあります。しかし、エッジAIの分散型の性質は、新たなセキュリティリスクと攻撃対象領域をもたらします。AIモデル、データ、AIアプリケーション、ハードウェアなど、エッジAIの主要コンポーネントは、不正アクセス、悪用、改ざん、盗難を防ぐために保護する必要があります。対策として、以下のようなものが挙げられます。

• AIモデルの暗号化と埋め込み
• データ暗号化
• 暗号鍵のホワイトボックス暗号化
• 機密コンピューティング
• ネットワークを介した安全なデータ転送
• 改ざん防止メカニズム
• アンチコードリフティング機構
• コードの難読化
• 反動的解析技術
• プラットフォームの整合性チェック
• ハードウェアレベルのセキュリティ機能

これらの対策を実施することは、機密情報の保護、責任あるAIの導入の確保、データの完全性の維持、そして safeエッジ AI エコシステムにおける知的財産の保護。