Edge AI: 장점과 위험 살펴보기

엣지 AI란?

엣지 AI는 물리적 세계 전반에 걸쳐 기기에 AI 애플리케이션을 구축하는 것을 의미합니다. AI 연산이 클라우드 컴퓨팅 시설이나 프라이빗 데이터 센터의 중앙이 아닌, 사용자 근처, 즉 네트워크의 가장자리, 즉 데이터가 위치한 곳과 가까운 곳에서 수행되기 때문에 "엣지 AI"라고 불립니다. 인터넷은 전 세계에 걸쳐 있기 때문에 네트워크의 가장자리는 어떤 위치든 의미할 수 있습니다. 소매점, 공장, 병원, 또는 신호등, 보안 카메라, 의료 기기, 센서, 자율 주행 기계, 휴대폰 등 우리 주변의 모든 IoT 기기가 여기에 해당할 수 있습니다.

Edge AI가 필요한 이유는?

클라우드에 중앙 AI 컴퓨팅 허브를 두는 것이 항상 효율적인 것은 아닙니다. 일부 AI 기술은 데이터 수집과 의사 결정 사이의 지연 시간을 줄여야 합니다. 많은 AI 컴퓨팅 작업은 수천 명의 동시 사용자를 처리하기에는 너무 까다롭습니다. 또한, PII와 같은 민감한 데이터가 네트워크를 통해 전송되고 원격으로 처리되는 경우 보안 및 개인정보 보호 문제가 발생할 수 있습니다.

AI 알고리즘은 언어, 시각, 소리, 냄새, 온도, 얼굴, 그리고 기타 아날로그 형태의 비정형 정보를 이해할 수 있기 때문에, 실제 문제를 겪는 최종 사용자가 사용하는 환경에서 특히 유용합니다. 이러한 AI 애플리케이션은 지연 시간, 대역폭, 개인정보 보호 문제로 인해 중앙 집중식 클라우드나 기업 데이터 센터에 구축하는 것이 비현실적이거나 심지어 불가능할 수 있습니다.

Edge AI 트레이드오프

엣지 AI의 가장 큰 장점 중 하나는 AI 기기가 적용 장소와 가까이 있다는 것입니다. AI 분산화는 중앙 처리 허브의 처리 부담을 크게 줄이고, 데이터 전송 비용과 네트워크 부담을 줄이며, 민감한 데이터를 네트워크를 통해 전송할 필요성을 없앰으로써 위험을 줄입니다. 엣지 AI의 가장 큰 단점은 AI 알고리즘과 관련 IP가 제어 가능하거나 신뢰할 수 있는 환경 외부에 존재한다는 것입니다.

Edge AI 공격 표면 및 완화책

Edge가 AI 기기를 신뢰할 수 있는 환경 외부에 배치한다는 사실은 공격 표면의 크기와 형태를 완전히 변화시킵니다. Edge AI 생태계는 더 작은 구성 요소로 나눌 수 있습니다. 다음 섹션에서는 Edge AI 기술의 주요 구성 요소를 설명하여 보안 위험, 공격 표면 및 완화 옵션을 파악합니다.

AI 모델

AI 애플리케이션에서 AI 모델을 보호하는 것은 무단 접근 및 오용으로부터 보호하는 데 매우 중요합니다. 이러한 모델은 광범위한 연구의 결과물이며 귀중한 정보를 담고 있습니다. 제대로 보호되지 않으면 위협 행위자가 다양한 문제를 일으킬 수 있습니다. 예를 들어, 모델의 출력을 조작하여 허위 정보를 유포하거나 사기(회피 및 적대적 공격)에 가담할 수 있습니다. 또한, 모델의 알고리즘을 수정하여 성능을 저하시키거나 불공정하게 동작하도록 만들 수도 있습니다. 자율주행차, 의료 또는 인프라와 같은 중요 산업에서 이러한 문제가 발생할 경우 막대한 손실을 초래할 수 있습니다. 한편, 엣지 AI 모델이 도난, 유출 또는 변조된 기업은 심각한 재정적 피해를 입을 수 있습니다. 전반적으로 AI 모델을 보호하는 것은 무단 사용을 방지하고 인공지능이 책임감 있고 윤리적으로 배포되도록 하는 데 도움이 됩니다.

완화

• AI 모델 암호화 – AI 모델은 회사의 귀중한 지적 재산이므로 기본적인 보안 조치로 AI 모델을 디스크에 암호화하여 보관해야 합니다. AI 모델이 앱 메모리에서 삭제될 위험이 있습니다. 사용 구현 시에는 이러한 위험을 고려하여 원시 모델을 메모리에 로드된 상태로 유지하거나, 최소한 AI 엔진이 파싱하는 즉시 언로드해야 합니다. 또한, 화이트박스 암호화는 "BORE(Break Once Run Everywhere)" 공격을 방지하므로 화이트박스 암호화 솔루션을 고려하십시오.
• AI 모델 임베딩 – Edge AI가 애플리케이션에 AI 모델을 내장해야 하는 경우, AI 모델을 호스팅하는 애플리케이션이 강화 도구로 보호되고 애플리케이션과의 통신이 White Box Cryptography 솔루션으로 보호되는지 확인하세요.

Data

Edge AI 애플리케이션에서 AI 데이터를 보호하는 것은 무단 접근 및 오용과 관련된 잠재적 위험 때문에 매우 중요합니다. Edge AI 애플리케이션은 연산 능력과 저장 용량이 제한된 기기에서 작동하는 경우가 많기 때문에 민감한 데이터를 로컬에 저장하고 처리해야 합니다. 이는 개인 정보 또는 기밀 정보가 노출되는 개인 정보 침해로 이어질 수 있습니다. 더욱이 악의적인 행위자는 획득한 AI 데이터를 활용하여 모델을 학습시키거나 귀중한 통찰력을 추출하여 지적 재산권 침해 또는 부당한 경쟁 우위를 확보할 수 있습니다. 또한, Edge AI 애플리케이션에서 AI 데이터를 변조하면 AI 알고리즘이 조작되어 편향되거나 왜곡된 결과, 즉 "데이터 포이즈닝 공격"이 발생할 수 있습니다. 이는 의료 진단이나 범죄 데이터베이스와 같은 중요한 분야에 심각한 결과를 초래할 수 있습니다.

완화

• 데이터 암호화 – 데이터 및 AI IP는 일반적으로 safe데이터는 저장 중이거나 네트워크를 통해 전송 중일 때(전송) 암호화 및 보안 프로토콜을 통해 보호됩니다. 하지만 처리 및 실행과 같은 사용 중에는 무단 접근이나 런타임 공격으로 인한 잠재적 침해에 취약해집니다. 따라서 조직은 화이트박스 암호화 방식을 사용하여 애플리케이션의 전체 수명 주기 동안 암호화 키를 평문으로 공개하는 것을 피해야 합니다.
• 기밀 컴퓨팅 – 컴퓨터 프로세서 내의 안전하고 격리된 환경, 즉 신뢰 실행 환경(TEE)에서 연산을 수행하여 사용 중인 데이터를 보호하는 데 있어 발생하는 허점을 해결합니다. 반면, TEE를 사용하면 하드웨어 구성 요소가 공격 벡터로 노출될 수 있습니다. 자세한 내용은 여기에서 확인할 수 있습니다. 여기에서 확인하세요.
• 네트워크를 통한 안전한 데이터 전송 – 공격자는 백엔드 API를 악용하여 위조된 요청을 생성하거나 추가 데이터를 획득할 수 있습니다. API 보호는 추가적인 데이터 암호화 계층을 도입하여 요청 재전송 및 위조 공격을 방지합니다.

AI 애플리케이션

Edge AI 애플리케이션 보안은 위협 행위자가 애플리케이션을 리버스 엔지니어링하고 변조하여 귀중한 지식을 추출하여 이익을 얻을 수 있기 때문에 매우 중요합니다. 적절한 보안 조치가 없으면 위협 행위자는 이러한 애플리케이션의 취약점을 악용하여 저장된 데이터에 무단으로 접근할 수 있습니다. 앱을 리버스 엔지니어링하는 위협 행위자는 독점적인 알고리즘과 모델을 발견하여 지적 재산을 침해합니다. 리버스 엔지니어링을 통해 얻은 지식은 탈취된 AI 모델을 사용하여 새로운 AI 애플리케이션을 만드는 데 사용될 수 있습니다. 변조를 통해 애플리케이션을 수정하여 편향된 결과나 무단 데이터 접근을 초래할 수 있습니다. Edge AI 애플리케이션을 보호하고 데이터 무결성을 보장하려면 강력한 보안 조치가 필수적입니다. safe지적 재산권을 보호하고 공정하고 경쟁적인 환경을 유지합니다.

완화

• 변조 방지 메커니즘 – 코드 체크섬과 같은 코드 변조 탐지 기술은 앱 동작 변경 시도를 탐지합니다. 신뢰할 수 없는 환경에서는 BORE "break once run everywhere" 공격을 방지하기 위해 화이트박스 암호화를 사용해야 하며, 특히 애플리케이션이 AI 데이터 및 모델과 같은 암호화된 파일과 상호 작용하는 경우 더욱 그렇습니다.
• 정전기 방지 분석 – 코드 난독화 및 변환으로 인해 비즈니스 로직을 역방향 엔지니어링하는 데 걸리는 시간이 크게 늘어나고, 때로는 이를 완전히 차단하기도 합니다.
• 반동적 분석 – 동적 분석은 소프트웨어가 어떻게 동작하는지 이해하고 시간 내에 동적 분석을 중지하면 추가 소프트웨어 분석이 어떻게 방해받을 수 있는지 이해하는 데 중요합니다.
• 안티코드 리프팅 메커니즘 – 코드 손상, 위장, 자가 복구와 같은 방법은 공격자가 코드를 빼내 원래 의도한 것과 다른 장치에서 실행하는 것을 방지합니다.
• 플랫폼 무결성 검사 – 소프트웨어가 Edge AI 기기에서 추출되어 외부 환경에서 실행될 수도 있고, Edge AI 기기가 어떤 식으로든 변조될 수도 있습니다. 플랫폼 무결성을 확인하면 앱의 리버스 엔지니어링 시도를 감지할 수 있습니다.

이 모든 것은 애플리케이션 강화 도구를 통해 달성할 수 있습니다. 애플리케이션 강화를 애플리케이션에 통합하는 방법에 대한 가이드는 DevSecOps 연습하려면 IDC Spotlight 논문을 참조하세요. 여기에서 확인하세요.

하드웨어

Edge AI 하드웨어는 보안 경계 외부인 Edge에 위치하기 때문에 위협 행위자의 공격에 취약할 수 있습니다. 이러한 공격은 심각한 결과를 초래합니다. 공격자는 하드웨어의 취약점을 악용하여 무단 접근, 운영 중단 또는 민감한 정보 유출을 시도할 수 있습니다. 또한, 장치 구성 요소 조작, 기능 손상 또는 내부에 저장된 귀중한 데이터 유출과 같은 물리적 공격을 수행할 수도 있습니다. 또한, 공격자는 Edge AI 하드웨어의 펌웨어 또는 소프트웨어 구성 요소를 표적으로 삼아 시스템의 보안 및 무결성을 손상시킬 수 있는 악성 코드나 맬웨어를 주입할 수도 있습니다. 이러한 공격의 결과는 민감한 데이터에 대한 무단 접근, 개인 정보 침해 또는 Edge AI 하드웨어에 의존하는 중요 서비스 중단 등 다양할 수 있습니다. 더욱이, 손상된 Edge AI 하드웨어는 더 광범위한 네트워크 공격의 진입점이 되어 위협 행위자가 연결된 시스템에 침투하거나 대규모 사이버 공격을 감행할 수 있도록 합니다.

완화

이러한 위험을 완화하려면 하드웨어 수준 보안 기능, 정기적인 펌웨어 업데이트, Edge AI 하드웨어에 대한 무단 액세스나 변조 시도를 감지하고 방지하기 위한 포괄적인 모니터링을 포함한 강력한 보안 조치를 구현해야 합니다.

제품 개요

엣지 AI는 중앙 집중식 클라우드 컴퓨팅에 의존하는 대신, 데이터가 생성되는 곳과 더 가까운 물리적 세계의 기기에 AI 애플리케이션을 배포하는 것을 의미합니다. 짧은 지연 시간, 향상된 개인정보 보호, 네트워크 스트레스 감소, 데이터 전환 비용 절감 등 여러 가지 이점을 제공합니다. 그러나 엣지 AI의 분산된 특성은 새로운 보안 위험과 공격 표면을 야기합니다. AI 모델, 데이터, AI 애플리케이션, 하드웨어를 포함한 엣지 AI의 주요 구성 요소는 무단 접근, 오용, 변조 및 도난을 방지하기 위해 보안이 필수적입니다. 보안 완화 전략은 다음과 같습니다.

• AI 모델 암호화 및 임베딩
• 데이터 암호화
• 암호화 키의 화이트박스 암호화
• 기밀 컴퓨팅
• 네트워크를 통한 안전한 데이터 전송
• 변조 방지 메커니즘
• 안티코드 리프팅 메커니즘
• 코드 난독화
• 반동적 분석 기술
• 플랫폼 무결성 검사
• 하드웨어 수준 보안 기능

이러한 조치를 구현하는 것은 민감한 정보를 보호하고, 책임 있는 AI 배포를 보장하고, 데이터 무결성을 유지하는 데 매우 중요합니다. safeEdge AI 생태계에서 지적 재산권을 보호합니다.