AI 기반 해킹 2부, ABC: 'AI 기반 방어'

피터 패터

In 지난 주간 이번 달의 에피소드 AI 주간지(대부분 주 제외)에서 저는 LLM(데이터 관리)이 악의적인 공격을 가속화하는 데 어떻게 활용되고 있는지, 그리고 포괄적인 보안 전략의 필요성이 커지고 있는지에 대한 생각을 공유했습니다. 이 글을 읽는 사람 중 여러 웹사이트에서 동일한 비밀번호를 사용하는 사람은 없을 거라고 생각하지만, 취약한 애플리케이션 최종 사용자는 많습니다. 다행히 LLM은 누구에게나 도움이 됩니다. 보안 분야는 AI 도입 열풍 속에서 소극적이지 않았습니다. 코드 작성 지원, 풀 리퀘스트 검토, 방대한 데이터 분석 등 AI는 모든 단계에서 함께했습니다. 물론, '데이터 관리'를 2022년 11월 30일부터라고 구체적으로 정의한다면 말입니다.

고양이와 쥐의 대결처럼, 고양이와 쥐 모두 변화하는 환경에 적응해야 하며, 우리는 AI가 악의적인 공격자로부터 보호하는 데 어떻게 도움이 될 수 있는지에 집중해 왔습니다. AI는 공격자의 속도를 높이는 동시에, 방어적인 측면도 가속화합니다. 공격자에게 힘을 실어주는 바로 그 기술이 방어자에게 더욱 지능적이고 복원력 있는 보안 시스템을 구축할 수 있는 강력한 도구를 제공합니다.

저기 있는 데이터는 다 뭐하는 거야, 친구?

간단한 예를 들어 보겠습니다. 코드 작성이 점점 더 대중화됨에 따라 봇 사용도 크게 증가했습니다. 단순한 수치적 증가를 넘어, 봇과 실제 최종 사용자를 구분하는 것조차 어려워지고 있습니다. 이 팬데믹은 여러 산업에 영향을 미치지만, 게임 산업만큼 큰 영향을 받는 산업은 드뭅니다. 캡틴 렉스가 말했듯이 스타 워즈 반란군"이곳은 예전에 봇들로 가득 차 있었죠. 우리는 봇들을 '클랭커'라고 불렀습니다." 봇의 만연한 출현은 게임 산업에 큰 타격을 주고 있습니다. 봇들은 게임 내 경제에 악영향을 미치고, 실제 과금 플레이어들을 겁먹게 하며, 제가 본 것 중 가장 흉측한 방식으로 돌아다닙니다. 봇들을 탐지하는 것은 쉽지 않지만, 플레이어 대 봇 행동에 대한 훈련 데이터가 증가함에 따라 점점 더 쉬워지고 있습니다.

모든 효과적인 탐지 전략은 하나의 근본적인 질문을 중심으로 돌아갑니다. 무엇이 다른가? 플레이어 행동과 봇 행동을 거의 완벽하게 구분하는 것은 행동 또는 환경 데이터 수집의 문제일 뿐입니다. 다음과 같은 질문을 생각해 보세요.

• 플레이어의 마우스는 어떻게 움직이나요? 일관성이 없고 약간 흔들리는가요? 아니면 수천 번의 동작 동안 항상 정확히 같은 x, y 좌표 쌍을 통과하나요?
• 휴대폰의 자이로스코프에서 어떤 정보를 얻을 수 있을까요? 휴대폰이 움직이긴 할까요? 화면을 누르는 손가락이 있기는 할까요?
• 이 OSRS 계정에는 사냥 스킬이 99개 있고, 다른 스킬은 1개씩 있으며, 60분마다 정확히 10초 동안 로그오프된다는 게 말이 되나요?

애플리케이션 위협 탐지 상황도 크게 다르지 않습니다. 위의 질문 대신 다음과 같은 질문을 던집니다.

• 어떤 경비원들이 어떤 순서로 달렸나요?
• 어떤 기기 제조사와 모델이 공격에 사용될 가능성이 가장 높습니까?
• 최종 사용자가 마지막 로그인 시점으로부터 1,609.34km(자유 단위 1000마일) 떨어진 곳에서 방금 계정에 로그인했습니까? 3분 만에 미국 동부 해안에서 동부 해안까지 이동했습니까?

충분한 데이터 수집과 처리를 통해 이 모든 질문에 답할 수 있습니다. 바로 이 부분에서 AI가 등장합니다. App Aware 데이터를 통해 위협 보고서AI 및 LLM 경험을 활용하여 사용자의 행동을 기반으로 위험 수준을 파악합니다. 탈옥된 기기는 할머니 메이블이 아이폰 테마를 변경하려고 시도하는 것일 수도 있지만, 할머니가 체크섬 변조 작업을 시작하면 할머니의 귀가 왜 그렇게 큰지 궁금해지기 시작합니다.

AI에 대해 제가 감사하게 생각하는 점

애플리케이션 보안에서 더욱 관련성 있는 사용 사례를 제공하기 위해, 애플리케이션 런타임 전반에 걸쳐 귀중한 정보들이 존재합니다. 애플리케이션의 스택과 힙은 끊임없이 수정되지만, 종종 명확한 패턴을 생성하는 방식으로 수정됩니다. 로컬 변수, 함수 매개변수, 반환 주소를 저장하는 메모리 영역인 스택은 프로그램 실행 흐름에 대한 실시간 기록을 제공합니다. 애플리케이션의 실행 흐름을 살펴보는 것만으로도 건초더미에서 바늘을 찾거나 콩밭에서 옥수수를 찾는 것과 같은 결과를 얻을 수 있습니다. 특정 결제 처리 애플리케이션의 경우, 애플리케이션 실행의 99.9%가 항상 openPaymentOverlay 그때 validateToken 그때 transferPayment:Value 우리는 그 제어 흐름 "시그니처"를 사용하여 합법적인 사용자를 식별할 수 있습니다. 호출하는 애플리케이션 실행의 0.1%는 transferPayment:Value 앞의 두 가지 호출이 없었다면 해당 데이터 세트에서 마치 엄지손가락처럼 튀어나왔을 것입니다. 이러한 사례는 AI의 빠른 데이터 풀 처리를 활용하여 점점 더 발전된 탐지 메커니즘을 구현할 수 있습니다. 애플리케이션 강화는 LLM을 활용하여 의미 있고 고유한 탐지 메커니즘을 구축할 수 있지만, 이점을 얻는 보안 분야가 LLM뿐만은 아닙니다.

Ope, CVE를 발견했습니다

여기서 설명할 것은 많지 않습니다. 영상을 롤링하면 됩니다.

CVE(Common Vulnerabilities and Exposures)는 모든 조직의 보안 태세에 중요한 부분입니다. 생성 AI는 CVE를 식별하는 데 도움을 줄 수 있으며, 코드 지원 LLM은 종속성 체인을 업데이트하여 문제를 해결하는 데 도움을 줄 수 있습니다. 이는 현재 보안 환경에서 흔히 사용되는 사례이며, 공격자와 AI가 지속적으로 발전함에 따라 클라이언트 측 취약점 악용을 위한 경쟁이 더욱 치열해질 것입니다.

우리도 도니브룩을 가지고 있지?

새롭고 실질적인 기술 발전이 등장할 때마다, 현재 진행 중인 싸움들 사이의 균형이 무너집니다. 부모님이 태어나셨을 때는 화약이 그랬지만, 지금은 AI입니다. 방화벽부터 애플리케이션 강화에 이르기까지 모든 방어 수단은 최종 사용자와 기업 모두를 보호하는 데 필수적입니다. 다음과 같은 값비싼 공격을 제한하는 가장 좋은 방법은 의료 침해 변경 하는 것입니다 safe최종 사용자 및 회사 운영과 관련된 모든 정보를 보호해야 합니다. AI는 빅데이터라는 못을 보안의 기둥에 박는 데 사용되는 망치와 같습니다. 그냥 기둥이 아닙니다. 하중을 지탱하는 기둥입니다. 정말 정말 중요하고, 아마도 엄청나게 비싼 나무로 만들어졌을 겁니다. 제 추측으로는 브라질산 자단(브라질산 자단)일 겁니다. 모든 보안 분야의 보안팀이 AI를 이해하고 활용하여 치열해지는 군비 경쟁에서 앞서 나가는 것이 매우 중요합니다.

LLM의 역량과 활용도가 지속적으로 증가함에 따라 보안 분야에는 상당한 우려가 제기되고 있지만, 모두가 나쁜 소식만은 아닙니다. 저희는 온라인 세상을 더욱 안전하고 safe우리 모두를 위한 자리입니다. OSRS 봇이든, 불가사의하게 기술적으로 진보한 할머니 메이블이든, 우리는 적응하고 발전할 것입니다.