KI-gestütztes Hacking Teil Zwei, das ABC: „KI-basierte Verteidigung“.

Pitter Patter

In letzte Wochen Folge des Monats In der AI Weekly (mit Ausnahme der meisten Wochen) habe ich meine Gedanken darüber geäußert, wie LLMs zur Beschleunigung von Angriffen eingesetzt werden und wie dringend eine umfassende Sicherheitsstrategie benötigt wird. Sicherlich verwendet niemand von Ihnen dasselbe Passwort für mehrere Websites, doch viele Nutzer anfälliger Anwendungen tun dies. Glücklicherweise helfen LLMs jedem, der sie anspricht; der Sicherheitsbereich hat die KI-Einführungswelle aktiv mitgestaltet. Von der Unterstützung beim Schreiben von Code über die Überprüfung von Pull Requests bis hin zur Analyse riesiger Datenmengen – KI war auf jedem Schritt des Weges präsent. Zumindest, wenn wir den Zeitraum ab dem 30. November 2022 definieren.

Wie in jedem spannenden Katz-und-Maus-Spiel müssen sich beide Seiten an ihre sich verändernde Umgebung anpassen. Wir konzentrieren uns daher intensiv darauf, wie KI zum Schutz vor Angreifern beitragen kann. KI beschleunigt zwar die Angriffe, aber gleichzeitig auch die Verteidigung. Dieselbe Technologie, die Angreifer stärkt, bietet Verteidigern leistungsstarke Werkzeuge für intelligentere und widerstandsfähigere Sicherheitssysteme.

Was machst du da drüben mit all den Daten, Kumpel?

Beginnen wir mit einem einfachen Beispiel. Da das Programmieren immer zugänglicher wird, hat die Anzahl der Bots deutlich zugenommen. Neben dem reinen Zahlenzuwachs wird es auch immer schwieriger, Bots von echten Nutzern zu unterscheiden. Die Pandemie trifft viele Branchen, aber kaum eine ist so stark betroffen wie die Spieleindustrie. Wie Captain Rex schon sagte… Star Wars Rebellen„Früher wimmelte es hier nur so von ihnen. Wir nannten sie ‚Klapper‘.“ Die grassierende Bot-Präsenz setzt der Spieleindustrie massiv zu. Sie schädigen die Spielökonomie, vergraulen zahlende Spieler und benehmen sich dabei auf eine Weise, die ich noch nie zuvor gesehen habe. Sie zu erkennen ist zwar nicht einfach, wird aber mit zunehmenden Trainingsdaten zum Verhalten von Spielern und Bots immer leichter.

Jede gute Erkennungsstrategie dreht sich um eine grundlegende Frage: Was ist der Unterschied? Die nahezu fehlerfreie Unterscheidung zwischen Spieler- und Bot-Verhalten ist lediglich eine Frage der Erfassung von Verhaltens- oder Umgebungsdaten. Stellen Sie sich beispielsweise folgende Fragen:

• Wie bewegt sich der Mauszeiger des Spielers? Ist die Bewegung unbeständig und leicht ruckartig, oder durchläuft er über Tausende von Aktionen hinweg immer exakt dieselben x- und y-Koordinatenpaare?
• Welche Informationen können wir vom Gyroskop eines Telefons erhalten? Hat es sich überhaupt bewegt? Berührt überhaupt ein Finger den Bildschirm?
• Ist es plausibel, dass dieser OSRS-Account Jagd auf Stufe 99, in allen anderen Fertigkeiten auf Stufe 1 hat und genau alle 60 Minuten für exakt 10 Sekunden ausgeloggt ist?

Die Szene der Bedrohungserkennung für Anwendungen ist sehr ähnlich. Anstelle der oben genannten Fragen stellen wir Fragen wie:

• Welche Wachen sind geflohen und in welcher Reihenfolge?
• Welche Gerätehersteller und -modelle werden am ehesten bei Angriffen eingesetzt?
• Hat sich ein Endbenutzer gerade in sein Konto eingeloggt, während er sich 1,609.34 Kilometer (1000 Meilen in Freedom Units) von seinem letzten Login entfernt befand? Ist er in drei Minuten von Küste zu Küste gereist?

Die Beantwortung all dieser Fragen ist mit ausreichender Datenerfassung und -verarbeitung möglich. Hier kommt die KI ins Spiel. Mithilfe von App-Aware-Daten, wie sie in unserem Beispiel zu sehen sind, können wir … BedrohungsberichtWir nutzen unsere KI- und LLM-Expertise, um das Risikoniveau jedes Nutzers anhand seines Verhaltens zu ermitteln. Manchmal versucht Oma Mabel mit einem Jailbreak einfach nur, das Design ihres iPhones zu ändern. Doch wenn sie anfängt, Prüfsummenmanipulationen auszulösen, fragen wir uns schon, warum ihre Ohren so groß sind.

Das ist es, was ich an KI schätze.

Um ein relevanteres Anwendungsbeispiel im Bereich der Anwendungssicherheit zu nennen: Während der gesamten Laufzeit einer Anwendung finden sich wertvolle Informationen. Stack und Heap einer Anwendung werden ständig verändert, oft jedoch auf eine Weise, die klare Muster erkennen lässt. Der Stack, ein Speicherbereich, der lokale Variablen, Funktionsparameter und Rücksprungadressen speichert, liefert eine Echtzeitaufzeichnung des Programmablaufs. Allein die Analyse des Programmablaufs kann die Nadel im Heuhaufen oder die Maispflanze im Sojabohnenfeld identifizieren. Wenn beispielsweise bei einer bestimmten Zahlungsverarbeitungsanwendung 99.9 % der Ausführungen immer dieselbe Funktion aufrufen, ist dies ein deutliches Indiz für die Bedeutung dieser Funktion. openPaymentOverlay dann validateToken dann transferPayment:Value Wir können diese Kontrollfluss-„Signatur“ verwenden, um legitime Benutzer zu identifizieren. Die 0.1 % der Anwendungsausführungen, die aufrufen transferPayment:Value Ohne die beiden vorhergehenden Aufrufe würde dies in diesem Datensatz sofort auffallen. Beispiele wie dieses verdeutlichen, wie KI Datenpools schnell verarbeitet und so immer ausgefeiltere Erkennungsmechanismen ermöglicht. Zwar kann die Anwendungshärtung LLMs nutzen, um aussagekräftige und einzigartige Erkennungsmechanismen zu schaffen, doch profitiert nicht nur dieser Sicherheitsbereich davon.

Oh je, da haben Sie ja eine CVE gefunden!

Hier gibt es nicht viel zu erklären, einfach das Videomaterial abspielen.

CVEs (Common Vulnerabilities and Exposures) sind ein wichtiger Bestandteil der Sicherheitsstrategie jeder Organisation. Generative KI kann bei deren Identifizierung helfen, und Code-Assist-LLMs können Abhängigkeitsketten aktualisieren, um das Problem zu beheben. Dies ist ein häufiger Anwendungsfall in unserer aktuellen Sicherheitsumgebung, und da sowohl Angreifer als auch KI stetig Fortschritte machen, wird sich das Schlachtfeld zunehmend in Richtung der Ausnutzung clientseitiger Schwachstellen verlagern.

Da haben wir uns wohl einen Donnybrook eingehandelt, was?

Immer wenn neue, bedeutende technologische Fortschritte entstehen, bringen sie das Gleichgewicht in bestehenden Konflikten durcheinander. Zu der Zeit, als meine Eltern geboren wurden, war es Schießpulver; heute ist es KI. Jede verfügbare Schutzmaßnahme, von Firewalls bis hin zur Anwendungshärtung, ist unerlässlich, um Endnutzer und Unternehmen gleichermaßen zu schützen. Der beste Weg, kostspielige Angriffe wie die folgenden einzudämmen: Änderung im Gesundheitswesen ist safeSchützen Sie alle Informationen, die Endnutzer und Unternehmensabläufe betreffen. KI ist der entscheidende Faktor, um Big Data in die Sicherheitsinfrastruktur einzubringen. Und diese Infrastruktur ist nicht einfach nur eine, sondern eine tragende Säule. Sie ist extrem wichtig und wahrscheinlich aus edelstem Holz gefertigt. Ich tippe auf brasilianisches Rosenholz. Für Sicherheitsteams aller Bereiche ist es unerlässlich, KI zu verstehen und zu nutzen, um im Wettlauf um die beste Technologie die Nase vorn zu haben.

Es gibt zwar erhebliche Sicherheitsbedenken im Zusammenhang mit den zunehmenden Fähigkeiten und der Nutzung von LLMs, aber es gibt auch positive Aspekte. Wir werden weiterhin unser Bestes tun, um die Online-Welt sicherer zu machen. safeEin Ort für uns alle. Ob die Bedrohungen nun von OSRS-Bots oder der unerklärlicherweise technisch versierten Oma Mabel ausgehen, wir werden uns anpassen und vorankommen.