KMUSEC Logo
Suche
Close this search box.

KI & ChatGPT in Cybersecurity: Chancen & Risiken 2024

INHALTSVERZEICHNIS
KI, ChartGPT und Cybersecurity

Künstliche Intelligenz (KI) bzw. Artificial Intelligence (AI) und insbesondere Chatbots wie ChatGPT, ist auf dem Weg, in zahlreichen Feldern eine immer größere Rolle zu spielen. Während einige Technologien und Methoden dadurch in den Hintergrund treten, wird vieles durch KI verbessert und effizienter gestaltet – so auch im Bereich der Cybersecurity. Hier bietet Künstliche Intelligenz enorme Unterstützung, um Sicherheitsmaßnahmen zu verstärken und Bedrohungen präziser zu identifizieren. Doch diese Medaille hat zwei Seiten: Nicht nur die Verteidiger profitieren von den Fortschritten der Künstlichen Intelligenz, sondern auch die Angreifer finden in ihr ein mächtiges Werkzeug.

Die Einbindung Künstlicher Intelligenz in Sicherheitslösungen und -strategien eröffnet nicht nur wegweisende Ansätze zur Bekämpfung von Cyberangriffen, sondern geht auch mit bestimmten Risiken einher. In diesem Beitrag werden wir untersuchen, auf welche Weise mittelständische Unternehmen die Vorteile nutzen können, die KI im Bereich der Cybersicherheit zu bieten hat. Durch das Verständnis dieser dynamischen Beziehung zwischen KI und Cybersecurity können Unternehmen ihre Verteidigung stärken und die Gefahren besser einschätzen.

In der Welt der Cybersecurity ist Künstliche Intelligenz wie Schach auf höchstem Niveau: Sie antizipiert Züge von Gegnern, die wir noch nicht einmal sehen. Doch in diesem Spiel sind wir sowohl Spieler als auch Spielfiguren, und das Brett verändert sich ständig. Künstliche Intelligenz ist unser klügster Zug und unsere größte Herausforderung.

Wie kann KI das Unternehmen beschützen?

Zu einem großen Teil wird der Entscheidungsträger im Bereich Cybersecurity nur indirekt mit Künstlicher Intelligenz (in Softwareprodukten) konfrontiert. Einen wichtigen Aspekt, den auch der Geschäftsführer nutzen kann ist:

Awareness

  1. Für die Beantwortung einfacher Fragen, das aufzeigen von Schritten in Cyber-Defence Prozessen und das erklären von Zusammenhängen kann Künstliche Intelligenz jetzt schon effektiv genutzt werden. (z.B. Nutzung von ChatGPT, Copilot und Gemini)

Viele Softwareprodukte zeichnen sich mit KI aus. Sinnvolle Einsatzgebiete sind vor allem:

  1. Erkennung und Abwehr von Phishing-Versuchen: KI-Systeme können E-Mail-Verkehr in Echtzeit analysieren, um Phishing-Angriffe zu erkennen, bevor sie Schaden anrichten. Durch das Lernen aus Mustern in Daten können sie auch neue und unbekannte Phishing-Taktiken identifizieren.
  2. Anomalieerkennung: Künstliche Intelligenz kann kontinuierlich Netzwerkverkehr überwachen und analysieren, um ungewöhnliche Aktivitäten zu identifizieren, die auf eine Sicherheitsbedrohung hindeuten könnten. Dies ermöglicht eine schnelle Reaktion, oft bevor ein Angreifer ernsthaften Schaden verursachen kann. Dies trifft auf im Netzwerkverkehr (IDS/IPS), Netzwerkverkehr (Firewalls), Log/Eventdaten (SIEM) und Endpoint Security (Antivirus/EDR) zu.

Weitere Einsatzgebiete in technischen Systemen:

  1. Automatisierte Reaktion auf Sicherheitsvorfälle: Bei der Erkennung einer Bedrohung können KI-gestützte Systeme automatisch Maßnahmen ergreifen, um den Angriff zu blockieren oder zu isolieren, während gleichzeitig das Sicherheitsteam informiert wird.
  2. Verbesserung der Authentifizierungsprozesse: Durch den Einsatz von KI können biometrische Verfahren wie Gesichtserkennung oder Fingerabdruckscans sicherer und zuverlässiger gemacht werden, was die Authentifizierung von Nutzern verbessert und unbefugten Zugriff verhindert.

In der Threat Intelligence:

  1. Vorhersage von Cyberbedrohungen: Künstliche Intelligenz kann dabei helfen, zukünftige Bedrohungen und Schwachstellen zu prognostizieren, indem sie große Mengen an Daten aus verschiedenen Quellen analysiert. Dies ermöglicht Unternehmen, proaktiv Maßnahmen zu ergreifen, bevor eine Bedrohung real wird.

Wie kann KI das Unternehmen bedrohen?

Hier sind einige Beispiele, wie KI diese Unternehmen potenziell bedrohen kann:

  1. Entwicklung raffinierterer Phishing-Angriffe: Künstliche Intelligenz kann von Cyberkriminellen eingesetzt werden, um Phishing-E-Mails und -Nachrichten zu personalisieren und sie mittels Chatbots wie ChatGPT glaubwürdiger zu machen. Durch Analyse von Verhaltensmustern und Daten können Angriffe so gestaltet werden, dass sie spezifische Personen mit hoher Erfolgswahrscheinlichkeit ins Visier nehmen.
  2. Deepfakes und Desinformation: Künstliche Intelligenz kann zur Erstellung von Deepfakes genutzt werden, also hochrealistischen gefälschten Audio- und Videomaterialien, die dazu verwendet werden können, Mitarbeiter zu täuschen, Betrug zu begehen oder Desinformationskampagnen durchzuführen.
  3. Sicherheitsrisiko durch KI-Halluzinationen: KI in der Softwareentwicklung kann irreführende Daten erzeugen, was zu unerkannten Sicherheitslücken führt. Auf diesem Weg könnte auch Schadcode in ungeprüfte Programme eingeschleust werden. Eine gründliche Überprüfung dieser „halluzinierten“ Informationen ist essentiell, um Sicherheitsrisiken zu minimieren.
  4. Rechenschaftspflicht beim Einsatz von ChatGPT und Co: Wir müssen die Verantwortung für die Handlungen und Entscheidungen unserer KI-Systeme übernehmen. Wir müssen sicherstellen, dass diese mit unseren ethischen und rechtlichen Standards übereinstimmen und vielleicht noch wichtiger, mit unserer Unternehmens- und Firmenkultur.
  5. Erhöhung der Komplexität in der Sicherheitslandschaft: Mit der Einführung von KI in Sicherheitssysteme steigt auch die Komplexität dieser Systeme. Dies kann zu neuen Schwachstellen führen, die von Angreifern ausgenutzt werden können, besonders wenn Unternehmen die Funktionsweise und die Risiken ihrer KI-Systeme nicht vollständig verstehen.
  6. Automatisierung von Cyberangriffen: Mit Hilfe von Künstlicher Intelligenz können Angreifer Angriffe auf eine Weise automatisieren und skalieren, die zuvor nicht möglich war. Dies erhöht die Frequenz und die Raffinesse von Angriffen, gegen die Unternehmen sich verteidigen müssen.
  7. Einsatz von KI in Malware: KI kann Malware intelligenter und schwerer zu entdecken machen. Beispielsweise können sich KI-gesteuerte Viren an ihre Umgebung anpassen, um Erkennung zu vermeiden, oder sie können ihre Taktik basierend auf der erkannten Abwehrstrategie des Zielnetzwerks ändern.
  8. Manipulation von KI-Systemen: Wenn Unternehmen KI-Systeme für Sicherheitszwecke einsetzen, können diese Systeme selbst zum Ziel werden. Angreifer könnten versuchen, die KI-Systeme durch Techniken wie Datenvergiftung (Data Poisoning) zu manipulieren, um falsche Sicherheitswarnungen auszulösen oder echte Bedrohungen zu verbergen.

Diese Beispiele verdeutlichen, dass die Integration von KI in die Cybersecurity Maßnahmen mittelständischer Unternehmen eine sorgfältige Risikobewertung und kontinuierliche Überwachung erfordert, um sicherzustellen, dass die Vorteile die potenziellen neuen Bedrohungen überwiegen.

Echte Vorteile von AI in der Cybersecurity

With great power comes great responsibility

Spider-Man

KI erkennt unbekannte Bedrohungen

Ein Mensch ist nicht in der Lage, alle Bedrohungen zu erkennen, denen ein Unternehmen ausgesetzt ist. Vor allem, wenn es um die sprichwörtliche Nadel im Heuhaufen geht, also sehr viele Daten notwendig sind um die Bedrohung zu erkennen. Hier ist KI natürlich vorne dabei. Durch Anomalieerkennung am Computer, im Netzwerk, am Perimeter oder am Verhalten des Benutzers.

Da Angreifer neue Taktiken von ausgeklügeltem Social Engineering bis hin zu Malware-Angriffen ausprobieren, ist es notwendig, moderne Lösungen zur Verhinderung einzusetzen. KI hat sich als eine der besten Sicherheitstechnologien erwiesen, um unbekannte Bedrohungen zu kartieren und zu stoppen, bevor sie ein Unternehmen verwüsten.

Sie hilft Sicherheitsteams richtig zu priorisieren

KI-Systeme können automatisch weniger kritische Alarme herabstufen, während sie gleichzeitig hochpriorisierte Alarme bündeln, in einen Kontext setzen und eskalieren.

z.B. hat IBM im Oktober 2023 85% der Alarme automatisiert eskalieren oder schließen können. (ermittelt aus aggregierten Performance Daten, die aus Projekten mit über 340 Kunden)

Künstliche Intelligenz kann mit riesigen Datenmengen umgehen und lernt von Tag zu Tag

In einem Firmennetzwerk herrscht reger Betrieb. Besonders mittelständische Unternehmen zeichnen sich durch einen beträchtlichen Datenverkehr aus. Tagtäglich findet ein umfangreicher Datenaustausch zwischen Kunden und dem Unternehmen statt. Diese Daten sind ein wertvolles Gut, das es vor unbefugten Zugriffen zu schützen gilt. Allerdings stoßen selbst die engagiertesten Cybersicherheitsteams an ihre Grenzen, wenn es darum geht, den gesamten Datenverkehr auf potenzielle Bedrohungen zu überwachen. Hier bietet die KI eine wertvolle Unterstützung für bestehende Sicherheitssysteme, indem sie in der Lage ist, auch jene Bedrohungen aufzuspüren, die sich hinter vermeintlich normalen Aktivitäten verstecken. Durch ihre Fähigkeit, automatisiert gigantische Datenmengen zu analysieren, kann sie ungewöhnliche Verhaltensmuster erkennen und darauf aufmerksam machen.

Der Einsatz von Methoden des „machine learning“ und des „deep learning“ ermöglicht es der KI, das Verhalten eines Unternehmensnetzwerks im Zeitverlauf zu studieren und zu „verstehen“. Sie erfasst und kategorisiert wiederkehrende Muster im Netzwerkverkehr und ist somit in der Lage, jede Abweichung oder potenzielle Sicherheitsvorfälle frühzeitig zu identifizieren. Die im Laufe der Zeit erlernten Muster durch künstliche neuronale Netzwerke bieten eine solide Basis, um die Sicherheitsmaßnahmen kontinuierlich zu verbessern. Die Fähigkeit der KI, aus Daten zu lernen und ihr Wissen stetig zu erweitern, erschwert es Angreifern, Sicherheitsmechanismen zu umgehen.

Dieses kontinuierliche Lernen und Anpassen der KI-Systeme an neue Bedrohungsszenarien macht sie schon jetzt zu einem unverzichtbaren Werkzeug in der Cybersecurity.

KI Beschleunigt die Erkennung und Reaktionszeiten

Die Integration von KI in die Cybersicherheitsstrategie verbessert die frühzeitige Erkennung und Reaktion auf Bedrohungen im Unternehmensnetzwerk erheblich. KI-Technologien durchleuchten das System umfassend und identifizieren Bedrohungen präzise und schnell, und unterstützen herkömmliche Methoden ins einigen wesentlichen Bereichen. Dies vereinfacht Sicherheitsaufgaben und verkürzt die Reaktionszeiten (siehe auch MTTD) signifikant. Ein proaktiver Sicherheitsansatz, der durch KI unterstützt wird, ermöglicht es, Bedrohungen zu neutralisieren, bevor sie Schaden anrichten, und markiert einen Wandel von reaktiven zu präventiven Sicherheitsmaßnahmen.

Zukunft von AI und Cybersecurity

Danke auch an Thomas Scott, der mich durch seinen Vortrag „Examining the Impact of AI on Your Cybersecurity Program“ zu diesem Kapitel inspiriert hat.

Potentiell disruptive Themen

AI bei Cyberkriminellen noch lange nicht ausgereizt

Das „Gleichgewicht“ zwischen Angreifer, die AI nutzen und Verteidiger die AI nutzen kann kippen, da Cyberkriminelle verstärkt auf AI setzen und die Technologie für immer mehr Angriffsvektoren nutzen. Als Unternehmen kann man nur stetig den Markt beobachten und möglichst rasch reagieren.

Computing Power und stetig steigendes Datenvolumen

Eines der größten Probleme für mittelständische Unternehmen (mit limitierten Ressourcen) könnte der stetig steigende Bedarf an Cloud Ressourcen und verteilten Systemen sein. Größere Unternehmen müssen praktisch dieselben Maßnahmen ergreifen wie KMUs mit limitierten Ressourcen.

Life Long Learning

Noch sind viele Unternehmen, die das Thema Awareness stiefmütterlich behandeln. Im Kontext mit Cybersecurity sollte Awareness und Weiterbildung endgültig keine leere Floskel mehr sein. Awareness hinsichtlich Cybersecurity AI Themen wie Deepfake sind ebenso wichtig wie Wissensaneignung in den IT- und Securityabteilungen um das Potential von AI im Bereich Cybersecurity auch

Du willst das Thema Cybersecurity professionell angehen und systematisch die Cyber-Resilienz verbessern?

Artikel teilen!