KI & ChatGPT in Cybersecurity: Chancen & Risiken 2024

Künstliche Intelligenz (KI) bzw. Artificial Intelligence (AI) und insbesondere Chatbots wie ChatGPT, ist auf dem Weg, in zahlreichen Feldern eine immer größere Rolle zu spielen. Während einige Technologien und Methoden dadurch in den Hintergrund treten, wird vieles durch KI verbessert und effizienter gestaltet – so auch im Bereich der Cybersecurity. Hier bietet Künstliche Intelligenz enorme Unterstützung, um Sicherheitsmaßnahmen zu verstärken und Bedrohungen präziser zu identifizieren. Doch diese Medaille hat zwei Seiten: Nicht nur die Verteidiger profitieren von den Fortschritten der Künstlichen Intelligenz, sondern auch die Angreifer finden in ihr ein mächtiges Werkzeug.

Die Einbindung Künstlicher Intelligenz in Sicherheitslösungen und -strategien eröffnet nicht nur wegweisende Ansätze zur Bekämpfung von Cyberangriffen, sondern geht auch mit bestimmten Risiken einher. In diesem Beitrag werden wir untersuchen, auf welche Weise mittelständische Unternehmen die Vorteile nutzen können, die KI im Bereich der Cybersicherheit zu bieten hat. Durch das Verständnis dieser dynamischen Beziehung zwischen KI und Cybersecurity können Unternehmen ihre Verteidigung stärken und die Gefahren besser einschätzen.

In der Welt der Cybersecurity ist Künstliche Intelligenz wie Schach auf höchstem Niveau: Sie antizipiert Züge von Gegnern, die wir noch nicht einmal sehen. Doch in diesem Spiel sind wir sowohl Spieler als auch Spielfiguren, und das Brett verändert sich ständig. Künstliche Intelligenz ist unser klügster Zug und unsere größte Herausforderung.

Wie kann KI das Unternehmen beschützen?

Zu einem großen Teil wird der Entscheidungsträger im Bereich Cybersecurity nur indirekt mit Künstlicher Intelligenz (in Softwareprodukten) konfrontiert. Die wesentlichsten Bereiche in denen die KI dem Unternehmen mit Chancen begegnet sind:

• Automatisierung von Sicherheitsprozessen: KI kann Routineaufgaben in der Cybersecurity automatisieren, was die Effizienz erhöht und menschliche Fehler minimiert.
• Erkennung von Bedrohungen: KI kann durch die Analyse großer Datenmengen Muster und Anomalien erkennen, die auf potenzielle Sicherheitsbedrohungen hinweisen.
• Reaktion auf Vorfälle: KI-gestützte Systeme können bei der Reaktion auf Sicherheitsvorfälle unterstützen

Dies geschieht zum Teil durch das eigene Personal oder wird schon jetzt in Softwareprodukten eingesetzt.

KI als Sparring Partner

Für die Beantwortung einfacher Fragen, das aufzeigen von Schritten in Cyber-Defence Prozessen und das erklären von Zusammenhängen kann Künstliche Intelligenz jetzt schon effektiv genutzt werden. (z.B. Nutzung von ChatGPT, Copilot und Gemini)

Der Einfluss von KI auf Datenschutz und Compliance

KI kann dabei helfen, sicherzustellen, dass Unternehmen den gesetzlichen Anforderungen entsprechen. KI-gestützte Systeme können kontinuierlich überwachen, ob Daten korrekt gespeichert und verarbeitet werden, und sofortige Warnungen ausgeben, wenn Verstöße festgestellt werden. Unkonventionell ist hier der Einsatz von Differential Privacy, einer Technik, die es ermöglicht, Erkenntnisse aus Daten zu gewinnen, ohne individuelle Informationen preiszugeben.

KI unter der Haube

Viele Softwareprodukte zeichnen sich mit KI aus. Sinnvolle Einsatzgebiete sind vor allem:

• Erkennung und Abwehr von Phishing-Versuchen: KI-Systeme können E-Mail-Verkehr in Echtzeit analysieren, um Phishing-Angriffe zu erkennen, bevor sie Schaden anrichten. Durch das Lernen aus Mustern in Daten können sie auch neue und unbekannte Phishing-Taktiken identifizieren.
• Anomalie Erkennung: Künstliche Intelligenz kann kontinuierlich Netzwerkverkehr überwachen und analysieren, um ungewöhnliche Aktivitäten zu identifizieren, die auf eine Sicherheitsbedrohung hindeuten könnten. Dies ermöglicht eine schnelle Reaktion, oft bevor ein Angreifer ernsthaften Schaden verursachen kann. Dies trifft auf im Netzwerkverkehr (IDS/IPS), Netzwerkverkehr (Firewalls), Log/Eventdaten (SIEM) und Endpoint Security (Antivirus/EDR) zu.
• KI und die Erkennung von Zero-Day-Angriffen: Zero-Day-Angriffe sind eine der größten Herausforderungen für die Cybersecurity. Traditionelle Systeme versagen häufig bei der Erkennung solcher Bedrohungen, da sie auf bekannten Signaturen basieren. Mit der Kombination der Datenflut eines SIEM mit KI erkennt man noch viel mehr als herkömmliche Systeme.

Weitere Einsatzgebiete in technischen Systemen:

• Automatisierte Reaktion auf Sicherheitsvorfälle (Incident Response): Bei der Erkennung einer Bedrohung können KI-gestützte Systeme automatisch Maßnahmen ergreifen, um den Angriff zu blockieren oder zu isolieren, während gleichzeitig das Sicherheitsteam informiert wird.
• Verbesserung der Authentifizierungsprozesse: Durch den Einsatz von KI können biometrische Verfahren wie Gesichtserkennung oder Fingerabdruckscans sicherer und zuverlässiger gemacht werden, was die Authentifizierung von Nutzern verbessert und unbefugten Zugriff verhindert.
• Die Nutzung von KI für Threat Hunting: Threat Hunting ist der proaktive Ansatz zur Identifizierung von Bedrohungen, die die automatisierten Sicherheitssysteme möglicherweise übersehen haben. KI kann diesen Prozess revolutionieren, indem sie große Mengen an Daten in Echtzeit analysiert und verdächtige Aktivitäten identifiziert.

In der Threat Intelligence:

• Vorhersage von Cyberbedrohungen: Künstliche Intelligenz kann dabei helfen, zukünftige Bedrohungen und Schwachstellen zu prognostizieren, indem sie große Mengen an Daten aus verschiedenen Quellen analysiert. Dies ermöglicht Unternehmen, proaktiv Maßnahmen zu ergreifen, bevor eine Bedrohung real wird.

Wie kann KI das Unternehmen bedrohen?

Hier sind einige Beispiele, wie KI diese Unternehmen potenziell bedrohen kann.

Missbrauch durch Cyberkriminelle

1. Entwicklung raffinierterer Phishing-Angriffe: Künstliche Intelligenz kann von Cyberkriminellen eingesetzt werden, um Phishing-E-Mails und -Nachrichten zu personalisieren und sie mittels Chatbots wie ChatGPT glaubwürdiger zu machen. Durch Analyse von Verhaltensmustern und Daten können Angriffe so gestaltet werden, dass sie spezifische Personen mit hoher Erfolgswahrscheinlichkeit ins Visier nehmen.
2. Deepfakes und Desinformation: Künstliche Intelligenz kann zur Erstellung von Deepfakes genutzt werden, also hochrealistischen gefälschten Audio- und Videomaterialien, die dazu verwendet werden können, Mitarbeiter zu täuschen, Betrug zu begehen oder Desinformationskampagnen durchzuführen.
3. Automatisierung von Cyberangriffen: Mit Hilfe von Künstlicher Intelligenz können Angreifer Angriffe auf eine Weise automatisieren und skalieren, die zuvor nicht möglich war. Dies erhöht die Frequenz und die Raffinesse von Angriffen, gegen die Unternehmen sich verteidigen müssen.
4. Einsatz von KI in Malware: KI kann Malware intelligenter und schwerer zu entdecken machen. Beispielsweise können sich KI-gesteuerte Viren an ihre Umgebung anpassen, um Erkennung zu vermeiden, oder sie können ihre Taktik basierend auf der erkannten Abwehrstrategie des Zielnetzwerks ändern.
5. Manipulation von KI-Systemen (Adversarial Machine Learning): Wenn Unternehmen KI-Systeme für Sicherheitszwecke einsetzen, können diese Systeme selbst zum Ziel werden. Angreifer könnten versuchen, die KI-Systeme durch Techniken wie Datenvergiftung (Data Poisoning) zu manipulieren, um falsche Sicherheitswarnungen auszulösen oder echte Bedrohungen zu verbergen.

Fehlentscheidungen durch KI

1. Sicherheitsrisiko durch KI-Halluzinationen: KI in der Softwareentwicklung kann irreführende Daten erzeugen, was zu unerkannten Sicherheitslücken führt. Auf diesem Weg könnte auch Schadcode in ungeprüfte Programme eingeschleust werden. Eine gründliche Überprüfung dieser „halluzinierten“ Informationen ist essentiell, um Sicherheitsrisiken zu minimieren.
2. Bias und Datenqualität: KI-Modelle sind nur so gut wie die Daten, auf denen sie trainiert wurden. Verzerrte oder unvollständige Daten können zu falschen Schlussfolgerungen und Entscheidungen führen.
3. False Positives/Negatives: Ein KI-System könnte legitimen Netzwerkverkehr als bösartig kennzeichnen (False Positives) oder tatsächliche Bedrohungen übersehen (False Negatives).

Datenschutz und ethische Bedenken

1. Rechenschaftspflicht beim Einsatz von ChatGPT und Co: Wir müssen die Verantwortung für die Handlungen und Entscheidungen unserer KI-Systeme übernehmen. Wir müssen sicherstellen, dass diese mit unseren ethischen und rechtlichen Standards übereinstimmen und vielleicht noch wichtiger, mit unserer Unternehmens- und Firmenkultur.
2. Überwachung und Privatsphäre: KI-gestützte Überwachungssysteme könnten in die Privatsphäre der Mitarbeiter eingreifen, wenn nicht klar geregelt ist, welche Daten gesammelt und wie sie verwendet werden.
3. Ethische Nutzung von KI: Unternehmen müssen sicherstellen, dass ihre KI-Systeme verantwortungsvoll und ethisch einwandfrei eingesetzt werden, um Missbrauch und Diskriminierung zu verhindern.
4. Erhöhung der Komplexität in der Sicherheitslandschaft: Mit der Einführung von KI in Sicherheitssysteme steigt auch die Komplexität dieser Systeme. Dies kann zu neuen Schwachstellen führen, die von Angreifern ausgenutzt werden können, besonders wenn Unternehmen die Funktionsweise und die Risiken ihrer KI-Systeme nicht vollständig verstehen.

Diese Beispiele verdeutlichen, dass die Integration von KI in die Cybersecurity Maßnahmen mittelständischer Unternehmen eine sorgfältige Risikobewertung und kontinuierliche Überwachung erfordert, um sicherzustellen, dass die Vorteile die potenziellen neuen Bedrohungen überwiegen.

Echte Vorteile von KI in der Cybersecurity

With great power comes great responsibility

Spider-Man

KI erkennt unbekannte Bedrohungen

Ein Mensch ist nicht in der Lage, alle Bedrohungen zu erkennen, denen ein Unternehmen ausgesetzt ist. Vor allem, wenn es um die sprichwörtliche Nadel im Heuhaufen geht, also sehr viele Daten notwendig sind um die Bedrohung zu erkennen. Hier ist KI natürlich vorne dabei. Durch Anomalieerkennung am Computer, im Netzwerk, am Perimeter oder am Verhalten des Benutzers.

Da Angreifer neue Taktiken von ausgeklügeltem Social Engineering bis hin zu Malware-Angriffen ausprobieren, ist es notwendig, moderne Lösungen zur Verhinderung einzusetzen. KI hat sich als eine der besten Sicherheitstechnologien erwiesen, um unbekannte Bedrohungen zu kartieren und zu stoppen, bevor sie ein Unternehmen verwüsten.

Sie hilft Sicherheitsteams richtig zu priorisieren

KI-Systeme können automatisch weniger kritische Alarme herabstufen, während sie gleichzeitig hochpriorisierte Alarme bündeln, in einen Kontext setzen und eskalieren.

z.B. hat IBM im Oktober 2023 85% der Alarme automatisiert eskalieren oder schließen können. (ermittelt aus aggregierten Performance Daten, die aus Projekten mit über 340 Kunden)

Künstliche Intelligenz kann mit riesigen Datenmengen umgehen und lernt von Tag zu Tag

In einem Firmennetzwerk herrscht reger Betrieb. Besonders mittelständische Unternehmen zeichnen sich durch einen beträchtlichen Datenverkehr aus. Tagtäglich findet ein umfangreicher Datenaustausch zwischen Kunden und dem Unternehmen statt. Diese Daten sind ein wertvolles Gut, das es vor unbefugten Zugriffen zu schützen gilt. Allerdings stoßen selbst die engagiertesten Cybersicherheitsteams an ihre Grenzen, wenn es darum geht, den gesamten Datenverkehr auf potenzielle Bedrohungen zu überwachen. Hier bietet die KI eine wertvolle Unterstützung für bestehende Sicherheitssysteme, indem sie in der Lage ist, auch jene Bedrohungen aufzuspüren, die sich hinter vermeintlich normalen Aktivitäten verstecken. Durch ihre Fähigkeit, automatisiert gigantische Datenmengen zu analysieren, kann sie ungewöhnliche Verhaltensmuster erkennen und darauf aufmerksam machen.

Der Einsatz von Methoden des „machine learning“ und des „deep learning“ ermöglicht es der KI, das Verhalten eines Unternehmensnetzwerks im Zeitverlauf zu studieren und zu „verstehen“. Sie erfasst und kategorisiert wiederkehrende Muster im Netzwerkverkehr und ist somit in der Lage, jede Abweichung oder potenzielle Sicherheitsvorfälle frühzeitig zu identifizieren. Die im Laufe der Zeit erlernten Muster durch künstliche neuronale Netzwerke bieten eine solide Basis, um die Sicherheitsmaßnahmen kontinuierlich zu verbessern. Die Fähigkeit der KI, aus Daten zu lernen und ihr Wissen stetig zu erweitern, erschwert es Angreifern, Sicherheitsmechanismen zu umgehen.

Dieses kontinuierliche Lernen und Anpassen der KI-Systeme an neue Bedrohungsszenarien macht sie schon jetzt zu einem unverzichtbaren Werkzeug in der Cybersecurity.

KI Beschleunigt die Erkennung und Reaktionszeiten

Die Integration von KI in die Cybersicherheitsstrategie verbessert die frühzeitige Erkennung und Reaktion auf Bedrohungen im Unternehmensnetzwerk erheblich. KI-Technologien durchleuchten das System umfassend und identifizieren Bedrohungen präzise und schnell, und unterstützen herkömmliche Methoden ins einigen wesentlichen Bereichen. Dies vereinfacht Sicherheitsaufgaben und verkürzt die Reaktionszeiten (siehe auch MTTD) signifikant. Ein proaktiver Sicherheitsansatz, der durch KI unterstützt wird, ermöglicht es, Bedrohungen zu neutralisieren, bevor sie Schaden anrichten, und markiert einen Wandel von reaktiven zu präventiven Sicherheitsmaßnahmen.

Zukunft von KI und Cybersecurity

Danke auch an Thomas Scott, der mich durch seinen Vortrag „Examining the Impact of AI on Your Cybersecurity Program“ zu diesem Kapitel inspiriert hat.

Regulierungen und gesetzliche Vorgaben

Es ist zu erwarten, dass Regulierungen und gesetzliche Vorgaben für den Einsatz von KI in der Cybersecurity zunehmen werden. Unternehmen müssen sich auf strengere Anforderungen vorbereiten und sicherstellen, dass ihre KI-Systeme den gesetzlichen Bestimmungen entsprechen.

Potentiell disruptive Themen

KI bei Cyberkriminellen noch lange nicht ausgereizt

Das „Gleichgewicht“ zwischen Angreifer, die KI nutzen und Verteidiger die KI nutzen kann kippen, da Cyberkriminelle verstärkt auf KI setzen und die Technologie für immer mehr Angriffsvektoren nutzen. Als Unternehmen kann man nur stetig den Markt beobachten und möglichst rasch reagieren.

Computing Power und stetig steigendes Datenvolumen

Eines der größten Probleme für mittelständische Unternehmen (mit limitierten Ressourcen) könnte der stetig steigende Bedarf an Cloud Ressourcen und verteilten Systemen sein. Größere Unternehmen müssen praktisch dieselben Maßnahmen ergreifen wie KMUs mit limitierten Ressourcen.

Life Long Learning

Noch sind viele Unternehmen, die das Thema Awareness stiefmütterlich behandeln. Im Kontext mit Cybersecurity sollte Awareness und Weiterbildung endgültig keine leere Floskel mehr sein. Awareness hinsichtlich Cybersecurity KI Themen wie Deepfake sind ebenso wichtig wie Wissensaneignung in den IT- und Securityabteilungen um das Potential von KI im Bereich Cybersecurity auch voll auszuschöpfen.

Herausforderungen der Skalierbarkeit und Implementierung von KI-Systemen

Während die Vorteile von KI in der Cybersecurity klar sind, stehen Unternehmen oft vor Herausforderungen bei der Skalierbarkeit und Implementierung solcher Systeme. Es erfordert eine sorgfältige Planung und Expertise, um sicherzustellen, dass KI-Lösungen effektiv in bestehende Infrastrukturen integriert werden. Ein unkonventioneller Ansatz ist der Einsatz von Federated Learning, bei dem Modelle über verschiedene Standorte hinweg trainiert werden, ohne dass Daten zentralisiert werden müssen. Dies kann nicht nur die Sicherheit verbessern, sondern auch die Einhaltung von Datenschutzbestimmungen erleichtern.

Zukunftsaussichten und die Rolle von Quantum Computing

Abschließend ist es wichtig, einen Blick in die Zukunft zu werfen. Quantum Computing steht kurz davor, die Cybersecurity-Landschaft grundlegend zu verändern. KI-Systeme, die auf Quantenalgorithmen basieren, könnten in der Lage sein, komplexe Sicherheitsprobleme zu lösen, die heute als unüberwindbar gelten. Die Kombination von KI und Quantum Computing könnte eine neue Ära der Cybersecurity einläuten, in der Bedrohungen noch schneller und effektiver erkannt und abgewehrt werden können.

Regulatorische und ethische Aspekte

Datenschutzgrundverordnung (DSGVO)

In der EU ist die DSGVO ein zentraler regulatorischer Rahmen, der den Datenschutz und die Privatsphäre von Individuen schützt. Unternehmen müssen sicherstellen, dass ihre KI-gestützten Cybersecurity-Maßnahmen mit der DSGVO konform sind. Dies beinhaltet:

• Datenminimierung: Nur die für die Sicherheitsüberwachung notwendigen Daten sollten erhoben werden.
• Transparenz: Mitarbeiter und Kunden sollten darüber informiert werden, welche Daten gesammelt werden und wie diese verwendet werden.
• Einwilligung: In bestimmten Fällen muss die Zustimmung der betroffenen Personen eingeholt werden.

Ethische Grundsätze

Unternehmen sollten ethische Grundsätze für den Einsatz von KI in der Cybersecurity festlegen und einhalten, um Missbrauch zu vermeiden. Dazu gehören:

• Fairness: Sicherstellen, dass KI-Systeme fair und unvoreingenommen arbeiten.
• Verantwortlichkeit: Klare Verantwortlichkeiten für den Einsatz und die Überwachung von KI-Systemen definieren.
• Transparenz: Die Entscheidungen und Funktionsweisen von KI-Systemen sollten nachvollziehbar und transparent sein.

Relevante Glossareinträge

SIEM

Weiterführende Links

Der BSI setzt sich mit dem Einfluss von KI auf die Cyberbedrohungslandschaft auseinander.