24. Mai 2023

ChatGPT und die IT-Sicherheit – Fluch oder Segen?

Die Software ChatGPT von OpenAI hat große Wellen geschlagen und zeigt eindrücklich die fortgeschrittenen Möglichkeiten mit Künstlicher Intelligenz. Schreiben, Recherche und sogar Programmierung werden mit der Software plötzlich für die Öffentlichkeit noch schneller und einfacher verfügbar. Das sorgt einerseits für Euphorie und weckt zugleich Bedenken. Was ChatGPT für die IT-Sicherheit bedeutet und welche Gefahren und Chancen daraus entstehen.

Siegeszug von ChatGPT: Eine vorhersehbare Entwicklung?

ChatGPT ist eine der schnellstwachsenden Verbraucher-Anwendungen überhaupt. Innerhalb der ersten fünf Tage nach dem offiziellen Start am 30. November 2022 meldeten sich eine Million Nutzer bei ChatGPT an. Im Januar 2023 erreichte die Software bereits über 100 Millionen aktive Nutzer. Dieses außergewöhnliche Wachstum und die mediale Aufmerksamkeit rund um ChatGPT erwecken den Eindruck, dass die Software einen Meilenstein in der technologischen Entwicklung und den Möglichkeiten von KI darstellt.

Und auch wenn ChatGPT eine große und entscheidende Veränderung ist – vor allem durch die kostenfreie und unbegrenzte Zugänglichkeit für die Öffentlichkeit – so ist es dennoch Teil einer absehbaren Entwicklung. Die Arbeit mit Künstlicher Intelligenz ist nicht neu und der Fortschritt auf diesem Gebiet seit Jahren spürbar. Dennoch ist die kostenfreie und unbegrenzte Verfügbarkeit, die ChatGPT bietet, eine Neuerung, die die Verbreitung der Technologie antreibt.

KI und Cybersicherheit immer ein zweischneidiges Schwert

Wie bei jeglichen Technologien gilt: Die Möglichkeiten von KI bzw. konkret ChatGPT lassen sich auf zweierlei Art nutzen. Cyberkriminelle wie Sicherheitsteams können die Tools gleichermaßen für ihre Zwecke einsetzen. Im Allgemeinen kann man das Zusammenspiel und die Berührungspunkte von KI und Cybersicherheit in drei Aspekte unterteilen:

  1. KI als Ziel von Cyberangriffen: KI-Systeme werden zum Ziel von Cyberangriffen, da sie Zugang zu hohen Datenmengen und weitreichenden Funktionen eröffnen. Eine Übernahme oder Fremdsteuerung ist ein gefährliches Szenario, das es zu vermeiden gilt.
  2. KI als Teil von Cyberangriffen: Cyberkriminelle nutzen KI, um Angriffe gezielter und komplexer zu gestalten. KI-gestützte Cyberangriffe sind häufig schwerer als solche zu durchschauen und demnach schwerer abzuwehren.
  3. KI als Unterstützung gegen Cyberangriffe: Ebenso kann KI zur Verbesserung und Automatisierung der Abwehrsysteme eingesetzt werden. Je schneller und komplexer die Angriffe werden, desto flexibler und proaktiver muss die Abwehr werden. Insbesondere die Erkennung von Angriffen kann mithilfe von KI verbessert und unterstützt werden.

Mehr zu dieser Thematik können Sie gerne bei uns im Blog nachlesen: „Künstliche Intelligenz und IT-Sicherheit: Chance oder Bedrohung?

ChatGPT im Einsatz für Phishing, Malware und Hacking

Für Cyberkriminelle ist ChatGPT eine leicht zugängliche, kostenfreie und unbegrenzte Möglichkeit, sich ihre Arbeit durch KI zu erleichtern. Insbesondere das Schreiben von Texten wie zum Beispiel für Phishing-Mails kann an die KI ausgelagert werden. Zwar unterscheiden sich die Texte in der Qualität nicht wesentlich von bisherigen Phishing Texten – zumal diese häufig mit Absicht unperfekt sind, um realistisch zu wirken – allerdings kann die Frequenz bei richtigem Einsatz der KI immens erhöht werden, sodass Cyberkriminelle schneller und effizienter arbeiten.

ChatGPT kann außerdem Code schreiben. Zwar werden eindeutig bösartige Anfragen wie nach einem Ransomware-Code nicht ausgeführt, es gibt jedoch Schlupflöcher, um über Umwege mithilfe von ChatGPT schädliche Codes zu produzieren. Man kann zwar davon ausgehen, dass diese Schlupflöcher nach und nach geschlossen werden, aber ebenso werden wahrscheinlich weiterhin Umgehungsmöglichkeiten gefunden. Zwar ist der Aufwand für einen neu erstellten Schadcode aktuell noch recht hoch (was sich mit der Zeit ändern kann), aber zumindest Code-Versionen zu erstellen, ist mit ChatGPT mühelos möglich.

Für Codes gilt dasselbe wie für die Texte: Die Ergebnisse an sich erfüllen am Ende denselben Zweck wie vom Menschen geschriebene Texte und Codes und haben keine signifikant höhere Qualität, aber der Einsatz der KI spart Arbeit und Zeit und kann deshalb die Quantität der Angriffe erhöhen.

Konkrete Anwendungsfälle von ChatGPT in der IT-Sicherheit

Für Sicherheitsteams bietet ChatGPT verschiedene Anwendungsfälle, aber insbesondere der Aspekt der Zeit- und Arbeitsersparnis spielt auch hier eine große Rolle. Viele Sicherheitsteams sind unterbesetzt und der Fachkräftemangel in der IT-Sicherheitsbranche ist seit Jahren eine Herausforderung. Durch Tools wie ChatGPT können Sicherheitsverantwortliche Teilaufgaben sozusagen an die KI auslagern, was zu einer Entlastung der Teams führt.

Aktuell bieten sich zum Beispiel folgende drei Anwendungsfälle für die Praxis an:

  1. Schreiben von Berichten: Security-Berichte zu schreiben, ist eine zeitaufwändige Angelegenheit. Wenn Sicherheitsverantwortliche die KI mit den wichtigen Eckdaten und Details versorgen, können sie entsprechende Berichte für unterschiedliche Zielgruppen wie das Sicherheitsteam, Führungskräfte oder unterschiedliche Geschäftsbereiche erstellen lassen.
  2. Recherche von aktuellen Bedrohungen: ChatGPT wird außerdem als Recherchetool wie eine Art Suchmaschine genutzt. Insbesondere im IT-Bereich gibt es viele, schnelle Entwicklungen, mit denen Sicherheitsverantwortliche Schritt halten müssen. Ein KI-gestütztes Tool wie ChatGPT kann hierbei viel schneller als der Mensch große Daten- und Informationsmengen analysieren, auswerten und zusammenfassen.
  3. Angriffssimulation: Penetrationstester können dieselben Funktionen bzw. Schlupflöcher wie Cyberkriminelle nutzen, um realistische Angriffsszenarien zu simulieren. Je realistischer das gegnerische Verhalten für verschiedene Angriffsvektoren simuliert werden kann, desto besser können Kontrollen und Abwehr optimiert werden.

Fazit

Die beschriebenen Aspekte sind ein kurzer Überblick über einige konkrete Einsatzmöglichkeiten, die ChatGPT aktuell bietet. Das Potenzial und die Risiken von KI im Allgemeinen und ChatGPT im Besonderen sind noch weitläufiger und beispielsweise Themen wie Fehlinformationen, ethische Bedenken und Datenschutz- und Sicherheitsbedenken zu ChatGPT selbst sind weitere Aspekte, die in diesem Kontext eine Rolle spielen.

Zusammenfassend lässt sich aber festhalten, dass ChatGPT wie alle Technologien Potenzial für beide Seiten mitbringt und sowohl für Angriffe als auch zur Verteidigung eingesetzt werden kann. ChatGPT beschleunigt und verbessert einige Elemente und Aufgaben, bietet aber zum aktuellen Zeitpunkt noch nichts „Neues“ in Bezug auf Angriffsszenarien oder Verteidigungsmechanismen. Dennoch sollte die Leistungsfähigkeit von ChatGPT in der Sicherheitsstrategie berücksichtigt werden.

geschrieben von
Annika Brockhaus, für die isits AG International School of IT Security

Immer auf dem Laufenden:
News direkt in Ihr Postfach.

Unser Angebot in einer Broschüre

Laden Sie sich jetzt kostenlos unsere umfassende Weiterbildungsbroschüre herunter:

Zur Bestätigung Ihrer E-Mail-Adresse senden wir Ihnen zunächst einen Bestätigungslink. Anschließend erhalten Sie umgehend die Broschüre. Mit der Bestätigung melden Sie sich zu unserem E-Mail-Verteiler an & erhalten unsere Weiterbildungs-News direkt in Ihr Postfach. Dieser Nutzung kann jederzeit widersprochen werden.