Von Textanalysen und Übersetzung über Bild- und Spracherkennung bis hin zum autonomen Fahren und Smart Home hat Künstliche Intelligenz längst in unserem Alltag Einzug erhalten. Doch welchen IT-Sicherheitsgefahren ist die KI ausgesetzt? Wie kann KI die IT-Sicherheit unterstützen? Und welche Angriffe können von KI ausgehen? Zu diesen Fragen geben wir Ihnen in diesem Artikel einen Überblick.

Künstliche Intelligenz ist längst im Alltag angekommen

Die Digitalisierung schreitet in allen Bereichen voran. Steigende Rechenleistung, wachsende Vernetzung und höhere Datenmengen („Big Data“) sorgen dafür, dass sich Künstliche Intelligenz bzw. KI-Systeme immer mehr durchsetzen können. Grundlegend für KI ist das maschinelle Lernen: KI kann Daten analysieren, Schemata erkennen und darauf basierend lernen und sich stetig weiterentwickeln.

KI-Systeme finden sich dabei nicht nur in besonders auffälligen Bereichen wie dem autonomen Fahren (was sich aktuell noch in der Entwicklung befindet). KI wird längst in verschiedenen Branchen eingesetzt wie Marketing, Versicherungswesen, Logistik, Bankenwesen oder im Energiesektor. Mit dem Amazon-Sprachassistenten „Alexa“ ist KI im Privathaushalt und damit im Alltag vieler Endkunden angekommen.

KI wird außerdem oft im Internet of Things eingesetzt: Vernetzte Geräte kommunizieren miteinander, sammeln Daten und werten diese aus. In unserem Artikel „Internet of Things, Künstliche Intelligenz und die Cybersicherheit – die Gefahren der Digitalisierung“ können Sie mehr dazu nachlesen, wie KI und IoT zusammenarbeiten.

KI und IT-Sicherheit: Chance oder Bedrohung?

Die Zunahme von Künstlicher Intelligenz in verschiedenen Bereichen birgt sowohl Chancen als auch Gefahren. Die wesentlichen drei Berührungspunkte von IT-Sicherheit und Künstlicher Intelligenz sind aktuell der Gegenstand von Forschung und Weiterentwicklung in der IT-Sicherheit:

1. IT-Sicherheit für KI
2. Angriffe durch KI
3. IT-Sicherheit durch KI

1) KI als Ziel von Cyberangriffen

KI-gesteuerte Systeme sind ein attraktives Ziel für Cyberangriffe, da ein Einbruch in das System Zugang zu hohen Datenmengen und zur Technologie an sich ermöglicht und oft weitreichende Handlungsmöglichkeiten eröffnet. Aus der anderen Perspektive formuliert: Eine Fremdübernahme oder -einflussnahme von KI-Systemen ist ein gefährliches Szenario, das es zu vermeiden gilt. Für Unternehmen geht es dabei sowohl um die Systeme, die intern zum Einsatz kommen, als auch ihre Produkte oder Dienstleistungen beim Endkunden.

KI-gestützte Systeme müssen deshalb sicher geschützt werden. Im Grunde greifen hierbei dieselben Prinzipien wie in der IT- und Informationssicherheit generell: Es braucht technische und organisatorische Maßnahmen zur Überwachung und zum Schutz der Systeme, sowie konkrete Incident-Pläne, die im Falle eines Angriffs eine schnelle Reaktion ermöglichen und den Schaden möglichst gering halten.

Angriffe können von außen durch Hacker oder Schadsoftware erfolgen, oder von innen durch Mitarbeitende, die aus Unwissenheit Sicherheitslücken verursachen. Besonders interessant für Cyberkriminelle – und somit besonders gefährdet – sind Zugänge und Identitäten zur Authentifizierung von Mitarbeitenden.

2) KI als Teil von Cyberangriffen

So wie KI in Unternehmen und Privathaushalten zur Optimierung von Prozessen und Systemen verwendet wird, kann sie auf der anderen Seite natürlich auch von Cyberkriminellen eingesetzt werden. Cyberangriffe, die durch Künstliche Intelligenz unterstützt oder gesteuert werden, sind gezielter, komplexer, schwerer zu durchschauen und schwerer abzuwehren.

Zur „Optimierung“ wird KI in diesem Kontext zum Beispiel eingesetzt, um Schadprogramme zu verbessern, maschinelles Lernen durch falsche Datensätze zu sabotieren oder Sicherheitslücken aufzuspüren. Besonders gefährlich ist KI im Bereich von Phishing-Mails. Diese können durch die KI so individuell und authentisch wirken, dass sie sowohl von Sicherheitssystemen als auch von Empfänger:innen kaum noch als Phishing-Mails zu erkennen sind. KI wird so zum Motor von Social Engineering und macht diese Szenarien noch gefährlicher.

3) KI als Unterstützung gegen Cyberangriffe

Ebenso kann KI jedoch auch zur Verbesserung der Schutzmaßnahmen eingesetzt werden. Mithilfe von KI wird es einfacher, Schadsoftware und Phishing-Mails zu erkennen und abzuwehren. Da sich die Cyberangriffe ständig ändern und verbessern, braucht es auf der Gegenseite IT-Sicherheitssysteme, die sich flexibel auf Bedrohungen einstellen und stetig optimieren. Dafür wird Künstliche Intelligenz eingesetzt und macht die IT- und Informationssicherheit somit proaktiv. Neue Bedrohungen und Sicherheitsvorfälle werden schneller erkannt und abgewehrt, als wenn das System erst durch ein Update oder Sicherheitspatch aktualisiert werden muss.

KI wird so auch zur Entlastung der IT-Sicherheit, in der großer Fachkräftemangel herrscht. Dabei kann KI in verschiedenen Automatisierungsgraden genutzt werden. Zum Beispiel ausschließlich zur Unterstützung bei der Erkennung von Angriffen, bei denen dann ein Mensch die Handlungsentscheidungen trifft. Bis zu einem gewissen Grad können auch Reaktionen und Entscheidungen von der KI getroffen oder vorgeschlagen werden. In den meisten Fällen entscheidet jedoch am Ende nach wie vor ein Mensch.

Hauptfaktor in der IT-Sicherheit bleibt der Mensch

Künstliche Intelligenz kann schneller reagieren als der Mensch und die IT-Sicherheit verbessern. Dennoch kann sie den Menschen nicht ersetzen. Auf der einen Seite braucht es ausgebildete IT-Sicherheitsfachkräfte, um aus den Ergebnissen und Funden des Systems die richtigen Schlüsse zu ziehen. Außerdem sind KI-Systeme bislang nicht universell einsetzbar, sondern auf bestimmte Bereiche spezialisiert, über die dann ein Mensch als Entscheidungsträger:in wacht. KI bleibt nach aktuellem Stand ein Mittel zum Zweck und braucht die Überwachung durch den Menschen.

Auch an anderer Stelle bleibt der „Faktor Mensch“ relevant: Eine der Haupt-Gefahren in der IT- und Informationssicherheit besteht nach wie vor in menschlichen Fehlern. Auch ein KI-System kann gehackt werden, wenn Mitarbeitende Opfer von Cyberattacken werden und unwissentlich oder unabsichtlich Zugänge rausgeben. Einer der wichtigsten Faktoren ist und bleibt deshalb die Sensibilisierung und entsprechende Schulung aller Mitarbeitenden, um die Sicherheitssysteme zu schützen.

geschrieben von
Annika Brockhaus, für die isits AG International School of IT Security