04K02 Künstliche Intelligenz und Cyber-Sicherheit
|
Die Nutzung von künstlicher Intelligenz (KI) in Cyber-Sicherheitssystemen ermöglicht große Fortschritte in deren Effizienz zum Schutz der fortschreitenden Digitalisierung.
Dieser Beitrag gibt einen Einblick in die verschiedenen Arten des maschinellen Lernens und erläutert diese anhand von Beispielen. Dabei werden auch bestimmte Algorithmen und Methoden des maschinellen Lernens veranschaulicht. Mögliche Anwendungsszenarien der KI-Technologie werden an Beispielen aus dem Bereich der Cyber-Sicherheit aufgeführt. Weiterhin wird untersucht, wie durch die Manipulation von KI-Systemen und insbesondere Trainings- und Echtdaten die Ergebnisse einer KI im Sinne eines Angreifers verfälscht werden können. Abschließend werden wichtige Fragen aus dem Bereich KI und Cyber-Sicherheit im Kontext der Ethik betrachtet. von: |
1 Einleitung
KI erhöht die Erkennungsrate von Angriffen
Cyber-Sicherheitssysteme, die künstliche Intelligenz (KI) berücksichtigen, werden in der Zukunft immer mehr helfen, deutlich besser die intelligenten Hacker und deren Angriffe zu entdecken, Schäden zu vermeiden und Risiken im gewünschten Digitalisierungsprozess zu minimieren. Mithilfe von künstlicher Intelligenz kann die Erkennungsrate von Angriffen im Netzwerk und in den überall verbreiteten IT-Endgeräten (Smartphone, Notebook, Server, IoT etc.) deutlich erhöht werden. Anders gesagt können die Erkennungsraten von IT-Systemen, die keine Form der künstlichen Intelligenz verwenden, nicht dauerhaft auf dem gleichen Sicherheits- und Schutzniveau gehalten werden, wenn auch Angreifer heute schon Methoden der KI einsetzen, um IT-Systeme anzugreifen. Somit hat künstliche Intelligenz vermehrt Auswirkungen auf die Cyber-Sicherheitslage, die durch aktuelle Lagebilder darstellbar gemacht werden muss.
Cyber-Sicherheitssysteme, die künstliche Intelligenz (KI) berücksichtigen, werden in der Zukunft immer mehr helfen, deutlich besser die intelligenten Hacker und deren Angriffe zu entdecken, Schäden zu vermeiden und Risiken im gewünschten Digitalisierungsprozess zu minimieren. Mithilfe von künstlicher Intelligenz kann die Erkennungsrate von Angriffen im Netzwerk und in den überall verbreiteten IT-Endgeräten (Smartphone, Notebook, Server, IoT etc.) deutlich erhöht werden. Anders gesagt können die Erkennungsraten von IT-Systemen, die keine Form der künstlichen Intelligenz verwenden, nicht dauerhaft auf dem gleichen Sicherheits- und Schutzniveau gehalten werden, wenn auch Angreifer heute schon Methoden der KI einsetzen, um IT-Systeme anzugreifen. Somit hat künstliche Intelligenz vermehrt Auswirkungen auf die Cyber-Sicherheitslage, die durch aktuelle Lagebilder darstellbar gemacht werden muss.
Mit KI kann menschliches Eingreifen reduziert werden
Eine große Herausforderung für die Verteidiger ist, für welche der vielen erkannten sicherheitsrelevanten Ereignisse zusätzliche, noch menschliche Analysten notwendig sind. Nicht alle Ereignisse können durch Spezialisten verarbeitet werden, da die Zahl der Ereignisse die Verarbeitungsfähigkeit und die Verarbeitungskapazitäten menschlicher Analysten an ihre Grenzen bringt. Diesen Umstand können Angreifer ausnutzen und die Verteidiger gezielt ablenken, um unbemerkt in das IT-System einzudringen. Künstliche Intelligenz kann dabei helfen, die Ereignisse in Echtzeit zu analysieren und situationsgerecht zu entscheiden, ob ein menschliches Eingreifen überhaupt noch notwendig ist. In anderen Einsatzszenarien, bei denen eine Teilautonomie technisch nicht möglich ist und der Mensch zwingend eingebunden werden muss, kann der Einsatz von KI die Aufgaben und Tätigkeiten des Menschen wesentlich unterstützen und die Reaktionszeiten minimieren. Damit werden die vorhandenen Ressourcen gezielter eingesetzt und das Cyber-Sicherheitsniveau wird insgesamt erhöht. Situationsgerecht bedeutet dabei, dass klassische Verfahren auf der Basis von Signaturen nur noch unterstützend eingesetzt werden und neuartige, verhaltensbasierte Verfahren wie fortgeschrittene Anomalie-Erkennung oder Predictive Analysis Einzug halten. Durch den Einsatz von KI können solche Verfahren möglich werden und einen deutlichen Fortschritt für die Cyber-Sicherheit bringen.
Eine große Herausforderung für die Verteidiger ist, für welche der vielen erkannten sicherheitsrelevanten Ereignisse zusätzliche, noch menschliche Analysten notwendig sind. Nicht alle Ereignisse können durch Spezialisten verarbeitet werden, da die Zahl der Ereignisse die Verarbeitungsfähigkeit und die Verarbeitungskapazitäten menschlicher Analysten an ihre Grenzen bringt. Diesen Umstand können Angreifer ausnutzen und die Verteidiger gezielt ablenken, um unbemerkt in das IT-System einzudringen. Künstliche Intelligenz kann dabei helfen, die Ereignisse in Echtzeit zu analysieren und situationsgerecht zu entscheiden, ob ein menschliches Eingreifen überhaupt noch notwendig ist. In anderen Einsatzszenarien, bei denen eine Teilautonomie technisch nicht möglich ist und der Mensch zwingend eingebunden werden muss, kann der Einsatz von KI die Aufgaben und Tätigkeiten des Menschen wesentlich unterstützen und die Reaktionszeiten minimieren. Damit werden die vorhandenen Ressourcen gezielter eingesetzt und das Cyber-Sicherheitsniveau wird insgesamt erhöht. Situationsgerecht bedeutet dabei, dass klassische Verfahren auf der Basis von Signaturen nur noch unterstützend eingesetzt werden und neuartige, verhaltensbasierte Verfahren wie fortgeschrittene Anomalie-Erkennung oder Predictive Analysis Einzug halten. Durch den Einsatz von KI können solche Verfahren möglich werden und einen deutlichen Fortschritt für die Cyber-Sicherheit bringen.
Automatische Auswertung
Weiterhin profitieren Identitäts- und Zugangsmanagementsysteme von der automatischen Auswertung der Bewegungsdaten von Nutzern, um nur berechtigten Nutzern den Zugriff zu IT-Systemen und Anwendungen zu geben. Sammlung, Verarbeitung und Speicherung von personenbezogenen Daten müssen jedoch im Einklang mit den datenschutzrechtlichen Bestimmungen (zum Beispiel DSGVO) stehen. Dabei ist zu beachten, dass die Datenschutzkonformität eine Asymmetrie bei Angriffsszenarien zwischen Verteidiger und Angreifer erzeugen kann.
Weiterhin profitieren Identitäts- und Zugangsmanagementsysteme von der automatischen Auswertung der Bewegungsdaten von Nutzern, um nur berechtigten Nutzern den Zugriff zu IT-Systemen und Anwendungen zu geben. Sammlung, Verarbeitung und Speicherung von personenbezogenen Daten müssen jedoch im Einklang mit den datenschutzrechtlichen Bestimmungen (zum Beispiel DSGVO) stehen. Dabei ist zu beachten, dass die Datenschutzkonformität eine Asymmetrie bei Angriffsszenarien zwischen Verteidiger und Angreifer erzeugen kann.
