KI in der Cybersecurity: Wie trägt die künstliche Intelligenz zum Schutz von Unternehmen bei?

Das Nutzen von künstlicher Intelligenz (KI) verbreitet sich in Unternehmen: Wie sieht es mit dem Einsatz von KI in Cybersecurity zum Schutz vor Bedrohungen aus? Finde das im zweiten Teil des Capterra Sicherheitsreports raus.

Die Beantwortung häufig gestellter Kundenfragen mithilfe eines Chatbots, die automatische Erstellung und Verbreitung von Marketingvideos oder die Analyse einer großen Anzahl von Bewerbungen für eine Stellenausschreibung: Diese Beispiele zeigen, wie Unternehmen künstliche Intelligenz (KI) bereits einsetzen.

Das Potenzial der künstlichen Intelligenz ist nicht nur den Unternehmen, sondern auch Cyberkriminellen bewusst. Mithilfe der Technologie führen Hacker Angriffe durch, die für Mitarbeiter und traditionelle Erkennungsinstrumente immer schwieriger zu erkennen sind. KI-gestützte Angriffe werden von deutschen Unternehmen als größte Cyberbedrohung für das Jahr 2024 angesehen.

Obwohl Cyberbedrohungen durch die künstliche Intelligenz verstärkt werden können, spielt die Technologie auch eine wichtige Rolle beim Schutz von Informationen und Systemen. Durch die Möglichkeit, bösartige Angriffe schneller zu erkennen, zu analysieren und darauf zu reagieren, wird sie zu einem wichtigen Instrument im Kampf gegen aktuelle und zukünftige Angriffe.

Inwieweit werden KI-gestützte Lösungen in Unternehmen eingesetzt? Welche Vorteile, aber auch welche Herausforderungen ergeben sich aus der Kombination von künstlicher Intelligenz und Cybersicherheit? Dies und mehr erfahrt ihr im zweiten Teil unseres Sicherheitsreports. 

Für den Sicherheitsreport haben wir 902 Teilnehmer befragt, die an den Cybersicherheitsmaßnahmen ihres Unternehmens beteiligt sind (entweder verantwortlich, involviert oder darüber informiert) und deren Unternehmen Sicherheitstools einsetzt. Im ersten Teil betrachten wir, wie sich Cyberbedrohungen entwickelt haben und wie Unternehmen darauf reagieren. In diesem zweiten Teil konzentrieren wir uns auf die Antworten von Unternehmen, die einen Teil ihres IT-Budgets für die KI-gestützte Cybersicherheit verwenden. Die vollständige Methodik befindet sich am Ende des Artikels.

Phishing-Angriffe werden als Hauptgrund für Investitionen in KI-Sicherheit genannt

Die neue Generation der Cyberkriminalität, die zunehmend auf KI zurückgreift, um Schwachstellen in Computersystemen ausfindig zu machen, die Zugriffskontrollen der Nutzer zu umgehen und Angriffe wie Phishing-E-Mails präziser und überzeugender zu gestalten, stellt ein großes Risiko für die Geschäftstätigkeit von Unternehmen dar.

Phishing und Social-Engineering-Angriffe (41 %), interne Bedrohungen durch böswillige oder unbeabsichtigte Handlungen von Mitarbeitern (32 %) sowie Ransomware-Angriffe (29 %) sind die Hauptgründe dafür, dass sich die Unternehmen für eine spezielle Art der Verteidigung entschieden haben: KI-gestützte Cybersicherheit.

Ein Social-Engineering-Angriff manipuliert das Ziel, um Zugang zu vertraulichen Informationen zu erhalten. Dabei nutzt der Angreifer psychologische Manipulationen, etwa die Ausnutzung von Informationen, um jemanden dazu zu bewegen, Informationen wie Bankdaten oder Passwörter preiszugeben. Ein häufiger Social-Engineering-Angriff ist das Phishing, bei dem Cyberkriminelle E-Mails oder Anzeigen auf Websites nutzen, um jemanden zu manipulieren und Informationen zu erhalten.

In der Regel stammen Phishing-E-Mails von menschlichen Verfassern und setzen häufig auf gefälschte Identitäten sowie manipulative Inhalte. Beispielsweise könnte eine E-Mail vorgeben, von einer Bank zu stammen und zur Bereitstellung persönlicher Daten auffordern oder von einem Online-Shop stammen, der vor angeblich offenen Zahlungen warnt. Solche betrügerischen E-Mails werden oft durch widersprüchliche Informationen (z. B. einen Domänennamen, der dem echten Namen ähnelt, aber nicht genau gleich geschrieben ist), Rechtschreibfehler oder auffällige Zeichensetzung erkannt. Mit der Hilfe von KI können jedoch Phishing E-Mails viel authentischer und glaubwürdiger geschrieben werden, wodurch die Gefahr deutlich erhöht wird, dass Angestellte oder Privatpersonen auf Links klicken.

OpenAI versucht, den Missbrauch der Fähigkeiten von ChatGPT zu verhindern. Wird ChatGPT von einem Cyberbetrüger gefragt, eine Phishing-E-Mail zu erstellen, wird er das nicht mehr tun. Jedoch kann der Prompt anders formuliert werden und der Chatbot wirft einem eine E-Mail-Vorlage aus, die sich perfekt für Phishing eignet.

Mehr als die Hälfte der befragten Unternehmen investiert in Cloud- und E-Mail-Sicherheit 

Um Risiken, die durch Phishing oder unbeabsichtigtes Handeln von Mitarbeitern entstehen, entgegenzuwirken, investiert über die Hälfte der Unternehmen in E-Mail-Sicherheit.

Der Bereich, in den am meisten investiert wird, ist die Cloud-Sicherheit. Künstliche Intelligenz hat in der Cloud-Sicherheit stark an Bedeutung gewonnen, da öffentliche Cloud-Anbieter neue Fähigkeiten einführen, um Organisationen bei ihrer Sicherheitsstruktur zu unterstützen. Unternehmen wechseln vermehrt in die Cloud, um die Vorteile des Cloud-Computings zu nutzen. Dennoch stehen Sicherheitsteams vor Herausforderungen wie Fehlkonfigurationen und Fachkräftemangel. Die Sicherheitsverantwortung in der Cloud liegt sowohl beim Anbieter als auch beim Kunden. Letzterer ist für Aspekte wie Identitätsmanagement, Netzwerksicherheit und Datenschutz verantwortlich.

Inwiefern sind KI-gestützte Sicherheitssysteme eine Verbesserung gegenüber herkömmlichen Cybersicherheits-Tools? Das wollen wir im nächsten Abschnitt herausfinden, indem wir uns die Antworten von Arbeitnehmern ansehen, deren Unternehmen in solche Lösungen investiert haben.

Was sind die 3 wichtigsten Vorteile der KI-gestützten Cybersicherheit gegenüber der herkömmlichen Cybersicherheit?

Da die KI aus den Daten herauslesen kann, wie sich die Systeme einer Organisation und die Benutzer normalerweise verhalten, kann sie ungewöhnliche Aktionen erkennen. Ob es sich um eine nicht erkannte Verbindung zu einem Gerät oder einen ungewöhnlichen Traffic-Zustrom auf einer Webseite handelt, KI-gesteuerte Systeme sind in der Lage, diese Auswirkungen zu erkennen und schnell Warnungen auszusprechen. Die Verhaltensanalyse wird von 49 % der Teilnehmer als wichtigster Vorteil der KI gegenüber traditionellen Methoden gewählt.

Insbesondere mithilfe von Algorithmen des maschinellen Lernens können KI-Tools große Datenmengen in Echtzeit analysieren und so schneller Muster erkennen, die eine Bedrohung für die Systeme darstellen. Dies ermöglicht es Unternehmen, potenzielle Sicherheitsprobleme zu erkennen, sobald sie auftreten, was ein großer Vorteil im Kampf gegen Cyberkriminelle ist. Dieser Vorteil wird von 48 % der Unternehmen, die eine KI-Lösung einsetzen, als besonders wichtig angesehen. 

Für 40 % der Befragten ist die Automatisierung der drittwichtigste Vorteil eines KI-Sicherheitssystems. Im Rahmen eines traditionellen Ansatzes zur Cybersicherheit müssen IT-Manager die von den Tools gesammelten Daten oft manuell analysieren. Dazu gehören die Verarbeitung und Sortierung von Warnmeldungen, die Analyse von Sicherheitsprotokollen und die Aufforderung, die Datenbank zu aktualisieren, wenn eine neue Bedrohung auftaucht. Durch die Automatisierung der meisten dieser Bereiche kann die KI die betroffenen Teams von zeitraubenden Aufgaben entlasten.

Wie die Antworten der Teilnehmer zeigen, hat KI echtes Potenzial, die Unternehmenssicherheit zu verbessern. Doch trotz ihrer potenziellen Vorteile bringt diese Technologie auch einige Einschränkungen und Herausforderungen mit sich.

Die größten Herausforderungen bei dem Nutzen von künstlicher Intelligenz für die Cybersicherheit

Eine der wichtigsten Einschränkungen der KI im Bereich der Cybersicherheit ist die mangelnde Genauigkeit ihrer Analysen in Verbindung mit der großen Menge an generierten Informationen (43 %). KI-Algorithmen können zwar große Datenmengen verarbeiten und Muster erkennen, aber ihre Analysefähigkeit hängt von Informationen ab, mit denen sie zuvor trainiert wurden. Wie jüngste Beispiele für die Verwendung von ChatGPT zur Textgenerierung zeigen, kann KI bei unbekannten Daten plausible, wenn auch falsche Antworten geben. 

Wenn man sich auf von der KI erzeugte Rohdaten ohne menschliche Überprüfung verlässt, kann dies zu ungenauen oder gar falschen Schlussfolgerungen führen. Hinzu kommt die große Menge an Daten, die verarbeitet werden, was die Analyse der Ergebnisse erschweren kann.

Als weiterer Nachteil wird genannt, dass das System nicht selbstständig ist und deshalb von Menschen beaufsichtigt werden muss (40 %). KI-basierte Systeme benötigen qualifizierte Fachleute, die effektiv mit ihnen arbeiten können. Die Komplexität der Modelle der künstlichen Intelligenz und die Notwendigkeit, schwer verständliche Daten zu interpretieren, erfordern Talente mit umfassenden Kenntnissen. In einem Umfeld, in dem es schwierig ist, IT-Talente zu halten und anzuziehen, kann dieser Aspekt für einige Unternehmen eine Herausforderung darstellen.

Als dritt- und viertgrößte Herausforderung werden "falsch negative" (32 %) und "falsch positive" (28 %) Ergebnisse genannt. Im Gegensatz zum Menschen hat die KI kein Kontextbewusstsein, sodass es für sie schwierig ist, bestimmte Ereignisse zu interpretieren, wenn das Modell nicht vorab informiert wurde. Die KI kann dann eine harmlose Aktivität im Unternehmen als verdächtig melden (falsch positiv) oder umgekehrt eine echte Bedrohung ignorieren (falsch negativ), was zusätzliche Aufmerksamkeit von IT-Managern erfordert, um diese Informationen zu sortieren.

Weitere Grenzen und Herausforderungen bei der Nutzung von KI für die Cybersicherheit: 

• Interoperabilität: Die Integration von KI-Tools in die bestehende Cybersicherheitsinfrastruktur kann komplex sein (26 %)
• Übermäßiges Vertrauen in die KI: zu große Abhängigkeit, die dazu führt, dass Menschen weniger wachsam sind (23 %)
• Adversarial Attacks: Angreifer manipulieren KI-Systeme, um nicht entdeckt zu werden (22 %)
• Ethische Bedenken: Bias bzw. Voreingenommenheiten bei der Entscheidungsfindung (20 %)
• Menschliche Unterstützung: Menschliches Fachwissen bleibt bei der Bedrohungsanalyse und Entscheidungsfindung entscheidend (15 %)
• Kontinuierliche Anpassung: Angriffstechniken entwickeln sich schnell weiter, KI-Systeme müssen fortlaufend trainiert werden (15 %)
• Regulatorische Herausforderungen: z. B. komplexe Datenschutzbestimmungen, die KI-Tools nicht explizit erwähnen (12 %)
• Kosten: KI-Lösungen erfordern sowohl Investitionen in die Technologie als auch Experten für die Bedienung der Systeme (11 %)

Obwohl künstliche Intelligenz Unternehmen dabei helfen kann, bessere strategische Entscheidungen im Bereich der Cybersicherheit zu treffen, wird immer deutlicher, dass sie einen wichtigen Faktor nicht außer Acht lassen dürfen, wenn sie ihr Potenzial voll ausschöpfen wollen: den menschlichen Faktor.

Finde die Balance zwischen dem menschlichen Faktor und dem Einsatz von KI in der Cybersicherheit

Obwohl KI so weit entwickelt ist, dass ihr einige wichtige Aufgaben im Rahmen des Schutzes von Unternehmensdaten übertragen werden, ist die Technologie nicht in der Lage, die Fähigkeiten des menschlichen Geistes zur Beobachtung, Kontextualisierung und Entscheidungsfindung zu reproduzieren.

In welchen spezifischen Bereichen kann der Einsatz von Experten einem Unternehmen helfen, die Vorteile von KI für die Sicherheit seiner Operationen zu nutzen?

Für 51 % der Unternehmen spielen Cybersicherheitsexperten eine wichtige Rolle bei der Sensibilisierung und bei der Schulung von unerfahrenen Mitarbeitern - ein wichtiger Faktor in einer Zeit, in der sich die Cyberbedrohungen ständig weiterentwickeln. KI-basierte Schulungen können durch die Bereitstellung personalisierter Lerninhalte die Lernerfahrungen maximieren. Jedoch hilft die menschliche Unterstützung durch eine humane Erläuterung von Sicherheitspraktiken deutlich für das Verständnis. 

KI bietet zwar viele Vorteile bei der Datenanalyse und der Automatisierung von Aufgaben, aber sie ist auch nicht frei von Fehlern und verzerrten Urteilen. Laut unseren Studienteilnehmern kann durch eine menschliche Aufsicht, d.h. durch die Überwachung von KI-Systemen, sichergestellt werden, dass sie korrekt funktionieren (38 %) und die Praktiken der Cybersicherheit ethischen (30 %) und regulatorischen Anforderungen entsprechen.

Experten sind auch in der Lage, ein Verständnis für die Geschäftsabläufe eines Unternehmens, dessen rechtlichen Rahmenbedingungen und die einzigartigen Ausnahmen und Risiken zu entwickeln, mit denen es konfrontiert sein kann. 38 % der Unternehmen sehen dieses menschliche Kontextverständnis als entscheidend an, da es KI dabei helfen kann, Entscheidungsfindung und Erkennung zu verbessern.

Die Zusammenarbeit zwischen qualifizierten Mitarbeitern im Bereich Cybersicherheit und KI kann dazu beitragen, einen ausgewogenen strategischen Ansatz zu gewährleisten. Gepaart mit Logik, Kontextverständnis und der manchmal notwendigen menschlichen Intuition kann das Potenzial von KI einer Organisation helfen, ihre Verteidigung gegen ein immer breiteres Spektrum an Bedrohungen zu stärken.

Systemkontrolle und -kenntnis sowie die menschliche Aufsicht sind entscheidende Faktoren für die Einführung von KI in Cybersecurity 

Trotz der vielen Vorteile der Technologie, kann Unkenntnis über KI-Tools und dessen Beschränkungen dazu führen, dass die Einführung von KI-Modellen scheitert oder sogar ein erhöhtes Risiko für die Sicherheit von Organisationen darstellt. Um KI-Lösungen im Rahmen ihrer Cybersicherheitsstrategie optimal nutzen zu können, ist es für ein Unternehmen wichtig, die bestehenden Beschränkungen und damit verbundenen Risiken der Systeme zu analysieren und sicherzustellen, dass sie sich in bestehende Sicherheitsprotokolle integrieren lassen. 

Weiterhin ist die menschliche Aufsicht der Schlüssel zur KI-gesteuerten Cybersicherheit. Die KI-gestützte Cybersicherheit bringt Vorteile der Automatisierung, Geschwindigkeit und Skalierbarkeit. Mitarbeiter dagegen sorgen für kritisches Denken und ethische Überlegungen. Menschliche Experten sind bei der Implementierung von KI-Tools von entscheidender Bedeutung, daher sollten Unternehmen darauf achten, das richtige Gleichgewicht zu finden. 

Es ist wichtig, Cybersicherheit als einen fortlaufenden und sich weiterentwickelnden Prozess zu betrachten, der eine regelmäßige Bewertung und Anpassung an die sich verändernde Bedrohungslandschaft erfordert.