Die digitale Welt befindet sich in einem ständigen Wandel, und Künstliche Intelligenz (KI) spielt dabei eine immer größere Rolle. KI ist Werkzeug zum Guten und mächtige Waffe für Kriminelle zugleich. Das verändert die Sicherheitsanforderungen von Unternehmen und Organisationen ebenso wie die Arbeitswelt insgesamt. Einerseits steigen die Risiken stetig – andererseits entstehen so neue Berufsfelder.
Wie Kriminelle KI nutzen
KI hat eine mehrschichtige Rolle in der Cyberkriminalität. Sie wird sowohl für Angriffe genutzt, kann aber auch selbst Angriffsziel sein. Durch KI können Angriffe verfeinert, beschleunigt und vervielfacht werden. Diese Dynamik verschärft die Bedrohungslage für Unternehmen und Organisationen drastisch. Das Allianz Risk Barometer 2025 stuft Cyberkriminalität zum dritten Mal in Folge als größtes Unternehmensrisiko weltweit ein.
Die angeführten Beispiele sind ein Auszug – natürlich gibt es noch viele weitere Möglichkeiten.
KI als Waffe für Cyberangriffe
- Phishing und Social Engineering erreichen ein neues Level: KI kann täuschend echte Nachrichten verfassen und Kriminellen dabei helfen, Passwörter zu stehlen oder ihre Opfer zu manipulieren, damit sie beispielsweise die gewünschten Überweisungen durchführen oder auf dubiose Links klicken.
- Gefälschte Video- und Audioinhalte: Gesichter können in Videos ausgetauscht, Stimmen imitiert und ganze Szenen gefälscht werden. Dies ermöglicht die Erstellung von Inhalten, die kaum von echten Aufnahmen zu unterscheiden sind.
- Schadsoftware erstellen: KI ist in der Lage Schadcode-Fragmente zu erzeugen. Mittlerweile gibt es KI-Lösungen wie z. B. WormGPT oder FraudGPT, die auf die Bedürfnisse Krimineller ausgerichtet sind.
- Das Entschlüsseln von Passwörtern wird durch KI maßgeblich erleichtert.
- Desinformationskampagnen: KI kann riesige Mengen an gefälschten Social-Media-Inhalten generieren, um gezielt die öffentliche Meinung zu manipulieren.
Darüber hinaus wird KI, wie andernorts auch, als Instrument eingesetzt, um Routineaufgaben zu automatisieren, Abläufe effizienter zu gestalten und – letztendlich – die Produktivität in der Cyberkriminalität zu erhöhen. Außerdem hilft sie sogar Personen mit geringen technischen Kenntnissen, Cyberangriffe auszuführen.
KI als Angriffsziel
KI-Modelle sind aber auch selbst Zielscheibe für Cyberkriminelle.
- Beispielsweise können gezielt falsche Daten in den Trainingsdatensatz eingefügt werden, um das Verhalten eines Modells zu beeinflussen. Das kann dazu führen, dass ein auf Kundenbewertungen aufgebautes Empfehlungssystem plötzlich Produkte empfiehlt, die weder hochwertig noch relevant sind, Prognosemodelle am Finanzmarkt falsche Entscheidungsgrundlagen liefern oder KI-basierte Sicherheitssoftware Schadsoftware nicht mehr richtig klassifiziert.
- Angreifer können versuchen, sensible Informationen aus einem trainierten Modell zu extrahieren, um die Trainingsdaten oder das Modell selbst zu rekonstruieren. Eine Kopie des KI-Modells kann erstellt werden, um es für eigene, kriminelle Zwecke zu nutzen. Damit könnten personenbezogene Daten aus dem Trainingsmaterial offengelegt werden oder eine täuschend echte Variante einer frei verfügbaren KI-Lösung könnte erzeugt werden, deren eigentlicher Zweck aber das Ausspionieren von persönlichen Daten ist.
- Die Schutzmechanismen von Sprachmodellen können manipuliert werden, sodass das Modell gegen seine eigenen Regeln verstößt. Durch ausgeklügelte Fragestellungen können KI-Systeme dazu gebracht werden, unethische Antworten zu geben, Hassreden zu formulieren oder Anleitungen für illegale Aktivitäten zu geben.
KI als Werkzeug in der Abwehr von Cyberangriffen
KI ist aber nicht nur das Problem, sondern auch Teil der Lösung. Sie ist ein mächtiges Werkzeug im Kampf gegen Cyberkriminalität. Durch die Analyse großer Datenmengen kann KI verdächtige Aktivitäten (Anomalien) erkennen, etwa eine auffällige Benutzeranmeldung mit einer unwahrscheinlichen Kombination aus Ort und Uhrzeit, und diese rechtzeitig aufhalten. KI kann Schwachstellen in IT-Systemen aufdecken und sogar zukünftige Bedrohungen vorhersagen. KI-basierte Systeme können Abwehrmaßnahmen automatisieren und so die Reaktionszeit auf Angriffe verkürzen. Darüber hinaus lernen KI-Systeme kontinuierlich dazu und passen sich an neue Bedrohungen an, was sie zu einem unverzichtbaren Bestandteil moderner Cybersicherheit macht.
Auswirkungen auf die Arbeitswelt
KI revolutioniert aber nicht nur Cyberangriffe und ihre Abwehr, sondern verändert auch die Anforderungen an die Arbeitskräfte in diesem Bereich grundlegend.
- Neue Berufsbilder: Neue Berufsbilder entstehen, wie beispielsweise KI-Sicherheitsanalyst:innen oder Spezialist:innen für maschinelles Lernen in der Cybersicherheit.
- Höhere Nachfrage nach Fachkräften: Entsteht durch die zunehmende Komplexität der Cyberkriminalität, die nötige kontinuierliche Überwachung der KI-Systeme und ihre Weiterentwicklung.
- Neue Qualifikationen gefragt: Fachkräfte für Cybersicherheit müssen ihre KI-Kenntnisse und Fähigkeiten laufend erweitern. Auch andere, nicht spezialisierte Mitarbeiter:innen benötigen mehr Sensibilisierung und Schulung.
- Automatisierte Aufgaben: Viele Routineaufgaben in der Cybersicherheit, wie die Auswertung von Logdateien oder die Suche nach bekannten Schwachstellen in den eingesetzten Softwarelösungen, können durch KI automatisiert werden. Das verändert die Arbeitsweise und fordert die Mitarbeiter:innen heraus, kann aber auch den Fachkräftebedarf in der Cybersicherheit lindern.
Qualifizierte Fachkräfte: die Grundlage für eine sichere digitale Zukunft
Künstliche Intelligenz macht den Wettlauf zwischen Cyberkriminellen und Verteidigern immer intensiver. Hinter Angriffen stehen meist nicht mehr einzelne „Hacker“, sondern global vernetzte, hochprofessionelle Gruppen mit kommerziellen oder sogar politischen Motiven. Cyberkriminalität kann mittlerweile als Service eingekauft werden. Wovon Staaten wie Russland, Nordkorea, China oder der Iran mit unterschiedlichen Zielsetzungen Gebrauch machen.
Um also in diesem dynamischen Umfeld zu bestehen, sind hochqualifizierte Fachkräfte, die über tiefe Kenntnisse in den Bereichen Cybersicherheit und KI verfügen, eine fundamentale Voraussetzung. Dazu braucht es zielgerichtete staatliche Investitionen in Bildung, Forschung und Entwicklung in diesem Bereich, aber auch die Eigeninitiative von Unternehmen, neue Fachkräfte auszubilden für eine ausreichende Anzahl an Mitwirkenden bei der Gestaltung einer sicheren digitalen Zukunft.