Wie künstliche Intelligenz von Cyberkriminellen missbraucht wird
In den letzten Wochen tauchten Meldungen auf, dass Cyberkriminelle künstliche Intelligenz zur Entwicklung von Schadsoftware einsetzen. Das ist keine Theorie mehr – die Bedrohung ist real. Sicherheitsforscher entdeckten KI-generierte Ransomware und Malware, die bereits im Umlauf ist. Dadurch verändert sich das Angriffsszenario für Unternehmen rasant.
Beispiel PromptLock: Ransomware mit KI-Kern
Das Sicherheitsunternehmen ESET machte kürzlich eine beunruhigende Entdeckung: Eine Ransomware namens „PromptLock“, die unter anderem Windows, Linux und macOS angreift. Diese Software nutzt ein KI-Modell lokal auf dem Zielsystem, um automatisiert schädliche Skripte zu erstellen.
Die verwendete KI ist ein Modell basierend auf GPT-Architektur, das über eine lokale Schnittstelle (Ollama-API) angesprochen wird. Die Ransomware bekommt vordefinierte Anweisungen, sogenannte Prompts, mit denen sie gezielt Aktionen wie Dateiverschlüsselung und Datenexfiltration startet. Selbst der Erpresserbrief wird automatisch generiert – mit personalisiertem Inhalt.
Technische Raffinesse mit kritischer Wirkung
Interessant, aber auch besorgniserregend: Der Erpressungstext enthält die Bitcoin-Adresse von Satoshi Nakamoto – eine kluge Entscheidung, um Rückverfolgung zu erschweren. Der Einsatz einer nicht zuordenbaren Wallet zeigt, wie durchdacht bereits frühe Versionen solcher KI-gesteuerten Angriffe sind.
Zwar gehen Experten aktuell davon aus, dass es sich um einen Prototyp handelt, der versehentlich veröffentlicht wurde – harmlos ist das aber nicht. Die Ransomware wurde über Analyseplattformen entdeckt, was darauf hindeutet, dass sie zumindest testweise verbreitet wurde.
Manipulierte NPM-Pakete: KI beschafft Zugangsdaten
Parallel dazu meldete das Sicherheitsunternehmen Snyk eine Angriffswelle auf die JavaScript-Entwicklungsumgebung Node.js. Insbesondere Pakete aus dem NPM-Repository wurden kompromittiert – betroffen war unter anderem das weit verbreitete Framework NX.
Acht manipulierte Pakete enthielten Schadcode, der systematisch sensible Informationen sammelte: SSH-Schlüssel, Konfigurationsdateien und Krypto-Wallets. Auch hier kam künstliche Intelligenz zum Einsatz. Die Malware aktivierte verschiedene KI-Tools über die Kommandozeile, darunter Claude Code, Gemini CLI und Amazon Q. Ziel war es, über vorgegebene Anfragen spezifisch nach vertraulichen Dateien zu suchen.
Die NPM-Pakete waren zwar nur rund fünf Stunden online, doch laut Downloadzahlen könnten tausende Systeme infiziert worden sein. Eine konkrete Zahl liegt nicht vor, aber die Verbreitung innerhalb weniger Stunden ist ein deutlicher Risikofaktor – besonders für Entwickler mit automatisierten Installationsprozessen.
Was heißt das für Unternehmen?
Der Einsatz von generativer KI durch Cyberkriminelle markiert einen Paradigmenwechsel. Angriffe werden nicht nur komplexer, sondern auch schwerer zu erkennen. KI-Modelle können so programmiert werden, dass sie sich dem Verhalten des Zielsystems anpassen. Das bedeutet: mehr Individualisierung, mehr Tarnung, mehr Schaden.
Klein- und Mittelbetriebe geraten dabei zunehmend ins Visier. Anders als große Konzerne verfügen sie oft nicht über eigene IT-Security-Abteilungen und sind auf externe Unterstützung angewiesen. Gleichzeitig setzen viele KMU bereits auf Open-Source-Tools wie NPM, was die Angriffsfläche vergrößert.
Wie können Sie sich schützen?
- Überwachen Sie automatisierte Paketinstallationen und prüfen Sie die Herkunft.
- Rotieren Sie regelmäßig Tokens, API-Schlüssel und SSH-Zertifikate.
- Verzichten Sie auf unnötige Drittanbieter-Bibliotheken oder Open-Source-Module.
- Nutzen Sie Anti-Malware-Lösungen mit Verhaltensanalyse und KI-Erkennung.
- Aktualisieren Sie Systeme zeitnah und führen Sie regelmäßig Sicherheitsaudits durch.
Chancen der KI auch für die Verteidigung
So wie Angreifer auf KI setzen, können auch Verteidiger profitieren. Moderne IT-Security-Lösungen analysieren verdächtige Verhaltensmuster in Echtzeit und erkennen Anomalien schneller als menschliche Analysten. Die eingesetzten Modelle lernen ständig hinzu und reagieren flexibler auf neue Bedrohungen.
Entscheidend bleibt aber: Nur die Kombination aus Technik, Prozess und Mensch kann ein wirksames Schutzschild bilden. Investitionen in die Sicherheit – auch für kleine IT-Budgets – sind heute wichtiger denn je.
Ihr nächster Schritt
Sollten Sie Unterstützung zu diesem Thema benötigen, so nehmen Sie gerne Kontakt mit uns auf. Mit über 20 Jahren Erfahrung im IT-Bereich und KMU Kunden aus allen Branchen sind wir Ihr kompetenter und zuverlässiger KI-Experte und IT-Ansprechpartner – egal ob in Singen, Radolfzell, Konstanz oder der Bodensee-Region.
