Cyber-Bedrohung durch KI: DeepSeek wird zum Werkzeug der Hacker
Chatbots sind nützliche Werkzeuge, die auf kreative Weise eingesetzt werden können. Sie bieten jedoch auch eine Gelegenheit für Cyberkriminelle, insbesondere im Zusammenhang mit DeepSeek – einem chinesischen LLM, das in Konkurrenz zu ChatGPT steht.
Künstliche Intelligenz eröffnet neue Möglichkeiten. KI-Tools können die Arbeit erleichtern, doch gehen Vorteile oft mit Gefahren einher. Kein Wunder, dass Entwickler, wie die von ChatGPT, stets an der Verbesserung der Sicherheitssysteme arbeiten. Entwickler von Qwen und DeepSeek setzen dabei derzeit weniger strenge Maßstäbe an; das zweite Sprachmodell kann sogar Ratschläge zur Durchführung von Diebstählen geben.
In versteckten Online-Foren gibt es zahlreiche Anleitungen, die zeigen, wie moderne KI zur Herstellung schädlicher Inhalte, zur Umgehung von Sicherheitsmechanismen und zum Überwinden von Schutzsystemen genutzt werden kann. Cyberkriminelle haben bereits detaillierte Anleitungen zum Jailbreaking entwickelt – eine Technik, die es ermöglicht, die Einschränkungen von KI-Modellen zu entfernen, sodass sie Inhalte ohne Zensur erzeugen können.
Neue KI-Werkzeuge im Visier der Hacker
Experten von Check Point Research beschreiben vier Methoden, wie Hacker neue KI-Modelle nutzen. Cyberkriminelle verwenden Qwen zur Erstellung fortschrittlicher Software, die für den Diebstahl vertraulicher Daten entwickelt wurde. Auf diese Weise können sie Informationen über Zahlungskarten, Anmeldedaten und Passwörter der Nutzer abfangen und diese anschließend auf dem Schwarzmarkt handeln.
Techniken wie "Do Anything Now" oder "Plane Crash Survivors" ermöglichen es Cyberkriminellen, KI-Modelle so zu manipulieren, dass sie Inhalte erstellen, die normalerweise blockiert würden. Infolgedessen kann künstliche Intelligenz das Schreiben von schädlicher Software unterstützen und bei der Vorbereitung von Angriffen auf Computersysteme helfen.
Künstliche Intelligenz versus Banken
Neue Angriffswege ermöglichen es Cyberkriminellen, die von Banken verwendeten Betrugsverhinderungssysteme zu umgehen. Experten von Check Point Research haben herausgefunden, dass sich Hacker Methoden zum Abfangen von Transaktionen und zum Überwinden von Sicherheitsmaßnahmen in Finanzinstituten teilen.
Cyberkriminelle nutzen die Fähigkeiten von ChatGPT, Qwen und DeepSeek zur Verbesserung von Spamskripten. Dadurch werden ihre Aktivitäten effektiver und schwieriger von Spam-Filtersystemen zu erkennen.
Die neuen Werkzeuge stellen also sowohl Chancen als auch Bedrohungen im globalen Maßstab dar. Technologieunternehmen müssen effektive Schutzmechanismen einführen, um die wachsende Welle von Bedrohungen zu stoppen.
