Mehrere staatlich gesponserte Cyber-Bedrohungsorganisationen haben damit begonnen, Phishing-E-Mails mit ChatGPT zu verfassen.
Hacker nutzen große Sprachmodelle (LLMs) wie ChatGPT, um ihre Cyberangriffsstrategien zu verbessern. Dies geht aus einem Bericht hervor, der von Microsoft in Zusammenarbeit mit OpenAI veröffentlicht wurde.
Der Studie zufolge haben eine Reihe von staatlich unterstützten Hackerorganisationen ihre Angriffsmethoden durch Datenauslese, Dateimanipulation und Multitasking verbessert.
Der Bericht kommt kurz nachdem letzten Monat bekannt wurde, dass Microsoft von einem von Russland unterstützten Hackerteam angegriffen wurde, wobei die E-Mail-Konten einiger leitender Angestellter des Unternehmens kompromittiert wurden.
## Was wurde in dem Bericht festgestellt?
[Dieser Bericht von MicrosoftDie Studie wurde in Zusammenarbeit mit dem Partner OpenAI durchgeführt, der erforscht, wie generative KI-Technologien sicher und verantwortungsbewusst eingesetzt werden können.
Der Bericht zeigt, dass einige Gegner KI-Fähigkeiten in ihre Strategien und operativen Verfahren integrieren.
In dem Bericht wird als Beispiel ein Cyberangriff der Organisation Strontium angeführt, die mit dem russischen Militärgeheimdienst in Verbindung steht und als "äußerst effektiver Bedrohungsakteur" gilt. Die Studie ergab, dass sie mit Hilfe von KI in der Lage waren, LLM-fähige Erkennung und LLM-verstärkte Skripting-Techniken einzusetzen.
Einfach ausgedrückt: LLM-gestützte Aufklärung bezieht sich auf den Einsatz generativer KI zum Erlernen von Satellitenkommunikationsprotokollen und Radarbildgebungsinstrumenten, die ein tieferes Verständnis und wertvolle Erkenntnisse über potenzielle Ziele liefern können.
In ähnlicher Weise beziehen sich LLM-gestützte Skripting-Techniken auf die Verwendung von KI-Modellen zur Erstellung von Codeschnipseln, die bestimmte Aufgaben während eines Angriffs ausführen können.
Der Einsatz von LLM ist ein Beispiel für einen besorgniserregenden Trend, bei dem Cyberkriminelle generativen KI-Code schreiben, um Antivirensysteme zu deaktivieren und Verzeichnisdateien zu löschen, um zu verhindern, dass Datenverletzungen als ungewöhnlich eingestuft werden.
## Gefährdete Branchen
In der Studie wurden mehrere Bedrohungsorganisationen genannt, deren Ziele ein breites Spektrum von Wirtschaftszweigen abdecken, z. B. Strontium, Charcoal Typhoon und Salmon Typhoon. Zu ihren Zielen gehören:
- **Verteidigung
- erneuerbare Energie
- staatliche Organisation
- Nichtregierungsorganisationen (NGOs)
- Öl und Gas
- Wissenschaft und Technik
- Verkehr und Logistik
Es ist erwähnenswert, dass Salmon Typhoon (auch bekannt als Sodium) dafür bekannt ist, in der Vergangenheit Angriffe auf US-Verteidigungsministerien verübt zu haben.
Der Bericht hebt auch hervor, dass verschiedene Hacker-Organisationen bestimmte Regionen ins Visier nehmen, z. B. hat Charcoal Typhoon (auch bekannt als Chromium) hauptsächlich Organisationen in Taiwan, Thailand, der Mongolei, Malaysia, Frankreich und Nepal im Visier.
Wie Microsoft zurückschlägt
Der Bericht zeigt, dass die einfachste Antwort zur Bekämpfung von KI-Angriffen darin besteht, KI-Technologie zur Abwehr einzusetzen.
> KI kann Angreifern dabei helfen, ihre Angriffe immer raffinierter zu gestalten, und sie verfügen über reichlich Ressourcen, um sie auszuführen. Microsoft verfolgt mehr als 300 Bedrohungsorganisationen, und auch wir nutzen KI-Technologie für Schutz, Erkennung und Reaktion." - Homa Hayatyfar, Manager für Primary Detection Analytics, Microsoft
Dieser Strategie folgend, entwickelt Microsoft ein neues [GPT-4 KI-Assistent, Sicherheitskopilotsoll Cyber-Bedrohungen und Sicherheitsrisiken schneller erkennen und zusammenfassen, um den potenziellen Schaden, den sie verursachen, zu vermeiden. Das Tool wird in der Lage sein, die entsprechenden Sicherheitsmaßnahmen gezielt zu verstärken.
Der Tech-Gigant ist immer noch dabei, die Sicherheitsstandards für Altsysteme zu erhöhen, nachdem im letzten Monat die E-Mail-Konten von Führungskräften des Unternehmens und sein Cloud-Dienst Azure angegriffen wurden.
