Cyberkriminelle kaufen zunehmend ein neues bösartiges KI-Tool namens GhostGPT und verwenden es, um Phishing-E-Mails, Malware und andere gefährliche Inhalte zu erstellen. Forscher von Abnormal Security entdeckten erstmals Ende 2024, dass GhostGPT über die Messaging-App Telegram verkauft wurde.
Was ist GhostGPT?
Den Forschern von Abnormal Security zufolge scheint GhostGPT einen Wrapper zu verwenden, der eine Verbindung zu einer gejailbreakten Version von ChatGPT oder einem anderen Large Language Model (LLM) herstellt. ChatGPT und andere LLMs verfügen über ethische Schutzmechanismen, die sie davon abhalten, bestimmte als unerwünscht eingestufte Antworten zu geben, etwa eine bösartige Phishing-E-Mail zu erstellen. Durch das Jailbreaken des LLM kann es als Antwort auf sensible oder unethische Anfragen ungefilterte Inhalte erzeugen.
Da GhostGPT das Jailbreaken bereits übernimmt – ein technisch schwieriger und zeitaufwendiger Vorgang –, können auch unerfahrene Cyberkriminelle schnell damit beginnen, bösartige Inhalte zu erstellen. Sie müssen lediglich die Gebühr über Telegram bezahlen und erhalten sofort Zugriff auf das uneingeschränkte KI-Modell. Die Entwickler von GhostGPT versprechen außerdem kurze Antwortzeiten und behaupten, dass Antworten aufgrund der Richtlinie des Tools „keine Protokolle“ nicht aufgezeichnet werden. Dadurch lassen sich illegale Aktivitäten verschleiern.
Um das GhostGPT-Modell zu testen, baten die Forscher es, eine Phishing-E-Mail für DocuSign zu erstellen. Ihren Angaben zufolge „erstellte der Chatbot mühelos eine überzeugende Vorlage“ und sie veröffentlichten einen Screenshot davon. Die Forscher erklären außerdem, dass GhostGPT in Online-Foren tausende Aufrufe erhalten habe. Das zeige das wachsende Interesse von Hackern, die Leistungsfähigkeit der generativen KI zur Erstellung bösartiger Inhalte zu nutzen.
Cyberkriminelle machen sich generative KI-Tools zunutze
GhostGPT ist nicht das erste Tool, mit dem Angreifer die Leistungsfähigkeit von KI nutzen. Der speziell zur Unterstützung von Angriffen durch kompromittierte geschäftliche E-Mail-Konten (BEC) entwickelte Chatbot WormGPT wurde 2023 eingeführt. Seitdem sind weitere Varianten dieser bösartigen KI-Modelle aufgetaucht, darunter WolfGPT und EscapeGPT.
Diese bösartigen generativen KI-Tools senken die Einstiegshürden für Cyberkriminelle und ermöglichen es ihnen, überzeugendere Inhalte zu erstellen. Mit KI können sie eine Phishing-E-Mail schnell generieren und sie mit nur wenigen Tastendrücken auf Fehler überprüfen. Die E-Mails wirken oft legitim und sind wesentlich schwerer zu erkennen als Phishing-Versuche in der Vergangenheit. Die höhere Geschwindigkeit und Effizienz bedeutet außerdem, dass Angreifer in kürzerer Zeit mehr Attacken starten können, wodurch die Rate der Cyberkriminalität steigt.
Erfahren Sie, wie generative KI in der Cybersicherheit eingesetzt werden kann oder entdecken Sie die beste Sicherheitssoftware mit KI und erfahren Sie, wie diese Tools auf der richtigen Seite des Gesetzes eingesetzt werden können.