Eine aktuelle Untersuchung von TrendAI, einem Geschäftsbereich von Trend Micro, zeigt, wie Cyberkriminelle generative KI für Betrugs- und Einflusskampagnen einsetzen. Die Analyse dokumentiert, wie ein russischsprachiger Bedrohungsakteur manipulierte Large Language Models (LLMs) nutzte. Ziel war die Verbreitung von Desinformation, der Diebstahl von Zugangsdaten und Kryptowährungsbetrug. Die unter dem Namen ‚Bandcampro‘ verfolgte Operation kombinierte KI-generierte Inhalte, Social Engineering und Phishing-Infrastrukturen. Laut TrendAI setzte der Akteur dabei unter anderem manipulierte Versionen von Google Gemini ein. Die Gruppe erreichte nach Angaben des Unternehmens rund 17.000 Follower auf Telegram. Gestohlene API-Schlüssel und KI-gestützte Automatisierung sollen die operativen Kosten gesenkt haben.
KI übernimmt operative Aufgaben
Die Untersuchung zeigt, dass generative KI nicht nur für die Erstellung von Inhalten genutzt wird. Laut TrendAI übernimmt sie zunehmend operative Aufgaben in kriminellen Kampagnen. Dazu gehören die automatisierte Erstellung von Phishing-Infrastrukturen, Credential-Stuffing-Angriffe und die Verteilung von Malware. Laut TrendAI nutzen Cyberkriminelle zunehmend manipulierte KI-Modelle für operative Angriffsschritte. Generative KI soll die Eintrittsbarrieren für professionelle Cyberkriminalität senken. Einzelne Akteure könnten heute Operationen durchführen, für die früher Teams notwendig waren. Telegram, Kryptowährungen und KI-Automatisierung verschmelzen demnach zu skalierbaren Betrugsökosystemen. API-Schlüssel und KI-Dienste entwickeln sich laut Analyse zu zentralen Angriffszielen.
Zitate und Statements
Tom Kellermann, Vice President of AI Security and Threat Research bei TrendAI, sagt: „Wir haben einen Wendepunkt für cyberkriminelle Verschwörungen erreicht. Die Bandcampro-Operation unterstreicht die Raffinesse der russischen Cybercrime-Community und zeigt, wie LLMs durch Jailbreaks manipuliert und damit zum Angriffswerkzeug gemacht werden.“
