Doch die schnellere Entdeckung hat nicht zu mehr erfolgreichen Angriffen geführt. Check Point zufolge wurden nur etwa ein Prozent der durch KI entdeckten Schwachstellen als ausgenutzt gemeldet. Der Engpass hat sich vom Auffinden der Schwachstelle hin zur Anwendung des Patches auf Kundensystemen verlagert. Schwachstellen sind also nicht mehr schwer zu finden. Wie weiter betont wird, werden sie stattdessen immer zahlreicher. Daher sei es umso wichtiger, dass Anbieter Patches schnell bereitstellen. Die Geschwindigkeit beim Installieren von Patches und die automatisierte Behebung könnten für die Widerstandsfähigkeit eines Unternehmens letztlich wichtiger sein als die reine Anzahl der Schwachstellen.
KI-Angriffe in Maschinen-Geschwindigkeit verhindern
Laut Check Point barg jede 36. Eingabe, die im Juli an generative KI-Tools gesendet wurde (etwa 2,8%), ein hohes Risiko für den Verlust sensibler Daten, und 88% der Unternehmen verzeichneten in diesem Monat mindestens eine Eingabe mit hohem Risiko. Zudem erfordern Modelle, die in Maschinengeschwindigkeit Angriffe durchführen, Reaktionszeiten, bei denen menschliche Verteidiger nicht mithalten können.
Für die Absicherung der KI-Transformation in Unternehmen empfiehlt der Security-Spezialist daher die Sicherung des gesamten Stacks und rät zu folgenden Schritten:
- Transparenz über die KI-Nutzung der Belegschaft schaffen: Unternehmen sollten in Echtzeit nachvollziehen können, welche GenAI-Tools Mitarbeiter tatsächlich im Arbeitsalltag nutzen, und für diese Tools Governance- und Datenschutzregeln durchsetzen. Denn genau solche Tools werden auch von Angreifern wie der ‚Gentlemen‘-Gruppe als Einfallstor genutzt.
- KI-Anwendungen und -Agenten im Unternehmen laufend überwachen: Von der Erkennung bis zur Durchsetzung zur Laufzeit sollten Schutzmaßnahmen gegen Prompt-Injections und unsichere Aktionen etabliert werden, um genau die Lücken zu schließen, die in bekannten Fällen bereits ausgenutzt wurden.
- Zugriff über MCP und andere Tool-Schnittstellen kontrollieren: Es muss klar geregelt sein, wie Modelle und Agenten mit Unternehmensdaten und -tools interagieren dürfen.
- KI-Systeme regelmäßig auf Schwachstellen testen: Adversariale Testmethoden, wie sie auch von KI-Laboren selbst zur Bewertung eingesetzt werden, helfen dabei, Schwachstellen zu identifizieren, bevor Angreifer sie finden.
- KI-Infrastruktur und private LLMs absichern: Da der Schwarzmarkt für Zugriffsrechte auf private Unternehmens-LLMs und GPU-Cluster zunehmend professionalisiert wird, braucht diese Infrastruktur denselben Schutzstandard wie andere kritische Systeme.
