Eine globale Studie von Checkmarx, einem Unternehmen für Cloud-Sicherheit, zeigt: Obwohl 15 % der Unternehmen die Verwendung von KI-Programmiertools explizit verbieten, setzen fast alle Entwicklungsteams (99 %) diese Tools dennoch ein. Dies verdeutlicht die Schwierigkeiten bei der Kontrolle von generativer KI in der Praxis.
Die Studie ergab, dass nur 29 % der Unternehmen irgendein Governance-System für generative KI-Tools eingerichtet haben. 70 % der Unternehmen verfügen über keine zentrale Strategie, und die Beschaffungsentscheidungen der einzelnen Abteilungen erfolgen oft ad hoc und ohne einheitliche Steuerung.
Mit der zunehmenden Nutzung von KI-Programmiertools durch Entwickler wächst auch die Besorgnis über Sicherheitsaspekte. 80 % der Befragten befürchten potenzielle Risiken durch den Einsatz von KI durch Entwickler, wobei 60 % insbesondere die Gefahr von „Halluzinationen“ der KI hervorheben.
Trotz dieser Bedenken sehen viele das Potenzial der KI positiv. 47 % der Befragten wären bereit, die KI ohne Aufsicht Codeänderungen vornehmen zu lassen, während nur 6 % angaben, den Sicherheitsmaßnahmen der KI in der Softwareumgebung absolut nicht zu vertrauen.
Kobi Tzruya, Chief Product Officer bei Checkmarx, merkt dazu an: „Die Antworten der globalen CISOs zeigen, dass Entwickler KI für die Anwendungsentwicklung einsetzen, obwohl diese KI-Tools keinen zuverlässig sicheren Code erstellen können. Dies bedeutet, dass Sicherheitsexperten mit einer großen Menge an neu generiertem, potenziell fehlerhaftem Code umgehen müssen.“
Auch der Microsoft Work Trend Index Bericht zeigt, dass viele Mitarbeiter eigene KI-Tools verwenden, ohne dass diese vom Unternehmen bereitgestellt werden, und dies oft nicht offen kommunizieren. Dies behindert die systematische Implementierung generativer KI in Geschäftsprozessen.
Wichtigste Punkte:
1. 🚫 **15 % der Unternehmen verbieten KI-Programmiertools, aber 99 % der Entwicklungsteams verwenden sie trotzdem**
2. 📊 **Nur 29 % der Unternehmen haben ein Governance-System für generative KI-Tools eingerichtet**
3. 🔐 **47 % der Befragten erlauben der KI unbeaufsichtigte Codeänderungen**