In der Welt der Technologie findet ein Katz-und-Maus-Spiel zwischen Entwicklern und Management statt. Die Hauptdarsteller sind die KI-Codierwerkzeuge, deren Verwendung von Unternehmen zwar verboten ist, die aber dennoch heimlich von Entwicklern eingesetzt werden.
Laut einer aktuellen globalen Studie des Cloud-Sicherheitsunternehmens Checkmarx verwenden fast alle Entwicklungsteams (99 %), obwohl 15 % der Unternehmen die Verwendung von KI-Codierwerkzeugen explizit verboten haben, diese Werkzeuge. Dieses Phänomen verdeutlicht die Herausforderungen bei der Kontrolle des Einsatzes generativer KI.
Nur 29 % der Unternehmen haben eine Form von Governance-Mechanismen für generative KI-Tools eingerichtet. In 70 % der Fälle fehlt eine einheitliche Strategie, und Kaufentscheidungen werden ad hoc von einzelnen Abteilungen getroffen. Dies erschwert dem Management die Kontrolle über die Verwendung von KI-Codierwerkzeugen erheblich.
Mit der Verbreitung von KI-Codierwerkzeugen nehmen auch die Sicherheitsprobleme zu. 80 % der Befragten befürchten potenzielle Risiken durch den Einsatz von KI durch Entwickler, wobei 60 % insbesondere Bedenken hinsichtlich der „Halluzinationen“ der KI äußern.
Trotz dieser Bedenken besteht weiterhin großes Interesse am Potenzial der KI. 47 % der Befragten sind offen für die Möglichkeit, der KI unbeaufsichtigte Codeänderungen zu erlauben. Nur 6 % geben an, dass sie den Sicherheitsmaßnahmen der KI in Softwareumgebungen nicht vertrauen würden.
Tzruya erklärt: „Die Antworten dieser globalen CISOs zeigen, dass Entwickler KI in der Anwendungsentwicklung einsetzen, selbst wenn KI keinen zuverlässig sicheren Code erstellen kann. Das bedeutet, dass Sicherheitsexperten mit einer großen Menge an neuem, anfälligem Code umgehen müssen.“
Ein kürzlich veröffentlichter Bericht zum Microsoft Work Trend Index zeigt ähnliche Ergebnisse: Viele Mitarbeiter verwenden ihre eigenen KI-Tools, ohne dass diese vom Unternehmen bereitgestellt werden. In der Regel wird diese Nutzung nicht kommuniziert, was die systematische Integration generativer KI in Geschäftsprozesse behindert.
Trotz ausdrücklichen Verbots verwenden 99 % der Entwicklungsteams weiterhin KI-Tools zur Codegenerierung. Nur 29 % der Unternehmen haben Governance-Mechanismen für den Einsatz generativer KI eingerichtet. In 70 % der Fälle werden Entscheidungen über die Verwendung von KI-Tools von einzelnen Abteilungen ad hoc getroffen. Gleichzeitig nehmen die Sicherheitsprobleme zu. 47 % der Befragten sind offen für die Möglichkeit, der KI unbeaufsichtigte Codeänderungen zu erlauben. Sicherheitsexperten stehen vor der Herausforderung, mit einer großen Menge potenziell anfälligen, von KI generierten Codes umzugehen.
Das Katz-und-Maus-Spiel zwischen Entwicklern und Management geht weiter, und die Zukunft von KI-Codierwerkzeugen bleibt abzuwarten.