Nvidia hat kürzlich drei neue NIM (Nvidia Infrastructure Microservices) Microservices veröffentlicht, die als Erweiterung des Open-Source-Toolkits NeMo Guardrails dienen und Unternehmen bei der Bereitstellung von KI-Agentenanwendungen eine feinere Sicherheitskontrolle ermöglichen sollen.
Die drei neuen Dienste zeichnen sich durch unterschiedliche Funktionen aus: Erstens die Gewährleistung der Inhaltssicherheit, um die Generierung schädlicher oder voreingenommener Inhalte durch KI zu verhindern; zweitens die Sicherstellung, dass die Konversation auf genehmigte Themen beschränkt bleibt; und drittens die Verhinderung, dass KI-Agenten Systemgrenzen überschreiten oder „ausbrechen“. Durch die Bereitstellung dieser leichtgewichtigen, spezialisierten Modelle als Sicherheitsbarrieren können Entwickler potenzielle Lücken im Schutz durch globale Richtlinien schließen.
Dieser Schritt spiegelt die Herausforderungen wider, die sich bei der praktischen Umsetzung von KI stellen. Obwohl Salesforce-CEO Marc Benioff vorhergesagt hat, dass seine Plattform innerhalb eines Jahres über eine Milliarde KI-Agenten verfügen wird, zeigt eine aktuelle Studie von Deloitte, dass Unternehmen bei der Einführung eher vorsichtig vorgehen: Es wird erwartet, dass im Jahr 2025 nur 25 % der Unternehmen KI-Agenten einsetzen werden, bis 2027 soll dieser Anteil auf 50 % steigen.
Diese Daten zeigen, dass Unternehmen KI-Agenten-Technologie mit Vorsicht begegnen und die Einführung deutlich langsamer verläuft als die technologische Innovation. Nvidias neue Sicherheitsdienste sollen durch die Stärkung der Sicherheit und Kontrollierbarkeit die Bedenken der Unternehmen hinsichtlich des Einsatzes von KI-Agenten verringern.
Ob diese neuen Tools jedoch tatsächlich dazu beitragen können, die Einführung von KI in Unternehmen zu beschleunigen, wird sich erst noch zeigen.
