La startup suisse Lakera a récemment lancé une API conçue pour protéger les entreprises contre les attaques par injection malveillantes de prompts dans les grands modèles linguistiques (LLM). Ils ont développé un jeu interactif, "Gandalf", pour établir un système de classification des attaques, et s'engagent à protéger la sécurité des données et à filtrer les contenus inappropriés pour les enfants. L'API de Lakera offre aux entreprises une solution complète pour faire face aux menaces d'attaques malveillantes des LLM.