A startup suíça Lakera lançou recentemente uma API projetada para proteger empresas contra ataques de prompt maliciosos de modelos de linguagem grandes (LLMs). Eles desenvolveram um jogo interativo chamado "Gandalf" para construir um sistema de classificação de ataques e estão comprometidos em proteger a segurança de dados e filtrar conteúdo impróprio para crianças. A API da Lakera oferece às empresas uma solução abrangente para lidar com a ameaça de ataques maliciosos de LLMs.