Das Schweizer Startup Lakera hat kürzlich eine API veröffentlicht, die Unternehmen vor bösartigen Eingabeaufforderungen (Prompts) großer Sprachmodelle (LLMs) schützen soll. Durch die Entwicklung des interaktiven Spiels „Gandalf“ wurde ein System zur Klassifizierung von Angriffen aufgebaut. Das Unternehmen konzentriert sich auf den Schutz von Daten und die Filterung von Inhalten, die für Kinder ungeeignet sind.
Lakera's API bietet Unternehmen eine umfassende Lösung zur Bewältigung der Bedrohung durch böswillige LLM-Angriffe.
