Amazon Web Services (AWS) gibt die Verfügbarkeit des Llama 3.1-Modells auf Amazon Bedrock bekannt. Dies ist eine Reihe fortschrittlicher und leistungsstarker KI-Modelle, die von Meta entwickelt wurden. Llama 3.1 umfasst Modelle mit 8 Milliarden, 70 Milliarden und 405 Milliarden Parametern. Sie zeigen in einer Vielzahl von Branchen-Benchmark-Tests modernste Leistung und eröffnen neue Möglichkeiten für generative KI-Anwendungen.
Alle Llama 3.1-Modelle unterstützen eine Kontextlänge von 128K – das 16-fache der Kapazität von Llama 3. Sie wurden für mehrsprachige Dialoganwendungen in acht Sprachen (einschließlich Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai) optimiert und bieten verbesserte Inferenzfähigkeiten. Die spezifischen Modelle umfassen:
Llama 3.1 405B: Dies ist das derzeit größte öffentlich verfügbare Large Language Model (LLM) und eignet sich für Unternehmensanwendungen und Forschung. Es zeichnet sich besonders durch Allgemeinwissen, die Generierung langer Texte, mehrsprachige Übersetzung, maschinelle Übersetzung, Codierung, Mathematik, Werkzeugnutzung, verbessertes Kontextverständnis sowie hochentwickeltes Schlussfolgern und Entscheidungsfindung aus.
Llama 3.1 70B: Geeignet für Content Creation, Conversational AI, Sprachverständnis, Forschung und Unternehmensanwendungen. Es zeichnet sich durch Textzusammenfassung und Genauigkeit, Textklassifizierung, Sentimentanalyse und feingranulare Inferenz, Sprachmodellierung, Dialogsysteme, Codegenerierung und die Befolgung von Anweisungen aus.
Llama 3.1 8B: Geeignet für Situationen mit begrenzter Rechenleistung und Ressourcen. Es eignet sich besonders für Textzusammenfassung, Textklassifizierung, Sentimentanalyse und Übersetzung bei Anforderungen an niedrige Latenzzeiten.
Meta hat die Leistung von Llama 3.1 auf über 150 Benchmark-Datensätzen mit einer breiten sprachlichen Abdeckung getestet und umfassende manuelle Bewertungen durchgeführt. Llama 3.1 übertrifft Llama 3 in jeder wichtigen Benchmark-Kategorie.
Amazon Bedrock kombiniert die verantwortungsvollen KI-Funktionen von Llama 3.1 mit Funktionen zur Datenverwaltung und Modellbewertung, damit Benutzer sicher und zuverlässig generative KI-Anwendungen erstellen können.
Amazon Bedrock Guardrails ermöglichen es Benutzern, maßgeschneiderte Schutzmaßnahmen zu erstellen, um sichere Interaktionen zu fördern und Benutzer-Eingaben und Modellantworten kontinuierlich zu überwachen und zu analysieren.
Die Modellbewertungsfunktionen von Amazon Bedrock ermöglichen es Benutzern, das optimale Llama-Modell durch automatische oder manuelle Bewertungen auszuwählen.