Auf der kürzlich stattgefundenen Google I/O Konferenz in Berlin gab Google die Open-Source-Veröffentlichung seines neuesten Sprachmodells Gemma2 bekannt. Dieses Modell erzielt erhebliche Fortschritte in Bezug auf Leistung und Effizienz. Gemma2 ist in zwei Größen verfügbar: 9B und 27B Parameter. Die 27B-Version erreicht eine Leistung, die dem Llama3-Modell mit 70B Parametern nahekommt, bei nur etwa 40% der Größe.

Hauptmerkmale von Gemma2:

(1) Verfügbar in den Größen 9B und 27B Parameter

(2) Erstklassige Leistung

(3) Hocheffizientes Inferencing (läuft auf einer einzelnen NVIDIA H100 GPU oder TPU-Host)

(4) Benutzerfreundliches Modell für Entwickler und Forscher

Zusätzliche Merkmale von Gemma2:

(1) Außergewöhnliche Leistung: Das 27B-Modell ist vergleichbar mit dem Llama3 70B-Modell, das mehr als doppelt so groß ist.

(2) Hohe Effizienz: Vollständige Genauigkeit beim Inferencing mit einer einzelnen GPU.

(3) Breite Hardware-Unterstützung: Von Gaming-Notebooks bis zur Cloud.

(4) Offene Lizenz: Auch für kommerzielle Zwecke nutzbar.

Entwicklerfreundliches Design

Für eine einfache Nutzung durch Entwickler ist Gemma2 mit verschiedenen gängigen KI-Frameworks kompatibel, darunter Hugging Face, JAX, PyTorch und TensorFlow. Google bietet außerdem ein neues Gemma2-Kochbuch mit praktischen Anwendungsbeispielen und Anleitungen. Darüber hinaus plant Google, die einfache Bereitstellung von Gemma2 über Google Cloud Vertex AI in naher Zukunft zu unterstützen.

twitter_Tom Huang(@tuturetom)_20240627-161818_1806361424043885034_photo.jpg

Im Bereich verantwortungsvoller KI-Entwicklung hat Google eine Reihe von Maßnahmen eingeführt, darunter die Bereitstellung eines Toolkits für verantwortungsvolle generative KI, eines Open-Source-LLM-Vergleichstools (zur Modellbewertung) und die geplante Open-Source-Veröffentlichung der SynthID-Text-Wasserzeichen-Technologie. Google hat sich auch zu strengen Sicherheitsbewertungen und der Veröffentlichung der Ergebnisse verpflichtet.

twitter_Tom Huang(@tuturetom)_20240627-161849_1806361553094234268_photo.jpg

Derzeit können Entwickler und Forscher das Gemma2-Modell kostenlos über Google AI Studio abrufen. Die Modellgewichte können auch von den Plattformen Kaggle und Hugging Face heruntergeladen werden. Für Wissenschaftler bietet Google ein Google Cloud-Guthabenprogramm an, dessen Bewerbungsfrist der 9. August ist.

Bemerkenswert ist, dass Gemma2 in der renommierten LMSys-Rangliste das QWen1.5-Modell übertrifft, was seine leistungsstarke Leistung weiter unterstreicht. Dieses bahnbrechende Ergebnis wird dem KI-Bereich neue Chancen und Herausforderungen eröffnen und die Weiterentwicklung von Open-Source-Sprachmodellen vorantreiben.

Offizielle Testumgebung: https://aistudio.google.com/app/prompts/new_freeform