Kürzlich gab Red Hat (Red Hat, Inc.) die Übernahme des KI-Optimierung-Startups Neural Magic bekannt. Die genauen Bedingungen der Transaktion wurden nicht veröffentlicht. Red Hat ist ein Open-Source-Softwareunternehmen, das zu IBM gehört und sich der Förderung von technologischem Fortschritt und Innovation in Unternehmen widmet.
Neural Magic wurde 2018 von den MIT-Forschungswissenschaftlern Alex Matveev und Professor Nir Shavit gegründet. Die Software des Unternehmens zielt darauf ab, KI-Modelle zu optimieren, damit diese auf Standardprozessoren und GPUs mit einer Geschwindigkeit laufen, die der von spezialisierten KI-Chips (wie TPUs) nahekommt. Durch die Ausführung von KI-Modellen auf gängigen Prozessoren kann die Software von Neural Magic mehr Arbeitsspeicher nutzen und so die Leistung steigern.
Im Bereich der KI-Optimierung konkurrieren viele große Technologieunternehmen und Startups, darunter AMD und NeuReality, Deci und CoCoPie. Neural Magic zeichnet sich jedoch durch seine kostenlose Plattform und eine Reihe von Open-Source-Tools aus, was es im Markt einzigartig positioniert.
Neural Magic hat bisher 50 Millionen US-Dollar an Risikokapital eingesammelt, darunter von Investoren wie Andreessen Horowitz, New Enterprise Associates, Amdocs, Comcast Ventures, Pillar VC und Ridgeline Ventures. Matt Hicks, CEO von Red Hat, erklärte, dass die Ergebnisse von Neural Magic im vLLM-Projekt Red Hat sehr interessiert haben. Mit Neural Magic kann Red Hat einen „Enterprise-Grade“-Stack auf Basis von vLLM anbieten, der Kunden bei der Optimierung und Bereitstellung von Modellen unterstützt und gleichzeitig die vollständige Kontrolle über Infrastruktur und Sicherheit gewährleistet.
Red Hat ist bereits am vLLM-Projekt beteiligt und nutzt dieses, um seine Produkte Red Hat Enterprise Linux AI und Red Hat OpenShift AI zu verbessern. Hicks betonte, dass die Zusammenarbeit von Red Hat und Neural Magic es Infrastrukturpartnern ermöglicht, KI besser auf verschiedenen Plattformen zu skalieren, während integrierte Dienstleister-Partner von einer stärkeren Inferenzleistung und -geschwindigkeit profitieren, um eine bessere Integration in ihre Produkte zu erreichen.
Hicks erklärte in einer Erklärung: „KI-Workloads müssen in der Hybrid Cloud ausgeführt werden, wo sich die Kundendaten befinden. Dies erfordert flexible, standardisierte und offene Plattformen und Tools, die es Organisationen ermöglichen, die Umgebung, Ressourcen und Architekturen zu wählen, die am besten zu ihren individuellen Betriebs- und Datenanforderungen passen.“ Die Übernahme treibt die Entwicklung von Red Hat sowohl im Open-Source- als auch im KI-Bereich weiter voran.
Die Nachricht von der Übernahme von Neural Magic durch Red Hat kommt zeitgleich mit einer Reihe von KI-bezogenen Ankündigungen auf der jährlichen KubeCon-Computing-Konferenz in Salt Lake City. Red Hat stellte auch das gemeinsam mit Intel, Bloomberg und IBM entwickelte Climatik-Tool vor, das die Energieeffizienz von Rechenzentren optimieren soll, und veröffentlichte neue Versionen seiner OpenShift AI- und Device Edge-Entwicklungsplattformen.
Offizieller Blog: https://www.redhat.com/en/about/press-releases/red-hat-acquire-neural-magic?intcmp=7015Y0000048mWDQAY
Wichtigste Punkte:
🌟 Red Hat übernimmt Neural Magic, um die Geschwindigkeit der Ausführung von KI-Modellen auf Standardprozessoren zu optimieren.
💰 Neural Magic wurde 2018 gegründet, hat 50 Millionen US-Dollar an Risikokapital erhalten und bietet kostenlose Open-Source-Tools an.
🔧 Die Zusammenarbeit von Red Hat und Neural Magic wird die KI-Produkte von Red Hat verbessern und die Entwicklung von Open-Source-Lösungen vorantreiben.