IBM gab in Yorktown Heights, New York, einen bedeutenden Durchbruch in der optischen Technologie bekannt, der die Effizienz von Rechenzentren beim Trainieren und Betreiben generativer KI-Modelle erheblich steigern wird.
IBM-Forscher haben eine neue Technologie namens „Co-Packaged Optics“ (CPO) entwickelt, die Lichtgeschwindigkeit für die interne Vernetzung von Rechenzentren nutzt und die derzeit verwendeten Kupferkabel ersetzt.
Obwohl Glasfasertechnologie weltweit im Geschäfts- und Kommunikationsbereich weit verbreitet ist, verlassen sich die meisten Rechenzentren intern immer noch auf Kupferkabel für Kurzstreckenkommunikation. Dies führt dazu, dass GPU-Beschleuniger während des Trainings oft im Leerlauf sind, was zu erheblichem Zeit- und Energieverlust führt. Das IBM-Forschungsteam hat gezeigt, wie die Geschwindigkeit und Kapazität von Licht in Rechenzentren eingeführt werden kann, um die Kommunikationsbandbreite deutlich zu erhöhen, die Leerlaufzeit der GPUs zu reduzieren und so die Verarbeitungsgeschwindigkeit von KI-Modellen zu beschleunigen.
Laut einer von IBM veröffentlichten technischen Arbeit ermöglicht der entwickelte CPO-Prototyp-Modul Hochgeschwindigkeits-Lichtverbindungen, spart fünfmal mehr Energie und kann die Länge der internen Verbindungskabel im Rechenzentrum von einem Meter auf mehrere hundert Meter erweitern.
Darüber hinaus kann das Training großer Sprachmodelle (LLMs) mit dieser neuen Technologie fünfmal schneller erfolgen als mit herkömmlichen Kabeln. Das bedeutet, dass sich die Trainingszeit eines Standard-LLM von drei Monaten auf drei Wochen verkürzt. Diese Innovation senkt nicht nur die Skalierungskosten für generative KI erheblich, sondern verbessert auch die Energieeffizienz von Rechenzentren und spart Energie, die dem Jahresverbrauch von 5000 amerikanischen Haushalten entspricht.
IBMs Forschung zeigt, dass die CPO-Technologie die Bandbreite zwischen Chips auf das 80-fache der Kupferverbindungen erhöhen kann und die Fortschritte der modernen Chiptechnologie voll ausnutzt. Die 2-Nanometer-Chiptechnologie von IBM kann über 50 Milliarden Transistoren aufnehmen, und die Einführung der CPO-Technologie wird die Rechendichte und -effizienz weiter steigern. Der erfolgreiche Prototyp wurde im Herstellungsprozess Tests mit hoher Luftfeuchtigkeit und extremen Temperaturen unterzogen, um die Zuverlässigkeit und Langlebigkeit der optischen Verbindung sicherzustellen.
Diese Forschung ebnet den Weg für die zukünftige Entwicklung von Rechenzentren. IBM wird seine führende Rolle in der Halbleiterforschung weiterhin ausbauen und die Entwicklung effizienterer optischer Kommunikationstechnologien vorantreiben, um den wachsenden Anforderungen an die KI-Leistung gerecht zu werden.
Wichtigste Punkte:
🌟 IBM bringt eine neue Co-Packaged Optics-Technologie auf den Markt, die herkömmliche Kupferkabel ersetzt und die Effizienz von Rechenzentren verbessert.
⚡ Die CPO-Technologie kann die Trainingszeit großer Sprachmodelle von drei Monaten auf drei Wochen verkürzen und die Geschwindigkeit verfünffachen.
🔋 Die Technologie spart erhebliche Energiemengen in Rechenzentren, was dem Jahresverbrauch von 5000 Haushalten entspricht.
