Amazon AWS hat kürzlich einen neuen Service namens Amazon EC2 Capacity Blocks eingeführt. Ähnlich wie bei Hotelzimmerreservierungen können Benutzer die benötigte Anzahl an Nvidia H100 GPUs für einen bestimmten Zeitraum im Voraus buchen. Die maximale Buchungsdauer beträgt 14 Tage.
Dieser Service hilft, den Bedarf an Hochleistungs-GPUs für Machine-Learning- und Deep-Learning-Projekte effektiv zu decken. Benutzer können je nach Projektplan und Ressourcenbedarf flexibel zwischen 1 und 64 GPU-Instanzen mit jeweils 8 Nvidia H100 GPUs wählen.
Während des Buchungszeitraums zahlen Benutzer nur für die tatsächlich genutzte GPU-Ressourcenzeit. Die Preise für GPU-Instanzen schwanken dynamisch je nach Angebot und Nachfrage.
Der Service wird zunächst in der AWS-Region USA Ost eingeführt und wird später in weiteren Regionen verfügbar sein.
Branchenexperten sind der Ansicht, dass diese innovative Methode des bedarfsgerechten GPU-Kaufs die Auslastung der teuren GPU-Ressourcen deutlich verbessert und die Rechenkosten für KI-Projekte senkt.