Meta déploie deux clusters de 24 000 GPU H100 pour entraîner Llama-3

DeepSeek und Tsinghua kooperieren: Innovative Methode zur Inferenz von Belohnungsmodellen verbessert Skalierbarkeit

Forscher von DeepSeek und Tsinghua haben kürzlich eine neue Arbeit veröffentlicht, die die Skalierungsmethoden für die Inferenz von Belohnungsmodellen untersucht und DeepSeek R2 scheinbar einen Schritt näher bringt. Derzeit wird Reinforcement Learning in der groß angelegten Nachschulungsphase von großen Sprachmodellen weit verbreitet eingesetzt, steht aber vor der Herausforderung, genaue Belohnungssignale für große Sprachmodelle zu erhalten. Die Forscher fanden heraus, dass die Verwendung eines punktweisen generativen Belohnungsmodells (GRM) die Anpassungsfähigkeit des Modells und die Skalierbarkeit in der Inferenzphase verbessert. Zu diesem Zweck schlagen sie das Selbstprinzipien-Feintuning (SPCT)-Lernen vor.