Kürzlich sorgte ein europäischer Doktorand in der Machine-Learning-Community für Aufsehen. Er stellte sich die Frage, warum seine amerikanischen Kollegen scheinbar alle einen Vorteil haben und mit zehn Top-Konferenzbeiträgen glänzen, von denen fünf sogar als Erstautor verfasst wurden. Während seines vierjährigen Doktoratsstudiums in Europa lernte er nebenbei die Forschungslandschaft kennen. Im ersten Jahr versuchte er, das Wesen der Forschung zu verstehen, im zweiten Jahr veröffentlichte er einen Beitrag auf der Top-Konferenz CVPR, und erst im dritten Jahr lernte er die Feinheiten des Projektmanagements und der Fördermittelakquise.
Mittlerweile umfasst sein Lebenslauf lediglich zwei weitere Publikationen, eine in einer Fachzeitschrift und eine auf einer Konferenz, beide als Erstautor. Klingt gut, aber im Vergleich zu den Leistungen seiner amerikanischen Kollegen ist er sprachlos.
„Wie machen die das? Schlafen die nicht?“, fragt er sich verwundert über die Effizienz der amerikanischen Doktoranden. Er hält sich selbst nicht für intelligenter als sie, doch immer wenn er eine neue Idee hat, scheint ein Doktorand von Stanford oder DeepMind bereits eine ähnliche Studie veröffentlicht zu haben. Die tiefgründige Auseinandersetzung mit diesen Arbeiten erfordert viel Zeit und Mühe – wie soll das innerhalb weniger Monate gelingen?
Bildquelle: Das Bild wurde mit KI generiert, Bildrechte: Midjourney
Der Doktorand ist voller Fragen. Was ermöglicht diesen Forschern eine solche Effizienz? Er ist kein Neider, denn jeder hat andere Rahmenbedingungen. Aber aus seiner Sicht ist es unglaublich, dass jemand mit nur drei Jahren Forschungserfahrung innerhalb eines Jahres kontinuierlich hochwertige Forschungsergebnisse liefert.
Auch einige Internetnutzer äußerten sich dazu und meinten, der Wettbewerb in der amerikanischen Wissenschaft sei unglaublich hart. In den USA sei die Arbeitskultur geprägt von unermüdlichem Einsatz. Ein ehemaliger Bachelor-Student eines führenden Informatikprogramms in den USA berichtete, dass Doktoranden täglich über 10 Stunden arbeiteten, fast das ganze Jahr über. Einmal sei er abends um 19 Uhr ins Labor gegangen und habe seine Kommilitonen noch fleißig bis 1 Uhr morgens arbeiten sehen.
Obwohl dies keine offizielle Anforderung ist, herrscht in diesem Umfeld ein immenser Druck. Selbstverständlich sind die amerikanischen Programme mit den besten Talenten weltweit besetzt. Ein Spitzenprogramm in Tsinghua beispielsweise hat eine Zulassungsrate von nur 0,1 %. Die Anziehungskraft auf so exzellente Studierende, die täglich zehn Stunden arbeiten, sorgt fast zwangsläufig für Ergebnisse.
Diese Situation beschränkt sich natürlich nicht nur auf den KI-Bereich, sondern ist in fast allen STEM-Bereichen (Wissenschaft, Technologie, Ingenieurwesen und Mathematik) zu beobachten. Jemand berichtete von ähnlichen Erfahrungen während seines Physik-Doktorats – es gab einfach nichts anderes zu tun.
Darüber hinaus spielen Ressourcenunterschiede eine wichtige Rolle. Die Ausstattung der Top-Doktoranden ist himmelweit verschieden. Einige Labore verfügen über zahlreiche teure GPUs, was die Forschung erheblich beschleunigt. Doktoranden ohne diese Ressourcen können nur neidisch zuschauen. Selbst zwischen verschiedenen US-amerikanischen Hochschulen gibt es große Unterschiede in der GPU-Ausstattung.
Sogar ein Doktorand im Bereich Machine Learning einer Top-5-Universität berichtete in einem Beitrag, dass sein Labor nicht einmal über eine H100 verfüge und die Studierenden um Rechenressourcen „kämpfen“ müssten. Im Vergleich zu den „GPU-Giganten“ wie Princeton und Harvard können ressourcenarme Doktoranden natürlich keine schnellen Forschungserfolge erzielen.
Schließlich ist auch die Unterstützung durch renommierte Institutionen ein unschätzbarer Vorteil. Die enge Verknüpfung zwischen Top-Universitäten und großen Technologieunternehmen fördert nicht nur innovative Projekte, sondern bietet auch zusätzliche Ressourcen. Letztendlich bleibt die Frage nach den Ursachen für diese erheblichen Unterschiede in der wissenschaftlichen Produktivität ein Thema, das weiterer Überlegungen bedarf.