Die entropiebasierte Stichprobenahme ist eine auf der Entropietheorie basierende Technik zur Verbesserung der Diversität und Genauigkeit von Sprachmodellen bei der Textgenerierung. Durch die Berechnung der Entropie und der Varianzentropie der Wahrscheinlichkeitsverteilung wird die Unsicherheit des Modells bewertet. So kann die Stichprobenstrategie angepasst werden, wenn das Modell in ein lokales Optimum gerät oder überzuversichtlich wird. Dieses Verfahren hilft, monotone Wiederholungen im Modelloutput zu vermeiden und gleichzeitig die Diversität des Outputs bei hoher Modellunsicherheit zu erhöhen.