Sampling beschreibt die Auswahl eines Tokens basierend auf Wahrscheinlichkeiten, während strukturierte Ausgaben unstrukturierte Daten in strukturierte verwandeln. Die Genauigkeit großer Sprachmodelle ist dabei extrem empfindlich gegenüber kleinen Veränderungen bei Prompts, Templates und Sampling-Parametern.
