Instruktionsanpassungen verschlechtern oft die Zuverlässigkeit der Ausgabequalität von LLMs. Diese Forschungsarbeit zeigt, wie Label Smoothing und ein speichereffizienter Loss-Algorithmus die Kalibrierung verbessern können. Die Probleme vergrößern sich mit wachsender Vokabular- und Modellgröße.
