Der Beitrag erklärt detailliert, wie transformer-basierte große Sprachmodelle (LLMs) funktionieren: Sie sind autoregressive Vorhersagemodelle, die über komplexe Schaltkreise aus statistischen Lernmustern, aufmerksamkeitsgesteuerten Informationspfaden und spezialisierten Subnetzwerken komplexe Aufgaben ausführen. Einfache Erklärungen wie „nur Statistik“ reichen dafür nicht aus.