Warum große Sprachmodelle über das Seepferdchen-Emoji stolpern

Große Sprachmodelle zeigen hohe Sicherheit, dass es ein Seepferdchen-Emoji gibt, obwohl dieses nie existiert hat. Der Beitrag untersucht, dass Modelle ihre Annahmen auf Mustern basieren und nicht erkennen, dass diese falsch sind. Sie erzeugen Tokens gemäß Erwartung, ohne echte Weltkenntnis zu haben.