Die Bedeutung des „Bitteren Lernens“ in der KI-Forschung

KI-Fortschritte beruhen maßgeblich auf Skalierung, doch viele Forscher fokussieren sich weiterhin auf Algorithmen und Architekturen, als seien Skalierungsgesetze unentdeckt. Die zuverlässigste Methode zur KI-Verbesserung ist mehr Rechenleistung, während selbstverbessernde KI-Modelle durch Skalierungsgesetze und begrenzte Rechenressourcen eingeschränkt sind. Autonome Wissenschaft wird daher als sinnvolleres Forschungsfeld vorgeschlagen.