Die Überprüfung stellt fest, dass Basismodelle spezialisierte Architekturen für maschinelles Lernen im Allgemeinen nicht ersetzt haben
Eine Überprüfung von 159 Arbeiten argumentiert, dass sprachbasierte Basismodelle bei ausgewählten Aufgaben äußerst wettbewerbsfähig sein können, findet jedoch keine Hinweise auf einen umfassenden architektonischen Ersatz, wenn Forscher direkt testen, ob Modelle die zugrunde liegende Datenstruktur bewahren und berechnen.