Przegląd wykazał, że podstawowe modele zasadniczo nie zastąpiły wyspecjalizowanych architektur uczenia maszynowego
Przegląd 159 artykułów dowodzi, że podstawowe modele oparte na języku mogą być wysoce konkurencyjne w wybranych zadaniach, ale nie znajduje dowodów na szerokie zastępowanie architektury, gdy badacze bezpośrednio testują, czy modele zachowują i obliczają podstawową strukturę danych.