وجدت المراجعة أن النماذج الأساسية لم تحل بشكل عام محل بنيات التعلم الآلي المتخصصة
تشير مراجعة 159 ورقة بحثية إلى أن النماذج الأساسية القائمة على اللغة يمكن أن تكون ذات قدرة تنافسية عالية في مهام مختارة، ولكنها لا تجد أي دليل على استبدال معماري واسع عندما يختبر الباحثون بشكل مباشر ما إذا كانت النماذج تحافظ على البنية الأساسية للبيانات وتحسبها.