Огляд показує, що базові моделі зазвичай не замінюють спеціалізовані архітектури машинного навчання
Огляд 159 документів стверджує, що базові моделі на основі мови можуть бути висококонкурентоспроможними у вибраних завданнях, але не знаходить доказів широкої архітектурної заміни, коли дослідники безпосередньо перевіряють, чи моделі зберігають і обчислюють базову структуру даних.