การตรวจสอบพบว่าโดยทั่วไปแล้วโมเดลพื้นฐานไม่ได้มาแทนที่สถาปัตยกรรมการเรียนรู้ของเครื่องแบบพิเศษ
การทบทวนเอกสาร 159 ฉบับระบุว่าโมเดลพื้นฐานที่ใช้ภาษาสามารถแข่งขันได้สูงในงานที่เลือก แต่ไม่พบหลักฐานของการทดแทนสถาปัตยกรรมในวงกว้าง เมื่อนักวิจัยทดสอบโดยตรงว่าโมเดลรักษาและคำนวณโครงสร้างพื้นฐานของข้อมูลหรือไม่