Препринт виявляє, що періодичні зміни теми викликають очевидний подив у базових мовних моделях
У новому препринті arXiv повідомляється, що введення нового суб’єкта кожні кілька сотень токенів може збільшити несподіваність і зв’язок результатів мовної моделі. Ефект не створив інтегрованих документів або не покращив найкращий результат у онлайн-тесті на упаковку контейнерів, виявивши обмеження щодо тривалості оцінки поколінь.