Preprint constateert dat periodieke onderwerpwisselingen in basistaalmodellen voor verrassingen zorgen
Een nieuwe arXiv-voordruk meldt dat het injecteren van een nieuw onderwerp om de paar honderd tokens de beoordeelde verrassing en verbinding van taalmodellen kan vergroten. Het effect leverde geen geïntegreerde documenten op en verbeterde niet het beste resultaat in een online bin-packing-test, waardoor beperkingen aan het licht kwamen in de duur van de evaluatie van generaties.