Wat is er gebeurd
Onderzoekers hebben een compact basismodel ontwikkeld, HTML-LM genaamd, dat is ontworpen om Tsjechische HTML-documenten te verwerken. Het model heeft 154 miljoen parameters en is getraind op 100 miljoen webdocumenten met behulp van meerdere doelstellingen. Het vormt een nieuwe state-of-the-art voor classificatie- en regressietoepassingen in het Tsjechische internetdomein.
Het model heeft 154 miljoen parameters en is getraind op 100 miljoen webdocumenten met behulp van meerdere doelstellingen.
Het vormt een nieuwe state-of-the-art voor classificatie- en regressietoepassingen in het Tsjechische internetdomein.
Waarom het ertoe doet
De ontwikkeling van HTML-LM is belangrijk omdat het de beperkingen aanpakt van bestaande benaderingen voor het verwerken van webdocumenten. Het is een compact model dat zowel krachtig als economisch is, waardoor het geschikt is voor industriële omgevingen met veel verkeer.
Het model is getraind op een grote van webdocumenten, waardoor het structurele informatie kan leren die inherent is aan HTML.
Het maakt gebruik van een op ModernBERT gebaseerde architectuur, waardoor het webpagina's uit de echte wereld effectief kan verwerken.
Het model wordt ingezet in de productie en verwerkt duizenden webdocumenten per seconde, waardoor het een praktische oplossing is voor industriële omgevingen.
Het wordt vrijgegeven aan de gemeenschap onder de CC BY-NC 4.0-licentie, waardoor het beschikbaar wordt voor gebruik door anderen.
Het model vormt een nieuwe state-of-the-art voor classificatie- en regressietoepassingen in het Tsjechische internetdomein en overtreft zowel grotere encoders als kleine LLM's.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Wat je nu moet bekijken
De ontwikkeling van HTML-LM is een belangrijke stap in de richting van het creëren van universele, hoogwaardige weergaven van webdocumenten in industriële omgevingen met veel verkeer.
De prestaties en economische levensvatbaarheid van het model maken het een veelbelovende oplossing voor industriële omgevingen.
Het vermogen van het model om webpagina's uit de echte wereld effectief te verwerken, maakt het tot een praktische oplossing voor een breed scala aan toepassingen.
De vrijgave van het model aan de gemeenschap onder de CC BY-NC 4.0-licentie maakt het beschikbaar voor gebruik door anderen.
De inzet van het model in de productie demonstreert zijn vermogen om duizenden webdocumenten per seconde te verwerken.
De prestaties van het model in het Tsjechische internetdomein zorgen voor een nieuwe state-of-the-art, die zowel grotere encoders als kleine LLM's overtreft.