Penyelidik memperkenalkan model asas padat untuk pemprosesan dokumen HTML Czech

Dokumen sumber utamaSumber direkodkan 17 Sep 2026, 6:33 PG UTC

Penerbit: arxiv.org
Pautan sumber: arxiv.orghttps://arxiv.org/abs/2609.18494
Jenis sumber: Dokumen utama — pengumuman rasmi, kertas, pemfailan atau halaman pihak pertama yang kami baca secara langsung.

KonteksFahami perkara ini dalam masa 60 saat

Mulakan di sini

Istilah utama

Model Asas: Model pra-latihan yang besar yang boleh disesuaikan dengan banyak tugas hiliran.
Pengelasan: Tugas di mana model memberikan input kepada satu atau lebih kategori yang dipratentukan.
Set data: Koleksi contoh berstruktur atau tidak berstruktur yang digunakan untuk latihan, pengesahan atau ujian.

Apa yang berlaku

Penyelidik telah membangunkan model asas padat yang dipanggil HTML-LM, yang direka untuk memproses dokumen HTML Czech. Model ini mempunyai 154 juta parameter dan dilatih pada 100 juta dokumen web menggunakan pelbagai objektif. Ia menetapkan teknologi terkini untuk aplikasi klasifikasi dan regresi dalam domain Internet Czech.

Model ini mempunyai 154 juta parameter dan dilatih pada 100 juta dokumen web menggunakan pelbagai objektif.

Ia menetapkan teknologi terkini untuk aplikasi klasifikasi dan regresi dalam domain Internet Czech.

Butiran sumber: arxiv.org ↗

Mengapa ia penting

Pembangunan HTML-LM adalah penting kerana ia menangani batasan pendekatan sedia ada untuk memproses dokumen web. Ia adalah model kompak yang berprestasi dan ekonomik, menjadikannya sesuai untuk persekitaran perindustrian dengan trafik tinggi.

Model ini dilatih pada set data besar dokumen web, yang membolehkannya mempelajari maklumat struktur yang wujud dalam HTML.

Ia menggunakan seni bina berasaskan ModernBERT, yang membolehkannya memproses halaman web dunia sebenar dengan berkesan.

Model ini digunakan dalam pengeluaran, memproses beribu-ribu dokumen web sesaat, menjadikannya penyelesaian praktikal untuk persekitaran industri.

Ia dikeluarkan kepada komuniti di bawah lesen CC BY-NC 4.0, menjadikannya tersedia untuk digunakan oleh orang lain.

Model ini menetapkan teknologi terkini untuk aplikasi klasifikasi dan regresi dalam domain Internet Czech, mengatasi kedua-dua pengekod yang lebih besar dan LLM bersaiz kecil.

Interactive Mechanism

Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya

Terokai teknologi asas di sebalik pembangunan ini secara interaktif.

Thinking Budget (Test-Time Tokens):1,024 tokens

Complex Accuracy79%Math & Code Logic

Latency3.2sTime to first full output

Inference Cost$0.0092Per query estimated

Reasoning StyleStep VerificationInternal chain depth

Active Thinking Trace:

1Deconstruct user problem into formal constraints

2Propose candidate hypotheses & step-by-step calculation

3Self-correction: Backtrack and refute subtle edge cases

4Exhaustive consistency check & final output synthesis

Core takeaway: Test-time compute fundamentally changes AI economics. Instead of only scaling during pre-training, giving reasoning models more tokens at inference time allows them to systematically solve PhD-level STEM problems.

Semakan Konsep Interaktif+10 Points

What is AI? Quiz

A route planner searches possible journeys using explicit rules. What does this illustrate about AI?

Apa yang perlu ditonton seterusnya

Pembangunan HTML-LM ialah satu langkah penting ke arah mewujudkan perwakilan universal dan berkualiti tinggi bagi dokumen web dalam persekitaran perindustrian dengan trafik tinggi.

Prestasi model dan daya maju ekonomi menjadikannya penyelesaian yang menjanjikan untuk persekitaran industri.

Keupayaan model untuk memproses halaman web dunia sebenar dengan berkesan menjadikannya penyelesaian praktikal untuk pelbagai aplikasi.

Pengeluaran model kepada komuniti di bawah lesen CC BY-NC 4.0 menjadikannya tersedia untuk digunakan oleh orang lain.

Penggunaan model dalam pengeluaran menunjukkan keupayaannya untuk memproses beribu-ribu dokumen web sesaat.

Prestasi model dalam domain Internet Czech menetapkan teknologi terkini, mengatasi kedua-dua pengekod yang lebih besar dan LLM bersaiz kecil.

Panduan & kuiz berkaitan

Apakah AI?Model AI Diterangkan Transformer Latihan AI Uji apa yang anda tahu — cuba kuiz AI percuma Cari istilah AI dalam glosari kami Ikuti penjejak keluaran model AI

Adakah ini berguna?