HPD-Parsing menggunakan decoding paralel bertingkat sebagai pengganti generasi autoregresif seluruh halaman: cabang tata letak utama mengoordinasikan struk...
论文研究HuggingFace Daily Papers(社区热门论文)
Ringkasan intelijen AI hari ini
HPD-Parsing menggunakan decoding paralel bertingkat sebagai pengganti generasi autoregresif seluruh
halaman: cabang tata letak utama mengoordinasikan struktur global dan secara dinamis mendistribusikan decoding konten tingkat blok ke cabang konkuren, prediksi multi-token secara progresif (P-MTP) lebih lanjut mengurangi jumlah langkah decoding di setiap cabang. Pada benchmark publik mencapai throughput 4.752 token/s, meningkat 3,06 kali dibandingkan baseline autoregresif, sambil tetap mempertahankan akurasi parsing yang kompetitif. Metode ini membuka arah baru untuk parsing dokumen terpadu yang efisien.
Kutipan artikel asli
arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.
Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs :https://info.arxiv.org/labs/index.html.
HPD-Parsing menggunakan decoding paralel bertingkat sebagai pengganti generasi autoregresif seluruh halaman: cabang tata letak utama mengoordinasikan struk...