HPD-Parsing zastępuje generowanie autoregresyjne całej strony hierarchicznym równoległym dekodowaniem: główna gałąź układu koordynuje strukturę globalną i...
论文研究HuggingFace Daily Papers(社区热门论文)
Dzisiejszy biuletyn AI
HPD-Parsing zastępuje generowanie autoregresyjne całej strony hierarchicznym równoległym
dekodowaniem: główna gałąź układu koordynuje strukturę globalną i dynamicznie przydziela dekodowanie zawartości na poziomie bloków do gałęzi równoległych, a progresywne przewidywanie wielu tokenów (P-MTP) dodatkowo zmniejsza liczbę kroków dekodowania każdej gałęzi. Na publicznych benchmarkach osiąga przepustowość 4 752 tokenów/s, co stanowi wzrost o 3,06 razy w porównaniu do bazowego modelu autoregresyjnego, przy zachowaniu konkurencyjnej dokładności parsowania. Ta metoda otwiera nowy kierunek w efektywnym, zunifikowanym parsowaniu dokumentów.
Fragment oryginalnego artykułu
arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.
Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs :https://info.arxiv.org/labs/index.html.
HPD-Parsing zastępuje generowanie autoregresyjne całej strony hierarchicznym równoległym dekodowaniem: główna gałąź układu koordynuje strukturę globalną i...