Onderzoekers hebben SetwiseEvalKit voorgesteld, een benchmark voor documentverzamelingsevaluatie met drie niveaus en negen dimensies, die zowel korte als l...
论文研究HuggingFace Daily Papers(社区热门论文)
Dagelijkse AI-briefing
Onderzoekers hebben SetwiseEvalKit voorgesteld, een benchmark voor documentverzamelingsevaluatie met
drie niveaus en negen dimensies, die zowel korte als lange tekstscenario's beslaat en ongeveer 28.000 hoogwaardige evaluatiecriteria bevat. Evaluatie van 12 herordenaars toont aan dat de beste methode een dekkingsgraad van minder dan 45% bereikt, en dat de coördinatie tussen documenten over de dimensies over het algemeen zwak is. Op basis hiervan is de training-vrije methode Rubric4Setwise voorgesteld, die criteria omzet in verzamelfluitsignalen, en optimale downstream generatieve prestaties behaalt met minder documenten en zoekrondes, en de enige methode is die in beide scenario's de SOTA-niveau handhaaft.
Fragment uit het originele artikel
arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.
Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs :https://info.arxiv.org/labs/index.html.
Onderzoekers hebben SetwiseEvalKit voorgesteld, een benchmark voor documentverzamelingsevaluatie met drie niveaus en negen dimensies, die zowel korte als l...