Badacze zaproponowali SetwiseEvalKit, zestaw punktów odniesienia do oceny dokumentów obejmujący scenariusze krótkiego i długiego tekstu, zawierający około...
论文研究HuggingFace Daily Papers(社区热门论文)
Dzisiejszy biuletyn AI
Badacze zaproponowali SetwiseEvalKit, zestaw punktów odniesienia do oceny dokumentów obejmujący
scenariusze krótkiego i długiego tekstu, zawierający około 28 tys. wysokiej jakości kryteriów, składający się z trzech poziomów i dziewięciu wymiarów. Ocena 12 różnych re-rankerów wykazała, że najlepsza metoda osiągała pokrycie poniżej 45%, a wymiary koordynacji między dokumentami były generalnie słabe. W oparciu o to zaproponowano metodę bezuczeniową Rubric4Setwise, która przekształca kryteria w sygnały wyboru w zbiorze, osiągając najlepszą wydajność przy generowaniu w niższej liczbie dokumentów i rund wyszukiwania, będąc jedyną metodą utrzymującą stanowiące SOTA wyniki w obu scenariuszach.
Fragment oryginalnego artykułu
arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.
Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs :https://info.arxiv.org/labs/index.html.