Os pesquisadores propuseram o SetwiseEvalKit, um benchmark de avaliação de conjuntos de documentos de três níveis e nove dimensões, cobrindo cenários de te...
论文研究HuggingFace Daily Papers(社区热门论文)
Resumo diário de inteligência em IA
Os pesquisadores propuseram o SetwiseEvalKit, um benchmark de avaliação de conjuntos de documentos
de três níveis e nove dimensões, cobrindo cenários de textos curtos e longos, contendo aproximadamente 28 mil critérios de avaliação de alta qualidade. A avaliação de 12 tipos de reordenadores mostrou que a melhor abordagem alcança menos de 45% de cobertura, sendo geralmente fraca na dimensão de coordenação entre documentos. Com base nisso, o método sem treinamento Rubric4Setwise transforma os critérios em sinais de seleção de conjuntos, alcançando o melhor desempenho na geração de resultados subsequentes com menos documentos e rodadas de busca, sendo o único método a manter o estado da arte em ambos os cenários.
Trecho do artigo original
arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.
Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs :https://info.arxiv.org/labs/index.html.
Os pesquisadores propuseram o SetwiseEvalKit, um benchmark de avaliação de conjuntos de documentos de três níveis e nove dimensões, cobrindo cenários de te...