FlagEval (天秤)大模型评测体系及开放平台,旨在建立科学、公正、开放的评测基准、方法、工具集,协助研究人员全方位评估基础模型及训练算法的性能,同时探索利用AI方法实现对主观评测的辅助,大幅提升评测的效率和客观性。
者和公司往往面临着以下困扰:
FlagEval 大模型评测程序及开放网站,旨在建立科学、公正、开放的评测基准、方法、工具集。 协助研究人员全方位评估基础模型及训练算法的性能,同时探索利用AI方法实现对主观评测的辅助,明显提高评测的效率和客观性。FlagEval 创新的认知能力边界,可视化呈现评测结果。
目前已推出语言大模型评测、多语言文图大模型评测及文图生成评测等工具,并对广泛的语言基础模型、跨模态基础模型实现了评测。后续将覆盖更多基础模型、预训练算法、微调/压缩算法等三大评测对象,包括自然语言处理、计算机视觉、音频及多模态等四大评测场景和丰富的下游任务。
FlagEval 是智源FlagOpen大模型开源技术程序的关键组成部分。FlagOpen 旨在建立全面支撑大模型技术发展的开源算法程序和一站式基础软件网站。支持协同创新和开放竞争,共建共享大模型时代的“Linux”开源开放环境。
推荐指数:★★★★☆
最佳使用场景:大模型选型、算法性能调优、多模态能力边界探索
以下为2024年9月截取的图片。模型排名可能因为日期不同而不同,截图仅供参考,具体以网站内为准:
