# 可视化 EvalScope 提供了基于 Web 的可视化工具,支持对单个或多个模型的评测结果进行深入分析和对比,兼容数据集混合评测的展示,并支持在线评测任务提交与监控。 ```{important} 该可视化工具专用于展示模型**评测**结果,不适用于模型**压测**结果。如需可视化压测报告,请参考[压测结果可视化指南](../user_guides/stress_test/quick_start.md#可视化测试结果)。 ``` ## 安装与启动 ### 1. 安装依赖 安装可视化所需的依赖库: ```bash pip install 'evalscope[service]' -U ``` ```{note} 可视化功能需要 `evalscope>=0.10.0` 生成的评测报告。若版本过低,请先升级并重新运行评测。 ``` ### 2. 启动服务 运行以下命令启动可视化 Web 服务: ```bash evalscope service ``` 服务启动后,在浏览器中打开打印的 Dashboard URL(默认为 `http://127.0.0.1:9000`)即可访问。 支持的命令行参数如下: - `--host`:服务器监听地址,默认为 `0.0.0.0`。 - `--port`:服务器端口,默认为 `9000`。 - `--outputs`:指定评测报告所在的根目录,默认为 `./outputs`。 - `--debug`:启用调试模式。 ### 3. 界面设置 Web 界面顶部导航栏右侧提供以下快捷操作: - **语言切换**:点击语言按钮可在中文和 English 之间切换界面语言。 - **主题切换**:点击日/月图标可在浅色模式和深色模式之间切换。 ## 快速体验 我们提供了一份包含多个模型和数据集的评测样例,让您能快速体验可视化功能: ```bash git clone https://github.com/modelscope/evalscope evalscope service --outputs examples/viz ``` 该样例包含了 qwen-plus 和 qwen3-max 模型在 GSM8K、GPQA、IFEval、iQuiz 等数据集上的评测结果。 ## 功能介绍 ### 仪表盘 仪表盘是进入可视化工具后的首页,提供评测结果的宏观概览。 ![仪表盘页面概览](https://sail-moe.oss-cn-hangzhou.aliyuncs.com/yunlin/images/evalscope/dashboard/dashboard_overview.png) **目录扫描**:在页面顶部的路径栏中输入评测报告所在的根目录,点击扫描按钮即可自动发现该目录下的所有评测报告。 **KPI 卡片**:扫描完成后,页面显示四张关键指标卡片: - **评测总数**:已发现的评测报告数量,点击可切换到时间线视图。 - **评测模型数**:涉及的不同模型数量,点击可切换到按模型分组视图。 - **数据集数**:涉及的不同数据集数量,点击可切换到按数据集分组视图。 - **最近评测时间**:最新一次评测的时间戳,点击可跳转到该报告详情。 **评测列表**:支持三种视图模式切换: - **时间线视图**:按时间顺序展示每条评测记录,每张卡片显示模型名称、综合得分、时间戳和各数据集得分标签。 - **按模型分组**:将评测记录按模型名称分组折叠展示,显示每组最佳得分和评测次数。 - **按数据集分组**:将评测记录按数据集名称分组折叠展示,显示每组最佳得分和评测次数。 此外,列表区域还提供搜索框(按模型名或数据集名搜索)和排序选项(按时间、得分、模型名排序)。 ### 评测报告列表 报告列表页提供更精细的报告管理和筛选功能,支持多选报告进行对比分析。 ![报告列表页面概览](https://sail-moe.oss-cn-hangzhou.aliyuncs.com/yunlin/images/evalscope/dashboard/reports_page.png) **筛选条件**:提供以下筛选维度: - **关键词搜索**:按报告名称模糊搜索。 - **模型筛选**:多选下拉框,按模型名称过滤。 - **数据集筛选**:多选下拉框,按数据集名称过滤。 - **得分范围**:设置最低和最高得分区间。 - **排序方式**:按时间、得分、模型名、数据集名排序,支持升序/降序切换。 **多选与对比**:每张报告卡片左侧有复选框,选中后可执行以下操作: - **对比**:选中 2-3 份报告后,点击对比按钮进入多模型对比页面。 - **查看 HTML 报告**:选中 1 份报告后,可在浏览器新标签页中打开该报告的 HTML 版本。 **分页**:报告列表支持分页浏览,每页展示 20 条记录。 ### 单模型评测详情 点击任意评测报告可进入详情页,查看单个模型在各数据集上的详细表现。详情页由报告头部、数据集导航和三个功能标签页组成。 #### 概览标签 报告头部展示模型名称、关联数据集列表(可点击切换)、综合得分和样本总数,并提供查看 HTML 报告和返回列表的快捷按钮。 概览标签提供模型在各数据集上的整体表现汇总: ![概览标签](https://sail-moe.oss-cn-hangzhou.aliyuncs.com/yunlin/images/evalscope/dashboard/report_overview_tab.png) - **统计概览**:以环形进度图和数字卡片展示平均得分、最佳/最差数据集及其得分、总样本数。 - **数据集得分表**:可排序表格,列出每个数据集的名称、得分(含进度条和数值)和样本数。点击数据集名称可跳转到该数据集的详情标签。 - **雷达图**:以雷达图形式直观展示模型在各数据集上的能力维度分布。 - **任务配置**:可折叠区域,以 JSON 查看器展示本次评测的任务配置信息。 #### 详情标签 详情标签深入展示选定数据集的子集得分和分析结果: ![详情标签](https://sail-moe.oss-cn-hangzhou.aliyuncs.com/yunlin/images/evalscope/dashboard/report_details_tab.png) - **综合得分**:以大号数字和环形进度图展示该数据集的整体得分。 - **子集得分表**:可排序表格,列出每个子集的名称、指标(如存在)、得分和样本数。点击子集名称可直接跳转到预测标签中该子集的样本浏览。 - **AI 分析**:以 Markdown 格式渲染的智能分析报告,对该数据集的表现进行解读。 - **性能指标**:当评测包含性能数据时,展示延迟分布(含百分位表)、TTFT(首 Token 时间)、TPOT(每 Token 时间)和 Token 用量统计。 #### 预测标签 预测标签逐条浏览每个样本的详细预测结果,是最细粒度的分析工具: ![预测标签](https://sail-moe.oss-cn-hangzhou.aliyuncs.com/yunlin/images/evalscope/dashboard/report_predictions_tab.png) **筛选与导航**: - **子集选择器**:下拉选择当前数据集的子集。 - **得分阈值**:设置判定通过/失败的分数阈值,默认 0.99。 - **通过状态过滤**:All / Pass / Fail 三个按钮快速筛选样本,每个按钮显示对应数量。 - **样本搜索**:支持按样本索引号(Index)和消息 ID(Message ID)精确搜索跳转。 - **样本翻页**:左右箭头按钮或键盘方向键逐条浏览,显示当前页码和总页数。 **对话视图**:每个样本以聊天气泡形式展示,支持以下内容类型: - **系统提示**:可折叠的顶部横幅,展示 System Prompt 内容。 - **用户消息**:蓝色气泡,支持文本、图片(点击可放大查看)、音频等富媒体内容。多轮对话时显示轮次标签。 - **助手回复**:绿色气泡,支持文本、推理过程(可折叠)、工具调用(可折叠)和性能指标。多轮对话时显示轮次标签。 - **工具结果**:可折叠的工具返回结果区域。 - **消息 ID**:每条消息右上角显示可复制的消息 ID 标签。 - **内容复制**:每条消息提供一键复制按钮。 **评测结果面板**:对话视图下方展示评测判定详情: - **提取答案**:模型输出中提取的预测答案(与生成内容不同时显示)。 - **标准答案**:预期的正确答案。 - **得分**:数值得分及通过/失败标识。 - **评分详情**:可折叠的 JSON 视图,展示评分计算的完整信息。 - **元数据**:可折叠的 JSON 视图,展示样本的附加元信息。 ```{tip} 当评测启用 [Agent 评测](../user_guides/agent/index.md) 时,预测视图会自动检测样本的 `agent_trace` 并按 `step` 分组渲染 Agent Trace 视图(含工具调用、环境命令、nudge、错误等)。完整说明与示意图见 [Agent 评测 → Trace 可视化](../user_guides/agent/index.md#trace-可视化)。 ``` #### 数据集导航 在详情和预测标签中,左侧提供数据集导航侧边栏(移动端为顶部横向滚动条),可快速切换当前查看的数据集。 ### 多模型对比 在报告列表页选中 2-3 份报告后点击“对比按钮”,即可进入多模型对比页面。对比页面支持最多 3 个模型的横向对比分析。 #### 得分对比 ![得分对比标签](https://sail-moe.oss-cn-hangzhou.aliyuncs.com/yunlin/images/evalscope/dashboard/compare_score_tab.png) - **雷达图**:以多边形雷达图直观展示各模型在不同数据集上的能力维度对比。 - **得分对比表**:以数据集为行、模型为列的表格,每个单元格以颜色编码显示得分百分比,最高分标记高亮。表格底部计算各模型的平均得分。 #### 预测对比 ![预测对比标签](https://sail-moe.oss-cn-hangzhou.aliyuncs.com/yunlin/images/evalscope/dashboard/compare_prediction_tab.png) - **数据集与子集选择**:选择共同数据集和子集进行逐样本对比。 - **得分阈值**:设置通过/失败的判定阈值。 - **按模型过滤**:每个模型独立设置 Any / Pass / Fail 三态过滤器,支持 All Pass、All Fail 等快捷预设。 - **通过率标签**:每个模型显示当前过滤条件下的通过率百分比。 - **并排对话视图**:以多列布局并排展示同一题目下各模型的预测结果,每列以不同颜色标识,顶部显示模型名称和得分。支持键盘方向键翻页。 - **统计栏**:显示过滤后的样本数和总样本数,并提供翻页控件。 #### 模型管理 对比页面顶部的模型管理区域支持以下操作: - **查看已选模型**:以标签形式展示当前参与对比的模型。 - **移除模型**:点击标签上的移除按钮可移除某个模型(至少保留 2 个)。 - **添加模型**:点击添加按钮输入报告名称添加新模型(最多 3 个)。 ### 评测基准浏览 评测基准页面提供 EvalScope 支持的所有评测数据集的浏览与检索功能。 ![评测基准页面](https://sail-moe.oss-cn-hangzhou.aliyuncs.com/yunlin/images/evalscope/dashboard/benchmarks_page.png) - **分类标签**:通过 All / Text / Multimodal 标签切换查看文本类或多模态类数据集。 - **关键词搜索**:按名称或描述搜索数据集。 - **标签筛选**:点击标签按钮按能力维度(如 math、reasoning、code 等)筛选数据集。 - **数据集卡片**:每张卡片展示数据集名称、标识符、描述摘要、样本数、子集数、Few-shot 数、标签和指标。 - **详情弹窗**:点击卡片可打开模态窗口,展示数据集的完整 Markdown 描述、论文链接等详细信息。 ### 在线评测与压测 Web 界面支持直接提交评测和压测任务,无需命令行操作。 #### 评测任务 评测任务页面提供配置表单和任务监控面板: - **配置表单**:填写模型、数据集、生成参数等评测配置后提交任务。 - **任务监控**:实时显示任务进度条和运行日志,任务完成后可直接查看评测报告。 #### 压测任务 压测任务页面提供配置表单和任务监控面板: - **配置表单**:填写模型连接信息和压测参数后提交任务。 - **任务监控**:实时显示压测进度和日志,任务完成后可直接查看压测报告。 ```{note} 在线评测和压测功能的详细配置说明,请参考[评测快速开始](basic_usage.md)和[压测快速开始](../user_guides/stress_test/quick_start.md)。 ```