“我觉得 A 更好”不是可复现的评测。一个简单的测试也可以严谨:事先定义任务、统一输入、记录结果,再解释局限。

建立测试样例

以文档摘要为例,准备 12 份经过脱敏的文本:4 份常规资料、4 份包含数字或日期的材料、4 份包含冲突信息的材料。为每份材料列出不能遗漏的事实和不能添加的说法。

预先写好评分表

项目检查方法建议记录
事实准确逐项对照原文错项数量与严重程度
覆盖程度核对必需事实清单已覆盖 / 总项目
格式遵守检查字段、长度与结构通过或未通过
延迟与成本记录客户端耗时和账单数值、时间与计费渠道

这些栏目是记录模板,不是任何模型的实际分数。重要任务应提高事实错误的权重,不要让漂亮表达掩盖严重错误。

保持条件一致

使用同一提示与输入,记录具体模型标识、参数、渠道与测试日期。无法对齐的参数要写明。生成结果可能有随机性,关键样例可重复多次;如果使用缓存,也要注明。

做一次盲评

把回答匿名标成 A、B,由不知道模型名称的人评分。先看原文再评分,避免被长度、语气或品牌影响。发现分歧时讨论具体标准,而不是简单求平均。

如何写结果文章?

公开测试方法、失败案例与样本数量,清楚区分实测数据和个人判断。小样本只支持“在这些任务中的表现”,不支持“全面最强”的结论。不要虚构测试过程或用联盟收益决定排名。