不存在对所有人都最好的模型。先确定你的任务,再用相同数据和评价标准测试候选模型。

第一步:定义任务

写作、代码补全、长文档分析、图像理解的需求不同。写下输入长度、输出形式、是否必须引用依据,以及可接受的错误率。不要把公开的综合榜单当成你的业务结果。

第二步:准备测试集

从真实工作中挑出 10~20 个有代表性的、经过脱敏的样例,覆盖简单、困难与边界情况。给每个样例写清楚“合格回答”的标准;人工检查与程序化规则可以配合使用。

第三步:比较四项指标

  • 质量:是否按要求作答,有无编造事实,关键字段是否正确。
  • 延迟:高峰与一般时段体验是否满足交互需求。
  • 成本:考虑输入、输出、缓存、工具调用等完整账单规则;以实际供应商价格为准。
  • 限制:上下文、速率、地区、数据处理条款和支持渠道是否符合要求。

第四步:从小规模试用到上线

先用非敏感数据进行小范围验证,记录每次调用的任务、结果和成本,再决定是否扩大。模型更新、价格和供应渠道都可能变化,重要流程需要持续复测。

把抽象目标变成验收标准

例如“摘要质量好”可以具体化为:包含原文的关键结论、数字不出错、没有新增事实、在 200 字内输出。代码任务则可以检查单元测试、依赖变化和安全边界。明确标准后,模型比较才不容易变成主观偏好。

不同任务的关注点

  • 客服草稿:是否引用真实规则,对资料没有答案时能否拒绝猜测。
  • 代码辅助:能否通过测试,是否引入不必要依赖,是否暴露密钥。
  • 资料分析:能否保留原文数字、限定条件和出处。
  • 结构化提取:字段完整、类型正确,并能处理缺失值。

具体模型家族可参考模型地图;要进行自己的比较,可使用实验评分模板。