谁来评估那个给 AI 打分的人？
AI Agent 部署越来越广，评估它们好不好用，成了一件很重要的事。但微软最近提出了一个更深的问题：你用来评估 Agent 的那套系统，本身靠不靠谱？这个问题，比大多数人想的都要难。
让我们从一个具体的场景开始。你搭了一个 AI Agent，用来回答客户问题。你觉得它还不错。但怎么证明”还不错”？
你让另一个 AI 来打分——这是现在的主流做法，叫”LLM-as-judge”，用大模型给大模型评分。分数出来了：85 分。你很满意。但这时候，一个更麻烦的问题出现了：
它自己是 85 分还是 55 分？
传统机器学习评估，相对清晰。有标注数据，有明确任务，有少数几个指标，有固定的输入输出。
AI Agent 把这一切都打乱了。Agent 要处理多轮对话，要调用工具，要适应用户行为，要做隐含推理。评估它，需要同时看准确性、完整性、清晰度、连贯性、语气……维度很多，任何一个都可以出问题。
微软 Copilot Studio 团队做评估体系时，面对的第一个问题是：拿什么数据来测试这套评估功能本身？
他们分了三类数据，重要性和用途各不相同。
这里有一个值得认真讨论的问题。用 AI 生成数据来测试 AI 评估系统，听起来像是用一把尺子来校准另一把尺子，而两把尺子都可能是弯的。
- 可以在上线前就开始评估，不需要等真实用户数据
- 可以覆盖合规和隐私限制下接触不到的场景
- 可以系统性地生成边缘案例和压力测试场景
- 可以大规模生成，覆盖不同 Agent 类型和领域
- 生成出来就是评估可用的格式，不需要额外清洗
- 生成数据可能系统性地偏向某类语言风格或场景
- 覆盖不到真实用户的奇特问法和方言表达
- 如果生成模型本身有盲点，生成数据会继承这些盲点
- 评估者训练在相同分布上，可能相互强化错误
微软的回答是：生成数据不是万能的，但它是不可或缺的一部分。关键不是用哪种数据，而是三类数据搭配使用，互相补充，并且持续验证评估系统本身的可靠性。
这是整篇文章最有价值的部分。微软提出了一套验证评估系统（grader）可信度的指标体系。
| 指标 | 测的是什么 | 为什么重要 |
|---|---|---|
| 与人工标注的一致性 | LLM 评分和人工判断的吻合程度 | 一致性低，说明这个评分者的判断不能作为决策依据 |
| 评分者内部一致性 | 同一评分者对同一场景多次打分的稳定性 | 每次结果不一样，这个分数本身就是噪音 |
| 对扰动的敏感性 | 轻微改动回答措辞后，分数的变化幅度 | 好的评分者应该对内容敏感，而不是对措辞敏感 |
| 跨场景泛化能力 | 评分者在不同 Agent 类型和领域的表现 | 只在某类场景准，换了领域就失灵，不能作为通用评估工具 |
AI Agent 正在被用来做越来越重要的事。回答客服问题、处理内部审批、分析合同、辅助医疗决策。
如果评估系统本身不可靠，你就是在用一把坏掉的尺子量一栋楼。楼建完了，尺子说没问题，但尺子本身就不准。
更麻烦的是：评估系统出问题，往往是静默失败。Agent 部署出去了，评分看起来不错，但真实用户遇到问题了，投诉上来了，才发现评估系统根本没有测到那些失败场景。
微软这篇文章的价值，不在于给出了什么新技术。而在于把这个问题显式地提出来了。谁在评估评估者？这个问题，在整个 AI 行业都没有被足够认真地对待。
AI Agent 评估是一个两层问题。第一层：Agent 好不好用？第二层：你用来回答第一层问题的那套工具，靠不靠谱？大多数团队只关注第一层。微软的做法提醒我们：第二层同样需要数据、指标和持续验证。评估数据质量有限，评估信号就会失真。评估信号失真，你对 Agent 的所有判断都会跑偏。
