Google AI 团队发布教程,介绍了如何为 LLM-as-a-Judge 评测编写可靠的布尔式评分标准。强调模糊提示会导致评估不一致和 token 浪费。以下为四条编写经验:1. 问题保持原子化且互不重叠;2. 评判模型只评估客观事实;3. 只评 prompt 中明确要求的内容;4. 使用专家标注的 golden set 校准评判模型直至与人类评分一致。
Google AI 团队发布教程,讲解如何为 LLM-as-a-Judge 评测编写可靠的布尔式评分标准,指出模糊提示会导致评估不一致和浪费 token。文中给出四条经验:问题保持原子化且互不重叠、只让评判模型评估客观事实(可用 RFC 2119 术语如 MUST 表述)、只评 prompt 中明确要求的内容、用专家标注的 golden set 校准评判模型直至与人类评分一致。
原始发布方:Google AI:DEV 作者专属(RSS)
原文时间:2026-09-03 00:35:00 +08:00
