公平性评测不能只看最终选择

最近看到 Allen AI 发布了一个叫 FairStress 的评测基准，专门用来衡量大模型在涉及人的决策中，除了最终选谁之外，整个决策过程是否公平。这个切入点挺有意思，因为现在大家谈模型公平性，基本都停留在「换个性别或种族，答案变不变」这种最终结果层面。

但真实场景里，模型输出往往不是一锤定音，而是嵌在流程里：筛简历、批贷款、排就诊优先级、评入学申请，每一步都可能带着偏见往下传。如果只看最后选了谁，很容易漏掉中间环节的偏差，比如模型对某类人群给出的理由更苛刻、信心更低，或者需要更多补充信息才肯下判断。FairStress 的思路是把评测从「结果公平」推进到「决策过程公平」，我觉得这个方向是对的。现有基准之所以会给出不同结论，很大程度上是因为它们把模型当成一个黑箱分类器，而忽略了模型在权衡证据时的细微差别。当然，这类基准也有落地难题：过程公平很难定义，标注成本高，而且不同业务场景对「公平」的容忍度不一样。对出海团队来说，如果产品要进欧美市场，这类评测迟早会变成合规和客户尽调的一部分，提前关注比事后补救划算。我的判断是，FairStress 短期内不会成为行业标准，但它提醒了一件事：公平性不是加个后处理开关就能解决的，得从评测设计开始就把它当成一个过程问题来对待。