· Xiaojing Yang · Explainability and Responsible AI · 6 min read
English归因单位：从数据源到单个样本
为什么 attribution unit 很关键：数据源、数据组、文档、样本和 token 层面的归因回答的是不同研究问题，也支持不同证据强度。
核心观点
归因单位不是小技术细节，而是决定研究结论的核心。数据源级、文档级和样本级结论不能互相替代。
这篇属于 Training Data Attribution for NLP and LLM Research 系列。它既是我的研究笔记，也是面试准备材料：每篇文章都要帮我把概念讲清楚，连接到自己的 thesis，并说明哪些部分可以成为博士阶段的扩展。
核心问题： 在 training-data attribution 中，到底是谁获得贡献或责任分数？
直觉
如果我说某一组挪威石油领域数据提升了术语翻译，这和说某一个句对导致了某次翻译是两种完全不同的结论。粗粒度单位通常更稳定、更可解释；细粒度单位更可操作，但噪声更大、验证更难。
这在 NLP 和 LLM 研究中特别重要，因为模型行为很大程度上由数据混合方式塑造。模型可能因为大规模网页文本而流畅，因为专业文档而领域准确，因为 curated instruction data 而更安全，也可能因为语料中重复出现的偏差模式而产生偏见。Training-data attribution 让我们可以系统地讨论这些问题，而不是笼统地说“数据很重要”。
形式化视角
设训练集被划分为单位 G = {g_1, …, g_m}。每个 g_i 可以是数据源、数据组、文档、样本或 token 子集。归因要估计每个单位的 phi_i。改变划分方式就改变了整个 attribution game：把一个 source 拆成文档可以揭示异质性，但也会提高方差和计算成本。
解释 attribution score 之前，必须先定义清楚实验设置：
| 设计选择 | 必须回答的问题 |
|---|---|
| Attribution unit | 谁获得贡献：source、group、document、example 还是 token？ |
| Utility function | 解释哪种行为：质量、术语、风格、事实性还是安全性？ |
| Intervention | 是加入、删除、重加权、修正，还是重新训练？ |
| Estimator | 分数来自 exact、sampling、gradient、surrogate 还是 heuristic？ |
| Uncertainty | 分数在 seed、样本、指标和评估集上是否稳定？ |
NLP / LLM 例子
对领域 MT 论文来说，一个实用层级是：source -> document family -> document -> sentence pair -> term/token。顶层回答数据收集问题，中层用于语料审计，底层用于检查某个具体错误可能关联的样本。
所以我不想把 attribution 写成普通可解释性教程。对我的背景来说，它最自然地连接到 multilingual and domain-specific NLP：低资源设定、技术术语、书面语标准差异，以及不止一个 headline metric 的模型评估。
和我的 thesis 的关系
在我的 thesis 叙事中，training-data attribution 的价值在于把模糊的数据问题变成实验设计：
- 定义可解释的数据单位；
- 定义要解释的模型行为；
- 比较受控的数据 coalition 或 intervention；
- 估计贡献；
- 报告不确定性和局限；
- 判断证据是否足够支持更强的因果式表述。
这个结构能帮助我避免 overclaiming。一个分数不会自动成为因果解释；它是特定设置下得到的测量结果。
我已经完成、理解、以及博士阶段可以扩展的内容
| 层次 | 状态 |
|---|---|
| 已完成 / thesis-ready | Group-level attribution、coalition thinking、基于指标的 utilities、谨慎解释、random baselines、bootstrap-style reliability checks。 |
| 理解但未必完整实现 | Instance-level gradient attribution、influence functions、TracIn、Monte Carlo Shapley、surrogate/datamodel approximations。 |
| 很适合博士扩展 | Hierarchical attribution、intervention-based validation、factuality/style-specific utilities、面向 LLM 数据混合的 scalable attribution。 |
面试回答版本
我会先说明归因单位，再报告分数。在我的论文设定里，group-level unit 更合适，因为我关心可解释的数据源和书面语标准组，而不只是孤立样本。Instance-level 方法后续适合做诊断，但最好嵌入更大的 group-level 图景中。
参考资料和阅读路径
- Lloyd Shapley, A Value for n-Person Games.
- Ghorbani and Zou, Data Shapley: Equitable Valuation of Data for Machine Learning.
- Koh and Liang, Understanding Black-box Predictions via Influence Functions.
- Pruthi et al., Estimating Training Data Influence by Tracing Gradient Descent.
- Ilyas et al., Datamodels: Predicting Predictions from Training Data.
- Rei et al., COMET: A Neural Framework for MT Evaluation.