Training-data attribution depends on the utility function. Quality, factuality, style, safety, fairness, and terminology may point to different influential data.
A first research-oriented explanation of training-data attribution for NLP and LLMs: what it explains, how it differs from feature attribution, and why it matters for evaluation and data-centric research.
Ablation 简单且有用，但 Shapley 通过跨多个 coalition context 平均边际贡献，回答更全面的问题。
Training-data attribution 可以提供数据影响的证据，但因果声称需要谨慎的干预、重新训练、控制条件和不确定性分析。
为什么 attribution unit 很关键：数据源、数据组、文档、样本和 token 层面的归因回答的是不同研究问题，也支持不同证据强度。
数据归因中的 Shapley 基础：coalition value、边际贡献、跨上下文平均，以及为什么它比一次 ablation 更全面。