系列

NLP 与 LLM 基础

一条面向研究和实践的路线：tokenization、embeddings、seq2seq、attention、Transformers、fine-tuning、PEFT、prompting 和 NLP/LLM evaluation。

从 Tokenization 开始
EN
NLP 分类

Part I

语言如何成为模型输入

  1. 1. Tokenization and Subwords：为什么切词会影响模型
  2. 2. 词向量与句向量

Part II

模型架构

  1. 1. Sequence-to-Sequence Models
  2. 2. Attention Mechanism：注意力机制
  3. 3. NLP 中的 Transformers

Part III

适配与交互

  1. 1. Fine-Tuning Transformers
  2. 2. Parameter-Efficient Fine-Tuning
  3. 3. Prompting and Instruction Following

Part IV

评估

  1. 1. NLP Evaluation：自然语言处理评估
  2. 2. LLM Evaluation and Failure Modes

这个系列为什么更像你

它不是普通 NLP 教程，而是把每个基础概念都连接到 multilingual AI、domain MT、LoRA/PEFT、RAG 和 evaluation。

概念主线

Jurafsky & Martin、CS224N 和 Illustrated Transformer 提供概念骨架。

实践主线

Hugging Face Course、Transformers、Tokenizers、Evaluate 和 PEFT 提供实现方式。

研究连接

MT、多语、LoRA、COMET 和 LLM failure modes 连接到你的研究身份。

从语言变成模型输入的地方开始。

Tokenization 是一个安静但关键的第一决定，它塑造了多语模型能学到什么。

阅读第一篇
English version