Fu1sh's BLOG

NLP学习笔记

NLP发展历程

阶段 1：古典 NLP（规则与统计时代）—— 你现在面对的xx老系统

• 代表技术： 正则表达式、TF-IDF、BM25（关键词匹配）、分词器（Jieba）。
• 商业局限： 必须字面完全命中。客户问“苹果手机怎么退货”，系统搜“iPhone 售后”是搜不到的。维护成本极高，需要像你这样的人工去一个个配置“相似问题”。

阶段 2：现代 NLP（深度学习与静态词向量）—— 技术的觉醒

• 代表技术： Word2Vec, RNN, LSTM。这时候开始有了早期的 Embedding（也就是你刚刚跑的那段代码的思想雏形）。
• 商业局限： 词的坐标是“死”的。比如“苹果”这个词，它永远只有一个坐标。系统分不清“吃一个苹果”和“买一部苹果”。

阶段 3：当代 NLP（大模型与注意力机制）—— 你现在正在搞的东西

• 代表技术： Transformer, LLM (DeepSeek, GPT-4)。
• 商业颠覆点： 引入了“上下文动态 Embedding”。大模型会根据整句话的语境，瞬间调整“苹果”的坐标。这就叫“理解了语义”。