| 术语 |
英文 |
简短解释 |
| 人工智能 |
Artificial Intelligence (AI) |
让计算机模拟人类智能行为的技术 |
| 机器学习 |
Machine Learning (ML) |
从数据中自动学习规律和模式的算法 |
| 深度学习 |
Deep Learning (DL) |
使用多层神经网络的学习方法 |
| 大语言模型 |
Large Language Model (LLM) |
参数量巨大的预训练语言模型 |
| Transformer |
Transformer |
基于自注意力机制的神经网络架构 |
| 注意力机制 |
Attention Mechanism |
让模型关注输入中重要部分的技术 |
| Token |
Token |
文本处理的基本单元，可以是一个字、词或子词 |
| Embedding |
Embedding |
将非数值数据（如文字）转换为数值向量的过程 |
| 向量数据库 |
Vector Database |
专门存储和检索高维向量的数据库 |
| 余弦相似度 |
Cosine Similarity |
衡量两个向量方向相似性的指标 |
| RAG |
Retrieval-Augmented Generation |
检索增强生成，结合信息检索和文本生成 |
| AI智能体 |
AI Agent |
能自主感知、规划、执行和记忆的AI系统 |
| ReAct |
Reasoning + Acting |
交替进行推理和行动的Agent模式 |
| Function Calling |
Function Calling |
让LLM调用外部函数的机制 |
| 思维链 |
Chain of Thought (CoT) |
引导LLM逐步推理的提示技术 |
| 上下文窗口 |
Context Window |
LLM一次能处理的最大Token数量 |
| 幻觉 |
Hallucination |
AI生成看似合理但实际不正确的内容 |
| 对齐 |
Alignment |
确保AI行为符合人类价值观的过程 |
| RLHF |
Reinforcement Learning from Human Feedback |
基于人类反馈的强化学习，用于AI对齐 |
| 量化 |
Quantization |
将模型参数从高精度转为低精度以减小模型 |
| 剪枝 |
Pruning |
移除模型中不重要的参数或神经元 |
| 知识蒸馏 |
Knowledge Distillation |
将大模型知识转移到小模型的技术 |
| KV Cache |
Key-Value Cache |
缓存注意力计算结果以加速推理 |
| Flash Attention |
Flash Attention |
优化GPU内存访问加速注意力计算的算法 |
| 多模态 |
Multimodal |
能同时处理文本、图像、音频等多种数据类型 |
| 数据增强 |
Data Augmentation |
通过变换扩充数据集以提升模型泛化能力 |
| 过拟合 |
Overfitting |
模型在训练数据上表现好但在新数据上表现差 |
| 泛化能力 |
Generalization |
模型在面对未见过的数据时的表现能力 |
| 微调 |
Fine-tuning |
在预训练模型基础上用特定数据进一步训练 |
| LoRA |
Low-Rank Adaptation |
低秩适配，一种高效的模型微调方法 |
| 显存 |
VRAM (Video RAM) |
GPU上用于存储模型和计算数据的内存 |
| 算力 |
Computing Power / FLOPS |
计算机进行数值计算的能力 |
| BPE |
Byte Pair Encoding |
一种子词分词算法，GPT系列使用 |