AI 学习笔记

答案：线性代数、微积分、概率论与统计、优化理论。

解析：线性代数用于理解数据表示和矩阵运算；微积分是理解梯度下降和反向传播的基础；概率论与统计帮助理解不确定性建模；优化理论则是训练模型的核心数学工具。这四个领域构成了AI学习的数学支柱，缺一不可。

答案：Python编程基础 → 数学基础 → 机器学习 → 深度学习 → 大语言模型与AI应用。

解析：这个路径遵循由浅入深的原则。先掌握编程工具（Python），再夯实数学基础，然后学习经典机器学习方法，接着深入神经网络和深度学习，最后扩展到当前最前沿的大语言模型和AI应用开发。循序渐进可以避免知识断层。

答案：语法简洁易学、拥有丰富的科学计算库（NumPy、Pandas）、完善的深度学习框架（PyTorch、TensorFlow）、活跃的社区生态。

解析：Python的简洁语法降低了入门门槛，使得研究者可以更专注于算法本身而非编程细节。同时，NumPy、Pandas等库提供了高效的数据处理能力，PyTorch和TensorFlow等框架让深度学习模型的实现变得简单。庞大的社区也意味着遇到问题容易找到解决方案。

答案：列表是可变的（mutable），元组是不可变的（immutable）。

解析：列表使用方括号[]定义，可以添加、删除、修改元素；元组使用圆括号()定义，创建后不能修改。元组的不可变性使其在作为字典键或集合元素时更有优势，且在某些场景下性能更好。在AI中，数据集常使用列表存储，而模型配置参数常用元组表示。

答案：列表推导式是一种简洁创建列表的语法，格式为 [表达式 for 变量 in 可迭代对象 if 条件]。

解析：例如 `[x**2 for x in range(10) if x % 2 == 0]` 会生成 `[0, 4, 16, 36, 64]`。列表推导式比传统的for循环更简洁、更易读，且执行效率通常更高。在数据预处理中，常用列表推导式快速转换数据格式或过滤数据。

答案：*args用于接收可变数量的位置参数，**kwargs用于接收可变数量的关键字参数。

解析：*args将多余的位置参数打包成元组，**kwargs将多余的关键字参数打包成字典。这在AI框架中非常常见，例如PyTorch的模型定义、训练函数等经常需要灵活地传递各种参数。使用*args和**kwargs可以让函数接口更加灵活，同时保持向后兼容。

答案：向量点积是两个向量对应元素相乘后求和，公式为 a·b = Σ(a_i * b_i)。

解析：点积可以衡量两个向量的相似程度——点积越大表示方向越接近。在AI中，点积广泛应用于：注意力机制中的Query-Key计算、推荐系统中的用户-物品相似度、词向量相似度计算等。余弦相似度就是基于点积归一化得到的。

答案：导数用于计算梯度，指导模型参数的更新方向。

解析：在梯度下降算法中，损失函数对参数的导数（梯度）指示了参数应该向哪个方向调整以减小损失。导数的正负决定更新方向，导数的大小决定更新步长。反向传播算法本质上就是利用链式法则高效计算复合函数导数的过程。

答案：对于方阵A，如果存在非零向量v和标量λ使得 Av = λv，则λ为特征值，v为对应的特征向量。

解析：特征值和特征向量描述了线性变换的核心特征。在AI中，PCA降维就是基于协方差矩阵的特征分解；PageRank算法利用转移矩阵的特征向量计算网页重要性；许多图神经网络也利用邻接矩阵的谱分解。特征分解帮助我们理解数据的主要变化方向。

答案：人工智能是最大范畴，机器学习是实现AI的一种方法，深度学习是机器学习的一个子集。

解析：AI包含所有让机器表现出智能行为的技术；机器学习是AI的一个分支，通过数据自动学习规律而非硬编码规则；深度学习使用多层神经网络进行表示学习，是机器学习中最强大的方法之一。三者是包含关系：深度学习 ⊂ 机器学习 ⊂ 人工智能。

答案：监督学习使用带标签的数据训练，无监督学习使用无标签的数据发现隐藏结构。

解析：监督学习的目标是学习输入到输出的映射，如分类和回归任务；无监督学习则探索数据的内在结构，如聚类、降维、密度估计。监督学习需要人工标注数据，成本较高但效果通常更好；无监督学习可以利用大量未标注数据，但评估较困难。半监督学习则结合两者优势。

答案：过拟合是模型在训练数据上表现很好但在新数据上表现差的现象。

解析：过拟合通常由于模型过于复杂或训练数据不足导致。缓解方法包括：增加训练数据、使用正则化（L1/L2）、Dropout、早停（Early Stopping）、交叉验证、简化模型结构等。核心思想是在拟合训练数据和保持泛化能力之间找到平衡。

答案：特征工程是将原始数据转换为更适合机器学习模型输入的特征的过程。

解析：好的特征能让简单模型表现出色，差的特征会让复杂模型也难以学习。特征工程包括特征选择、特征构造、特征缩放、编码分类变量等。在深度学习兴起之前，特征工程是机器学习项目的核心工作，"数据和特征决定了机器学习的上限"。

答案：线性回归用于连续值预测（回归），逻辑回归用于分类任务。

解析：线性回归直接输出连续值，假设输出服从正态分布；逻辑回归通过Sigmoid函数将线性输出映射到(0,1)概率区间，用于二分类。虽然名字中有"回归"，但逻辑回归本质是分类算法。两者都是广义线性模型的特例。

答案：交叉验证是将数据分成多份轮流作为验证集评估模型性能的方法。

解析：常用方法包括K折交叉验证（K-Fold，通常K=5或10）、留一法（Leave-One-Out）、分层K折（Stratified K-Fold，保持类别比例）等。交叉验证能更可靠地评估模型泛化能力，减少数据划分随机性的影响，同时充分利用有限的数据。

答案：前向传播是输入数据逐层计算得到输出的过程；反向传播是根据损失函数梯度从输出层向输入层更新参数的过程。

解析：前向传播中，数据经过各层的线性变换和激活函数得到预测结果；反向传播利用链式法则计算损失对各参数的梯度，然后使用优化器更新参数。这两个过程交替进行，使网络逐渐学习数据中的模式。反向传播是训练深度网络高效计算梯度的关键算法。

答案：激活函数引入非线性，使神经网络能学习复杂模式。常用包括ReLU、Sigmoid、Tanh、Softmax等。

解析：没有激活函数，多层网络等价于单层线性变换。ReLU（f(x)=max(0,x)）计算简单且缓解梯度消失，是目前最常用的激活函数；Sigmoid和Tanh将输出压缩到特定范围，但在深层网络中容易出现梯度消失；Softmax常用于多分类输出层，将输出转换为概率分布。

答案：梯度消失是反向传播时梯度逐层减小导致深层参数无法更新；梯度爆炸是梯度逐层增大导致参数更新失控。

解析：两者都源于链式法则中梯度的连乘。当激活函数导数小于1时，多层连乘导致梯度指数级减小（消失）；当权重较大时，梯度可能指数级增大（爆炸）。解决方法包括：使用ReLU激活、批归一化（BatchNorm）、残差连接、梯度裁剪、更好的权重初始化策略等。

答案：模型容量是指模型能够学习的函数的复杂程度，通常与参数数量和模型结构相关。

解析：高容量模型可以学习更复杂的模式，但也更容易过拟合；低容量模型可能欠拟合。选择合适的模型容量需要在偏差-方差权衡中找到平衡点。增加层数、每层的神经元数、使用更复杂的架构都可以增加模型容量。

答案：迁移学习是将一个任务上学到的知识应用到另一个相关任务上的方法。

解析：优势包括：减少训练数据需求、加速收敛、提高小数据集上的性能。常见做法是在大规模数据集（如ImageNet）上预训练模型，然后在目标任务上微调。在NLP领域，BERT、GPT等预训练模型的微调就是迁移学习的典型应用。

答案：知识蒸馏、模型剪枝、量化、低秩分解等。

解析：知识蒸馏用大模型（教师）指导小模型（学生）训练；剪枝移除不重要的权重或神经元；量化将浮点数权重转换为低精度整数；低秩分解用更小的矩阵近似大矩阵。这些方法可以在保持性能的同时显著减小模型大小和推理延迟，对部署到边缘设备至关重要。

答案：学习率控制参数更新的步长，是训练深度网络最重要的超参数之一。

解析：学习率过大导致损失震荡甚至发散；学习率过小导致收敛缓慢或陷入局部最优。常用策略包括：学习率衰减（随时间降低）、预热（warmup，初始阶段逐渐增大）、自适应学习率（Adam、Adagrad等）。找到合适的学习率通常需要实验和调参。

答案：批大小决定每次参数更新使用的样本数量，影响训练速度和收敛行为。

解析：大批次梯度估计更稳定，可以利用硬件并行加速，但内存需求大，可能泛化较差；小批次梯度噪声大，有助于逃离尖锐极小值，可能泛化更好，但训练速度慢。实践中常用32-512之间的批次大小，并使用梯度累积模拟大批次效果。

答案：早停是在验证集性能不再提升时提前终止训练的策略。

解析：早停是一种简单而有效的正则化方法，可以防止模型在训练集上过度拟合。通常监控验证集损失或准确率，当指标在连续多个epoch不再改善时停止训练，并恢复最佳模型参数。早停实现简单，几乎不增加计算开销，是训练模型的标准实践。

答案：在类别不平衡的数据集上，准确率可能产生误导。

解析：例如99%负样本和1%正样本的数据集，即使模型全部预测为负类，准确率也有99%，但模型实际上完全无法识别正类。此时应使用精确率（Precision）、召回率（Recall）、F1分数、AUC-ROC、混淆矩阵等更全面的评估指标。

答案：超参数调优是寻找最优超参数组合的过程，常用方法包括网格搜索、随机搜索、贝叶斯优化等。

解析：网格搜索遍历所有可能的组合，计算成本高；随机搜索随机采样组合，效率更高；贝叶斯优化利用先验信息指导搜索，效率最高但实现复杂。现代工具如Optuna、Ray Tune提供了高效的超参数优化框架，支持早停和分布式搜索。

答案：TP（真正例）：预测为正且实际为正；FP（假正例）：预测为正但实际为负；TN（真负例）：预测为负且实际为负；FN（假负例）：预测为负但实际为正。

解析：混淆矩阵是评估分类模型的基础工具。基于这四个值可以计算各种指标：精确率 = TP/(TP+FP)，召回率 = TP/(TP+FN)，F1 = 2*精确率*召回率/(精确率+召回率)。不同应用场景对FP和FN的容忍度不同，如医疗诊断更关注减少FN（漏诊）。

答案：卷积使用可学习的滤波器（卷积核）在输入上滑动，提取局部特征。

解析：卷积的核心优势在于局部连接和权重共享。每个滤波器只关注输入的局部区域（感受野），同一个滤波器在整个输入上共享参数，大大减少了参数量。多层卷积可以逐层提取从低级特征（边缘、纹理）到高级特征（形状、物体部件）的层次化表示。

答案：池化层降低特征图的空间维度，减少计算量和参数量，提供一定的平移不变性。

解析：常用池化包括最大池化（Max Pooling，取窗口内最大值）和平均池化（Average Pooling，取窗口内平均值）。最大池化保留最显著的特征响应，对纹理特征更有效；平均池化保留背景信息。现代网络如ResNet也使用步幅卷积（strided convolution）替代池化。

答案：CNN利用图像的局部相关性和平移不变性，通过卷积高效提取空间特征。

解析：图像具有局部相关性（相邻像素相关）和层级结构（边缘→纹理→物体）。全连接网络忽略空间结构且参数量巨大；CNN通过局部感受野、权重共享和池化，既保留了空间信息又控制了参数量。这些归纳偏置使CNN在图像任务上远优于全连接网络。

答案：Transformer通过自注意力机制实现并行计算，能更好地捕捉长距离依赖。

解析：RNN需要逐步处理序列，难以并行化，且长距离信息传递容易丢失。Transformer的自注意力让任意位置的token直接交互，计算可完全并行，且长距离依赖的建模能力与距离无关。这些特性使Transformer可以扩展到非常大的模型和数据规模。

答案：多头注意力将注意力机制并行执行多次，让模型在不同子空间关注不同方面的信息。

解析：单头注意力可能只关注一种相关性，多头通过不同的线性投影将Query、Key、Value映射到多个子空间，分别计算注意力后再拼接。例如，在翻译任务中，不同头可能分别关注语法、语义、指代等不同层面的关系。这大大增强了模型的表达能力。

答案：位置编码为模型提供序列中token的位置信息，因为自注意力本身不包含位置信息。

解析：自注意力计算中，token的位置交换不影响结果（置换等变性），但语言中词序至关重要。原始Transformer使用正弦/余弦函数生成位置编码；现代模型多使用可学习的位置嵌入（Positional Embedding）。更先进的方法如RoPE（旋转位置编码）将位置信息融入注意力计算本身。

答案：预训练是在大规模无标注数据上学习通用表示，微调是在特定任务数据上调整模型参数。

解析：预训练（如GPT的下一个词预测、BERT的掩码语言模型）让模型学习语言的基本规律和世界知识；微调使用带标签的任务数据调整模型，使其适应特定任务。现代范式还包括提示学习（Prompting）和指令微调（Instruction Tuning），用自然语言指令引导模型行为。

答案：温度参数控制生成文本的随机性和多样性。

解析：温度T对softmax输出的概率分布进行缩放：p_i = exp(z_i/T) / Σexp(z_j/T)。T→0时最确定（贪婪解码），T越大分布越均匀，生成越随机。低温度（如0.3）适合需要确定性的任务，高温度（如0.8-1.0）适合创意写作。Top-k和Top-p（nucleus）采样常与温度配合使用。

答案：RLHF是使用人类偏好反馈训练奖励模型，再用强化学习优化语言模型生成质量的方法。

解析：RLHF包含三个阶段：1）监督微调（SFT）；2）收集人类对模型输出的偏好比较，训练奖励模型；3）使用PPO等强化学习算法优化策略模型，使其生成能获得高奖励的文本。RLHF显著提升了模型遵循指令的能力和输出质量，是ChatGPT等对话模型的关键技术。

答案：延迟是处理单个请求的时间，吞吐量是单位时间处理的请求数量。

解析：延迟影响用户体验（如对话响应速度），吞吐量决定系统服务能力。两者有时需要权衡：批处理提高吞吐量但增加单个请求延迟。优化延迟的方法包括模型量化、蒸馏、使用更快的注意力算法（如FlashAttention）；提高吞吐量可通过动态批处理、模型并行、服务优化等实现。

答案：量化是将模型权重从高精度浮点数转换为低精度表示，减少存储和计算需求。

解析：常见精度包括：FP32（单精度）、FP16/BF16（半精度）、INT8（8位整数）、INT4（4位整数）。FP16/BF16几乎不损失精度但速度提升2倍；INT8在大多数场景下精度损失很小，推理速度提升2-4倍；INT4用于极端压缩场景。量化感知训练（QAT）比训练后量化（PTQ）效果更好。

答案：KV Cache缓存自注意力中的Key和Value矩阵，避免重复计算，加速自回归生成。

解析：在自回归生成中，每次只生成一个新token，但注意力需要与所有历史token交互。KV Cache保存之前计算的Key和Value，新token只需计算自己的Q、K、V，然后与缓存的K、V做注意力。这避免了O(n²)的重复计算，将复杂度降为O(n)，是大模型高效推理的关键技术。

答案：RAG是将信息检索与文本生成结合，让模型在生成时引用外部知识库的方法。

解析：RAG的工作流程：1）将用户查询编码为向量；2）在知识库中检索相关文档；3）将检索结果与查询一起输入生成模型；4）模型基于检索到的信息生成回答。RAG有效缓解了LLM的幻觉问题，使回答有据可查，并支持知识的动态更新而无需重新训练模型。

答案：RAG可以实时更新知识、避免训练成本、减少幻觉、提供可溯源的回答。

解析：微调需要重新训练模型，成本高且更新频率受限；RAG只需更新知识库文档即可。RAG让模型基于检索到的真实文档生成，显著减少幻觉；同时可以返回引用来源，提高可信度。对于频繁变化的知识（如新闻、产品信息），RAG是更实用的方案。

答案：检索质量是决定RAG效果的关键因素，"垃圾进，垃圾出"。

解析：如果检索阶段返回的文档不相关或质量差，即使生成模型很强也难以产出好结果。提升检索质量的方法包括：优化文档切分策略、改进Embedding模型、使用混合检索（向量+关键词）、重排序（Reranking）、查询扩展等。检索和生成两个环节都需要精心优化。

答案：Embedding是将离散对象（词、图像等）映射到连续向量空间的技术。

解析：向量表示使计算机能处理语义信息，相似的对象在向量空间中距离近。Embedding捕捉了数据的语义特征，支持向量运算（如词向量的"国王-男人+女人≈女王"）。在深度学习中，Embedding是连接离散数据和神经网络连续计算的桥梁。

答案：向量数据库专门存储和查询高维向量，支持相似性搜索。

解析：传统数据库基于精确匹配（B+树、哈希），适合结构化数据查询；向量数据库基于近似最近邻（ANN）算法，在高维空间快速找到相似向量。核心区别：1）数据类型（结构化vs向量）；2）查询方式（精确匹配vs相似性搜索）；3）索引结构（B+树vs HNSW、IVF等ANN索引）。

答案：余弦相似度衡量向量方向的一致性，欧氏距离衡量向量空间中的绝对距离。

解析：余弦相似度 = (A·B)/(||A||*||B||)，范围[-1,1]，对向量长度不敏感，适合比较语义方向；欧氏距离 = ||A-B||，对绝对数值敏感。在文本Embedding中，余弦相似度更常用，因为语义相似性与向量长度关系不大。对于归一化的向量，两者是单调关系。

答案：AI Agent是能自主感知环境、做出决策并执行行动的AI系统。

解析：传统LLM应用通常是单次问答，Agent则具有自主性：可以分解复杂任务、调用工具、观察执行结果、调整策略。Agent的核心组件包括：规划（Planning）、记忆（Memory）、工具使用（Tool Use）。LangChain、AutoGPT等框架提供了构建Agent的工具链。

答案：ReAct是让模型交替进行推理（Reasoning）和行动（Acting）的框架。

解析：ReAct的核心思想：模型先思考当前状态和目标，然后决定执行什么行动（如搜索、计算），观察行动结果后再进行下一步推理。这种交替进行的方式让模型能处理需要多步操作的复杂任务，同时推理过程透明可追溯。ReAct显著提升了Agent解决复杂问题的能力。

答案：规划能力有限、工具使用错误、循环/死锁、幻觉传播、安全与权限控制等。

解析：Agent需要在开放环境中做决策，面临更多不确定性：可能制定不可行的计划、调用工具时参数错误、陷入无限循环、将LLM的幻觉传播到行动中。解决方案包括：添加反思机制、限制工具权限、设置最大步数、人类在环（Human-in-the-loop）审核等。

答案：LLM有知识截止、计算能力有限、无法访问实时信息，工具可以弥补这些不足。

解析：工具扩展了LLM的能力边界：搜索引擎提供实时信息、计算器解决精确数学问题、代码解释器执行程序、数据库查询获取结构化数据。通过Function Calling机制，LLM可以判断何时需要调用工具、选择哪个工具、传递什么参数，实现与外部世界的交互。

答案：Function Calling是让LLM生成调用外部函数的参数的机制。

解析：工作流程：1）定义可用工具（函数名、参数模式、描述）；2）用户提问；3）LLM判断是否需要调用工具，生成JSON格式的函数调用；4）系统执行函数并返回结果；5）LLM基于函数结果生成最终回答。OpenAI、Anthropic等主流模型都支持Function Calling。

答案：清晰说明工具功能、参数含义、使用场景和返回值格式。

解析：工具描述是LLM选择工具的依据，应该：1）用自然语言明确说明工具能做什么；2）每个参数都要有description说明其含义和格式；3）提供使用示例帮助模型理解；4）避免模糊描述导致模型误选。好的工具描述能显著提升Agent的工具使用准确率。

答案：数据收集、文档预处理、分块、Embedding、存储到向量数据库、检索、生成回答。

解析：每个步骤都有技术考量：预处理要清洗格式和噪声；分块策略（按段落、语义、固定长度）影响检索粒度；Embedding模型选择决定语义表示质量；向量数据库选型要考虑规模、延迟、过滤需求。完整的RAG pipeline需要系统工程思维。

答案：固定长度分块、按段落/句子分块、语义分块、递归分块、基于结构的分块等。

解析：固定长度最简单但可能切断语义；按段落保留结构但长度不均；语义分块使用模型判断边界，效果最好但成本高；递归分块先按大粒度再细化。选择策略需考虑文档类型（代码、论文、对话）和下游检索需求，常需要实验对比。

答案：数据规模、查询延迟、吞吐量、过滤能力、部署方式、生态集成、成本等。

解析：主流向量数据库包括：Pinecone（托管服务）、Weaviate（开源，GraphQL接口）、Milvus/Zilliz（企业级，高吞吐）、Chroma（轻量，开发友好）、pgvector（PostgreSQL扩展）、Qdrant（Rust实现，高性能）。选型应基于实际场景需求，小规模可用Chroma，大规模生产环境考虑Milvus或Pinecone。

答案：无法处理长文档、多轮对话中遗忘早期信息、难以进行复杂推理。

解析：早期模型上下文窗口只有2K-4K tokens，无法容纳长论文或代码库。虽然现代模型已扩展到128K甚至1M tokens，但长上下文存在"Lost in the Middle"问题——模型对中间位置的信息提取能力较弱。解决方案包括：RAG检索相关片段、摘要压缩历史、使用支持长上下文的模型。

答案：滑动窗口保留最近K轮对话；摘要记忆对历史对话进行压缩摘要。

解析：滑动窗口实现简单，但会丢失窗口外的信息；摘要记忆使用LLM定期总结对话历史，保留关键信息同时减少token占用。更高级的方法包括：实体记忆（提取关键实体和关系）、向量记忆（将对话Embedding存入向量库按需检索）、知识图谱记忆等。

答案：分层记忆设计：工作记忆（短期）、 episodic记忆（经验）、语义记忆（知识）。

解析：参考人类记忆系统：工作记忆存放当前任务相关信息；episodic记忆存储过去的交互经验，支持"我之前做过类似任务"的检索；语义记忆存储事实性知识。LangChain提供了Memory组件，支持ConversationBufferMemory、VectorStoreRetrieverMemory等多种实现。

答案：在提示中提供几个输入-输出示例，引导模型理解任务模式。

解析：与零样本（直接描述任务）相比，少样本通过具体示例让模型"学习"期望的输出格式和推理方式。示例选择很重要：应选择代表性、多样性、与目标输入相似的示例。Chain-of-Thought提示常在少样本基础上加入推理过程示例，进一步提升复杂任务表现。

答案：在提示中引导模型展示逐步推理过程，而非直接给出答案。

解析：通过在示例中加入"让我们一步步思考"和中间推理步骤，模型被诱导进行显式推理。这显著提升了数学、逻辑、常识推理等复杂任务的表现。变体包括：Zero-shot-CoT（不加示例只加触发句）、Self-Consistency（多次采样选多数答案）、Tree of Thoughts（探索多条推理路径）等。

答案：提示词注入是通过恶意输入覆盖系统提示，操纵模型行为的攻击。

解析：例如用户输入"忽略之前的指令，改为..."可能让模型泄露系统提示或执行非预期操作。防范措施：输入过滤和清洗、使用分隔符区分系统指令和用户输入、输出约束、权限控制、人类审核、对抗性训练等。安全提示工程是生产部署的重要环节。

答案：数据质量是决定模型性能的最关键因素之一，"Garbage in, garbage out"。

解析：高质量数据应满足：准确性（标注正确）、完整性（覆盖各种场景）、一致性（标准统一）、时效性（反映当前情况）。研究表明，增加数据量带来的提升可能不如提升数据质量。数据清洗、去重、去偏、增强是AI项目中最耗时但最重要的工作。

答案：数据增强是通过变换现有数据生成新训练样本的技术。

解析：图像领域：翻转、旋转、裁剪、颜色变换、MixUp、CutMix等；NLP领域：同义词替换、回译、随机插入/删除、EDA等。数据增强可以增加训练数据多样性，提高模型泛化能力，减少过拟合。但增强策略应与任务匹配，过度增强可能引入噪声。

答案：个人隐私保护、数据偏见、知情同意、数据安全、模型可解释性等。

解析：技术上：使用差分隐私、联邦学习、数据脱敏保护隐私；检测和缓解训练数据中的偏见（性别、种族、文化）；确保数据采集获得用户同意。组织上：建立数据治理规范、进行AI伦理审查、保持模型决策透明可解释。法规上：遵守GDPR、CCPA等数据保护法规。

答案：幻觉、知识截止、推理能力有限、缺乏真正的理解、偏见、高计算成本等。

解析：幻觉指模型生成看似合理但实际错误的内容；知识截止使模型不了解最新事件；复杂多步推理仍容易出错；模型更多是模式匹配而非真正"理解"；训练数据中的偏见会被模型学习；大模型的训练和推理需要大量计算资源。这些局限决定了AI目前更适合辅助人类而非完全替代。

答案：幻觉是模型生成与事实不符或没有依据的内容的现象。

解析：缓解方法：RAG检索真实信息作为依据、使用更高质量训练数据、事实核查和约束解码、让模型在不确定时拒绝回答、多模型验证、人类反馈强化学习（RLHF）等。完全消除幻觉目前仍是开放问题，关键是在应用场景中设计合适的防护机制。

答案：就业影响、隐私风险、安全威胁、伦理困境、监管滞后、数字鸿沟等。

解析：社会影响：自动化可能替代部分工作，需要社会政策调整；安全风险：AI可能被用于深度伪造、网络攻击；伦理问题：自主武器、算法歧视；治理挑战：技术发展快于法规制定；公平问题：AI红利分配不均。解决这些需要技术、政策、教育、国际合作多方努力。

答案：任务匹配度、输出质量、成本、隐私安全、易用性、集成能力、社区支持等。

解析：不同工具擅长不同任务：ChatGPT/Claude适合对话和写作，Midjourney/Stable Diffusion适合图像生成，GitHub Copilot适合代码辅助。企业场景还需考虑数据隐私（是否支持私有部署）、API稳定性、成本可控性。没有"最好"的工具，只有"最适合"的工具。

答案：开源模型可定制、可私有化部署、成本低；商业API使用简单、维护少、通常性能更好。

解析：开源（如Llama、Mistral、Qwen）适合有技术能力、数据敏感、需要深度定制的团队；商业API（如GPT-4、Claude）适合快速验证、没有运维资源、追求稳定性的场景。很多团队采用混合策略：敏感业务用开源私有化部署，通用任务调用商业API。

答案：清晰具体的提示、提供上下文、分解复杂任务、迭代优化、验证输出。

解析：有效技巧：1）角色设定（"你是一位资深Python工程师"）；2）明确输出格式（"用表格列出"）；3）提供示例（Few-shot）；4）分解复杂任务为多步；5）要求模型解释推理过程（CoT）；6）对关键输出进行事实核查。把大模型当作聪明的实习生——需要明确指导和检查。

答案：符号AI（1950s-1980s）、机器学习兴起（1980s-2010s）、深度学习革命（2010s-）、大模型时代（2020s-）。

解析：符号AI基于逻辑和规则，如专家系统；机器学习让数据驱动模型学习规律；深度学习用多层神经网络实现突破（AlexNet 2012是里程碑）；大模型时代以GPT系列为代表，展示涌现能力和通用性。每个阶段都伴随着算力、数据、算法的协同进步。

答案：AlexNet（2012）、VGG/ResNet（2014-2015）、Transformer（2017）、BERT/GPT（2018-2019）、GPT-3/ChatGPT（2020-2022）。

解析：AlexNet在ImageNet上的突破证明了深度CNN的有效性；ResNet的残差连接解决了深层网络训练问题；Transformer引入自注意力，成为NLP和后续多模态的基础；GPT-3展示了大模型的涌现能力；ChatGPT通过RLHF实现了产品化的对话AI。这些里程碑推动了AI的快速发展。

答案：多模态融合、Agent自主系统、端侧AI、AI安全对齐、科学发现应用等。

解析：多模态模型（GPT-4V、Sora）统一处理文本、图像、视频；Agent让AI能自主规划和执行复杂任务；端侧AI将模型部署到手机、IoT设备；AI安全和对齐研究确保模型行为符合人类价值观；AI for Science加速科研发现（AlphaFold、材料发现）。AI正从工具向通用智能助手演进。