人工智能学习、实验与工具记录
设计一个最小的检索增强问答流程，说明切分、召回、提示词、引用与评估各自的职责。
从自回归目标到 logits、采样、停止条件，区分训练并行与推理逐步生成。
从字符到 token ID 再到向量，说明子词、词表、特殊 token 与上下文表示的区别。
分清多头注意力、位置编码、前馈网络，以及原始编码器—解码器中的三种注意力。
推导 Q、K、V、缩放点积、mask 和复杂度，并用 NumPy 实现单头注意力。
从序列翻译的瓶颈出发，理解循环状态、编码器—解码器和早期 Attention 的作用。
用小型二分类数据说明 Tensor、Dataset、DataLoader、自动微分与优化器的边界。
用一个两层网络推导链式法则，解释梯度、激活函数和参数更新的关系。
以批量线性分类为例，理解矩阵乘法、广播、axis 与稳定 softmax。
用文本分类串起规则、数据、模型与训练，弄清机器学习和深度学习各自解决的问题。