用假的小数字（比如 2 维向量）手算一遍 \(QK^\top\) → softmax → 乘 V，把矩阵乘法也摊开。

用假的小数字（比如 2 维向量）手算一遍 \(QK^\top\) → softmax → 乘 V，把矩阵乘法也摊开。

Transformer 架构中的查询（Query）/键（Key）/值（Value）是语议和数学层面上的向量表述。

Query（Q，查询）：我想找什么？我提的问题？

Key（K，键）：我有什么，标签、索引、目录等。

Value（V，值）：真正要给出去的内容。

注意力机制 = 带着问题（Q）去对标签（K），再按相关程度拿走内容（V）。
每个词都同时扮演「提问者 / 可被搜到的条目 / 信息载体」三种角色。

Memory（记忆）作为LangChain框架的核心组件，解决了大语言模型无状态交互的痛点，通过跨线程的命名空间（namespace）管理，实现了对话历史、用户画像及行为习惯的持久化存储。

为 LangChain 智能体添加长期记忆，使其能够在不同对话和会话之间存储和回忆数据。

长期记忆可以让智能体能够跨不同的对话和会话存储和回忆信息。

使用 Tools(工具) 访问和修改智能体的短期记忆。可以设置在模型调用前，或调用后访问记忆。

记忆（Memory）是一个能够记住先前交互信息的系统。对于 AI 代理（Agent）而言，记忆至关重要，因为它使得代理能够记住之前的交互、从反馈中学习，并适应用户的偏好。

随着代理处理的任务日益复杂、与用户交互次数的增多，这种能力对于提升效率和用户满意度都变得不可或缺。

短期记忆（Short-term Memory） 让应用程序能够记住单个线程（thread）或对话中的先前交互。最常见的短期记忆形式就是对话历史（Conversation history）。

当Tool（工具）能够访问运行时信息（如对话历史、用户数据和持久内存）时，它们的功能最为强大。

LangChain社区提供了大量官方预置的工具和工具包，开箱即用，覆盖了许多常见的任务场景。可以在 LangChain 的官方文档中找到这些预置工具的详细列表和使用方法。

LangChain 预置工具最推荐的集成方式是通过 create_agent API 将它们统一绑定给 LLM。Agent 会根据用户的问题自主判断、调用并执行最合适的工具，最终整合成完整回答。

LangChain的 Tool（工具）就像给大语言模型这类“大脑”装上了“手和脚”。大模型本身只能输出文本，但通过工具系统，它能够与外部世界互动，执行诸如搜索、调用API、读写文件等具体操作，从而突破自身能力的局限