💻 专业

原文来源：https://mp.weixin.qq.com/s/tp9H0IR9a4SWBioLMCDehA 架构师（JiaGouX）｜我们都是架构师！架构未来，你来不来？ 最近半年写/用 Agent 的人，大概率都踩过同一类坑：模型未必是瓶颈，系统一"动手"，工程侧立刻露馅。并发乱、状态飘、日志不可读、工具权限没边界、失败不可回放……最后你会发现，提示词再华丽，也兜不住这些问题。 这篇我想把 OpenClaw（Clawdbot）的架构拆开讲清楚。我更关心的是：它怎么把这类系统做得更稳、更可控。 起因是我在 X 上刷到一条关于 Clawdbot 架构的拆解帖。它不是"神话能力"，而是用一套很工程的语言，把组件边界、执行链路、可靠性取舍讲得很清楚。 原帖作者 @Hesamation 的出发点很实在：他想搞清楚 Clawdbot 的记忆系统到底怎么工作、可靠性如何。最后他发现，真正值得学的不是"它能做什么"，而是"它怎么把这些事做得更稳"。 太长不看版（6 条） OpenClaw 的本体是 TypeScript CLI 进程，外加一个负责多渠道接入的 Gateway Server；它不是 Web App。 它把可靠性放在第一位：默认串行，显式并行（lane queue）。并发不是"性能技巧"，先是"可靠性问题"。 Agent Runner 更像一条装配线：模型选择与 Key 冷却、Prompt 组装、历史加载、上下文窗口守护，然后驱动工具循环。 记忆不神秘：JSONL 转录（可回放）+ Markdown 记忆文件（可编辑）；检索用 向量 + 关键词 混合，落在 SQLite（FTS5）。 工具调用的安全边界必须系统化：allowlist + 结构化拦截（重定向/命令替换/子 Shell/链式执行等直接拒绝），别把"自觉"当机制。 浏览器不主要靠截图：用 语义快照（Accessibility Tree/ARIA） 把"看网页"降维成"读结构"，成本更低、成功率更稳。 图 1：原始架构图（原图） 图 2：OpenClaw 核心链路 先把它放回正确的分类：它到底是什么 很多人聊 Agent，一开口就是"自治"“多智能体"“进化”。但落地时，你更需要先回答一句话：你做的是聊天机器人，还是"能在你的机器上执行工具的系统”？ OpenClaw 的定位很明确：它是一个 运行在你机器上的进程，负责三件事： 接收来自不同渠道的消息（Telegram、Discord、Slack 等）。 调用 LLM API（OpenAI、Anthropic、本地模型等）。 在本地或受控环境里执行工具（Shell、文件、浏览器、进程），再把结果回写给你。 这句话看起来朴素，但它把架构重心直接钉死了：执行的可控性、状态的可追溯性、失败的可解释性。 ...

原文来源：https://mp.weixin.qq.com/s/jO38bghvaLpjOnQB8aY3uA 作者｜李志宇 博士 编辑｜Kitty 策划｜QCon 全球软件开发大会 随着大模型在企业和行业场景中持续落地，“记忆"正在成为继参数调优和上下文工程之后的下一个工程化核心。短时遗忘、知识碎片化、跨任务信息无法留存等问题，正在限制大模型的个性化、推理链延展与持续演化能力。 本文整理自记忆张量 CTO 李志宇博士在 2025 年 QCon 全球软件开发大会（上海站）的演讲分享。志宇博士结合他多年的研发与落地实践，系统剖析大模型记忆工程的核心技术：记忆分层管理、多粒度调度、可信更新与安全治理，并展示这些技术在金融、工业、知识管理等业务中的应用效果。通过对架构设计、实现细节和案例经验的讲解，帮助开发者与架构师全面理解如何构建具备长期留存与动态调度能力的"有记忆的 AI”，以及它在未来产业智能化演进中的角色与挑战。 预告：将于 4 月 16 - 18 召开的 QCon 北京站设计了「记忆觉醒：智能体记忆系统的范式重塑与产业落地」专题，旨在重新定义企业级记忆系统的未来——聚焦非显式偏好捕捉、记忆自主演化与生命周期管理等前沿方向，探索其在高端客服、个性化助理、企业决策等场景的深层价值。如果你也有相关方向案例想要分享，欢迎提交至 https://jinshuju.com/f/Cu32l5 。 以下是演讲实录（经 InfoQ 进行不改变原意的编辑整理）。 大模型性能缩放曲线的演进历史 我们公司名为"记忆张量"，单从名字便可看出，我们聚焦的是"记忆增强"——或者说"记忆优化"这一方向。去年十一月刚刚成立，不久前刚完成近亿元人民币的天使轮融资。 之所以选择"记忆"作为主攻点，根本原因在于我们判断：在大模型的演进史中，记忆将成为与 MCP 工具并列的下一个关键增强维度。2023 年以前，业界普遍通过扩大数据规模、参数量和训练量来换取性能提升，由此催生了千问、ChatGPT 等代表性范式。进入 2024–2025 年，人们逐渐发现，单纯堆参数与规模带来的收益开始递减，于是转向"后训练"与"推理增强"，DeepSeek-R1 便是这一阶段的典型产物。当后训练也逼近瓶颈时，Sam Altman 等人开始追问：下一步的突破口究竟在哪里？在 GPT-4 的更新日志里，OpenAI 把"全局记忆"列为令团队"兴奋到失眠"的新功能；而在 GPT-5、GPT-6 的路线图中，“记忆"与"个性化"被反复提及，被视为大模型面向应用场景的核心变量。 从实践层面看记忆增强的必要性 若把大模型业务服务做一次抽象，可自下而上划分为：底层的数据库存储与基础 AI 引擎；中间的 MCP 增强、知识库增强；最上层的业务逻辑。再将视角切换到单个用户与大模型的交互流程，就会发现其中同时存在动态与静态两类信息。所谓动态信息，指随每次查询而变化的个性化内容：用户临时贴入的参考材料、在 prompt 里约定的偏好等。查询一旦发出，模型先进行意图理解与任务规划，再进入信息增强链路——MCP 调用各类动态工具，并返回执行结果、校验信息、汇总结果；与此同时，知识库从预先处理好的企业静态知识中抽取内容，为模型提供补充。最终，响应结果既包含推理过程（think 部分），也包含知识性内容，以及用户对本次回答的点赞或点踩。 若沿着时间轴把记忆类型进一步展开，其复杂度远超直觉。假设我们在第 6 轮对话里需要引用一个月前第 2 轮的内容，又在第 5 轮里引用第 1 轮的细节，就必须保证用户在不同场景下都能准确召回、并同步更新已发生变化的记忆。再把视角拉远：大模型可能在多轮会话、多用户、多 Agent、多 App 之间穿梭，动态信息的量级与管理难度呈指数级上升。因此，我们希望在开发层面屏蔽这些复杂性，让应用开发者无需深陷动态信息的泥沼，从而显著降低落地成本。 ...

原文标题: MemGPT: Towards LLMs as Operating Systems 作者: Charles Packer, Sarah Wooders, Kevin Lin, Vivian Fang, Shishir G. Patil, Ion Stoica, Joseph E. Gonzalez 机构: 加州大学伯克利分校 arXiv: 2310.08560v2 [cs.AI] 2024年2月12日 翻译整理: 2025年2月 摘要 大语言模型（LLM）已经彻底改变了人工智能领域，但受到有限的上下文窗口限制，这阻碍了它们在扩展对话和文档分析等任务中的实用性。为了能够在有限的上下文窗口之外使用上下文，我们提出了虚拟上下文管理技术，这一技术借鉴了传统操作系统中的分层内存系统，通过物理内存和磁盘之间的分页来提供扩展虚拟内存的幻觉。 利用这一技术，我们引入了 MemGPT（MemoryGPT），这是一个能够智能管理不同存储层级的系统，以在 LLM 有限的上下文窗口内有效提供扩展上下文。我们在两个领域评估了受操作系统启发的设计，在这些领域中，现代 LLM 的有限上下文窗口严重限制了它们的性能： 文档分析：MemGPT 能够分析远超底层 LLM 上下文窗口的大型文档 多会话聊天：MemGPT 可以创建能够记住、反思并通过与用户的长期互动动态进化的对话智能体 我们在 https://research.memgpt.ai 发布了 MemGPT 代码和实验数据。 图 1. MemGPT（左）在收到关于有限上下文空间的系统警报后将数据写入持久内存。 图 2. MemGPT（左）可以搜索上下文外数据，将相关信息带入当前上下文窗口。 1. 引言 近年来，大语言模型（LLM）及其底层的 Transformer 架构（Vaswani et al., 2017; Devlin et al., 2018; Brown et al., 2020; Ouyang et al., 2022）已成为对话式人工智能的基石，并催生了广泛的消费者和企业应用。尽管取得了这些进展，LLM 使用的有限固定长度上下文窗口显著阻碍了它们对长对话或长文档推理的适用性。例如，最广泛使用的开源 LLM 只能支持几十轮来回消息或推理短文档，然后就会超过其最大输入长度（Touvron et al., 2023）。 ...

本文档整理自 Letta 官方文档、研究论文及 GitHub 仓库 原项目：MemGPT → 现名 Letta 论文：arXiv:2310.08560 📌 项目概览 什么是 MemGPT/Letta？ MemGPT（Memory-GPT）是一个创新的 LLM 记忆管理系统，现更名为 Letta。它由 UC Berkeley 的研究团队开发，旨在解决大语言模型的上下文窗口限制问题。 核心理念： “Teaching LLMs to manage their own memory for unbounded context” 让 LLM 学会管理自己的记忆，实现无限上下文 GitHub 数据： ⭐ 21.2k stars 🍴 2.2k forks 👥 158 位贡献者 🧠 核心问题：上下文窗口限制 现有 LLM 的痛点 有限上下文窗口 GPT-4: 128K tokens Claude: 200K tokens 长文档、多轮对话容易溢出 无法持久化记忆 每次对话都是"从头开始" 无法记住用户偏好、历史交互 无法进行长期学习 不能从交互中积累知识 无法自我改进 🎯 解决方案：虚拟上下文管理 核心创新：操作系统启发 MemGPT 借鉴了传统操作系统的虚拟内存机制： ...

执行摘要 本报告从存储管理视角对自动驾驶大数据、多模态数据湖、Agent Infra Memory管理三个领域进行深度融合分析。核心发现是：三个领域本质上都在解决同一类问题——如何在容量、延迟、成本之间取得平衡的分层存储管理问题。 一、存储管理视角的通用抽象 1.1 核心抽象模型：存储器山 (Memory Mountain) 三个领域都可以用经典的"存储器山"模型来统一描述： 访问延迟 ▲ │ ┌─────────┐ <1ms │ │ 寄存器/ │ Context Window │ │ 工作记忆 │ (Working Memory) │ └─────────┘ 1-100ms │ ┌─────────┐ │ │ 缓存/ │ Session Buffer │ │ 短期记忆 │ (Short-term Memory) │ └─────────┘ 100ms-1s │ ┌─────────┐ │ │ 内存/ │ Vector DB + │ │ 中期记忆 │ Structured Store │ └─────────┘ 1s-10s │ ┌─────────┐ │ │ 磁盘/ │ Object Storage │ │ 长期记忆 │ (Long-term Memory) │ └─────────┘ >10s │ ┌─────────┐ │ │ 归档/ │ Cold Archive │ │ 永久存储 │ (Permanent Storage) │ └─────────┘ └──────────────────► 存储容量 1.2 数据/信息的层次化组织对比 维度 自动驾驶大数据 多模态数据湖 Agent Memory管理 L0: 实时流 CAN/DDS Topic流 实时摄入流 Context Window (4K-128K tokens) L1: 热数据 最近采集的ROS bag 热数据缓存 Session Buffer (10-100 messages) L2: 温数据 转换后的Parquet 温数据SSD缓存 Vector Memory + Structured Memory L3: 冷数据 OSS对象存储 对象存储(S3/OSS) 长期记忆存储 L4: 归档 冷归档存储 归档存储 永久知识库 二、分层存储模型的对比映射 2.1 “存储器山"模型的三域映射 +------------------------------------------------------------------+ | 存储器山模型 - 三域对比映射 | +--------------+------------------+------------------+---------------------------+ | 层级 | 自动驾驶大数据 | 多模态数据湖 | Agent Memory | +--------------+------------------+------------------+---------------------------+ | L0: 寄存器级 | Context Window | In-Memory Cache | Context Window (4K-128K) | | L1: 缓存级 | PolarFS Cache | L1 Memory Cache | Session Buffer | | L2: 内存级 | DataFusion | L2 SSD Cache | Vector DB + | | L3: 磁盘级 | OSS对象存储 | S3/OSS对象存储 | Long-term Memory Store | | L4: 归档级 | 冷归档存储 | Archive Storage | Permanent Knowledge Base | +--------------+------------------+------------------+---------------------------+ 2.2 层次之间的对应关系发现 关键发现：三个领域的层次结构高度同构 ...

执行摘要 本报告对Agent Infrastructure（Agent基础设施）领域进行了系统性深度调研，重点关注Memory管理层次模型。通过对LangChain、LangGraph、LangSmith、Zep、MemGPT等主流技术的分析，揭示了Agent Memory从简单会话存储到复杂知识图谱演进的技术脉络。 1. Agent Infra 分层架构 1.1 Agent执行动态追踪（Trace）层 LangSmith 是LangChain团队推出的LLM应用可观测性平台，截至2025年已处理超过10亿条Trace。 核心架构： Frontend (UI) + Backend API + SDK (Python/TypeScript) ↓ ClickHouse (Trace存储) + PostgreSQL (元数据) + Redis (缓存) 定价模式： Developer计划：免费，5,000 traces/月 Plus计划：$39/月/席位 Enterprise计划：支持私有化部署 1.2 Agent Context管理层 Context生命周期： 创建(Creation) → 传递(Transfer) → 更新(Update) → 销毁(Dispose) │ │ │ │ 初始化状态 节点间流转 Reducer合并 会话结束 LangGraph中的Context管理： class AgentState(TypedDict): messages: Annotated[list, add_messages] documents: list[str] counter: Annotated[int, add] 2. Memory管理深度分析（重点） 2.1 Memory层次模型 基于认知科学和计算机体系结构的启发，Agent Memory采用分层架构： ┌─────────────────────────────────────────────────────────┐ │ Working Memory (工作记忆) │ │ Context Window / Active Reasoning │ │ ~4K-128K tokens │ │ ▲ │ │ │ 实时访问 │ ├───────────────────┼─────────────────────────────────────┤ │ ▼ │ │ Short-term Memory (短期记忆) │ │ Session History / Conversation Buffer │ │ ~10-100 messages │ │ ▲ │ │ │ 快速检索 │ ├───────────────────┼─────────────────────────────────────┤ │ ▼ │ │ Long-term Memory (长期记忆) │ │ ┌───────────────┬───────────────┐ │ │ │ Fixed Attr │ Fuzzy Vector │ │ │ │ Memory │ Memory │ │ │ │ (用户画像) │ (Embedding) │ │ │ └───────────────┴───────────────┘ │ └─────────────────────────────────────────────────────────┘ 2.2 短期记忆（Short-term Memory） 工作记忆（Working Memory）： ...

执行摘要 本报告对多模态数据湖领域进行系统性深度调研，涵盖架构设计、存储格式、查询优化、数据治理及业界实践等核心维度。随着AI原生时代的到来，数据湖正经历从结构化分析向多模态AI就绪架构的根本性演进。 一、多模态数据湖架构 1.1 现代多模态数据湖核心架构组件 现代多模态数据湖采用分层解耦架构，各层职责明确： 访问层 (Jupyter/BI工具/ML框架/Agent接口) ↓ 计算层 (Spark/Flink/Trino/DuckDB/PyTorch/Ray) ↓ 表格式层 (Delta Lake/Iceberg/Hudi/Paimon) ↓ 存储格式层 (Parquet/Lance/ORC/Arrow) ↓ 对象存储层 (S3/GCS/Azure Blob/OSS) 核心组件解析： 组件层级 核心功能 代表技术 对象存储层 海量数据持久化、高可用、低成本 Amazon S3, 阿里云OSS 存储格式层 数据序列化、压缩、列式/行式布局 Parquet, Lance, Arrow 表格式层 ACID事务、Schema演进、版本控制 Iceberg, Delta Lake, Hudi 计算层 查询处理、ETL、ML训练 Spark, Flink, DuckDB 访问层 数据消费、可视化、应用集成 Tableau, Jupyter, LangChain 1.2 Data Lakehouse架构特点与优势 Lakehouse核心特征： 开放格式存储：基于Parquet/ORC等开放列式格式，避免厂商锁定 ACID事务支持：通过表格式层实现事务一致性 Schema演进：支持字段增删改，无需重写数据 时间旅行：数据版本回溯，支持可重现分析 统一批流：同一份数据支持批处理和流处理 Lakehouse vs 传统架构对比： 维度 传统数据仓库 数据湖 Lakehouse 数据类型 结构化为主 全类型 全类型 ACID支持 强 无 强 Schema管理 严格 灵活 灵活+演进 性能 高 低 高 成本 高 低 低 AI/ML支持 弱 中等 强 二、存储格式深度分析 2.1 Parquet格式 核心优势： ...

摘要 自动驾驶大数据是驱动智能驾驶技术演进的核心燃料。本报告从数据类型与特征、数据处理流程、技术挑战、主流解决方案和未来趋势五个维度，对自动驾驶大数据领域进行系统性调研，提炼核心洞察，为技术决策提供参考。 一、数据类型与特征 1.1 多模态数据类型全景 自动驾驶系统依赖多源异构传感器数据实现环境感知和决策控制，主要数据类型包括： 数据类型 传感器来源 数据特征 产生频率/规模 图像/视频数据 摄像头（8-12个） 2D视觉信息，含颜色、纹理、语义 30-60fps，每小时72-144GB 点云数据 激光雷达（LiDAR） 3D空间坐标、反射强度 10-20Hz，每小时36-252GB 毫米波雷达数据 Radar（3-5个） 距离、速度、方位角（4D成像） 10-50Hz，数据量相对较小 CAN总线数据 车辆总线系统 车速、转向角、油门/刹车踏板位置 100-1000Hz，结构化数据 DDS Topic数据 ROS2/中间件 传感器融合、决策指令、状态信息 实时流式数据 超声波数据 超声波雷达 近距离障碍物检测 低速场景辅助 GNSS/IMU数据 GPS+惯性测量单元 位置、姿态、加速度 1-100Hz 高精地图数据 预采集/实时构建 车道线、交通标志、拓扑关系 静态+动态更新 1.2 数据规模与产生速率 根据行业研究数据： 单车数据产生量： L2级别：每小时约2TB L4-L5级别：每小时16-20TB 研发阶段单车每日：近10TB 商用阶段单车每日：约2TB fleet级数据规模： 特斯拉：全球近200万辆车，每天提供约1600亿帧视频用于训练 累计数据量：特斯拉已收集超过30PB视频数据（2022年） 训练数据：1000万个精选人类驾驶视频（2023年初） 1.3 数据结构化程度分布 数据类型 格式示例 占比估算 特点 非结构化数据 原始视频、点云、图像 ~70-80% 体量大、处理复杂、价值密度低 半结构化数据 ROS bag、JSON、Protobuf ~15-20% 包含元数据和原始数据的混合 结构化数据 Parquet、CSV、CAN信号 ~5-10% 易于查询分析、价值密度高 关键洞察：自动驾驶数据的"冰山模型"——可见的标注数据和结构化数据仅占小部分，海量的原始非结构化数据才是训练端到端模型的关键。 ...

这是 Google 及相关高质量智能体设计模式的资料整理，涵盖从理论基础到实践应用的完整内容。 📚 中文资料 1. Prompt Engineering Guide - 大语言模型智能体简介 ⭐推荐 网址: https://www.promptingguide.ai/zh/research/llm-agents 语言: 中文 内容: 系统性介绍 LLM Agent 的核心组件 智能体（Agent）角色与设计 规划模块（Planning）：无反馈规划 vs 有反馈规划 记忆模块（Memory）：短期记忆与长期记忆 工具使用（Tools）：API、代码解释器等 ReAct、Reflexion 等设计模式 📚 英文资料（高质量参考） 2. A Survey on LLM-based Autonomous Agents ⭐经典论文 网址: https://arxiv.org/abs/2308.11432 PDF: https://arxiv.org/pdf/2308.11432 作者: 中国人民大学高瓴人工智能学院 内容: LLM Agent 的统一框架 社交科学、自然科学、工程领域的应用 评估策略与未来方向 3. DeepLearning.AI - Multi AI Agent Systems with crewAI 网址: https://www.deeplearning.ai/short-courses/multi-ai-agent-systems-with-crewai/ 时长: 2小时41分钟，18个视频课程 内容: 角色扮演（Role-playing） 记忆系统（短期/长期/共享记忆） 工具分配（Tools） 任务协作（串行、并行、层级） Guardrails 错误处理 4. LangChain 官方文档 - Agentic Concepts 网址: https://js.langchain.com/docs/concepts/agentic/ 内容: LangChain 的 Agent 架构 LangGraph 编排框架 Deep Agents 现代功能（自动压缩、虚拟文件系统、子代理） 🔗 Google 官方资源 资源 链接 Vertex AI Agent Builder https://cloud.google.com/generative-ai-app-builder/docs/agent-intro Gemini API Agents 文档 https://ai.google.dev/gemini-api/docs/agents Google Research https://research.google/pubs/ Kaggle Agents 白皮书 https://www.kaggle.com/whitepaper-agents 📋 核心设计模式总结 模式 说明 ReAct 推理+行动交替进行（Thought → Action → Observation） Chain-of-Thought 思维链，逐步推理 Tree of Thoughts 多路径思维树 Reflexion 自我反思与改进 Multi-Agent 多智能体协作（角色分工） RAG 检索增强生成 Tool Use 工具调用（搜索、代码解释器等） 📝 延伸阅读 MRKL: 结合 LLM 和专家模块 https://arxiv.org/abs/2205.00445 Toolformer: 微调 LLM 使用外部工具 API https://arxiv.org/abs/2302.04761 HuggingGPT: 利用 LLM 作为任务规划器 https://arxiv.org/abs/2303.17580 ChemCrow: 化学领域专用 Agent https://arxiv.org/abs/2304.05376 持续学习中，欢迎交流讨论。 ...