论文翻译

原文来源: https://zhuanlan.zhihu.com/p/662730929 论文标题: Generative Agents: Interactive Simulacra of Human Behavior 阅读导图: [[斯坦福大学AI小镇论文阅读]] TL;DR 这篇论文提出了一个“生成虚拟人”架构，让虚拟人能在类似《模拟人生》的沙盒世界中持续生活、交流、记忆、反思和规划。[1] 它的核心机制包括三部分：==记忆流（Memory Stream）、思考 / 反思（Reflection）、个人规划（Plan）。==[1] 系统将虚拟人的经历以自然语言写入记忆流，并通过 ==相关性、新近性、重要性== 三因素进行检索。[1] 检索到的记忆不仅用于回答当前问题，还会被进一步综合为更高层次的思考，再影响后续计划与行为。[1] 在 25 个虚拟人组成的小镇中，论文展示了信息传播、关系形成与协作等涌现行为，例如情人节派对的自主组织。[1] 导读：这篇论文为什么值得读 这篇论文是 Agent Memory 方向非常经典的工作。它的重要性不在于“让 NPC 更会聊天”，而在于较早完整地展示了一套 有长期记忆、会反思、能规划 的 Agent 架构。[1] 如果你关心的是 Agent Memory 或 Agent Infra，最值得重点看的部分是： 4.1 记忆与检索 4.2 思考 4.3 计划和反馈[1][2] 如果你更关心交互效果和系统表现，则可以优先看： 3. 生成虚拟人的行为和交互 3.4 新兴的社交行为 8.2 未来工作和局限性 8.3 伦理和社会影响[1] 建议阅读方式 只想快速理解论文核心：先读本文开头的导读，再重点看第 4 节。[2] 想理解为什么它是 Agent Memory 的经典案例：重点看记忆流、检索、思考、计划这四块。[1] 想逐段精读原文翻译：从摘要开始顺序往下读即可。 想看阅读版总结：可配合 [[斯坦福大学AI小镇论文阅读]] 一起看。[3] 摘要前解读 这一部分最值得注意的不是“虚拟人会生活”，而是作者在摘要里就把系统可信行为归结为三个关键因素： ...

原文标题: MemGPT: Towards LLMs as Operating Systems 作者: Charles Packer, Sarah Wooders, Kevin Lin, Vivian Fang, Shishir G. Patil, Ion Stoica, Joseph E. Gonzalez 机构: 加州大学伯克利分校 arXiv: 2310.08560v2 [cs.AI] 2024年2月12日 翻译整理: 2025年2月 摘要 大语言模型（LLM）已经彻底改变了人工智能领域，但受到有限的上下文窗口限制，这阻碍了它们在扩展对话和文档分析等任务中的实用性。为了能够在有限的上下文窗口之外使用上下文，我们提出了虚拟上下文管理技术，这一技术借鉴了传统操作系统中的分层内存系统，通过物理内存和磁盘之间的分页来提供扩展虚拟内存的幻觉。 利用这一技术，我们引入了 MemGPT（MemoryGPT），这是一个能够智能管理不同存储层级的系统，以在 LLM 有限的上下文窗口内有效提供扩展上下文。我们在两个领域评估了受操作系统启发的设计，在这些领域中，现代 LLM 的有限上下文窗口严重限制了它们的性能： 文档分析：MemGPT 能够分析远超底层 LLM 上下文窗口的大型文档 多会话聊天：MemGPT 可以创建能够记住、反思并通过与用户的长期互动动态进化的对话智能体 我们在 https://research.memgpt.ai 发布了 MemGPT 代码和实验数据。 图 1. MemGPT（左）在收到关于有限上下文空间的系统警报后将数据写入持久内存。 图 2. MemGPT（左）可以搜索上下文外数据，将相关信息带入当前上下文窗口。 1. 引言 近年来，大语言模型（LLM）及其底层的 Transformer 架构（Vaswani et al., 2017; Devlin et al., 2018; Brown et al., 2020; Ouyang et al., 2022）已成为对话式人工智能的基石，并催生了广泛的消费者和企业应用。尽管取得了这些进展，LLM 使用的有限固定长度上下文窗口显著阻碍了它们对长对话或长文档推理的适用性。例如，最广泛使用的开源 LLM 只能支持几十轮来回消息或推理短文档，然后就会超过其最大输入长度（Touvron et al., 2023）。 ...