MemOS大模型记忆操作系统

MemOS是一个专为大型语言模型（LLMs）设计的操作系统，为LLMs提供强大的长期记忆能力，使其能够高效地存储、检索并管理信息，从而实现更具上下文感知、一致性和个性化的交互。MemOS的主要功能围绕记忆增强生成（MAG）展开，提供统一的API接口，并采用模块化的MemCube架构，支持文本记忆、用于加速LLM推理和上下文复用的激活记忆（KVCacheMemory），以及存储模型适应参数的参数记忆等多种记忆类型。MemOS具备高度可扩展性，便于用户轻松集成和定制各类记忆模块、数据源及LLM集成，其在LOCOMO基准测试中展现出显著的性能优势，尤其在时间推理任务中实现了159%的准确率提升，整体表现较基线提升近39%。

MemOS 1.0：星河（Stellar）状态已发布。在LoCoMo基准测试中，以大语言模型作为评判标准，MemOS在时间推理、多跳推理、开放域、单跳推理任务的平均得分上表现达到最先进水平。

与OpenAI相比，MemOS准确率提升38.97%，令牌使用量减少60.95%。

性能基准

在多项推理任务中，MemOS的表现显著优于基准记忆解决方案。

在时间推理准确率上，MemOS较OpenAI基准提升159%。

LOCOMO端到端评估细节

在LOCOMO基准的五大任务中，大语言模型评判得分对比显示：MemOS-0630在所有任务类型中持续优于基准方法（LangMem、Zep、OpenAI、Mem0），尤其在多跳推理和时间推理场景中表现突出。

核心功能

记忆增强生成（MAG）：提供统一的记忆操作API，与大语言模型集成，通过上下文记忆检索增强聊天和推理能力。

模块化记忆架构（MemCube）：灵活的模块化架构，能轻松集成和管理不同类型的记忆。

多种记忆类型：

• 文本记忆：用于存储和检索非结构化或结构化文本知识。

• 激活记忆：缓存键值对（KVCacheMemory），加速大语言模型推理和上下文重用。

• 参数记忆：存储模型适配参数（如LoRA权重）。

可扩展：能轻松扩展和自定义记忆模块、数据源和大语言模型集成。

快速开始

以下是创建MemCube、从目录加载、访问记忆并保存的简单示例：

from memos.mem_cube.general import GeneralMemCube

# 从本地目录初始化MemCube
mem_cube = GeneralMemCube.init_from_dir("examples/data/mem_cube_2")

# 访问并打印所有记忆
print("--- 文本记忆 ---")
for item in mem_cube.text_mem.get_all():
    print(item)

print("\n--- 激活记忆 ---")
for item in mem_cube.act_mem.get_all():
    print(item)

# 将MemCube保存到新目录
mem_cube.dump("tmp/mem_cube")

MOS（记忆操作系统）是更高层次的编排层，管理多个MemCube并提供统一的记忆操作API。以下是使用MOS的简单示例：

from memos.configs.mem_os import MOSConfig
from memos.mem_os.main import MOS

# 初始化MOS
mos_config = MOSConfig.from_json_file("examples/data/config/simple_memos_config.json")
memory = MOS(mos_config)

# 创建用户
user_id = "b41a34d5-5cae-4b46-8c49-d03794d206f5"
memory.create_user(user_id=user_id)

# 为用户注册cube
memory.register_mem_cube("examples/data/mem_cube_2", user_id=user_id)

# 为用户添加记忆
memory.add(
    messages=[
        {"role": "user", "content": "I like playing football."},
        {"role": "assistant", "content": "I like playing football too."},
    ],
    user_id=user_id,
)

# 之后，检索用户的记忆
retrieved_memories = memory.search(query="What do you like?", user_id=user_id)
# 输出文本记忆：I like playing football, act_memories, para_memories
print(f"text_memories: {retrieved_memories['text_mem']}")

安装方法

注意：目前MemOS主要支持Linux平台。Windows和macOS可能暂时会遇到问题。

通过pip安装

pip install MemoryOS

开发安装

要参与MemOS的开发，可克隆仓库并以可编辑模式安装：

git clone https://github.com/MemTensor/MemOS.git
cd MemOS
make install

可选依赖

Ollama支持

要将MemOS与Ollama一起使用，先安装Ollama CLI：

curl -fsSL https://ollama.com/install.sh | sh

Transformers支持

要使用基于transformers库的功能，确保已安装PyTorch（推荐使用CUDA版本以实现GPU加速）。