Mem0 - 学习

什么是Mem0

Mem0 是大模型的记忆层,有点像长期记忆,AI agent可以调用长期记忆来,回忆过去相关的交互,存储用户一些偏好和事实信息,或者从过往失败和成功的经验里面吸取教训。
Mem0给AI agent记忆能力,这样LLM就可以记住、学习
进化成长了。Mem0是一个很容易集成在你目前产品原型里面的一个记忆架构。

无状态和有状态Agents

大多数agent都是无状态的,agent就处理请求、生成反馈,然后忘记所有东西。甚至上下文很长的窗口,当你打开下一个新的窗口的时候,所有的历史都被重置了。
Mem0里面是有状态的Agent,有状态的Agent会包含相关上下文,回忆关键的事情,时间越久就越聪明。
在这里插入图片描述

Memory在你的Agent架构里面应该放在哪里

Mem0 是和agent架构并行的,不像retrieval-based 系统,比如RAG,Mem0会跟踪过去的交互,存储长期的知识,根据agent的动作进行演变。
在这里插入图片描述
记忆并不是意味着我把更多信息放进去上下文里面,而是更聪明地记住相关信息。

Memory vs RAG 互补的工具

RAG retrieval-augmented generation 是专门用于在文本里面搜寻实例的,但是这是无状态的,RAG不知道用户是谁,用户之前问过什么。。
Mem0提供了一种连续性,存储决定、偏好、上下文环境,不仅仅是知识本身。

Mem0的记忆种类

Mem0支持各种各样的记忆类型,就像人类进行记忆一样。
Working Memory:工作记忆,短期记忆的会话认知
Factual Memory:事实记忆,长期的结构化知识,比如偏好、设置
Episodic Memory:情景记忆,记住特定场景的会话内容
Semantic Memory: 构建通用的知识

记忆类型

在构建有用的AI应用之前,首先要了解不同的记忆系统是如何工作的

为什么记忆很重要

AI 系统为什么需要有记忆,有以下三个原因:

  1. 在会话时能够有一致的上下文
  2. 从历史的交互中学习到东西
  3. 基于时间会构建个性化经验
  4. 如果没有很好的记忆系统,AI应用会把每一次交互都视为全新的交互,会丢掉很多有价值的上下文信息,失去个性化设置。

短期记忆

记忆系统里面最基础的一个记忆就是短期记忆,就像一个人会记住刚刚说了什么话那样。短期记忆包括:

  1. 会话历史,最近的消息会话
  2. 工作记忆:临时的变量和状态
  3. Attention context 注意力机制:当前会话的重心

长期记忆

更多复杂的AI 应用一定会有长期记忆,长期记忆会一直存在在各种会话里面,长期记忆包括:

  1. factual memory:存储用户的信息,比如偏好,某方方面的特定信息。
  2. episodic memory:过去的交互历史和经验
  3. sematic memory:了解概念和关系

记忆的特点

短期记忆:暂时的,用户实时对话场景
长期记忆:长久的,用户的偏好和历史

Mem0如何维护长期记忆?

Mem0的长期记忆如下进行维护:

  1. 用向量搜索来存储和retrieve 语意信息
  2. 跨会话维护用户特定的上下文信息
  3. 对于相关的历史交互,有专门的取回机制
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值