GitHub-letta-ai/letta:letta(前身为MemGPT)是一个使用记忆创建LLM服务的框架。

阿里云创新中心> 创业资讯> GitHub-letta-ai/letta:letta(前身为MemGPT)是一个使用记忆创建LLM服务的框架。
0
0

GitHub-letta-ai/letta:letta(前身为MemGPT)是一个使用记忆创建LLM服务的框架。

阎荟 2024-11-11 00:00:00 1534
Letta 是一个创新的开源框架,旨在构建具有先进推理和记忆能力的有状态大型语言模型(LLM)应用程序。它以模型不可知和白盒解决方案脱颖而出,这意味着它可以与各种LLM配合使用,并支持透明操作。原名为MemGPT,Letta 已经重新品牌,以更好地区分其创建的代理和运行时环境。该框架可通过 pip 安装进行快速实验,也可以使用 Docker 在生产环境中设置,支持不同的数据库后端。Letta 还提供了一个 CLI 工具,用于创建和与代理进行交互,以及一个 API 服务器,用于更广泛的应用集成。该项目鼓励社
Letta 是一个创新的开源框架,旨在构建具有先进推理和记忆能力的有状态大型语言模型(LLM)应用程序。它以模型不可知和白盒解决方案脱颖而出,这意味着它可以与各种LLM配合使用,并支持透明操作。原名为MemGPT,Letta 已经重新品牌,以更好地区分其创建的代理和运行时环境。该框架可通过 pip 安装进行快速实验,也可以使用 Docker 在生产环境中设置,支持不同的数据库后端。Letta 还提供了一个 CLI 工具,用于创建和与代理进行交互,以及一个 API 服务器,用于更广泛的应用集成。该项目鼓励社区参与,提供多种贡献和支持途径。对于希望创建具有持久内存的智能代理的开发人员和人工智能爱好者来说,Letta 可能是一个值得探索的宝贵工具。- Letta是一个用于创建具有记忆的LLM服务的开源框架。 - Letta具有高级推理能力和透明长期记忆。 - Letta框架是白盒的,与模型无关。 - MemGPT软件包和Docker镜像已更名为Letta。 - Letta可以通过pypi(pip)或Docker安装。 - 使用pip安装Letta并设置环境变量选择LLM/嵌入提供程序。 - 使用Letta CLI工具创建代理和聊天。 - 使用Letta服务器启动API服务器。 - Letta中的代理可以通过CLI、API和ADE访问。 - Letta是一个开源项目,欢迎参与。 - 使用Letta和相关服务需要同意隐私政策和服务条款。

后缀.jpg

版权声明: 创新中心创新赋能平台中,除来源为“创新中心”的文章外,其余转载文章均来自所标注的来源方,版权归原作者或来源方所有,且已获得相关授权,若作者版权声明的或文章从其它站转载而附带有原所有站的版权声明者,其版权归属以附带声明为准。其他任何单位或个人转载本网站发表及转载的文章,均需经原作者同意。如果您发现本平台中有涉嫌侵权的内容,可填写「投诉表单」进行举报,一经查实,本平台将立刻删除涉嫌侵权内容。

评论

登录后可评论
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等