在与大模型交户的过程中，一般采用sse的方式与后端交互，返回流式字符串，前端需要处理渲染这些内容，在使用markdown渲染这些内容时，一般会存在以下问题：分片不完整、字符截断、语法中途断裂、增量刷新闪烁、代码块 / 表格 / 公式渲染异常、安全风险。如果语法不完整，markdown会渲染成普通文本，并不会报错，后续内容补全后会正常渲染，但是会出现内容闪烁问题。那么如何解决呢，一般会采用全量缓存+分片渲染的方案。

大多数的 LLM 应用程序都会有一个会话接口，允许我们和 LLM 进行多轮对话，并有一定的上下文记忆功能。但实际上，模型本身时不会记忆任何上下文的，只能依靠用户本身的输入去产生输出。而实现这个记忆功能，就需要额外的模块去保存我们和模型对话的上下文信息，然后在下一次请求时，把所有的历史信息都输入给模型，让模型输出结果。 所以为 LLM 添加记忆其实非常简单，就是在 Prompt 中预留 chat_history 占位符，将 Human/Ai 的历史对话信息插入到占位符中，并且实时保存 Human/Ai 的对话信息，在每一次对话时插入到预留占位符即可完成最简单的记忆功能

RAGFlow 是一款开源、面向复杂文档理解的企业级 RAG（检索增强生成）引擎。让LangChain集成Ragflow轻松实现文档检索

在本文中，我们调用AI接口实现简单的聊天功能，并为聊天功能添加简单的记忆存储能力，这里先存储到文本中作为演示

上一篇我们讲述了消息与提示词模版，本篇我们看一下如何使用工具。工具是赋予大语言模型 与外部世界交互能力 的关键组件，从而能让智能体执行搜索、计算、数据库查询、邮件发送或调用第三方API等，进而构建功能强大的AI应用。借助工具，大模型才能从“ 认识世界 ” 走向“ 改变世界 ”。