在与大模型交户的过程中，一般采用sse的方式与后端交互，返回流式字符串，前端需要处理渲染这些内容，在使用markdown渲染这些内容时，一般会存在以下问题：分片不完整、字符截断、语法中途断裂、增量刷新闪烁、代码块 / 表格 / 公式渲染异常、安全风险。如果语法不完整，markdown会渲染成普通文本，并不会报错，后续内容补全后会正常渲染，但是会出现内容闪烁问题。那么如何解决呢，一般会采用全量缓存+分片渲染的方案。

大多数的 LLM 应用程序都会有一个会话接口，允许我们和 LLM 进行多轮对话，并有一定的上下文记忆功能。但实际上，模型本身时不会记忆任何上下文的，只能依靠用户本身的输入去产生输出。而实现这个记忆功能，就需要额外的模块去保存我们和模型对话的上下文信息，然后在下一次请求时，把所有的历史信息都输入给模型，让模型输出结果。 所以为 LLM 添加记忆其实非常简单，就是在 Prompt 中预留 chat_history 占位符，将 Human/Ai 的历史对话信息插入到占位符中，并且实时保存 Human/Ai 的对话信息，在每一次对话时插入到预留占位符即可完成最简单的记忆功能

RAGFlow 是一款开源、面向复杂文档理解的企业级 RAG（检索增强生成）引擎。让LangChain集成Ragflow轻松实现文档检索

在本文中，我们调用AI接口实现简单的聊天功能，并为聊天功能添加简单的记忆存储能力，这里先存储到文本中作为演示

在上一篇中我们讲述了工具的使用，这一篇我们说一下结构化输出。什么是结构化输出呢？LangChain的结构化输出（Structured Output） 指的是：要求模型最终返回一个符合预定义结构的数据对象，例如固定字段的JSON、Pydantic 模型、TypedDict，而不再是无格式的自然语言文本。