我们要实现的效果是基于 dify + xinference + ChatTTS + SenseVoiceSmall 实现语音聊天助手： 具体效果如下： 在这个过程中，我们需要做以下几件事情： 1. 语音模型部署 我们通过...
在由大型语言模型（LLM）驱动的应用开发中，模型的调用与管理始终是核心环节。LangChain 通过提供统一而灵活的模型接口，大大简化了开发者与各类语言模型、文本嵌入模型之间的交互流程。例如：OpenAI 的 GPT 系...
提示用于优化模型输入，提升生成结果的质量。LangChain 提供了强大的提示管理工具，包括提示模板和提示优化功能。提示模板是预定义的格式，包含静态文本和动态变量，用于生成发送给语言模型的输入。它们有助于确保交互的一致性...
LangChain 中的 输出解析器（Output Parser） 主要作用是：将大语言模型生成的原始文本转换为结构化的数据格式，方便后续程序处理。比如，你让模型输出一个 JSON、一个列表或某种特定格式的内容，输出解析...
在使用 LangChain 构建对话系统时，聊天记录的管理、处理是至关重要的一环。本篇文章主要介绍如何存储对话历史，以及如何对对话历史进行处理。 1. 对话历史存储 LangChain 提供了多种灵活的聊天历史记录管理方...
在 LangChain 中，缓存机制是一种用于提升语言模型调用效率、降低成本的重要手段。其核心思想是：将提示词的响应结果缓存起来，在后续遇到相同或相似的请求时直接复用，从而避免重复调用模型。 1. 缓存策略 目前 Lan...
在 LangChain 中，Tool 是一种把 Python 函数和它的调用规范（schema）包装起来的机制，这样模型就可以“请求”调用这个函数并传入参数。 1. 工具定义 2. 工具使用
LangChain 是一个用于构建语言模型应用的强大框架，它支持将多个 链”（Chain）组合起来进行复杂的推理任务。所谓 链式调用，就是将多个处理步骤像流水线一样依次串联，每个步骤的输出作为下一个步骤的输入，这种模式非...
在构建基于大语言模型（LLM）的智能应用中，处理原始文档是非常关键的一步。LangChain 作为一个强大的框架，提供了一整套用于文档处理的工具链，帮助开发者更高效地将非结构化文本转化为模型可理解的结构化信息。整个文档处...
LLaMA-Factory 是一个开源的大规模语言模型（LLM）训练与微调框架，它能够简化大型语言模型的微调过程，使用户能够在无需编写代码的情况下，对多种预训练模型进行定制化训练和优化。 预训练模型：https://hu...
在 Transformer 模型中，输入的词向量是没有顺序信息的，比如：我爱你 和 你爱我 两个含义不同句子，在注意力计算时，每个 Token 的表示是相同的，即：模型理解这两个句子的含义是相同的，这就很不合理。所以需要...
变分自编码器（VAE）是一种深度生成模型。它主要由 编码器（Encoder） 和 解码器（Decoder） 两部分组成： 1. 基本思想 假设模型想要知道如何生成一张图像，首先得知道该图像的分布，例如：图像由 4 个像素...
在自然语言处理（NLP）里，中英翻译是个常见的任务。但中文和英文在 语法、词序、表达方式 上差别很大，所以想要让机器做好翻译并不容易。不过，随着大模型技术的发展，这个难题已经比以前简单了很多。 现在，我们可以利用 mT5...
对联是中国传统文化中的一项独特艺术形式，它不仅要求上下句字数相同，还要对仗工整、意义相对。随着人工智能和自然语言处理技术的进步，如何让机器自动生成符合对联规律的文本，变得越来越有趣也越来越可行。接下来，我们将一起探讨如何...
冀公网安备13050302001966号
