一亩三分地1. KL 散度 KL 散度又叫相对熵（relative entropy）、信息散度（information divergence），指的是两个概率分布间差异的非对称性度量。 设 P(x)、Q(x) 为随机变量 X 上的...
高斯分布（Gaussian distribution），也叫正态分布，是数据分析和统计学中最常见的一种概率分布。它得名于德国数学家卡尔·高斯，因其呈现一个对称的“钟形”曲线，因此也被称为“钟形曲线”或“钟形分布”。 1....
TextCNN 网络是使用卷积神经网络来解决 NLP 任务的一种网络模型，它利用了了多分支的卷积核来对文本进行特征提取，所以也可以叫多分支的卷积神经网络。 在做图像处理时，我们一般都是使用多通道的相同的 kernel s...
在带有注意力机制的 Encoder-Decoder 模型中存在很多注意力机制，本篇文章根据原始论文对 Bahdanau 注意力计算方法和 Luong 注意力计算方法进行总结。 Bahdanau Attention Luo...
PGN 网络可用于文本生成，文本生成任务是从序列到序列的模型，马上就想到了 Seq2Seq 架构的模型。当我们要实现一个文本摘要的文本生成任务时，基本思路是什么样的呢？ 输入一串文本到编码器，提取句子的语义表示向量 由解...
jieba 和 textrank4zh 两个工具很方便实现关键词提取，textrank4zh 还能够进行关键句子抽取实现抽取式文本摘要。 jieba 和 textrank4zh 工具关键词的提取是基于 TextRank ...
池化层 (Pooling) 降低维度, 缩减模型大小，提高计算速度. 另外一个作用可以缓解卷积层对位置的敏感性. 池化层主要有两种: 最大池化 平均池化 1. 池化层计算 最大池化: max(0, 1, 3, 4) ma...
在计算机视觉领域, 往往我们输入的图像都很大，使用全连接网络的话，计算的代价较高. 另外图像也很难保留原有的特征，导致图像处理的准确率不高. 卷积神经网络（Convolutional Neural Network）是含有...
实现的步骤如下： 构建词典 构建数据对象 构建文本生成模型 编写训练函数 编写预测函数 1. 构建词典 我们在进行文本生成任务之前，首先就要构建词典，通过词典实现将词到索引的映射，或者通过索引到词的映射。我们构建词典使用...
冀公网安备13050302001966号
最新评论