PyTorch 提供了两种损失函数的使用方法：函数形式、模块形式，函数形式的损失函数定义在 torch.nn.functional 库中，使用时传入神经网络的预...
下面整理常见的用于回归损失函数： MAE 平均绝对误差 MSE 均方误差 R-Square R方损失函数 Huber 损失函数 Log-Cosh 损失函数 RM...
Transformer 是谷歌在 2017 年的论文 《Attention Is All you Need》中提出的一种新架构，它在多项 NLP 任务上效果很不...
神经网络的训练有时需要几天、几周、甚至几个月，为了在每次使用模型时避免高代价的重复训练，我们就需要将模型序列化到磁盘中，使用的时候反序列化到内存中。 PyTor...
传统的梯度下降优化算法中，可能会碰到以下情况： 碰到平缓区域，梯度值较小，参数优化变慢 碰到 “鞍点” ，梯度为 0，参数无法优化 碰到...
在 Python 中使用 ctypes 模块可以很轻松定义 C 类型的变量，以及调用 C/C++ 函数. 1. 基础类型变量 程序输出结果： 2. 指针类型变量...
我们简单介绍下，C/C++ 编写的扩展函数，导入到 Python 中使用。步骤如下： 编写使用 Python/C API 编写 C/C++ 函数 编写 setu...
https://docs.python.org/3.8/c-api/ 导出函数： setup.py 文件： Python 调用文件： 程序运行结果：
神经网络模型一般都是靠随机梯度下降算法进行训练和参数更新。网络的收敛效果很大程度上受到网络参数初值的影响。不合理的网络参数初始化，可能会导致 “梯度...
网络参数初始化的优劣在极大程度上决定了网络的最终性能。比较推荐的初始化方式有 He 初始化是，将参数初始化为服从高斯分布或均匀分布的较小随机整数，同时对参数方差...
自然语言是用来表达含义的系统，词是其基本单元。在计算机处理中，我们需要把自然语言中的词进行数值化，才能够让计算机识别处理。 最简单的将词进行词嵌入的方法是：on...
卷积核（Convolution Kernel）是卷积神经网络（CNN）中的核心组件之一，通常用于图像处理和深度学习模型中。它是一个小的矩阵，用于对输入图像进行卷...
池化层（Pooling Layer）是卷积神经网络（CNN）中的一种层结构，主要用于对特征图进行降采样，以减小数据的空间尺寸，降低模型的计算量和参数数量，从而在...
句子的相似性可以使用下面的一些方法来计算： 杰卡德相似度 余弦相似度 TextRank 相似度 1. 杰卡德相似度 杰卡德相似度需要计算两个句子的交并集，然而这...
PGN 网络可用于文本生成，文本生成任务是从序列到序列的模型，马上就想到了 Seq2Seq 架构的模型。当我们要实现一个文本摘要的文本生成任务时，基本思路是什么...
终身学习者 | 知识桥接者
我是一名80后，写代码多年，讲课也有年头，踩过的坑能填满海。现在就想把这些实战经验好好整理，系统地分享给大家。
冀公网安备13050302001966号