孟宝亮 的文章

我的文章Kmeans++ 初始质心优化算法

下一个质心选取概率计算公式： 由计算结果，可以看到当以 6 为第一个质心时，1、2、3、4 被选择为下一个质心的概率更高，而 5、7、8 被选择为下一个质心的概...

我的文章KD 树的构建和搜索

1. KD 树构建 KD 树的构建需要确定两个问题： 选择使用那个维度作为分裂点： 随机选择 顺序选择 方差最大的维度 确定以当前维度那个值作为分裂点： 中位数...

我的文章PyTorch Tensor 创建方法

PyTorch 是一个 Python 包，用于将数据封装成张量（Tensor）来进行运算。PyTorch 中的张量就是元素为同一种数据类型的多维矩阵。 基本创建...

我的文章浮点数向量距离（Similarity）度量方法

在很多领域需要进行向量相似度的计算。本篇文章主要介绍一些常见的方法： 曼哈顿距离 欧几里得距离 切比雪夫距离 闵可夫斯基距离 标准欧式距离 余弦相似度 点积相似...

我的文章PyTorch Tensor 数值计算

PyTorch 计算的数据都是以张量形式存在, 我们需要掌握张量各种运算. 并且, 我们可以在 CPU 中运算, 也可以在 GPU 中运算. 基本运算 阿达玛积...

我的文章PyTorch Tensor 类型转换

我的文章PyTorch Tensor 索引操作

我们在操作张量时，经常需要去进行获取或者修改操作，掌握张量的花式索引操作是必须的一项能力。

我的文章Sigmoid 和 LogSigmoid 激活函数

激活函数主要用来向神经网络中加入非线性因素，以解决线性模型表达能力不足的问题，它对神经网络有着极其重要的作用。我们的网络参数在更新时，使用的反向传播算法（BP）...

我的文章使用 PyTorch 实现线性回归

线性回归是机器学习中的基础算法之一，通过最小化预测值和真实值之间的误差来拟合数据。在本教程中，我们将使用 PyTorch 从零开始构建一个线性回归模型，并拆解成...

我的文章PyTorch 自动微分模块

自动微分（Autograd）模块对张量做了进一步的封装，具有自动求导功能。自动微分模块是构成神经网络训练的必要模块，在神经网络的反向传播过程中，Autograd...

我的文章PyTorch Tensor 运算函数

PyTorch 为每个张量封装很多实用的计算函数，例如计算均值、平方根、求和等等。 mean 函数用于计算张量均值 sum 函数用于计算张量和 pow 函数用于...

我的文章STL 迭代器用法剖析

STL 中的迭代器有以下几种：输入迭代器、输出迭代器、正向迭代器、双向迭代器、随机访问迭代器。1. 输入迭代器：一次只能读取一个元素，只能向前移动，支持：++、...

我的文章STL 函数对象适配器

函数对象适配器主要用于对函数、函数对象进行适配（转换），使得原本不符合接口需求的函数、函数对象变得符合要求。比如：我们有一个 2 个参数的函数对象，但是我们需要...

我的文章GELU 激活函数

GELU（Gaussian Error Linear Unit，高斯误差线性单元）激活函数在 NLP 任务中被广泛使用，例如：BERT、ALBERT、GPT 等...

我的文章Tanh 激活函数

Tanh 叫做双曲正切函数，其公式如下： Tanh 的函数图像、导数图像如下： 由上面的函数图像可以看到，Tanh 函数将输入映射到 (-1, 1) 之间，图像...