机器学习

机器学习层归一化（Layer Normalization）
孟宝亮2025-01-18176803
Layer Normalization（层归一化）在深度学习中是一种标准化技术，广泛应用于循环神经网络（RNN）和 Transformer 等模型中，用于稳定训练和提高模型性能。在训练深度神经网络时，由于网络层数较深，...
机器学习批量归一化（Batch Normalization）
孟宝亮2025-01-18100502
Batch Normalization（BN）主要解决的是内部协变量偏移（Internal Covariate Shift）问题。该问题指的是深度神经网络在训练过程中，每一层的输入分布会随着前面层参数的更新而变化，从而导...
机器学习梯度提升树（GBDT）回归原理
孟宝亮2025-01-155900
梯度提升树（GBDT，Gradient Boosting Decision Tree）回归是一种集成学习方法，它通过逐步构建多个决策树来优化预测结果，尤其适用于回归问题。GBDT 通过“加法模型”逐步提高模型的预测能力，...
机器学习梯度提升树（GBDT）分类原理
孟宝亮2025-01-117600
GBDT 是一种强大的集成学习方法，广泛用于分类和回归问题。它属于提升（Boosting）算法的一种，通过多个弱学习器（通常是决策树）结合起来提高模型的准确性。 1. 二分类对于 GBDT 应用到二分类的场景，其预测过...
机器学习线性 SVC 原始形式（Primal）
孟宝亮2025-01-0910300
在 sklearn 中，LinearSVC 线性支持向量机（SVM）的原始形式支持的两种目标函数类型，分别是： squared_hinge 是目标函数中的损失项，它是标准的 hinge loss 的平方形式。它可以提供...
机器学习感知机（Perceptron）
孟宝亮2024-12-31109401
感知机（Perceptron）是1958 年由弗兰克·罗森布拉特（Frank Rosenblatt）提出的一个经典线性分类算法。它是机器学习领域最早提出的基于数学规则进行分类的模型之一，适用于解决二分类问题。作为一种线...
机器学习线性判别分析（LDA）
孟宝亮2024-12-16140905
线性判别分析（Linear Discriminant Analysis，简称 LDA）是一种经典的统计学方法，主要用于特征降维和分类问题。它的核心思想是：寻找一个最佳的线性投影，使得投影后的数据在新空间中，不同类...
机器学习主成分分析（PCA）
孟宝亮2024-12-06133402
主成分分析（PCA，Principal Component Analysis）是一种常用的数据降维技术。数据降维是指将高维数据转换为低维数据的过程，同时尽可能保留原始数据的重要信息。通过降维可以： 1. 基本思想 PCA...
机器学习感知机对偶算法
孟宝亮2024-12-048300
对偶形式的感知机将权重向量表示为训练样本和对应标记的线性组合，因此不需要显式地维护权重向量，而是通过记录支持向量（误分类的样本）与权重更新系数的乘积来完成分类。 1. 基本原理感知机原始形式的参数更新规则是：其中是...
机器学习高斯混合模型（GMM）算法初探
孟宝亮2024-11-0958600
高斯混合模型（Gaussian Mixture Model，GMM）是一种基于概率的无监督学习模型，通过假设数据由多个高斯分布组成来进行数据建模，在机器学习、统计学和信号处理等领域有广泛的应用。 1. 基本理解假设：我...
《高斯混合模型》
机器学习高斯混合模型（GMM）聚类过程
孟宝亮2024-11-08158002
在本节课程中，我们将探讨高斯混合模型（GMM）如何对新数据进行聚类。即：当我们输入一条新的数据时，模型会基于先前学习到的各个高斯分布的参数来估计该数据属于每个类别的概率。接下来，我们将详细了解这一过程的具体步骤。 1. ...
《高斯混合模型》
机器学习高斯混合模型（GMM）拟合过程
孟宝亮2024-11-0729000
GMM 假设数据是由多个高斯分布混合而成，接下来，我们将会探讨 GMM 是如何根据训练数据得到这些不同的高斯分布参数：估计高斯混合模型的参数，我们并不知道数据属于哪个分布，这是典型的包含隐藏变量的参数估计问题。对于这个...
《高斯混合模型》
机器学习高斯混合模型（GMM）使用详解
孟宝亮2024-11-0666000
scikit-learn 中 GaussianMixture 类是对高斯混合模型算法的实现，它包含了一些用于控制混合高斯模型（GMM）的初始化、训练方式和模型的其他设置。 1. 参数 1.1 基本参数 1.2 covar...
《高斯混合模型》
机器学习自注意力机制（Self-Attention）
孟宝亮2024-10-21104203
多头自注意力机制（Multi-Head Self-Attention）是深度学习中一种用于处理序列数据的重要机制，广泛应用于自然语言处理（NLP）和计算机视觉等领域。它最早出现在 Transformer 模型中。 1. ...

1 2 … 18

机器学习

机器学习 层归一化（Layer Normalization）

机器学习 批量归一化（Batch Normalization）

机器学习 梯度提升树（GBDT）回归原理

机器学习 梯度提升树（GBDT）分类原理

机器学习 线性 SVC 原始形式（Primal）

机器学习 感知机（Perceptron）

机器学习 线性判别分析（LDA）

机器学习 主成分分析（PCA）

机器学习 感知机对偶算法

机器学习 高斯混合模型（GMM）算法初探

机器学习 高斯混合模型（GMM）聚类过程

机器学习 高斯混合模型（GMM）拟合过程

机器学习 高斯混合模型（GMM）使用详解

机器学习 自注意力机制（Self-Attention）

相关课程