一亩三分地分类问题主要分为二分类、多分类。我们先推导一下 XGB 是如何解决二分类问题，再去理解 XGB 如何解决多分类问题。 二分类问题时，我们一般会使用 Simoid 函数，将模型的输出值映射到 0-1 范围内，得到模型预测 ...
XGBoost 是对 GBDT 算法的改进。其改进主要如下： 损失函数求解使用了泰勒二阶展开; 损失函数中添加了正则化项; XGBoost 损失函数如下： 第一部分真实值和预测值之间的经验损失，第二部分是正则化项。一般来...
我们知道 C++代码的执行效率大多数情况下都会优于 Python 代码。当我们开发一个 Python 工具，分享时，使用者就可以通过 pip install xxx 的方式安装我们的工具，我们将该工具包中某些运行效率太低...
SimCSE 提出一种基于 Dropout，把 Dropout 作为一种数据增强方法的无监督训练 sentence embedding 的方法。 Paper：https://aclanthology.org/2021.e...
构建知识图谱最重要的工作就是从非结构化的文本中抽取关系三元组 (subject，relation，object), 原来的方法我们都是组装一个 pipeline 来完成这项工作，比如：先训练一个 NER 模型进行实体抽取...
STL-10 是一个用于图像识别和生成任务的数据集，训练集共计 5000 张图片，测试集共计 8000 张，另外包含 100000 张无标签图像，适用于无监督和半监督学习。图像尺寸为 96×96，适合作为生成模型的训练数...
我们在使用 Bert 模型时，对每一个 token 的表征计算都是通过其内部的自注意力机制来完成的，具体就是由 Bert 模型的 BertAttention 来负责自注意力计算，分析的实现代码是 transformers...
Milvus 是一款开源的向量数据库，支持针对 TB 级向量的增删改操作和近实时查询，具有高度灵活、稳定可靠以及高速查询等特点。。Milvus 集成了 Faiss、NMSLIB、Annoy 等广泛应用的向量索引库，提供了...
SKEP 通过情感知识增强型而得到的预训练的 transformer 模型，能够更好的用于情感分类场景。该模型如下图所示： SKEP 模型掩码策略称为 Hybrid Sentiment Masking，它将输入序列中的 ...
基于类别均值的分类方法（Nearest Mean Classification，NMC）是一种简单的监督学习分类算法。它的核心思想是通过计算每个类别的样本均值向量，然后将新样本归类到与其均值向量最相似的类别。这种方法在某...
在自然语言处理（NLP）中，语言模型的评估是衡量模型表现的重要步骤之一。评估指标多种多样，而其中困惑度（Perplexity）是最常用的评估方法之一。 简单来说，困惑度（Perplexity）是衡量语言模型对给定文本的 ...
Epoll IO 模型是 Linux 中用于 I/O 多路复用的机制，可以用于监听多个文件描述符上的事件，以及非阻塞地等待这些事件的发生。其工作机制大致如下： 首先，初始化一个 Epoll 实例，这个实例主要在内核中维护...
linux 在进行网络应用程序开发时，常用到以下的 linux 网络 API： socket()：用于初始化一个新的套接字 bind()：用于将套接字与一个本地地址绑定 listen()：用于将套接字标记为被动套接字，接...
在 Linux 下，select 函数通常用于多路复用 I/O，可以同时监视多个文件描述符的状态，当其中任何一个文件描述符准备就绪时，select 函数就会返回。 通过同时监控多个 I/O 流的状态来实现对多个 I/O ...
冀公网安备13050302001966号
最新评论