对抗生成网络(Generative Adversarial Network,GAN)是一种深度学习模型,由生成器(Generator)和判别器(Discriminator)组成,通...
在 Transformer 模型中,位置编码(Positional Encoding)是一种用来表示输入序列中每个 token 在序列中位置信息的技术。与 RNN 和 CNN 不同...
多项式朴素贝叶斯(Multinomial Naive Bayes)是朴素贝叶斯分类器的一种变体,主要用于文本分类任务。它是一种基于概率的分类算法,通常适用于处理离散型特征,特别是在...
伯努利朴素贝叶斯(Bernoulli Naive Bayes)分类器是一种基于贝叶斯定理的概率分类器,常用于处理文本分类等离散数据。它假设特征之间是条件独立的,并且每个特征都遵循伯...
高斯朴素贝叶斯(Gaussian Naive Bayes)是一种基于贝叶斯定理的分类算法,它假设数据的特征遵循高斯(正态)分布,属于朴素贝叶斯分类器的一种。 我们可以基于词频、TF...
Complement Naive Bayes (CNB) 是对多项式朴素贝叶斯 (Multinomial Naive Bayes, MNB) 的一种改进。它主要针对多项式朴素贝叶斯...
DIET(Dual Intent and Entity Transformer)是一种基于Transformer架构的自然语言处理模型,用于意图识别和实体提取任务。它是 Rasa ...
我们构建一个《水浒传》中 108 好汉的知识图谱,问答系统的设置问题围绕该知识图谱设计。这一步主要包含两部分: 爬取数据 构建图谱 1. 爬取数据 数据中一部分从百度百科爬取,一部...
支持向量机(SVM)强大的学习能力有很大程度上来源于高斯核函数的引入,并且 sklearn 中支持向量机默认的实现使用的就是高斯核函数。 我们看下支持向量机通过对偶问题转换后得到的...
OpenAI 提供了 text-embedding-ada-002 模型用于计算输入 sentence 的向量表示。该模型包括一个多层双向 Transformer 编码器和一个平均...
基于 OpenAI 的模型进行分类任务微调,大致需要以下几个步骤: 准备数据:这一步先自行对文本进行预处理,然后使用 OpenAI 工具对文本内容进行二次处理 微调模型:将准备好的...
内容审核(Moderation)是指对在线内容,如评论、消息和帖子进行审核和监控,以确保它们符合特定平台或社区的规则和政策。内容审核可以通过人工审核或自动化系统来执行,其目的是防止...
使用 embeddings 可以实现如下的一些 NLP 任务: 搜索(根据与查询字符串的相关性对结果进行排名) 聚类(文本字符串按相似度分组) 推荐(推荐具有相关文本字符串的项) ...
Completions 是指GPT模型接收一个输入字符串,然后自动生成一个完成的输出字符串。这种功能通常用于生成文本,例如自动生成文章、电子邮件回复或聊天记录等。用户可以指定输入字...
原型网络是一种能够解决小样本学习问题。其主要思想是将样本映射到一个低维空间中,并在该空间中计算每个类别的原型,然后通过计算测试样本和每个原型之间的距离来进行分类。 Paper:ht...
分类问题主要分为二分类、多分类。我们先推导一下 XGB 是如何解决二分类问题,再去理解 XGB 如何解决多分类问题。 二分类问题时,我们一般会使用 Simoid 函数,将模型的输出...
XGBoost 是对 GBDT 算法的改进。其改进主要如下: 损失函数求解使用了泰勒二阶展开; 损失函数中添加了正则化项; XGBoost 损失函数如下: 第一部分真实值和预测值之...
SimCSE 提出一种基于 Dropout,把 Dropout 作为一种数据增强方法的无监督训练 sentence embedding 的方法。 Paper:https://acl...
构建知识图谱最重要的工作就是从非结构化的文本中抽取关系三元组 (subject,relation,object), 原来的方法我们都是组装一个 pipeline 来完成这项工作,比...