OpenAI 提供了 text-embedding-ada-002 模型用于计算输入 sentence 的向量表示。该模型包括一个多层双向 Transformer 编码器和一个平均池化层，用于将编码器的输出转换为固定长度...
基于 OpenAI 的模型进行分类任务微调，大致需要以下几个步骤： 准备数据：这一步先自行对文本进行预处理，然后使用 OpenAI 工具对文本内容进行二次处理 微调模型：将准备好的数据上传，并指定预训练模型进行微调 使用...
内容审核（Moderation）是指对在线内容，如评论、消息和帖子进行审核和监控，以确保它们符合特定平台或社区的规则和政策。内容审核可以通过人工审核或自动化系统来执行，其目的是防止有害或不适当的内容被共享。 内容审核在在...
使用 embeddings 可以实现如下的一些 NLP 任务： 搜索(根据与查询字符串的相关性对结果进行排名) 聚类(文本字符串按相似度分组) 推荐(推荐具有相关文本字符串的项) 异常检测(识别相关性很小的异常值) 多样...
Completions 是指GPT模型接收一个输入字符串，然后自动生成一个完成的输出字符串。这种功能通常用于生成文本，例如自动生成文章、电子邮件回复或聊天记录等。用户可以指定输入字符串的前缀，然后让模型生成可能的后缀。这...
原型网络是一种能够解决小样本学习问题。其主要思想是将样本映射到一个低维空间中，并在该空间中计算每个类别的原型，然后通过计算测试样本和每个原型之间的距离来进行分类。 Paper：https://arxiv.org/pdf/...
分类问题主要分为二分类、多分类。我们先推导一下 XGB 是如何解决二分类问题，再去理解 XGB 如何解决多分类问题。 二分类问题时，我们一般会使用 Simoid 函数，将模型的输出值映射到 0-1 范围内，得到模型预测 ...
XGBoost 是对 GBDT 算法的改进。其改进主要如下： 损失函数求解使用了泰勒二阶展开; 损失函数中添加了正则化项; XGBoost 损失函数如下： 第一部分真实值和预测值之间的经验损失，第二部分是正则化项。一般来...
我们知道 C++代码的执行效率大多数情况下都会优于 Python 代码。当我们开发一个 Python 工具，分享时，使用者就可以通过 pip install xxx 的方式安装我们的工具，我们将该工具包中某些运行效率太低...
SimCSE 提出一种基于 Dropout，把 Dropout 作为一种数据增强方法的无监督训练 sentence embedding 的方法。 Paper：https://aclanthology.org/2021.e...
构建知识图谱最重要的工作就是从非结构化的文本中抽取关系三元组 (subject，relation，object), 原来的方法我们都是组装一个 pipeline 来完成这项工作，比如：先训练一个 NER 模型进行实体抽取...
Я уже был в Санкт-Петербурге за 2 месяца , я также выучил русский язык за 2 месяца . Когда я начинал изучать р...
冀公网安备13050302001966号