NLP(九十四)transformers模块中的DataCollator 本文将会详细介绍HuggingFace开源的`transformers`模块中的DataCollator. 2024-05-03 NLP #transformers
NLP(九十三)使用HuggingFace-TRL微调Qwen1.5-7B模型(SFT) 本文将会介绍如何使用HuggingFace开源的`trl`模块来对阿里的通义千问模型`Qwen1.5-7B`进行微调(SFT),并分享笔者在SFT过程中遇到的坑。 2024-05-03 NLP #大模型 #SFT
使用ElasticSearch实现文本相似性搜索 本文将会介绍如何使用ElastiSearch来部署文本嵌入(Embedding)模型,并实现之前向量数据库中的文本相似性搜索功能。 2024-04-06 数据库 #ElasticSearch #向量数据库 #文本嵌入
使用ElasticSearch进行自然语言处理:以命名实体识别为例 本文将以命名实体识别(NER)任务为例子,来介绍如何在ElasticSearch中进行自然语言处理(NLP)。 2024-04-06 数据库 #NLP #ElasticSearch
表格检测与识别入门 本文将会介绍如何使用Mircosoft开源的表格检测模型`table-transformer-detection`来实现表格检测与入门。 2024-04-03 深度学习框架 #表格检测
NLP(九十)OpenAI的Chat_Completion_API中的logprobs参数 OpenAI的Chat Completion API中引入了`logprobs`参数,本文将会介绍该参数的使用。 2024-04-03 NLP #logprobs