VSCODE使用技巧(1)连接远程服务器开发及使用Jupyter 本文将会介绍如何在VSCODE中连接远程服务器进行代码开发,以及如何使用Jupyter。 2024-01-10 Python #VSCODE #Jupyter
NLP(七十七)文本补全中的动态提示(Dynamic-Prompting) 本文将会介绍如何在大模型中对文本补充(Text Completion)进行动态提示(Dynamic Prompting)。 2024-01-10 NLP #LLM #Dynamic Few Shot
NLP(七十五)大模型时代下的开放领域三元组抽取 本文将会介绍在大模型(LLM)时代下,如何在开放领域进行三元组抽取。本文内容已开源至Github,网址为:https://github.com/percent4/llm_open_triplet_extraction . 2024-01-10 NLP #LLM #三元组抽取
NLP(七十四)使用LangChain和异步Web框架实现接口流式输出 本文将介绍如何使用LangChain和异步Web框架实现接口流式输出。 2024-01-10 NLP #LangChain #流式输出
NLP(七十三)从BERT模型训练到量化、蒸馏之路 本文将会介绍笔者从BERT模型训练到模型量化、蒸馏的旅程,通过一系列文章的回顾,不难掌握模型训练和模型压缩的技能。 2024-01-10 NLP #模型量化 #知识蒸馏
NLP(七十二)使用知识蒸馏提升模型推理性能 本文将会介绍模型压缩方法——知识蒸馏,通过对训练后的BERT模型在小模型上进行蒸馏,在小模型上提到推理性能的极大提升,同时也不会过多损失模型效果。 2024-01-10 NLP #知识蒸馏