NLP（六十七）BERT模型训练后动态量化（PTDQ） 本文介绍了量化基本概念，PyTorch模型量化方式，以及对BERT模型训练后进行动态量化后在推理效果和推理性能上的实验。 2023-09-03 NLP #模型量化
NLP（六十六）使用HuggingFace中的Trainer进行BERT模型微调 本文将会介绍如何使用HuggingFace中的Trainer对BERT模型微调。 2023-09-02 NLP #BERT #文本分类 #HuggingFace
Gradio入门（1）输入输出、表格、文本高亮 本文介绍了机器学习领域中一个很好用的前端展示工具Gradio，分别就输入和输出、表格、文本高亮三个功能上给出了简单示例和大模型方面的应用。 2023-08-30 Python #Gradio
NLP（六十四）使用FastChat计算LLaMA-2模型的token长度 本文将会介绍如何使用FastChat计算LLaMA-2模型的token长度，包括Prompt的token长度以及对话的token长度。 2023-08-08 NLP #NLP #AIGC #FastChat #LLaMA-2