文章目录 一、什么是模型蒸馏二、如何蒸馏三、常见问题3.1 四、参考文献 一、什么是模型蒸馏 Hinton在NIPS2014提出了知识蒸馏（Knowledge Distillation）的概念，旨在把一个大模型或者多个模型ensemble学到的知识迁移到另一个轻量级单模型上&a…

同志们，字符函数和字符串函数已经全部学习完啦，笔记也已经上传完毕，大家可以去看啦。字符函数和字符串函数and模拟函数 加油！！！！！

目前做网络项目的人很多，也就衍生出了很多的软件、项目、平台。接触过了很多的产品，感触颇深，确实市面上的东西差别都很大，有好的，有不好的。 我也是喜欢在网上做点副业，自己捣鼓一下，毕竟互联网…

索引数据结构详解 索引的概念 是帮助mysql高效获取数据的排好序的数据结构 为什么不选择二叉树？ 因为容易形成链表 红黑树 有自动平衡的功能，但并不是mysql真正选择的数据结构，某些情况下会产生一些问题。这个问题是，大数据…

1、使用 openssl 生成 ca 1、创建文件夹 mkdir -p /root/dockercd /root/docker2、创建 RSA 私钥 会提示 2 次输入证书密码，至少 4 位，创建后会生成一个 ca-key.pem 文件 openssl genrsa -aes256 -out ca-key.pem 4096得到 ca-key.pem 文件 3、创建…

Stage模型开发概述 基本概念 下图展示了Stage模型中的基本概念。 图1 Stage模型概念图 [AbilityStage] 每个Entry类型或者Feature类型的HAP在运行期都有一个AbilityStage类实例，当HAP中的代码首次被加载到进程中的时候，系统会先创建AbilityStage实例…

一、安装nvidia-container-toolkit 总之一句话：nvidia-docker和nvidia-docker2，nvidia-container-runtime 已经被英伟达迭代了，可以认为nvidia-container-toolkit是nvidia-docker和nvidia-docker2， nvidia-container-runtime 的替…

ChatGLM3 (ChatGLM3-6B) 项目地址 https://github.com/THUDM/ChatGLM3大模型是很吃CPU和显卡的，所以，要不有一个好的CPU，要不有一块好的显卡，显卡尽量13G，内存基本要32GB。 清华大模型分为三种(ChatGLM3-6B-Base&…