1.量化(Quantification)章节说明


文档摘要

量化(Quantification)章节说明 整体暂定三~四个章节 1.0 前置知识学习: 1.1:我们为什么需要量化(Why) 为什么要做量化(量化的意义是什么),然后讲量化的基本原理是什么,以及量化的分类(PTQ和QAT,weight-only 和 weight-act),原理讲解+基本原理代码, 1.2:经典的量化方法(How-part1:PTQ) 第二章讲经典的PTQ量化LLM.int8,SQ,GPTQ(涵盖weight-only 和 weight-act)-方式:原理讲解+代码, 1.3:经典的量化方法(How-part2:QAT) 第三章讲经典QAT的LLM-QAT,OQ(涵盖weight-only 和 weight-act)-方式:原理讲解+代码, 1.


发布者: 作者: 转发
评论区 (0)
U