一、大模型介紹
1.大模型核心結(jié)束介紹
1)Transformer
2)指令精調(diào)
3)CoT
4)RLHF
2.ChatGPT發(fā)展歷程和簡介
3.國內(nèi)外主流大模型對比
1)GTP-3
2)BLOOM
3)Alpaca
4)Chinchilla
4.垂直化落地
1)縮放法則Scalling Laws
2)計(jì)算利用率最優(yōu)
3)不同訓(xùn)練方式對比
二、ChatGLM原理
1.通用模型GLM算法
1)背景
2)架構(gòu)
2.基座模型GLM-130B
3.對話機(jī)器人ChatGLM、ChatGLM-6B介紹
1)模型架構(gòu)
2)支持配置
3)常見名詞解釋
4.ChatGLM2-6B介紹
1)優(yōu)化點(diǎn)
2)訓(xùn)練方式
三、ChatGLM2-6B微調(diào)
1.環(huán)境搭建
2.準(zhǔn)備模型和數(shù)據(jù)
3.模型參數(shù)、微調(diào)方式介紹
4.答疑
四、ChatGLM2-6B模型導(dǎo)出、部署、服務(wù)提供
1.環(huán)境準(zhǔn)備
2.微調(diào)后的模型導(dǎo)出
3.微調(diào)后的模型部署
4.提供服務(wù)
5.答疑
課程周期：
18小時（45分鐘/課時）