課程大綱
第一部分:生成式人工智能和大語言模型技術(shù)概覽
一、AIGC的概念和技術(shù)體系
1.生成式人工智能(AIGC)體系概述
2.大語言模型技術(shù)(LLM)工作原理
3.LLM 生態(tài)體系
4.OpenAI 及其相關(guān)模型介紹
二、提示工程
1.什么是提示工程
2.構(gòu)建提示的方法
3.優(yōu)化提示技巧改善LLM輸出質(zhì)量
4.提示工程思維和提示工程最佳實(shí)踐
三、實(shí)現(xiàn)AIGC開發(fā)環(huán)境
1.獲取并使用LLM API Key
2.構(gòu)建開發(fā)環(huán)境使用Python代碼實(shí)現(xiàn)流式自動(dòng)對話
3.快速創(chuàng)建Chat Bot,練習(xí)提示詞
第二部分:使用 LangChain 開發(fā)AIGC應(yīng)用
一、LangChain的基本概念和環(huán)境準(zhǔn)備
1.大語言模型的概念
2.LangChain的概念和組件
3.安裝LangChain環(huán)境
4.使用LangChain調(diào)用LLM API
二、模型的調(diào)用、提示工程和輸出解析
1.模型I/O
2.提示工程
3.輸出解析
三、Chain:串聯(lián)不同的組件
1.Chain的概念
2.LLMChain
3.Sequential Chain
4.RouterChain
四、Memory:保存對話上下文
1.Memory 概述
2.ConversationChain
3.ConversationBufferMemory(緩沖記憶)
4.ConversationBufferWindowMemory
5.ConversationSummaryMemory
6.ConversationSummaryBufferMemory
五、Agent:代理
1.Agent概念和體系
2.React框架
3.結(jié)構(gòu)化工具對話代理
4.自主詢問搜索代理
5.計(jì)劃與執(zhí)行代理
六、LangChain高級(jí)應(yīng)用
1.工具和工具箱
2.實(shí)現(xiàn)檢索增強(qiáng)生成RAG
3.連接數(shù)據(jù)庫
4.回調(diào)函數(shù)實(shí)現(xiàn)異步通信機(jī)制
5.CAMEL:實(shí)現(xiàn)角色扮演
6.實(shí)現(xiàn)自治代理
七、綜合演練:構(gòu)建客服Chatbot
1.技術(shù)架構(gòu)
2.實(shí)現(xiàn)步驟
3.實(shí)現(xiàn)基本聊天
4.實(shí)現(xiàn)記憶功能
5.整合文檔庫具備檢索機(jī)制
6.使用Gradio/StreamLit框架部署Chatbot
八、項(xiàng)目實(shí)戰(zhàn):開發(fā)知識(shí)庫問答系統(tǒng)
1.項(xiàng)目需求
2.技術(shù)框架
3.核心實(shí)現(xiàn)機(jī)制
4.核心代碼分析
5.功能實(shí)現(xiàn)
第三部分:實(shí)現(xiàn)自主可控的AIGC應(yīng)用開發(fā)底座 (1D)
一、搭建API Gateway
1.AIGC 開發(fā)底座工具鏈介紹
2.LLM API 調(diào)用方法和策略綜述
3.使用One-API項(xiàng)目部署API Geateway
4.管理API渠道和令牌
5.API 調(diào)用的監(jiān)控以及用戶管理
二、實(shí)現(xiàn)LLM模型本地運(yùn)行
1.使用LM Studio實(shí)現(xiàn)開源大模型的本地運(yùn)行
2.開源大語言模型和本地開發(fā)環(huán)境的對接
3.測試和評估LLaMa模型
4.測試和評估Mixtrel MoE模型
5.使用Phi 2實(shí)現(xiàn)本地平替Github Copilot解決方案
6.實(shí)現(xiàn)嵌入式模型的本地運(yùn)行
三、構(gòu)建低代碼無代碼AIGC應(yīng)用開發(fā)平臺(tái)
1.部署Flowise
2.快速實(shí)現(xiàn)基本會(huì)話機(jī)器人
3.實(shí)現(xiàn)整合Web瀏覽插件的會(huì)話機(jī)器人
4.實(shí)現(xiàn)領(lǐng)域知識(shí)庫(Embedding & 向量檢索引擎)
5.實(shí)現(xiàn)智能體
四、AIGC 應(yīng)用的部署
1.應(yīng)用容器化部署介紹
2.借助Vercel實(shí)現(xiàn)應(yīng)用的PaaS化部署
3.部署ChatGPT Web
4.快速上線自定義LLM應(yīng)用
課程周期
24課時(shí)(45分鐘/課時(shí))