面授+直播

+視頻回放

面授

地點時間

廣州

3月26-28日

北京

6月28-30日

成都

10月27-29日

長沙

12月24-26日

直播時間

面授同步直播

面授同步直播

面授同步直播

面授同步直播

增值服務

提供視頻回放免費學習一年

學習平臺

PC端：https://it.zpedu.com/      移動端APP：IT云課

第一天

預備知識第一節(jié)：

大模型理論知識

1. 初探大模型：起源與發(fā)展

2. GPT模型家族：從始至今

3. 大模型-GPT-ChatGPT的對比介紹

4. 大模型實戰(zhàn)-大模型2種學習路線的講解

5. 大模型最核心的三項技術：模型、微調和開發(fā)框架

6. OpenAl GPT系列在線大模型技術生態(tài)

7. OpenAl文本模型A、B、C、D四大模型引擎簡介

8. OpenAl語音模型Whisper與圖像型DALL·E模型介紹

9. 最強Embedding大模型text-embedding-ada模型介紹

10. 全球開源大模型性能評估榜單

11. 中文大模型生態(tài)介紹與GLM 130B模型介紹

12. ChatGLM模型介紹與部署門檻

13. ChatGLM開源生態(tài)：微調、多模態(tài)，WebUI等項目簡介

預備知識第二節(jié)：

自注意力機制、Transformer模型、BERT模型

1. RNN-LSTM-GRU等基本概念

2. 編碼器、解碼器

3. 自注意力機制詳解

4. Transformer

5. Mask Multi-Head Attention

6. 位置編碼

7. 特定于任務的輸入轉換

8. 無監(jiān)督預訓練、有監(jiān)督Fine-tuning

9. BERT思路的理解

10. BERT模型下游任務的網絡層設計

11. BERT的訓練

12. HuggingFace中BERT模型的推斷

13. 基于上下文的學習

14. 代碼和案例實踐：

15. 基本問答系統(tǒng)的代碼實現

16. 深入閱讀理解的代碼實現

17. 段落相關性代碼實現

第一節(jié)：

GPT1、GPT2、GPT3、ChatGPT原理與實戰(zhàn)

1. 監(jiān)督微調（SFT）模型

2. 指示學習和提示學習

3. 簡單提示、小樣本提示、基于用戶的提示

4. 指令微調

5. RLLHF技術詳解（從人類的反饋中學習）

6. 聚合問答數據訓練獎勵模型（RM）

7. 強化學習微調、PPO、InstructGPT遵循用戶意圖使用強化學習方案

8. Instruct Learning vs. Prompt Learning

9. ChatGPT增加了Chat屬性

10. AI系統(tǒng)的新范式

11. GPT1-GPT2-GPT3-InstructGPT的-chatGPT的技術關系

12. 代碼和案例實踐：

13. 使用ChatGPT打造你的私人聊天助理

14. 演示提示詞技巧，翻譯器潤色器、JavaScript 控制臺 、Excel Sheet

15. 網站定制chatgpt-web

第二節(jié)：

Embedding模型實戰(zhàn)

1. 大模型技術浪潮下的Embedding技術定位

2. Embedding技術入門介紹

3. 從Ono-hot到Embedding

4. Embedding文本衡量與相似度計算

5. OpenAl Embedding模型與開源Embedding框架

6. 兩代OpenAl Embedding模型介紹

7. text-embedding-ada-002模型調用方法詳解

8. text-embedding-ada-002模型參數詳解與優(yōu)化策略

9. 借助Embedding進行特征編碼

10. Embedding結果的可視化展示與結果分析

11. 【實戰(zhàn)】借助Embedding特征編碼完成有監(jiān)督預測

12. 【實戰(zhàn)】借助Embedding進行推薦系統(tǒng)冷啟動

13. 【實戰(zhàn)】借助Embedding進行零樣本分類與文本搜索

14. Embedding模型結構微調優(yōu)化

15. 借助CNN進行Embedding結果優(yōu)化

16. 【企業(yè)級實戰(zhàn)】海量文本的Embedding高效匹配

第三節(jié)：

LLM應用程序技術棧和提示詞工程Prompt Enginerring

1. 設計模式：上下文學習

2. 數據預處理/嵌入

3. 提示構建/檢索

4. 提示執(zhí)行/推理

5. 數據預處理/嵌入

6. Weaviate、Vespa 和 Qdrant等開源系統(tǒng)

7. Chroma 和 Faiss 等本地向量管理庫

8. pgvector 等OLTP 擴展

9. 提示構建/檢索

10. 提示執(zhí)行/推理

11. 新興的大語言（LLM）技術棧

12. 數據預處理管道（data preprocessing pipeline）

13. 嵌入終端（embeddings endpoint ）+向量存儲（vector store）

14. LLM 終端（LLM endpoints）

15. LLM 編程框架（LLM programming framework）

16. LangChain的主要功能及模塊

17. Prompts: 這包括提示管理、提示優(yōu)化和提示序列化

18. LLMs: 這包括所有LLMs的通用接口，以及常用的LLMs工具

19. Document Loaders: 這包括加載文檔的標準接口，以及與各種文本數據源的集成

20. Utils: 語言模型在與其他知識或計算源的交互

21. Python REPLs、嵌入、搜索引擎等

22. LangChain提供的常用工具

23. Indexes：語言模型結合自定義文本數據

24. Agents：動作執(zhí)行、觀測結果，

25. LangChain的代理標準接口、可供選擇的代理、端到端代理示例

26. Chat：Chat模型處理消息

27. 代碼和案例實踐：

28. LLM大模型的使用

29. Prompts的設計和使用

第二天

第四節(jié)：

LangChain的使用

1. 構建垂直領域大模型的通用思路和方法

2. (1) 大模型+知識庫

3. (2) PEFT(參數高效的微調)

4. (3) 全量微調

5. (4) 從預訓練開始定制

6. LangChain介紹

7. LangChain模塊學習-LLMs 和 Prompts

8. LangChain之Chains模塊

9. LangChain之Agents模塊

10. LangChain之Callback模塊

11. Embedding嵌入

12. 自定義知識庫

13. 知識沖突的處理方式

14. 向量化計算可采用的方式

15. 文檔加載器模塊

16. 向量數據庫問答的設計

17. Lanchain競品調研和分析

18. Dust.tt/Semantic-kernel/Fixie.ai/Cognosis/GPT-Index

19. LlamaIndex介紹

20. LlamaIndex索引

21. 動手實現知識問答系統(tǒng)

22. 代碼和案例實踐：

23. 動手實現知識問答機器人

24. LangChain文本摘要

25. PDF文本閱讀問答

第五節(jié)：

國產大模型ChatGLM

1. 新一代GLM-4模型入門介紹

2. 智譜Al Mass開放平臺使用方法03GLM在線大模型生態(tài)介紹

3. CharGLM、CogView. Embedding模型介紹

4. GLM在線知識庫使用及模型計費說明

5. GLM模型API一KEY獲取與賬戶管理方法

6. GLM模型SDK調用與三種運行方法

7. GLM4調用函數全參數詳解

8. GLM4 Message消息格式與身份設置方法

9. GLM4 tools外部工具調用方法

10. GLM4 Function calling函數封裝12GLM4接入在線知識庫retrieval流程

11. GLM4接入互聯網web_search方法

12. 【實戰(zhàn)】基于GLM4打造自動數據分析Agent

13. 【實戰(zhàn)】基于GLM4的自然語言編程實戰(zhàn)

14. 【實戰(zhàn)】基于GLM4 Function call的用戶意圖識別

15. 【實戰(zhàn)】基于GLM4的長文本讀取與優(yōu)化

第六節(jié)：

Sora大模型技術優(yōu)勢

1. 什么是Sora

2. Sora視頻生成能力

3. Sora技術獨特之處

4. 統(tǒng)一的視覺數據表示

5. 視頻壓縮網絡

6. 擴散型變換器模型

7. 視頻壓縮與潛在空間

第七節(jié)：

語言理解與字幕生成及其應用

1. 使用圖像和視頻作為提示詞

2. 動畫DALL·E圖像

3. 擴展生成的視頻

4. 視頻到視頻編輯

5. 連接視頻

6. 字幕生成

7. 重字幕技術

8. GPT技術應用

第三天

第八節(jié)：

圖像生成和應用實操

1. 新興的仿真功能

2. 長期連續(xù)性和物體持久性

3. 角色和物體的一致性

4. 視頻內容的連貫性

5. 與世界互動

6. 簡單影響行為模擬

7. 模擬數字世界

第九節(jié)：

應用場景與潛力分析

1. 電影與娛樂產業(yè)

2. 游戲開發(fā)

3. 教育與培訓

4. 廣告與營銷

5. 科學研究與模擬

6. 生成數據

7. 畢業(yè)生職位分類案例研究

8. 提示函數

9. FunctionCalling

10. 提示工程在模型上的應用

11. AI聊天社交應用

12. CallAnnie

13. NewBing

14. AI輔助文章創(chuàng)作

15. 迅捷AI寫作

16. ChibiAI

17. AI辦公智能助手

18. GrammaAI

19. AI藝術領域創(chuàng)作

第十節(jié)：

大模型企業(yè)商用項目實戰(zhàn)講解

1. 使用大模型實現推薦系統(tǒng)（商用案例）

2. 使用大模型實現汽車在線銷售系統(tǒng)

3. 企業(yè)自然語言sql生成（企業(yè)內部系統(tǒng)使用）