模块1：AIGC ShowCase与展望（1.5小时）

• OpenAI开发者大会

• 升级与降价

• 打造GPTStore生态

• 对大语言模型生态的冲击和影响

• LLM Show Case

• SQL Copilot

• BI Copilot

• 用户趋势分析

• 客服会话小结

• AI识图

• 智能客服

• 企业内知识助手

模块2：LLM应用搭建（3小时）

• 如何搭建LLM应用

• LLM技术架构（LangChain, Lora, VectorDB）

• 开源模型选择

• 大模型的评测

• 大模型的底层架构类型

• Chat Model：ChatGLM3, Qwen

• Code Model: CodeGeex2, SQLCoder, WizardCoder-Python

• 数据底座如何搭建

• CASE：动手搭建智能客服

• LangChain的组件：Models，Prompts，Chains，Memory，Agents，Indexes

• Agent设计

• 数据分割与清洗

• 向量数据库使用

• 什么是Embedding

• 哪个向量数据库更适合

• Chroma, milvus, faiss, Pinecone, ElasticSearch

• Faiss工具使用

• Case：搭建本地私有知识智能客服

• CASE：搭建SQL Copilot

• 元数据管理

• 指标定义

• 让Code Model编写SQL

• 通过RAG进行数据增强

• SQL评测

• 搭建BI Copilot

• Code Interpreter

• LLM进行数据分析与建模的挑战

• CASE：搭建用户违约分析看板

• CASE：搭建用户违约模型

  
  

模块3：技术落地挑战与方案（1.5小时）

• 大模型落地的挑战与应对方案

• LLM的“幻觉”

• 如何通过Prompt Engineering增强LLM推理，减少幻觉

• LLM推理中的ReAct机制

• 微调的“遗忘”

• 什么情况下需要微调

• 高效微调 VS 全量微调

• 如何评测和制定上线标准

• Q&A 答疑