第一天上午

大模型的基础与发展

大模型概念介绍

人工智能发展简史
  从AI到大模型的演进
  大模型的定义和特点
  ChatGPT与其他大模型的比较
  常见的大模型分类（如GPT、BERT、T5等）
  大模型在全球的应用格局
  AIGC（AI生成内容）的基本概念
  AIGC内容的分类
  AIGC应用领域的实例

理论讲解+案例分析

大模型的产业影响

大模型对云计算的影响
  大模型的商业模式
  全球竞争态势和市场分析
  国内大模型发展现状
  大模型的技术发展趋势
  关于数据隐私和伦理问题的讨论
  AI法规和政策环境分析
  国外的主流平台介绍（ChatGPT、Claude2、Sora）
  国内主流平台：百度文心一言/阿里通义问/科大讯飞讯水星火/华为盘古
  文生文平台应用演示与实训
  文生图平台应用演示与实训
  文生视频平台应用演示与实训

第一天下午

技术深化与大模型部署

行业术语与关键理论

大模型的行业术语解析
  解码注意力机制（Attention）
  变革里程碑：Transformer 的崛起
  走向不同：GPT 与 Bert 的选择
  从 GPT-1 到 GPT-3.5
  GPT-4的新的开始
  思维链（Chain-of-Thought, CoT）
  自洽性(Self-Consistency)
  思维树（Tree-of-Thoughts, ToT）

理论讲解+案例分析+实战演练

大模型的部署与训练实战演练

llama 2-chat-7B模型的云端部署和推理
  实战环境介绍
  大模型云端部署的流程
  不同大小的大模型部署与训练的环境要求
  基于国内外开源大模型完成大模型的云端部署

第二天上午

提示词工程

提示工程概述

1、介绍与基础概念
  什么是提示工程？（定义，起源，发展）
  为什么提示工程重要？（在AI应用中的作用和影响）
  主要挑战和机遇（技术、伦理、扩展性问题）
  2、应用领域
  人工智能和机器学习（交互式AI，自适应学习系统）
  自然语言处理（聊天机器人，音乐及文本内容生成）
  数据科学与分析（数据解释，预测模型）
   计算机视觉（图像生成与视频生成）

理论讲解+案例分析+实战演练

构建有效的提示

1、提示词设计的原则
  明确性与一致性（如何制定明确目标，保持语义一致性）
  语境的重要性（如何为AI模型提供恰当的背景信息）
  创造性与多样性（如何设计新颖和多样化的提示以避免偏见）
  提示工程技巧：上下文信息和指令、角色扮演 、从零样本到少样本
  2、提示词的优化
  使用反馈循环（如何实施持续学习和优化）
  测试与迭代（有效的测试策略和实验设计）
  分析响应质量（使用量化和定性方法评估输出）
  提示工程进阶技巧 ：思维链、自洽性、由少到多、生成知识提示法、自动提示生成

行业案例分析

1、教育技术
  个性化学习路径（设计适应不同学习风格的提示）
  自动化评估系统（如何利用提示改善自动评分和反馈）
  2、健康医疗
  患者交互系统（设计互动式健康咨询提示）
  健康数据解读（提示在医疗数据解释中的应用）
  3、金融服务                                         自动化投资建议（利用提示生成定制化投资建议）
  风险评估与管理（如何通过提示更好地识别和管理金融风险）
  4、AIGC引起内容生成范式的变迁
  基于检索增强的大语言模型
  搜索领域的提示工程应用

实践练习与应用开发

1、Microsoft Copilot中的提示工程 
  Microsoft 365 Copilot中的提示工程应用
  Word Copilot基本功能与提示交互原理
  PowerPoint Copilot基本功能与提示交互原理
  Excel Copilot基本功能与提示交互原理
  Teams Copilot基本功能与提示交互原理
  Outlook Copilot基本功能与提示交互原理
  2、行业特定提示工程应用实践
  教育行业应用（开发教育领域的实用提示应用）
  健康行业应用（设计针对健康数据的提示系统）
  金融行业应用（创建金融服务的自动化提示工具）
  电商行业应用（虚拟数字人，音视频及图像的生成）

第二天下午

模型训练与开发工具

Hugging face 实战应用

Hugging Face 平台深入解析
  Hugging Face的核心组件，包括模型库、数据集和Spaces。
  Transformers库，包括其设计理念和主要功能。
  如何使用Hugging Face进行模型微调，涵盖数据准备、训练和验证步骤。
  利用预训练模型生成文本，包括设置不同的参数来控制输出。
  使用Hugging Face构建问答系统，涵盖必要的模型和工具。
  介绍Pipeline、Tokenizer等工具

理论讲解+案例分析+实战演练

国产大模型 ChatGLM3-6B 的微调

最强基座模型 GLM-130B
  联网检索能力 WebGLM
  初探多模态 VisualGLM-6B
  多模态预训练模型 CogVLM
  代码生成模型 CodeGeex2
  增强对话能力 ChatGLM
  实战 QLoRA 微调 ChatGLM3-6B 大模型

理论讲解+案例分析+实战演练

第三天上午

AI Agent智能应用

开发框架 LangChain 简介

LangChain 典型使用场景
  LangChain 基础概念与模块化设计
  LangChain 核心模块入门与实战
  标准化的大模型抽象:Mode I/O
  大模型应用的最佳实践:Chains
  赋予应用记忆的能力:Memory
  框架原生的数据处理流:Data Connection

理论讲解+案例分析+实战演练

LangChain核心模块与实战：用prompts模板调教LLM的输入输出

模型IO大语言模型的交互接口
  prompts模板:更加高级和灵活的提示词工程
  prompts实战两种主要的提示词模板
  自定义prompts模板
  两种模板引擎以及组合模板使用
  序列化模板使用
  示例选择器之根据长度动态选择提示词示例组
  示例选择器之MMR与最大余弦相似度
  langchain核心组件: LLMs vs chat models
  更好的体验:流式输出
  花销控制: token消耗追踪
  输出结构性:不止于聊天

Agent核心与实践

什么是agent
  第一个agent
  几种主要的agents类型介绍
  agent中正确添加memory的方式
  如何让agent与tool共享记忆
  tool的使用
  tookit的使用
  LCEL是什么
  LCEL不同的接口实现
  LCEL里chain和prompt实现
  LCEL记忆的添加方式
  LCEL Agents的使用

第三天下午

Agent智能体开发

虚拟项目demo演示
  虚拟项目产品需求分析
  虚拟项目技术架构
  项目开发环境搭建

API层的实现以及智能体性格和行为设计

使用fastapi搭建API层
  主Class与agent框架
  使用prompt设计agent性格与行为
  使用chain来判断输入情绪
  langserve介绍-

tool以及向量数据库使用

tools设计实现
  tools设计实施
  agent的memory处理
  agent学习能力构建

让Agent具备语音能力

语音逻辑设计
  微软TTS能力介绍
  voice函数的实现
  AI语音克隆和TTS介绍

项目扩展与集成【数字人与IM集成】

电报机器人+agent的实现
  Docker部署与调试追踪
  项目扩展: agent数字人