4006-998-758
3000+课程任你选择
GenAI for Developers –大模型应用开发框架实战
研发学院 GenAI for Developers –大模型应用开发框架实战 开课时间:2024-07-18
黄佳

入行20余年。参与过政府部门、银行、电商、能源等多领域大型项目,积累了极为丰富的人工智能和大数据项目实战经验。近年主攻方向为 NLP 预训练大模型应用、FinTech 应用、持续学习。目前正与 PlatoX.AI展开富有前景的技术合作。

曾出版《GPT图解 大模型是怎样构建的》《数据分析咖哥十话》《零基础学机器学习》《SAP 程序设计》等多本畅销书,即将出版的书籍还有《GPT实战Agent是怎样实现的》。同时,在极客时间开设专栏《零基础实战机器学习》《LangChain 实战课》,在深蓝学院开设视频课程《生成式预训练语言模型:理论与实战》。

近期出版的新书《大模型应用开发动手做 AI Agent》上市一周,在京东,当当位居IT图书榜第一名。


查看老师详情
课程内容

课程介绍


这个课程将系统介绍人工智能技术的发展历程、基本原理以及当前前沿的大语言模型技术,并深入探讨其在应用中的实现框架和开发技巧。

通过学习本课程,学员将掌握LangChain等大语言模型开发工具的核心理念、架构和实战应用,了解如何利用提示工程、链式编程和代理等技术优化和扩展大模型的功能,提升学员的AI应用开发技能。课程不仅涵盖了大语言模型的技术原理和创新应用,还通过具体的案例剖析和实战操作,帮助你在多个具体场景实现大模型的实际应用,迎接未来的技术变革和应用挑战。

程中,我也会介绍帮助你具体了解人工智能是如何赋能金融机构,实现降本增效、创新转型的,并客观分析大语言模型在金融领域应用所面临的局限与挑战,展望未来的技术突破口和应用前景。


课程收获


●  全面了解人工智能技术发展历史和基本原理

  掌握大语言模型的关键技术原理和LangChain实现框架

  通过案例剖析,具体理解人工智能和大语言模型的落地实践路径

  针对性地提升人工智能技术在金融领域的实操技能

  剖析AI在金融行业的前景与展望,拥抱未来变革性机遇


课程时长 


2天(6小时/天)


课程大纲 


第1部分|人工智能的演进和大语言模型的进展

本部分将回顾人工智能技术的发展历程,重点介绍近年来备受关注的预训练大语言模型。我们将剖析BERT、GPT等代表性模型的技术特点与应用潜力,并展望指令微调、增强学习等前沿技术的最新进展。通过本部分的学习,你将了解人工智能技术的演进脉络,深入理解大语言模型的革命性影响。

  1. 人工智能技术的发展历程:从专家系统到机器学习、深度学习的突破

  2. 大模型技术的底层原理:从Embedding,S2S,注意力到Transformer

  3. 预训练大语言模型的崛起:BERT、GPT系列模型的技术特点与应用潜力

  4. 大语言模型的进化:Sora\GPT-4o等前沿多模态大模型技术进展

第2部分 | LangChain速览:理念、架构与实战初体验

本讲带你快速领略 LangChain 的核心理念、功能特性及开发流程,通过构建一个端到端的 AI 应用,直观感受基于 LLM 的智能化开发范式。

  1. LangChain的设计初衷和发展历程

  2. LangChain的整体架构与核心组件

  3. 在 LangChain 中对接 OpenAI 等 LLM 服务

 

第3部分 | 提示工程:对话 LLM 的艺术

本讲深入讲解各种对 LLM 进行调教和引导的提示工程技巧,如何通过优化模型输入来改善输出质量,帮助模型更好地理解任务需求,保质保量地完成目标任务。

  1. 提示模板、少样本提示的原理与实践

  2. 思维链、思维树提示方法解析

  3. 通过 FewShotPromptTemplate、ExampleSelector 等实现动态提示

  4. 实战:财务报表场景的提示工程实战

第4部分 | 链:大模型编程范式(上)

本讲介绍链这种 LLM 应用开发范式的基本概念、常见类型及适用场景,教你如何将多个LLM调用通过链串联成端到端的应用,提升开发效率和可复用性。

  1. 顺序链、路由链、记忆链的原理与用法

  2. 组合链:建立复杂业务逻辑

  3. 实战:设计一个具备多轮对话能力的客服助手

 

第5部分 | 链:大模型编程范式(下)

本讲介绍LCEL——LangChain表达式语言,一种轻松地将链组合在一起的声明性方式。

  1. LCEL中的流支持 

  2. LCEL中的异步支持 

  3. 通过LCEL实现优化的并行执行 

第6部分 | Agent:像 GPT 一样思考和行动

本讲讲解Agent范式的核心思想、常用框架及适用场景,教你如何利用工具集赋能 LLM,让其自主完成复杂多步骤任务,实现类似 ChatGPT 的交互和任务处理能力。

  1. ReAct      原理:面向交互的自主代理

  2. 工具提示和工具使用策略

  3. 自主学习:BabyAGI 的工作机制

  4. 实战:金融场景的营销方案脑暴

 

第7部分| 记忆:LangChain中的各种Memory

无论是LLM还是代理都是无状态的,每次模型的调用都是独立于其他交互的。ChatGPT之所以能够记得你之前说过的话,正是因为它使用了记忆(Memory)机制,记录了之前的对话上下文,并且把这个上下文作为提示的一部分,在最新的调用中传递给了模型。在聊天机器人的构建中,记忆机制非常重要。

  1. 使用ConversationBufferMemory

  2. 使用ConversationBufferWindowMemory

  3. 使用ConversationSummaryMemory

  4. 使用ConversationSummaryBufferMemory

 

第8部分 | RAG:用LangChain实现检索增强生成

本讲介绍如何利用向量数据库和自建知识库来加速 LLM 应用,提升应用的信息检索和知识问答能力,减少对外部 API 的依赖,实现更低成本、更高效的开发。

  1. 语义索引与向量存储:Chroma、Pinecone等

  2. RAG:基于知识检索的应答生成

  3. 实战:产品手册智能客服知识库构建

 

第9部分 | LangServe和LangSmith系统集成: 从原型到生产系统

本讲中将介绍LangServe和LangSmith。LangServe(即将发布)是LangChain的托管版本,用于一键部署 LangChain 应用程序;LangSmith帮助您跟踪和评估您的语言模型应用程序和智能代理,以帮助您从原型转向生产。

  1. 什么是LangServe

  2. 什么是LangSmith

  3. 用LangSmith处理认证、监控、日志等系统集成需求

 

第10部分:人工智能技术在金融行业的应用与展望

本部分将全面梳理人工智能技术在金融领域的主要应用场景。我们将重点探讨AI在智能投研、风控反欺诈、客户服务、运营优化等方面的价值与潜力。通过典型案例的剖析,你将具体了解人工智能是如何赋能金融机构,助力其提质增效、创新转型的。

1.    智能投研与量化交易:AI驱动的投资策略开发与优化

2.    智能风控与反欺诈:提升风险识别能力,降低金融犯罪

3.    智能客服与营销:优化客户服务,提升营销效率

4.    智能运营与流程自动化:降本增效,助力数字化转型

5.    AI在金融行业的前景与展望。

返回上一级