4006-998-758
3000+课程任你选择
GPT与大模型行业落地实践探索
研发学院 GPT 大模型
李明宇

中科院计算所副教授(高级工程师)

历任国家重点实验室课题组负责人

创业公司CTO、上市公司事业群技术总监和首席技术专家

荣获中国软件协会“优秀CTO”等多项荣誉

中国新一代IT产业联盟分委会秘书长

全国高校人工智能与大数据创新联盟专家委员

北京开源创新委员会委员

中国开源软件创新大赛总决赛评委

十余年来致力于IT新技术在企业的落地,作为项目技术负责人为多家知名企业和单位开发和交付过产品及服务,包括:国家信息中心、国防科技大学、中石化、银联、交通银行、首都在线、中国电信天翼爱音乐、中国移动研究院等。

在AI大模型领域,李老师在B端和C端均有AI应用从技术研发到落地变现的闭环实践经验,自研技术 CodeGraphRAG 性能达到国际领先水平。企业客户包括电信运营商、大型上市企业、国内知名芯片公司等,受到一致好评。

查看老师详情
课程内容

课程大纲:

一、GPT和大模型基础

1. GPT等生成式AI的概念与发展历程

介绍AIGC和大模型等相关概念,以及GPT从提出到GPT-4的发展历程。

2. GPT的原理

讲解生成式AI、大语言模型、GPT的原理。


二、大模型行业落地与应用开发

1. GPT等大模型典型应用案例

大模型在行业中的典型应用案例,包括数据质量提升、财报及市场动态分析、客服机器人等场景。

2. GPT的API及Prompt Engineering,function calling和assistant API

如何基于GPT的API开发智能应用和机器人。介绍Prompt Engineering,结合应用探讨Prompt Engineering的方法与作用。

介绍GPT的一些高级API,包括function calling和assistant API

案例详解:金融政策问答

3. 让GPT利用企业自身的文档与数据

通过embedding、向量数据库等技术,将企业里自身的文档与数据接入到GPT。

案例详解:上市公司财报分析、售前/售后技术支持

4. 让GPT从外部世界获取信息

如何将GPT对接到搜索引擎,并利用大语言模型的能力筛选和处理搜索结果

案例详解:个性化的“朝闻天下”、市场情绪分析

5. 实现AI Agent让GPT从事更复杂的工作

介绍如何借助GPT的一些高级API如function calling和assistant API来实现AI Agent完成复杂任务,并探讨如何在其他大模型上实现这两种API。

案例详解:Code-Chat-Reviewer

6. GPT的微调

澄清业界对于“微调”的一些误解,结合实际案例介绍如何微调GPT模型并进行应用。

案例详解:数据结构化与数据质量提升


三、国产与开源大模型以及安全问题

1. 典型国产与开源大模型简介

国产商用大模型及GLM、llama-2等开源大模型及生态

2. 典型开源大模型的部署

介绍如何运行开源大模型并将其部署为HTTP服务对外提供访问

3. 开源大模型的微调

介绍大模型微调的底层原理,并结合案例介绍如何对一个开源大模型进行LoRA微调

4. 基于国产与开源大模型构建行业应用

展示基于国产与开源大模型构建行业应用,与GPT进行比较

5. 安全与合规

介绍如何在一定范围内合法合规访问GPT,探讨使用国产和自己部署开源大模型需要注意的安全问题


四、总结与展望

1. 重点回顾

回顾课程重点。

2. 未来展望

展望未来大模型技术发展趋势,以及对企业和岗位的影响


返回上一级