1 基本信息
1.1 课程标题:《DeepLearning.ai 大模型系列课程》
1.2 授课讲师:吴恩达,Isa,Harrison Chase
1.3 授课日期:2023
1.4 品读时间:2023-07~2023-08
1.5 整体耗时:约12h
1.6 摘要
由吴恩达老师与 OpenAI 合作推出的大模型系列教程,讲解了如何入门基于 OpenAI API 以及 LangChain 大模型开发。
- 面向入门 LLM 的开发者,深入浅出地介绍了对于开发者,如何构造 Prompt 并基于 OpenAI 提供的 API 实现包括总结、推断、转换等多种常用功能,是入门 LLM 开发的经典教程;
- 指导开发者如何基于 ChatGPT 提供的 API 开发一个完整的、全面的智能问答系统,包括使用大语言模型的基本规范,通过分类与监督评估输入,通过思维链推理及链式提示处理输入,检查并评估系统输出等,介绍了基于大模型开发的新范式
- 指导开发者如何结合框架LangChain 使用 ChatGPT API 来搭建基于 LLM 的应用程序,帮助开发者学习使用 LangChain 的一些技巧,包括:模型、提示和解析器,应用程序所需要用到的存储,搭建模型链,基于文档的问答系统,评估与代理(借助第三方工具)等
- 在 LangChain 应用开发课程基础上,讲解如何使用 LangChain 来整合自己的私有数据,包括:加载并切割本地文档;向量数据库与词向量;检索回答;基于私有数据的问答与聊天等
1.7 特点
- 课程简洁清晰,内容较为浅显易懂
- 配套代码,方便快速上手和应用部署
1.8 评分:⭐⭐⭐⭐
2 大纲
DL.ai 大模型系列:2.ChatGPT API 搭建系统
DL.ai 大模型系列:3.LangChain 开发 LLM 应用
DL.ai 大模型系列:4.LangChain 处理个人数据
- Model I/O:管理大语言模型(Models),及其输入(Prompts)和格式化输出(Output Parsers)
- Data Connection:管理主要用于建设私域知识(库)的向量数据存储(Vector Stores)、内容数据获取(Document Loaders)和转化(Transformers),以及向量数据查询(Retrievers)
- Memory:用于存储和获取 对话历史记录 的功能模块
- Chains:用于串联 Memory + Model I/O + Data Connection,以实现串行化的连续对话、推测流程
- Agents:基于 Chains 进一步串联工具(Tools),将大语言模型的能力和本地、云服务能力结合
- Callbacks:回调系统,可连接到 LLM 申请的各个阶段,便于日志记录和追踪等数据导流
- 角色扮演写作:利用底层语言模型强大的语言适应能力,这类应用可以实时调整语气和风格,以匹配用户指定的写作角色,极大地丰富了内容创作的可能性。
- 文档摘要:升级内容工作者的效率。对于冗长的专业文书、报告,该应用可以在极短时间内生成高质量的摘要,准确把握其核心要点,并腾出更多的时间专注于创造性工作。
- 聊天机器人:借助LLM出色的语言理解能力,开发者可以轻松创建针对特定领域的问答机器人,快速训练它对各种问题的回应能力。此外,还可以利用搜索等外部知识来源,大幅扩展其问答范围。在客户服务、产品咨询等场景用途广泛。
- 文档理解和问答:对复杂文档进行深入分析,并以近似自然语言的形式进行流畅问答。用户仿佛在与另一个专家对话探讨文档细节,可以连续提问追加探究,获得高质量的回应。
3 视频资源
- 双语字幕视频地址:吴恩达 x OpenAI的Prompt Engineering课程专业翻译版
- 相关项目笔记:面向开发者的 LLM 入门课程