分类目录归档:课程

DL.ai 大模型系列:2.ChatGPT API 搭建系统

1 简介

以构建客服助手为例,使用不同的 Prompt 链式调用LLM搭建复杂应用

2 语言模型及其 Token

LLM 可以通过使用监督学习来构建,通过不断预测下一个词来学习

LLM 的输出是token,代表常见的字符序列

  • 例如,对于 "Learning new things is fun!" 这句话,每个单词都被转换为一个 token
  • 而对于较少使用的单词,比如单词 &qu

Read more

DL.ai 大模型系列:1.ChatGPT 提示工程

《ChatGPT Prompt Engineering for Developers》

本课程包含大量提示工程的场景示例,笔记中仅作简单记录

1 简介

LLM 的两种类型:

  • 基础 LLM:基于文本训练数据,训练出预测下一个单词能力的模型
  • 指令微调(Instruction Tuned)LLM:基于预训练好的LLM的,使用输入(指令)和理想输出(遵循这些指令的良好回答)

Read more

10.《机器学习与神经网络》多神经网络组合以提高泛化能力

1 多模型融合的优势

Why it helps to combine models

模型的偏差与方差:

  • 对于回归模型来说,预测的平方误差可以分解为偏差和方差
  • 当模型过于简单时,预测精度低,此时模型的偏差过大
  • 当模型过于复杂时,模型缺少泛化能力,模型方差过大
  • 多个偏差大的简单模型通过融合后可以提高最终的预测精度(降低偏差)
  • 多个过拟合(高方差)的模型融合后可以提高模型的稳定性(降低方差)

当单模型间的差异性(不是指性能差异)越大时,融合模型的效果越好

为什么模型融合会降低方差:

  • 假设所有模型的预测均值为$\overline{y}$: $$

Read more

9.《机器学习与神经网络》提高神经网络的泛化能力

本节课介绍了处理模型过拟合的常见方法(正则化项、惩罚因子),并展示了基于贝叶斯解读的一种实践有效的惩罚因子调参方法。

1 回顾过拟合

Reminder:Overfitting

训练数据中不仅蕴含着正确的规律/知识值

Read more

微软Build 2023专题演讲:State of GPT

Read more

积极心理学-课程总结

1 基本信息

1.1 课程标题:《积极心理学》

1.2 授课讲师:Tal Ben Shahar

1.3 授课日期:2006

1.4 品读时间:2018-07-07~2019-01-09

1.5 整体耗时:约50h

1.6 摘要

本课程以“幸福”作为切入口,引导人们从积极的角度思考自身与世界。从积极心理学的定

Read more

积极心理学23:收获与交流

1 课程收获分享

课程练习:请尝试做到以下几件事情

  1. 写下至少2件在课堂或课下发生对你有意义、有趣的事情
  2. 写下2个你所决心做的转变,可以是态度转变也可以是行为转变
  3. 与身边的人分享一件你学到的东西。

Tal教授邀请了部分同学进行了课程收获的分享:

  • 追求自我和谐的目标,戒骄戒躁;互帮互助,学会与他人和解
  • Roger Bannister的故事很感动;感觉一切皆有可能,打破束缚,挖掘潜能
  • 外婆的故事所打动,让我感受到了特殊而难得的体验,也促使我重新审视自己看待人生的方式,以及珍惜我所拥有的东西的方式;希望能朝着目标向前冲,即使失败也能很快地振作与恢

Read more

积极心理学22:自尊与自我实现

1 三层自尊的复习与思考

复习回顾:自尊的三个层次

每个人都会有属于自己的三层自尊,而能够自我实现的人并不是不在乎比尔的看法;他们也会在乎他人的在乎,在乎自我的评价。但他们大多数都是自己进行决策,做自己相信的事情,和他人相互联系,想让世界变得更美好。

Tal教授曾陷入的误区:

  • 追求无条件自尊:但这是违背天性的,只会加剧对他人的依赖(越安慰自己别紧张,就越容易紧张);正确的做法应该是接受天性,不强求自己,然后找到最合适的做法
  • 把谦虚看得太重:高自尊的人都是谦虚的,但这个过程不是一蹴而就的,盲目的追求谦虚反而是一种”不

Read more

积极心理学21:爱情和自尊

1 创造积极的爱情

首先回顾上一节课的内容-培养爱情的四个技巧

  • 付出努力,用主动表达来对抗时间
  • 做出改变,从想被认可到想被了解
  • 允许冲突的发生
  • 积极的认知角度

《万里任禅游》Robert M.Pirsig:我们常常追寻真相,当真相叩响我们的大门时,我们却说“走开,我寻求的是真相”。

积极的爱情的第一步是提出积极的问题,关注到伴侣身上的优点,关注到我们间关系的美妙之处,真相往往就在我们眼前,我们要做的就是仔细看

来自澳大利亚的Jane Elsner Barbara Heilman和Amanda Hor

Read more

积极心理学20:幸福与幽默

本节课为助理代班,所以内容并没有直接和上一节衔接。而是围绕“幽默”为主题的相对独立的授课内容

1 幽默与幸福

幽默与幸福的关系: 幽默是一种思维的选择,让我们看待同一件事变得乐观和正面,从而远离痛苦和沮丧。幽默是幸福心理学最重要的一部分,而幽默的学习会影响我们对这个世界的感知和视角。

幽默的定义: 幽默是一种有意识地主动感知世界的方式,类似于乐观主义的视角,它能增强人们在不同场景下的感知的潜能。Humor is a way of mindfully perceiving th

Read more