蚁群算法

1 基本概念

蚁群算法(Ant Colony Algorithm,ACA)由Marco Dorigo于1992年在他的博士论文中首次提出,该算法模拟了自然界中蚂蚁的觅食行为。

蚂蚁寻径的生物过程:

  • 蚂蚁在寻找食物源时,会在其经过的路径上释放一种信息素,并能够感知其它蚂蚁释放的信息素。信息素浓度的大小表征路径的远近,信息素浓度越高,表示对应的路径距离越短
  • 通常,蚂蚁会以较大的概率优先选择信息素浓度较高的路径,并释放一定量的信息素,以增强该条路径上的信息素浓度,这样,会形成一个正反馈
  • 最终,蚂蚁能够找到一条从巢穴到食物源的最佳路径,

Read more

NP-Hard问题

1 基本概念

P问题:能在多项式时间内解决的问题,比如快速排序/冒泡排序

NP问题:能在多项式时间内验证得出一个正确解的问题(不确保在多项式时间内找到答案)

NP-Complete(NPC)问题:属于NP问题,其他所有属于NP的问题都可以规约成它

规约(Reduction):将问题A转化为问题B,使用问题B的解来解问题A

如果问题A可规约为问题B,说明问题B的时间复杂度要大于或等于问题A的时间复杂度,即问题B的难度一般要比问题A大(毕竟B答案能解A,A不一定能解

Read more

DL.ai 大模型系列-课程总结

1 基本信息

1.1 课程标题:《DeepLearning.ai 大模型系列课程》

1.2 授课讲师:吴恩达,Isa,Harrison Chase

1.3 授课日期:2023

1.4 品读时间:2023-07~2023-08

1.5 整体耗时:

Read more

DL.ai 大模型系列:4.LangChain 处理个人数据

1 简介

本节课程将介绍如何使用LangChain和自有数据进行对话

LangChain的组件包括:

  • 提示(Prompts): 使模型执行操作的方式。
  • 模型(Models):大语言模型、对话模型,文本表示模型。目前包含多个模型的集成。
  • 索引(Indexes): 获取数据的方式,可以与模型结合使用。
  • 链(Chains): 端到端功能实现。
  • 代理(Agents): 使用模型作为推理引擎

课程内容:

  1. 介绍如何使用LangChain文档加载器 (Document Lo

Read more

DL.ai 大模型系列:3.LangChain 开发 LLM 应用

1 简介

LangChain是用于构建大模型应用程序的开源框架

  • 基于模块化组合,可单独使用也可以以链式方式进行组合
  • 开源社区发展快速;有Python和JavaScript两个不同版本的包

2 提示和输出解释器

直接使用OpenAI的示例:

import os
import openai

#

Read more

DL.ai 大模型系列:2.ChatGPT API 搭建系统

1 简介

以构建客服助手为例,使用不同的 Prompt 链式调用LLM搭建复杂应用

2 语言模型及其 Token

LLM 可以通过使用监督学习来构建,通过不断预测下一个词来学习

LLM 的输出是token,代表常见的字符序列

  • 例如,对于 "Learning new things is fun!" 这句话,每个单词都被转换为一个 token
  • 而对于较少使用的单词,比如单词 &qu

Read more

DL.ai 大模型系列:1.ChatGPT 提示工程

《ChatGPT Prompt Engineering for Developers》

本课程包含大量提示工程的场景示例,笔记中仅作简单记录

1 简介

LLM 的两种类型:

  • 基础 LLM:基于文本训练数据,训练出预测下一个单词能力的模型
  • 指令微调(Instruction Tuned)LLM:基于预训练好的LLM的,使用输入(指令)和理想输出(遵循这些指令的良好回答)

Read more

时序聚类

本文中大部分算法都可通过R语言的latend包复现

1 GBTM

轨迹分组算法(Group-based trajectory model,GBTM)

  • 最早由 Daniel Nagin 于 1999 年在知名心理学方法学杂志「Psychological Methods」开始推展
  • 接着由 Bobby Jones 与 Daniel Nagin 于 2001 年发表了 SAS procedure2,于是此方法慢慢

Read more

轨迹建模相关预研

GBTM理论:GBTM

GMM理论:GMM

1 论文汇总

1.1 收缩压时序轨迹与急性脑出血结局

论文地址

论文标题:Temporal Trajectory of Systolic Blood Pressure and Outcomes in Acute Intracerebral He

Read more

BASIC重症医学23年2季度文章集锦

Read more