本人常用Chrome浏览器,不保证推荐插件在其他浏览器中支持
Tampermonkey 油猴脚本管理器 ⭐⭐⭐⭐⭐
可支持的脚本很丰富,可玩性很高;有空单独开一篇文章讲一下 #待补充
本人常用Chrome浏览器,不保证推荐插件在其他浏览器中支持
可支持的脚本很丰富,可玩性很高;有空单独开一篇文章讲一下 #待补充
前置知识:模型参数的数据类型
工具推荐:常见模型的显存占用计算器
大模型的显存占用主要取决于以下几点:
以Llama2-7B模型为例,在精度为float32的情况下,模型占用显存为: $$7
(套娃~)
入门、大语言模型(提示工程、大语言模型实践、大语言模型理论)、AI绘画、AI音频、多模态、深度学习、AI系统、其他(点赞历史、友情链接)
启发式算法(Heuristic Algorithms)通常是以问题为导向的(Problem Specific),没有一个通用的框架,每个不同的问题通常设计一个不同的启发式算法,通常被用来解组合优化问题
普通启发式算法一般是一种贪婪算法,需要根据特定问题进行特定设计
贪婪算法,也叫贪心算法
其基本思想是:每一步都采取当前状态下最好的选择,而不考虑全局最优解是否已经达到。在每一步中,贪心算法都会做出一个贪心决策,即选择当前状态下最优的解决方案,并且不考虑这个决策可能会导致的未来后果
以经典的装包问
蚁群算法(Ant Colony Algorithm,ACA)由Marco Dorigo于1992年在他的博士论文中首次提出,该算法模拟了自然界中蚂蚁的觅食行为。
蚂蚁寻径的生物过程:
P问题:能在多项式时间内解决的问题,比如快速排序/冒泡排序
NP问题:能在多项式时间内验证得出一个正确解的问题(不确保在多项式时间内找到答案)
NP-Complete(NPC)问题:属于NP问题,其他所有属于NP的问题都可以规约成它
规约(Reduction):将问题A转化为问题B,使用问题B的解来解问题A
如果问题A可规约为问题B,说明问题B的时间复杂度要大于或等于问题A的时间复杂度,即问题B的难度一般要比问题A大(毕竟B答案能解A,A不一定能解
本节课程将介绍如何使用LangChain和自有数据进行对话
LangChain的组件包括:
课程内容:
LangChain是用于构建大模型应用程序的开源框架
直接使用OpenAI的示例:
import os
import openai
#