中文标题:模型融合配方的迭代优化
英文标题:Evolutionary Optimization of Model Merging Recipes
发布平台:预印本
发布日期:2024-03-19
引用量(非实时):
DO
DO
模型融合(model merging):
思考:如何验证模型融合的合理性? (此处
“压缩现代性”,这个词很生动、贴切。中(含台湾)、日、韩三个国家的普通民众的生活都有明显的“压缩”特征:
1、住房是压缩的。美国人住别墅,中日韩绝大多数人住公寓。东亚城市人口密度远高于美国,也高于欧洲。这节约了土地,也导致普通人的个人空间严重不足;
2、学习是压缩的。“做题家”,这一个词描述了以高考为人才选拔的高压模式。进大学前,想考个好大学、好专业,那就只有拼命做题;
3、工作是压缩的。“加班、超时劳动”被普遍接受,只要老板给高一点的加班费,打工者对加班一般持欢迎与接受的态度。但这也极大地减少了可用于关心家庭、个人再学习、社交等一系列的工作之外的时间;
4、生育也是压缩的。一对夫妻,生一
传统图机器学习 VS 图表示学习
嵌入表示的好处:
课程内容大纲:
背景要求:机器学习、算法和图论、概率论与数理统计、Python/PyTorch
其他推荐工具:
瑞士奶酪理论(英语:Swiss Cheese Model),又称乳酪理论或瑞士起司理论,是英国曼彻斯特大学教授詹姆斯·瑞森(James Reason)于 1990 年提出的关于意外发生的风险分析与控管的模型
主要是讲,瑞士起司在制造与发酵过程当中,很自然的会产生小孔洞。如果把许多片起司重叠在一起,正常情况下,每片起司的空洞位置不同,光线透不过。只有在很极端的情况下,空洞刚好连成一直线,才会让光线透过去。导致严重事故发生的从来都不是因为某个单独的原因,而是多个问题同时出现。
瑞士起司理论示意图:左方是危险(Hazards),穿过数个孔洞后导致损失(Losses)

上图的一片片乳酪,往往代表