一个无向图，结点表示随机变量，边表示两个随机变量之间的概率依赖关系，每个随机变量都可以指定一种可能取值，当变量满足马尔可夫性（即变量的可能取值只与它的临近变量有关）时，这时的图就叫马尔可夫网络，也就是马尔可夫随机场。（非严谨定义）
以构建以词性标注为例，假设一个句子由10个单词组成的句子，每个单词的词性选择有10种，则马尔可夫随机场就限制了所有单词的词性只和它前后的单词有关系。
条件随机场
马尔可夫模型（The Hidden Markov Model），简称HMM，又称为可视马尔可夫模型，具备无记忆性的特点，即当前时刻的状态，只受前一时刻的影响
以典型的天气模型为例，设状态有三种：{ Sunny，Rainy，Cloudy }
由于每天的天气都不一定，所以对于天气的每天观察就构成了一个马尔可夫链
通过历史数据统计不同状态之间的转移概率，就可以得到马尔可夫模型：
马尔可夫模型的状态是可知的，而隐马尔可夫模型的状态是不可知，但存在可知的
概率图模型，在概率模型的基础上，使用基于图的方法来表示概率分布（概率密度/密度函数），是一种通用化的不确定性知识表示和处理方法。
（摘自宗成庆的《统计自然语言处理》）
生成式模型：假设因变量决定自变量，针对$p(X,y)$建模，构建涵盖所有情况的联合分布，然后对比不同类别$y$情况下$X$与历史情况的相似程度，选择最相似（概率最高）的一种可能性。
生成式模型特点：需要更为全面的信息，学习成本高，预测效
维特比算法（Viterbi algorithm）是一种寻找最短路径的动态规划算法。可以用于寻找最有可能产生观测事件序列的维特比路径——隐含状态序列，适应于多步骤每步多选择模型的最优选择问题，比如HMM。
维特比算法是针对暴力枚举法的优化
假设有一个长度为$l$的序列，其中$l$对应总天数
其中第$i$天的隐含状态可能情况有$n$种，第$i+1$天的隐含状态可能情况有$m$种
第$i$天的最大概率为$P_i=argmax_k({P_{ik}},k=1,...,n)$，其中$P_{
AC 算法，即 Aho-Corasick 自动机算法，是两位创始人的名称凑出来的（国际惯例起名法了属于是，但是简称和强化学习里的 Actor-Critic 算法重名，需要注意区分~）
此算法的时间复杂度为O(n)，与匹配字符串的数目无关，只跟被匹配字符串长度有关
特性：核心思想和单模式匹配算法KMP（建议先看懂这个）是一致的，都通过寻找字符串的内部规律，达到每次失配时的高效跳转，只不过AC算使用前缀树来存放所有模式串的前缀，然后通过失配指针来处理失配的情况。
KMP，全称为Knuth-Morria-Pratt，是三位创始人的名称凑出来的
KMP 算法是一种字符串匹配算法，时间复杂度 ：O(n+m)
特性：字符串头部和尾部会有重复的部分，利用这部分信息，减少匹配次数
理解字符串的前缀和后缀
- 把字符串切割成非空的两份，前面那份就是前缀，后面那份就是后缀
- 所有前缀的可能性组成了前缀集合，所有后缀的可能性组成了后缀集合，比如”Harry”的前缀集合是{”H”, ”Ha”, ”Har”, ”Harr”}，而”Potter”的后缀集合是{”otter”,
大卫-杰里森（David Jerison）：美国数学家，擅长偏微分方程和傅里叶分析
1975年毕业于哈佛大学，1980年在普林斯顿获得博士学位
1981年加入MIT数学系，主要研究偏微分方程和傅里叶级数
1988-91担任本科数学委员会主席，2002-04担任纯数学委员会主席，2007-09担任研究生委员会主席。目前他担任纯数学委员会主席，并指导 SPUR（数学系夏季本科研究项目）及RSI（一个夏季高中生科学及工程研究项目）数学部分
曾经当选斯隆研究员、首席青年研究者
1999
