词嵌入表示 Embeddings 发表评论 1761 views 传统嵌入表示 One-hot(独热)编码 TF-IDF 静态嵌入表示 word2vec Glove fasText 上下文嵌入表示 ELMo GPT BERT 词嵌入表示方法:应用 NLP 技术,将单词/Token 转化为向量的数值表示形式 随着 LLMs 的进步和发展,该技术也逐渐应用到图像、音频等非文本领域 传统嵌入表示 One-hot(独热)编码 One-hot(独热)编码过程: 用 $N$ 维仅包含 0、1 值的向量去唯一地表示 $N$ 种词 每个词编码后的向量包含 $N-1$ 个 0 和 1 个1 算法分析: One-hot 编码简单实用,是很多进 Read more
基础神经元 发表评论 1838 views 线性神经元 二进制阈值神经元 Relu 神经元 sigmoid 神经元 随机二进制神经元 GELU 神经元 参考 一个典型的神经元 Axon 轴突 Dendritic tress 树突 Axon hillock 轴突体 线性神经元 $$y = b+\sum_ix_iw_i$$ 二进制阈值神经元 对线性加权运算的结果,进行阈值判定 $$z = b+\sum_ix_iw_i$$ $$\begin{equation} y = \left\{ \begin{array}{rl} 1 & \mbox{if } z \geq 0, \\ 0 & Read more