NIUHE

目录

• 元数据管理
• 重复数据删除
• 固态存储技术
• 溯源数据的高效存储管理及应用
• 名词解释

隐马尔科夫模型(HMM, Hidden Markov Model)可用标注问题，在语音识别、NLP、生物信息、模式识别等领域被实践证明是有效的算法。

• 前言
  • HMM定义
  • 马尔可夫链
• HMM的确定
• HMM的3个基本问题
  • 概率计算
    • 暴力算法
    • 前向－后向算法
  • 学习算法
    • 监督学习
    • Baum-Welch 算法
  • 预测算法
    • 近似算法
    • Viterbi算法
• 总结
• 参考

In statistics, an expectation–maximization (EM) algorithm is an iterative method for finding maximum likelihood or maximum a posteriori (MAP) estimates of parameters in statistical models, where the model depends on unobserved latent variables.

• 直观理解高斯混合模型(GMM)
  • 最大似然估计
  • 问题 : 随机变量无法直接(完全)观察到
• EM算法
• 从理论公式推导GMM

聚类分析（英语：Cluster analysis）是对于统计数据分析的一门技术，在许多领域受到广泛应用，包括机器学习，数据挖掘，模式识别，图像分析以及生物信息。聚类是把相似的对象通过静态分类的方法分成不同的组别或者更多的子集（subset），这样让在同一个子集中的成员对象都有相似的一些属性，常见的包括在坐标系中更加短的空间距离等。

• 距离度量方式
• K-Means
• 密度聚类
  • DBSCAN
  • 密度最大值聚类
• 谱聚类
  • 基础知识
  • 谱和谱聚类
• 参考

支持向量机（Support Vector Machine, SVM）是一种分类模型，它的基本模型是定义在特征空间上的间隔最大的线性分类器。SVM 还包含核技巧，使它成为非线性分类器。

• 线性可分支持向量机
  • 硬间隔最大化
• 线性支持向量机
  • 软间隔最大化
• 非线性支持向量机
  • 核函数
• SMO
• 总结思考
• 参考文献

提升 (boosting) 方法是一种常用的统计学习方法，应用广泛且有效，在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类器性能。

• GBDT
  • 提升的概念
  • 提升算法
  • 梯度提升决策树 GBDT
• XGBOOST
• AdaBoost
  • 误差分析
• 参考文献

决策树学习的生成算法主要有三种： * ID3 * Iterative Dichotomiser * C4.5 * CART * Classification And Regression Tree

决策树建立就是从特征中选择一个作为分类条件把样本划分为两个子集，然后对每个子集做同样的事情直到每个子集都属于相同的标签。所以建立决策树的关键在于每次划分子集的时候选择哪个特征，这也是上面三种算法的最主要区别，下面将一一探讨。

使用极大似然估计推导损失函数

回归方程

\[h_\theta(x) = \sum^n_{i=0}\theta_ix_i = \theta^Tx\]

考虑任意一样本 \(y^{(i)}\) ，则有： \[y^{(i)} = \theta^Tx^{(i)} + \epsilon^{(i)}\] 其中 \(\epsilon^{(i)}\) 是误差。

• 决策树简介
  • 构造决策树
• ID3 算法
  • 概揽
  • 信息增益
  • 划分数据集
  • 递归构建决策树
• 总结
• 参考

转载自：http://colah.github.io/posts/2015-08-Understanding-LSTMs/

• Recurrent Neural Networks
• The Problem of Long-Term Dependencies
• LSTM Networks
  • The Core Idea Behind LSTMs
  • Step-by-Step LSTM Walk Through
  • Variants on Long Short Term Memory
• Conclusion