隐马尔科夫模型——学习问题与预测问题

本文接着说隐马尔科夫的后两个问题,学习问题与观测问题:

学习问题,已知观测序列,估计三要素参数π、B、A。
预测问题,也称作解码问题。已知模型和观测序列,求对给定的观测序列对应概率最大的状态序列。

学习问题,根据是否给出状态序列把学习问题分为监督学习和无监督学习两类,本文先介绍监督学习[……]

→Continue→

隐马尔科夫模型——概率计算问题

谈到这个很经典的模型,首先普及一下基本知识:马尔科夫马尔科夫链

隐马尔科夫模型是关于时序的概率模型,描述由一个隐藏的马尔科夫链随机生成不可观测的状态随机序列,再由各个状态生成一个由观测而产生观测随机序列的过程。隐藏的马尔科夫链随机生成的状态的序列成为状态序列(state sequence),[……]

→Continue→

感知机学习算法

本文是读李航博士《统计学习方法》第二章的笔记总结。
感知机是用于二类分类的线性分类器,如果数据线性不可分,我觉得可以采用提升数据维度的方法来使得数据在更高的维度上线性可分。如果要用于多类别分类,可以循环使用感知机,每次分出一个类。
本文主要探讨两个问题,1.感知机是如何用于数据线性分类的? 2.[……]

→Continue→

读《统计学习方法》第一章有感

统计学习方法概论

这篇文章主要是我读李航博士的《统计学习方法》一书第一章的笔记,昨天书刚到手,趁着好奇心还在就翻了一下第一章,感觉和周志华博士的《机器学习》一书结合起来看有互补的味道。
机器学习这门学科吧,可以分成术与道两部分。何为术,就如我的导师一直问我们的,为什么机器可以学习?何为道呢,[……]

→Continue→

基于概率论的分类方法——朴素贝叶斯分类器的Python实现

 

 

最近一直在看机器学习相关的书籍和视频,感觉这个东西搭配Python和Java可以做出很多有意思的东西啊!这两天把朴素贝叶斯分类器的理论以及代码差不多搞懂了,该分类器在文本分类(比如过滤垃圾邮件)上得作用尤为显著,优势和缺点都很明显,之前优化本体组的代码时候,带[……]

→Continue→

最邻近规则分类(KNN)算法的Python实现

目录:

  1. 什么是KNN?
  2. KNN算法介绍
  3. KNN算法的优缺点(改进)
  4. KNN算法的Python实现

内容:

1.什么是KNN?

         邻近算法,或者说K最近邻(kNN,K-Nearest Neighbor)分类算法是数据挖掘分类技术中最简单的方法之一。所谓K最[……]

→Continue→

决策树之ID3算法的Python实现

目录:

  1. 什么是决策树?
  2. 决策树主要算法有哪些?
  3. 信息熵与信息增益
  4. ID3算法介绍
  5. 决策树的优缺点
  6. ID3算法的Python实现

内容:

1.什么是决策树?

       决策树(Decision Tree)是在已知各种情况发生概率的基础上,通过构成决策树来求取净[……]

→Continue→