当前位置 博文首页 > 文章内容

    无监督学习方法总结

    作者:糖丝橙 栏目:IT相关内容 时间:2020-05-08 10:25:52

    本站于2023年9月4日。收到“大连君*****咨询有限公司”通知
    说我们IIS7站长博客,有一篇博文用了他们的图片。
    要求我们给他们一张图片6000元。要不然法院告我们

    为避免不必要的麻烦,IIS7站长博客,全站内容图片下架、并积极应诉
    博文内容全部不再显示,请需要相关资讯的站长朋友到必应搜索。谢谢!

    另祝:版权碰瓷诈骗团伙,早日弃暗投明。

    相关新闻:借版权之名、行诈骗之实,周某因犯诈骗罪被判处有期徒刑十一年六个月

    叹!百花齐放的时代,渐行渐远!



    无监督学习方法的关系和特点

    八种常用的统计机器学习方法:

         1. 聚类方法(层次聚类、k均值聚类)

         2.奇异值分解(SVD)

         3.主成分分析(PCA)

         4.潜在语义分析(LSA)

         5.概率潜在语义分析(PLSA)

         6.马尔可夫链蒙特卡罗法(MCMC,包括Metropolis-Hastings算法、吉布斯抽样)

         7.潜在狄利克雷分配(LDA)

         8.PageRank算法

         三种常用的统计机器学习方法,非负矩阵分解(NMF)、变分推理、幂法

         这些方法通常用于无监督学习的 聚类、降维、话题分析、图分析

    1 各种方法之间的关系

    8dfda8cd25d1b68b46fd13058d198867.png

    2 无监督学习方法

         聚类有硬聚类和软聚类,层次聚类、k均值聚类是硬聚类方法

         高斯混合模型是软聚类方法

         层次聚类基于启发式算法,k均值聚类基于迭代算法,高斯混合模型学习通常基于EM算法

         降维有线性降维和非线性降维,PCA是线性降维方法。PCA基于SVD

         话题分析兼有聚类和降维特点,有非概率模型、概率模型

         LSA、NMF是非概率模型,PLSA、LDA是概率模型

         PLSA不假设模型具有先验分布,学习基于极大似然估计

         LDA假设模型具有先验分布,学习基于贝叶斯学习,具体地后验概率估计

         LSA的学习基于SVD,NMF可以直接用于话题分析

         PLSA的学习基于EM算法

         LDA的学习基于吉布斯抽样或变分推理

         图分析的一个问题是链接分析,即结点的重要度计算

         PageRank是链接分析的一个方法。PageRank通常基于幂法

    17a97202e75d21c15a5daed36575cc54.png

    3 基础机器学习方法

         矩阵分解基于不同假设:SVD基于正交假设,即分解得到的左右矩阵是正交矩阵,中间矩阵是非负对角矩阵

         非负矩阵分解基于非负假设,即分解得到的左右矩阵皆是非负矩阵

         含有隐变量的概率模型的学习有两种方法:迭代计算方法、随机抽样方法

         EM算法 和 变分推理(包括变分EM算法)属于迭代计算方法

         吉布斯抽样 属于随机抽样方法

         变分EM算法是EM算法的推广

         矩阵的特征值与特征向量求解方法中,幂法是常用的算法

    91f5863667cac593b0e715ed5320e838.png


    文章来源:CSDN博客

    原文链接:https://blog.csdn.net/qq_21201267/article/details/105982531

    如有侵权,请联系本人删除