您好、欢迎来到现金彩票网!
当前位置:刘伯温四肖中特料 > 推理机器 >

机器学习 —— 概率图模型(推理:消息传递算法)doc

发布时间:2019-07-10 03:14 来源:未知 编辑:admin

  登录成功,如需使用密码登录,请先进入【个人中心】-【账号管理】-【设置密码】完成设置

  简介:本文档为《机器学习 —— 概率图模型(推理:消息传递算法)doc》,可适用于工作范文领域

  *若权利人发现爱问平台上用户上传内容侵犯了其作品的信息网络传播权等合法权益时,请按照平台侵权处理要求书面通知爱问!

  全国最大的共享资料库,等您下载。本资料为机器学习 —— 概率图模型(推理:消息传递算法).doc文档,由爱问共享资料用户提供,以下为正文内容。

  机器学习mdashmdash概率图模型(推理:消息传递算法)概率图模型G(V,E)由节点V和边E构成。在之前马尔科夫模型相关的博客中我谈到马尔科夫模型的本质是当两个人交流后其意见(两个随机变量)同意与不同意的概率组合。而势函数表达的是两个意见相同或者相左的程度。我们搞的那么麻烦最后想要得到的不就是每个意见正确与否(随机变量取不同值的概率)吗?与其采用解析的方法去算去把所有其他的变量边际掉那干脆采用模拟的方法让这个消息传递跑起来把系统迭代N次以后的结果拿出来分析。这种朴素(Naive)的想法就是MessagePassing算法。聚类图在执行消息传递之前我们需要指定两件事情:掌握消息的人有哪些手里都有哪些消息。他把这个消息告诉了谁。为了解答这两个问题需要从我们手里仅有的材料去构造。P(ABCD)=P(AB)*P(BC)*P(CD)*P(DA)这里的P是未归一化的概率。通过这个联合概率计算式我们获得一种叫做聚类图的全新图模型。从概率图到聚类图如下所示。其中聚类图中存在Cluster和EdgeCluster就是掌握消息的人Cluster里的内容就是人所掌握的消息。Edge连接了两个交互消息的人Edge上是两个人交换的消息。当然聚类图不仅仅是这么简单的结构。还有更复杂的聚类图如下势函数表达的是两个人意见相同或者相左的程度两个势函数相乘则会表达多个消息相同或相左的程度。多个势函数相乘可以成为某个人的消息函数。对于聚类图有以下性质:C(Clusters)由节点组成。边上传递的消息是两个C的交集(必须要两个人同时知道的消息才能交流)。消息函数是势函数的乘积。总结一下:消息是随机变量并且都是相关的。人掌握消息之间的关系。人和人之间可以传递消息。我们假设消息A:明天下雨B:明天下雪C:地上有水那么人们一般都会认为ABC的可能性肯定大于ABC。而E有可能是明天有洒水车。总之不同的人掌握着不同的消息。消息与消息之间会相互影响。消息传递有了消息之后两个都知道同一件事情的人就会交流和这件事有关的内容比如会告诉关于C(地上有没有水)的事情这会改变对消息C的看法(概率)。我们把消息传递写成以下形式。ij表示消息从i传递到j。Sij表示被传递的消息。通式的物理意义有以下三点:消息从i传递到ji会综合所有人给他说的信息(把所有的delta相乘)加上自己对消息组合的认知(把delta相乘的结果乘以消息之间的关系)去除掉不需要传递的部分(把其他变量边际掉)以上循环一定次数后达到某种稳定状态。最终计算某个人对所有消息的看法Belief(所有稳态输入消息delta乘以消息关系)这种算法会和精确解法存在一定偏差故此仅为一种近似算法。聚类图的性质不是随便一幅图都可以作为聚类图。聚类图有个基本要素:每个势函数都被使用且被使用一次。聚类图中消息传递不能形成环。每个消息如果存在两个知道的人这两个人必须要有交流途径关于第一点势函数描述了消息之间的关系如果漏了则失去了消息之间的某个信息如果重复使用则某种关系被多余的加强了。第二点则比较有意思其实际上描述的是一个正反馈的情况。假设有个人编了一个谎话:明天会下雨。并且把这个谎话告诉了A然后A又告诉BBC,CD。如果恰好编这个谎话的人正好和D认识又正好交流了明天是否会下雨的情况。那么就ldquo谎话到最后自己都信了rdquo。这就对ldquo明天下雨rdquo这个随机变量的概率产生较大的估计偏差。简而言之就是消息不能成环。第三点要表达的是如果甲乙两个人都知道一件事情A那么他们一定要有交流途径无论直接交流还是通过其他人转达总之消息A一定要有在甲乙两人之间联通的路径。值得注意的一点是明天下雨A和地上有水C之间可能存在较强的相关性就算A没有形成环却通过C形成了环最终也会对结果产生较大影响。比如图中xy强相关时消息传递算法的表现并不好。有一种一定能够满足上诉性质的聚类图成为BetheClustersGraph。在使用消息传递算法时优先考虑构造此聚类图。该聚类图中有两种不同的人一种掌握多个消息一种掌握单种消息。这样的聚类图一定不会存在环。其形式如下所示:传播算法的性质一群人交换意见如果大家最后意见都相同了。比如甲乙都认为明天下雨的概率是乙丙都认为明天地上有水的概率是这种情况称为聚类图校准了。公式表示边际掉无关量两个人对交流消息的看法是一致的。意见相同还有一个说法就是交流过程稳定也就是说在经过无数次迭代后消息收敛了。mdashmdashmdashmdashmdashmdash消息传递公式mdashmdashmdashmdashmdashmdashmdashmdashdeltaji与求和无关因为不在求和域内故可以乘出去。发现i,j是对称轮换的mdashmdashmdashmdashmdashmdashmdashmdashmdashmdash最终得出收敛和校准是等价的mdashmdashmdashmdashmdashmdashmdashmdashmdashmdash一种新的符号mdashmdashmdashmdash此式证明了消息传递算法无论如何运行初始设定都没有引入新的信息总结消息传递算法是一种朴素的模拟推断算法用于求解随机变量的给定依赖条件下的概率。这种算法的计算结果是有偏的但该算法却可以大幅降低推断所需要的计算量。

  根据最新统计,软件工程师是企业需求旺盛的职位之一,最适合女性的行业有教师、行政管理,当然还有会计类在市场缺口很大,男女比例大约是一半对一半,本专题合集了热门职业简历的模版,都是精品哦!

http://mojdzwonek.com/tuilijiqi/344.html
锟斤拷锟斤拷锟斤拷QQ微锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷微锟斤拷
关于我们|联系我们|版权声明|网站地图|
Copyright © 2002-2019 现金彩票 版权所有