欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Python實(shí)現(xiàn)EM算法實(shí)例代碼

 更新時(shí)間:2020年10月04日 08:31:46   作者:程序員大本營  
這篇文章主要給大家介紹了關(guān)于Python實(shí)現(xiàn)EM算法的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧

EM算法實(shí)例

通過實(shí)例可以快速了解EM算法的基本思想,具體推導(dǎo)請(qǐng)點(diǎn)文末鏈接。圖a是讓我們預(yù)熱的,圖b是EM算法的實(shí)例。

這是一個(gè)拋硬幣的例子,H表示正面向上,T表示反面向上,參數(shù)θ表示正面朝上的概率。硬幣有兩個(gè),A和B,硬幣是有偏的。本次實(shí)驗(yàn)總共做了5組,每組隨機(jī)選一個(gè)硬幣,連續(xù)拋10次。如果知道每次拋的是哪個(gè)硬幣,那么計(jì)算參數(shù)θ就非常簡單了,如

下圖所示:

如果不知道每次拋的是哪個(gè)硬幣呢?那么,我們就需要用EM算法,基本步驟為:

  1、給θ_AθA​和θ_BθB​一個(gè)初始值;

  2、(E-step)估計(jì)每組實(shí)驗(yàn)是硬幣A的概率(本組實(shí)驗(yàn)是硬幣B的概率=1-本組實(shí)驗(yàn)是硬幣A的概率)。分別計(jì)算每組實(shí)驗(yàn)中,選擇A硬幣且正面朝上次數(shù)的期望值,選擇B硬幣且正面朝上次數(shù)的期望值;

  3、(M-step)利用第三步求得的期望值重新計(jì)算θ_AθA​和θ_BθB​;

  4、當(dāng)?shù)揭欢ù螖?shù),或者算法收斂到一定精度,結(jié)束算法,否則,回到第2步。

計(jì)算過程詳解:初始值θ_A^{(0)}θA(0)​=0.6,θ_B^{(0)}θB(0)​=0.5。

由兩個(gè)硬幣的初始值0.6和0.5,容易得出投擲出5正5反的概率是p_A=C^5_{10}*(0.6^5)*(0.4^5)pA​=C105​∗(0.65)∗(0.45),p_B=C_{10}^5*(0.5^5)*(0.5^5)pB​=C105​∗(0.55)∗(0.55), p_ApA​/(p_ApA​+p_BpB​)=0.449, 0.45就是0.449近似而來的,表示第一組實(shí)驗(yàn)選擇的硬幣是A的概率為0.45。然后,0.449 * 5H = 2.2H ,0.449 * 5T = 2.2T ,表示第一組實(shí)驗(yàn)選擇A硬幣且正面朝上次數(shù)和反面朝上次數(shù)的期望值都是2.2,其他的值依次類推。最后,求出θ_A^{(1)}θA(1)​=0.71,θ_B^{(1)}θB(1)​=0.58。重復(fù)上述過程,不斷迭代,直到算法收斂到一定精度為止。

這篇博客對(duì)EM算法的推導(dǎo)非常詳細(xì),鏈接如下:

https://blog.csdn.net/zhihua_oba/article/details/73776553

Python實(shí)現(xiàn)

#coding=utf-8
from numpy import *
from scipy import stats
import time
start = time.perf_counter()

def em_single(priors,observations):
 """
 EM算法的單次迭代
 Arguments
 ------------
 priors:[theta_A,theta_B]
 observation:[m X n matrix]

 Returns
 ---------------
 new_priors:[new_theta_A,new_theta_B]
 :param priors:
 :param observations:
 :return:
 """
 counts = {'A': {'H': 0, 'T': 0}, 'B': {'H': 0, 'T': 0}}
 theta_A = priors[0]
 theta_B = priors[1]
 #E step
 for observation in observations:
  len_observation = len(observation)
  num_heads = observation.sum()
  num_tails = len_observation-num_heads
  #二項(xiàng)分布求解公式
  contribution_A = stats.binom.pmf(num_heads,len_observation,theta_A)
  contribution_B = stats.binom.pmf(num_heads,len_observation,theta_B)

  weight_A = contribution_A / (contribution_A + contribution_B)
  weight_B = contribution_B / (contribution_A + contribution_B)
  #更新在當(dāng)前參數(shù)下A,B硬幣產(chǎn)生的正反面次數(shù)
  counts['A']['H'] += weight_A * num_heads
  counts['A']['T'] += weight_A * num_tails
  counts['B']['H'] += weight_B * num_heads
  counts['B']['T'] += weight_B * num_tails

 # M step
 new_theta_A = counts['A']['H'] / (counts['A']['H'] + counts['A']['T'])
 new_theta_B = counts['B']['H'] / (counts['B']['H'] + counts['B']['T'])
 return [new_theta_A,new_theta_B]


def em(observations,prior,tol = 1e-6,iterations=10000):
 """
 EM算法
 :param observations :觀測數(shù)據(jù)
 :param prior:模型初值
 :param tol:迭代結(jié)束閾值
 :param iterations:最大迭代次數(shù)
 :return:局部最優(yōu)的模型參數(shù)
 """
 iteration = 0;
 while iteration < iterations:
  new_prior = em_single(prior,observations)
  delta_change = abs(prior[0]-new_prior[0])
  if delta_change < tol:
   break
  else:
   prior = new_prior
   iteration +=1
 return [new_prior,iteration]

#硬幣投擲結(jié)果
observations = array([[1,0,0,0,1,1,0,1,0,1],
      [1,1,1,1,0,1,1,1,0,1],
      [1,0,1,1,1,1,1,0,1,1],
      [1,0,1,0,0,0,1,1,0,0],
      [0,1,1,1,0,1,1,1,0,1]])
print (em(observations,[0.6,0.5]))
end = time.perf_counter()
print('Running time: %f seconds'%(end-start))

總結(jié)

到此這篇關(guān)于Python實(shí)現(xiàn)EM算法實(shí)例的文章就介紹到這了,更多相關(guān)Python實(shí)現(xiàn)EM算法實(shí)例內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

  • 詳解使用Python寫一個(gè)向數(shù)據(jù)庫填充數(shù)據(jù)的小工具(推薦)

    詳解使用Python寫一個(gè)向數(shù)據(jù)庫填充數(shù)據(jù)的小工具(推薦)

    這篇文章主要介紹了用Python寫一個(gè)向數(shù)據(jù)庫填充數(shù)據(jù)的小工具,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2020-09-09
  • R語言繪制條形圖及分布密度圖代碼總結(jié)

    R語言繪制條形圖及分布密度圖代碼總結(jié)

    這篇文章主要為大家介紹了R語言條形圖及分布密度圖代碼總結(jié),有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2022-05-05
  • python3爬蟲中異步協(xié)程的用法

    python3爬蟲中異步協(xié)程的用法

    在本篇文章里小編給大家整理的是關(guān)于python3爬蟲中異步協(xié)程的用法,需要的朋友們可以學(xué)習(xí)參考下。
    2020-07-07
  • django ManyToManyField多對(duì)多關(guān)系的實(shí)例詳解

    django ManyToManyField多對(duì)多關(guān)系的實(shí)例詳解

    今天小編就為大家分享一篇django ManyToManyField多對(duì)多關(guān)系的實(shí)例詳解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
    2019-08-08
  • python中取整數(shù)的幾種方法

    python中取整數(shù)的幾種方法

    這篇文章主要給大家分享python中取整數(shù)的幾種方法技巧,文章將圍繞python取整數(shù)的詳細(xì)的相關(guān)資料展開內(nèi)容,需要的朋友可以參考一下,希望對(duì)你有所幫助
    2021-11-11
  • Python中bisect的用法

    Python中bisect的用法

    這篇文章主要介紹了Python中bisect的用法,主要講述了針對(duì)數(shù)組的插入及排序操作,非常具有實(shí)用價(jià)值,需要的朋友可以參考下
    2014-09-09
  • Android應(yīng)用開發(fā)中Action bar編寫的入門教程

    Android應(yīng)用開發(fā)中Action bar編寫的入門教程

    這篇文章主要介紹了Android應(yīng)用開發(fā)中ActionBar編寫的入門教程,Action Bar可以實(shí)現(xiàn)的功能很多,比如導(dǎo)航菜單和標(biāo)簽頁切換等,需要的朋友可以參考下
    2016-02-02
  • 使用Python橫向合并excel文件的實(shí)例

    使用Python橫向合并excel文件的實(shí)例

    今天小編就為大家分享一篇使用Python橫向合并excel文件的實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
    2018-12-12
  • Python Pycharm虛擬下百度飛漿PaddleX安裝報(bào)錯(cuò)問題及處理方法(親測100%有效)

    Python Pycharm虛擬下百度飛漿PaddleX安裝報(bào)錯(cuò)問題及處理方法(親測100%有效)

    最近很多朋友給小編留言在安裝PaddleX的時(shí)候總是出現(xiàn)各種奇葩問題,不知道該怎么處理,今天小編通過本文給大家介紹下Python Pycharm虛擬下百度飛漿PaddleX安裝報(bào)錯(cuò)問題及處理方法,真的有效,遇到同樣問題的朋友快來參考下吧
    2021-05-05
  • Python獲取Cookie的方法總結(jié)

    Python獲取Cookie的方法總結(jié)

    在Web開發(fā)中,Cookie是一種常用的技術(shù),用于在Web服務(wù)器和瀏覽器之間存儲(chǔ)和傳輸數(shù)據(jù),本文將詳細(xì)介紹Python中獲取Cookie的方法,包括HTTP請(qǐng)求、Web框架和Cookie管理庫的用法,同時(shí)提供示例代碼來演示這些方法的實(shí)際應(yīng)用,需要的朋友可以參考下
    2023-11-11

最新評(píng)論