機器學習入門書籍導讀-信息論基礎

2017 年 12 月 17 日 凡人機器學習

點擊藍字關注這個神奇的公眾號~


今天推薦這本書其實是我本專業主修的一門課的書,叫做《信息論基礎》,不建議大家購買哈。因為跟機器學習有關係的可能就前兩章部分,大家在網上看下PDF就好了,買回來不值當。

推薦指數:2顆星


第一章:緒論

第一章講了下信息論的一些起源和基礎概念,數據是信息的載體,所以了解信息對理解數據是有幫助的,最起碼得知道下信息論的鼻祖-香農這個人。


第二章:離散信息度量

講了下信息熵的概念和求法,這個計算方式還是挺重要的。比如在樹狀算法,二叉樹中我們怎麼確定每個特征的前後出現序列,其實就是通過信息熵或者信息增益的方式計算。在這一章有講。


剩下的部分,這本書其實跟機器學習關係就不大了,可以看看去噪或者編碼的內容。4



End

為了方便大家學習與交流,凡人雲近日已開通機器學習社群!

分享公眾號名片到40人以上的大群並截圖給小助手,小助手就會拉你入群

在這裏你可以得到:

1.各種學術討論

2.最新的資料分享

3.不定期的征文以及聯誼活動!

小助手微信號:meiwznn


給我一分鍾

送你一個學習的世界

微信號:凡人機器學習

長按二維碼關注



登錄查看更多
0
0

相關內容

信息理論的鼻祖之一Claude E. Shannon把信息(熵)定義為離散隨機事件的出現概率。所謂信息熵,是一個數學上頗為抽象的概念,在這裏不妨把信息熵理解成某種特定信息的出現概率。而信息熵和熱力學熵是緊密相關的。
小貼士
Top