buracagyang / blog_comments

Blog Comments
MIT License
0 stars 0 forks source link

信息论1-熵 - Hexo #45

Open buracagyang opened 2 years ago

buracagyang commented 2 years ago

https://buracagyang.github.io/2019/06/21/information-theory-1/

同步于CSDN;音尘杂记 信息论(Information Theory)是数学、物理、统计、计算机科学等多个学科的交叉领域。信息论是由Claude Shannon 最早提出的,主要研究信息的量化、存储和通信等方法。这里,“信息”是指一组消息的集合。假设在一个噪声通道上发送消息,我们需要考虑如何对每一个信息进行编码、传输以及解码,使得接收者可以尽可能准确地重构出消息。 在机器学习相关领域,信息论也有