关于课程¶
2024 Spring由大家熟悉的姚鹏辉老师授课,本研共修课,研究生占比不低;与计算方法搭配在同一学期可以更深刻地感受到理论组的震撼。笔者认为完全搞懂这门课的内容难度不低。
全程黑板手写板书,无课程网站,无ppt;大部分内容来自于教科书,所以也不用特别记笔记。内容大致包括:
- 信息论原语(熵相关定义,渐进均分性等)
- 离散信源、离散信道
- 连续信源、连续信道
- 高斯信道
- 率失真理论
- 型方法
内容的抽象程度较高,本身不太好理解;加上姚老师节奏略有点快,笔者有点学的不明不白的。课程前几节课的内容可能实用一些,后续内容(尤其是各种大证明)貌似实用性不高。
Remark¶
《信息论基础》(Elements of Information Theory)这本书的翻译极烂无比,感觉像是10年前的机翻;很多公式都OCR错了,部分作业题题面的表达也令人忍俊不禁。建议对照英文版看。
作业与考试¶
2024 Spring:作业大约两周布置一次,一次4题左右,都是书后作业。对理解一些关键的定义、证明和技巧很有帮助。
考试内容较为简单,最难的部分(彩色信道、率失真、型方法)等都没有涉及,以基本概念和公式的运用为主。原话:「在座的99%以后都不是搞信息论的,所以考试以基本概念为主。」