| name | paper-reading |
| description | 阅读一篇课程相关的paper,生成其阅读笔记,供事后查阅复习 |
论文下载
- 需要分析的论文为pdf或tex格式
- 当我直接提供下载链接时,使用我提供的下载链接下载
- 我只提供论文名称或关键词时,去 arxiv.org 下载论文pdf进行分析
- 如果 arxiv.org 搜不到论文,请报错要求我提供下载链接,不要自行搜索
文件命名
- 笔记文件命名为 readingx.y-paper-keyword.md
- 其中 x.y 代表这是第x个reading session的第y篇论文
- paper keyword是论文最具有代表性的关键词,全部小写
- 举例:如第3个reading session的第2篇paper是讲 PixelCNN 的,文件名就叫 reading3.1-pixel-cnn.md
文件格式
格式要求
- 笔记文件为 markdown 格式
- 数学公式使用 MathJAX 支持的 latex 格式
- 使用 mermaid 绘制较简单的流程图
- 论文内容中的重要插图、复杂的函数图像直接在markdown中插入,图片文件保存到根目录下的assets文件夹。
语言及编码
- 使用utf-8编码
- 笔记主体使用简体中文,通用术语(如 CNN/VAE)可以使用英文
- 只能使用中文、英文、标点符号,不得使用 emoji/希腊字母/箭头等 unicode 符号(行内公式使用行内 latex 表示)
排版注意事项
标题层次
- Markdown一级标题:笔记大标题,格式为
MIT 6.S978 Reading x.y [论文标题](论文下载链接)
- Markdown 二、三、四级标题需要包含数字序号,与标题内容用空格隔开。
- 二级标题: 如
2. 论文的前序知识。目录除外,目录不需要序号
- 三级标题: 如
2.1 BPE Encodinng
- 四级标题:如
2.1.1 BPE 算法原理
- 不得包含五级及以下的标题。如果四级标题以下仍有明显的分段结构,直接用黑体做小标题,如:
**注意事项**
混排要求
中文与英文、公式混排时,需要用空格隔开,确保美观和公式渲染正常
- 中文后跟随行内 latex 公式时,用空格隔开,如
对于服从均匀分布的随机变量 $u\sim U(0,1)$
- 英文单词与两侧的中文之间用空格隔开,如
服从 Gumbel 分布
- 英文或行内公式前面的标点符号用英文标点符号如
,.;"",不要用中文标点符号如,。;“”
Latex 规范
- 公式中需要文字时,使用
\mathrm,不要使用 \text
- 中括号使用
\lbrack, \rbrack,不要直接使用 []
- 大括号使用
\lbrace, \rbrace,不要直接使用 \{\}
- 星号使用
\ast,不要直接使用 *
- 省略号使用
\cdots,不要直接用 ...
- 竖线使用
\mid,不要直接用 |,如 p(x \mid z)
文件内容
每篇阅读笔记都应该包括以下部分:
- 目录
- 包含二、三、四级Markdown标题,即直到 1.2.3 级别的标题
- 论文的动机
- 根据论文 Abstract/Introduction/Conclusion 的内容,分析论文面临什么背景、要解决什么问题、做出了什么贡献
- 如果同一个reading session中之前有其他paper,简要分析与本文的关系
- 论文的前序知识:论文中没有详细论证、直接使用结论的前序数学或深度学习知识
- 数学知识:论文涉及的高等数学以上的数学基础知识,如 VAE 的论文用到了贝叶斯概率,i-ResNet 的论文用到了 Lipschitz 常数
- 深度学习知识:论文主体用到的前序研究的核心贡献,比如 DALL-E 的论文用到了 BPE Encoding, PixelRNN 论文用到了 LSTM
- 这部分只讲知识,不要与论文的主题联系
- 这部分可以简略一些,不要过分detail,宁缺毋滥,我看不懂的会再要求你补充
- 课程涵盖的核心知识不要在这里讲,主要是 VAE/Normalizing Flow/AutoRegressive/GAN/Diffusion 几个主题
- 论文的主要逻辑:笔记的主体
- 详细阐述论文的核心逻辑,讲清楚模型的创新点,数学结论推导、模型宏观设计、核心模型组件设计等
- 论文的工程实现每一点用一两句话简要概括即可,如模型量化、分布式训练、数据集收集等
- 总结
- 与motivation呼应,重点关注 Conclusion,总结一下论文解决了什么问题
- 如果同一个reading session中之后还有其他论文,简要说明与本文的关系
不要包含以下内容:
- 详细的实验结果:直接忽略,无需概括
- 与其他文献的关系:只分析与同一个reading session中其他论文的关系(在动机和总结中),忽略作者对相关文献和工作的讨论。