CS146S学习记录
偷个闲，心血来潮学一下很火的CS146S，就听英文版了，当作练一下英语听力
课程源链接：CS146S: The Modern Software Developer - Stanford University
这里是中文版资料的git仓库，整理的很好,也有b站有中文字幕的链接
Introduction and how an LLM is made
Deep Dive into LLMs like ChatGPT - YouTube
发现搞科研的都喜欢用Mac是吗，感觉我的下一台电脑也可以考虑下
基础介绍（可以直接跳过）
一个叫FineWeb的英语网页数据集，15-trillion tokens，44TB，这么大啊。。。
下面其实就是老生常谈的Transformer入门，可以再听一遍复习一下
序列化
推理
神经网络内部
一个很有趣的网站课程里的LLM Visualization，Transformer的架构非常直观，可以清晰地看到Q,K,V，还有动画演示计算过程
就是闭环地一个个蹦
兴致勃勃地跟着学vibe coding，学到一半了发现cursor不让中国学生认证。。。唉，算了，那以后再学吧
本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 Cosmos！
评论