李沐讲座
哔哩哔哩:链接
Part1 技术
- 只要数据够多就能够自动化
- 工科文科白领的工作在组建被替代
- 蓝领(机器人)缺乏数据。
- 模型
- 后训练和预训练一样重要。在开源模型的代码上进行微调。
- 通用能力是垂直模型的基础。
- [!] 评估大模型能力比较难,要先考虑
- 数据决定模型的上限
- LLM就是一个大了100倍的机器学习模型,本质使用和优化方式是一样的
Part2 职业生涯
-
打工人
- PhD
-
[I] 最好是真热爱研究
- 创业
-
延迟反馈:工作一个月发工资,PhD两三年出成果,创业五年才能被业界承认。
- [I] 53:37-1:01:48 推荐多读几遍
This line appears after every note.