linux 7.1新版 | 大模型repo推荐

📅 2026/7/8 2:49:37 👁️ 阅读次数 📝 编程学习
linux 7.1新版 | 大模型repo推荐

Linus Torvalds: 我正在努力改进这一点。其实,我并不是完全不看代码。

比如,在合并过程中遇到代码冲突时,我就会查看相关代码。这种情况很常见,也没有什么问题。

有些人觉得解决冲突很困难,但多年来我处理过太多冲突了,甚至闭着眼睛都能完成这类工作。我并不担心这一点。不过,冲突往往意味着两个不同团队同时修改了同一部分代码。这时候,我会仔细看看双方到底做了什么,而很多问题恰恰会在这个阶段暴露出来。有时,问题的根源在于两个团队实际上有着不同的目标。

另外,如果一个拉取请求的说明写得不够清楚,我也会去查看代码。有时候,看完代码后,我会明白:“哦,原来他们想做的是这个。”但也有一些情况,即使看完代码,我仍然觉得这个改动不合理,那么我就会拒绝它。所以,虽然我已经不是传统意义上的程序员,但我仍然拥有足够深厚的技术背景,能够在需要查看代码时做出判断

说实话,我现在几乎不再阅读代码了。我不是传统意义上的程序员,而是一名开发主导者。当然,我知道如何编程,也依然会为了兴趣写代码,但那些业余项目并不是 Linux 内核,而只是一些我享受其中过程的小玩意。

我更多依赖的是“信任”。我认为,开源项目本质上都建立在信任之上——我们彼此了解,已经共同工作了很多年,甚至几十年。我合并的那 200 个拉取请求,来自于那些我长期合作并且信任的人。我并不认为自己需要完全理解每一行代码。

毕竟,面对一个拥有 3500 万行代码的项目,没有任何人能够真正理解全部代码。在处理一个拉取请求时,我真正想了解的是“大局”。这也是为什么我要求提交者必须提供非常详细的说明。

我会认真阅读这些说明,了解发生了什么,以及为什么要做这些改变。这样做的意义在于,未来如果出现问题,我能够回忆起当时的背景。即使我从未亲自查看过那部分代码,遇到问题时也能马上想到:“我知道这件事是怎么回事,也知道应该从哪里开始排查。”

这就是我现在工作的层面。事实上,到目前为止,我已经几十年没有真正编写所谓的“核心代码”了。

大模型学习repo推荐

入门友好的Repo应该尽量简单,用尽可能少的代码把功能实现了,减少看代码时的信息干扰。

第一是之前提到的 NanoVLM,这个 Repo 的每一行代码基本都有用,结构足够清晰,读完就可以对多模态大模型的模型结构、数据组织方式等有一个比较清晰的了解,训练模型要求的算力资源不高,也就 220M 的模型。

第二是 ak神的 NanoGPT,这个偏纯文本领域,Tokenizer、Transformer每一个 Module 的实现都有了,还有 Training Loop,里面的一些关键代码也被很多知名的库所借鉴。

第三是 ak 大神的 NanoChat,是一个类似于ChatGPT的全栈式的实现,相比于 NanoGPT 更近一层楼。

第四是 TinyLLaVA,这个 Repo 支持多种基模,比如 Qwen、Phi、Gemma 等,最小参数量0.5B,训起来也是比较 Easy 的。

第五第六分别是TinyLLaVA-Video、TinyLLaVA-Video-R1的,和TinyLLaVA出自一个作者,分别是视频多模态大模型、以及引入RL后训练的 Repo。

第七是BLIP3o-NEXT,这是生成和理解一体的多模态大模型的Repo,模型结构是多模态大模型外挂 DiT 类型,最新的版本还引入了视觉生成 RL 后训练。

第八第九是minimind和minimind-v,分别是LLM和MLLM领域的,这两个对训练算力要求更低,26M的参数量足够 Tiny。 有点多,不过我推荐先看NanoVLM、NanoGPT和NanoChat (maybe minimind和minimind-v也可以, 不过我还没读过代码

碎碎念:
一、结果被高估了,对结果的执念是痛苦的根源
二、不要把外界的喧嚣当成自己内心的声音
三、成功和幸福是两条不同的道路
四、自信是通过一次次小的坚持行动建立起来的,自信不是源于确定性,而是源于相信自己能找到解决问题的方法
五、大多数拒绝都与个人无关,只是概率问题
六、忙碌不等于高效
七、选择自律,而非仅依赖动力。