#pretraining 仓库
探索 22 个标记为 #pretraining 的活跃开源 GitHub 仓库,它们累计获得 150,107 个 Star(平均每个项目 6,823 个)。该主题的领先项目是 rasbt/LLMs-from-scratch,拥有 108,745 个 Star。
共 22 个仓库
OFA (ICML 2022) 的官方仓库。论文:OFA: Unifying Architectures, Tasks, and Modalities Through a Simple Sequence-to-Sequence Learning Framework
[ICLR'23 Spotlight🔥] 首次在任何卷积网络上成功进行BERT/MAE风格的预训练;"Designing BERT for Convolutional Networks: Sparse and Hierarchical Masked Modeling" 的 Pytorch 实现
一个用于在 NVIDIA GPU 和昆仑 XPU 上训练 LLM、VLM、扩散模型和具身模型的高性能框架。支持 Pi0.5、GR00T-N1.7、FastWAM、Cosmos3、DreamZero、DeepSeek-V4、GLM-5.3、Kimi-K3 等模型。
一个精选的3D视觉论文列表,涉及大模型时代,即LLMs/VLMs,在机器人领域,灵感来源于awesome-computer-vision,包括论文、代码和相关网站
[NeurIPS 2024 spotlight] MSFA 的官方实现及用于大规模合成孔径雷达 (SAR) 目标检测的 SARDet_100K 数据集发布
个人项目:MPP-Qwen14B & MPP-Qwen-Next(基于Qwen-LM的多模态流水线并行)。支持 [video/image/multi-image] {sft/conversations}。不要让贫困限制了你的想象力!在RTX3090/4090 24GB上训练你自己的8B/14B LLaVA训练风格的MLLM。
常见问题解答
GitHub 上最受欢迎的 #pretraining 仓库是什么?
GitHub 上排名第一的开源 #pretraining 项目是 rasbt/LLMs-from-scratch,拥有 108,745 个 Star。从头开始,一步一步用 PyTorch 实现一个类似 ChatGPT 的 LLM
#pretraining 仓库中最常使用的编程语言有哪些?
在 GitHub 上排名靠前的 #pretraining 项目中,最常见的编程语言是 Python, Jupyter Notebook。
#pretraining 仓库的排名是如何计算的?
我们跟踪了 22 个标记为 #pretraining 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 150,107 个 Star,平均每个仓库拥有 6,823 个 Star。排名每日根据 GitHub API 更新。