Git Stars Git Stars

#pre-training 仓库

探索 18 个标记为 #pre-training 的活跃开源 GitHub 仓库,它们累计获得 43,729 个 Star(平均每个项目 2,429 个)。该主题的领先项目是 RUCAIBox/LLMSurvey,拥有 12,165 个 Star。

18
仓库总数
43,729
总星标数
2,429
平均每个仓库星标数
1
RUCAIBox/LLMSurvey

关于调查论文“A Survey of Large Language Models”的官方GitHub页面。

RUCAIBox
⭐ 12,165 Python 👤 RUCAIBox Organization 🕐 已更新 2025-03-11 📅 创建时间 2023-03-14
2
datajuicer/data-juicer

为基础模型处理数据,以及使用基础模型处理数据! 🍎 🍋 🌽 ➡️ ➡️🍸 🍹 🍷

datajuicer
⭐ 7,266 Python 👤 datajuicer Organization 🕐 已更新 2026-11-20 📅 创建时间 2023-08-01
3
bojone/bert4keras

人类友好的 Transformers 的 Keras 实现

bojone
⭐ 5,422 Python 👤 bojone User 🕐 已更新 2024-11-11 📅 创建时间 2019-08-26
4
dbiir/UER-py

PyTorch 中的开源预训练模型框架 & 预训练模型库

dbiir
⭐ 3,102 Python 👤 dbiir Organization 🕐 已更新 2024-05-09 📅 创建时间 2019-04-10
5
EgoAlpha/prompt-in-context-learning

优秀的上下文学习和提示工程资源:掌握 ChatGPT、GPT-3 以及 FlanT5 等 LLM,提供最新、尖端的更新。

EgoAlpha
⭐ 2,251 Jupyter Notebook 👤 EgoAlpha User 🕐 已更新 2026-11-21 📅 创建时间 2023-03-08
6
ChandlerBang/awesome-self-supervised-gnn

关于图神经网络(GNN)的预训练和自监督学习的论文。

ChandlerBang
⭐ 1,704 Python 👤 ChandlerBang User 🕐 已更新 2024-02-02 📅 创建时间 2020-05-27
7
SalesforceAIResearch/uni2ts

通用时间序列预测Transformer的统一训练

SalesforceAIResearch
⭐ 1,631 Jupyter Notebook 👤 SalesforceAIResearch Organization 🕐 已更新 2026-06-02 📅 创建时间 2024-02-07
8
LirongWu/awesome-graph-self-supervised-learning

TKDE 论文“图上的自监督学习:对比式、生成式还是预测式”的代码

LirongWu
⭐ 1,431 👤 LirongWu User 🕐 已更新 2024-08-15 📅 创建时间 2019-05-24
9
zjunlp/KnowLM

一个开源的知识型大型语言模型框架。

zjunlp
⭐ 1,387 Python 👤 zjunlp Organization 🕐 已更新 2025-01-11 📅 创建时间 2023-04-01
10
yzhuoning/Awesome-CLIP

CLIP(对比语言-图像预训练)研究的精彩列表。

yzhuoning
⭐ 1,231 👤 yzhuoning User 🕐 已更新 2024-06-28 📅 创建时间 2021-09-05
11
qingsongedu/Awesome-TimeSeries-SpatioTemporal-LM-LLM

关于时间序列、时空和事件数据的(语言)大模型和基础模型(LLM, LM, FM)的专业列表。

qingsongedu
⭐ 1,184 👤 qingsongedu User 🕐 已更新 2024-12-22 📅 创建时间 2023-06-10
12
Tencent/TencentPretrain

Tencent PyTorch 预训练框架与预训练模型库

Tencent
⭐ 1,086 Python 👤 Tencent Organization 🕐 已更新 2024-08-04 📅 创建时间 2022-09-26
13
nancheng58/Awesome-LLM4RS-Papers

大语言模型增强的推荐系统论文

nancheng58
⭐ 765 👤 nancheng58 User 🕐 已更新 2026-11-16 📅 创建时间 2023-05-11
14
linwhitehat/ET-BERT

ET-BERT 的存储库,一个用于加密流量的网络流量分类模型。该论文已被录用为 The Web Conference (WWW) 2022 接收论文。

linwhitehat
⭐ 687 Python 👤 linwhitehat User 🕐 已更新 2026-07-23 📅 创建时间 2022-02-09
15
cxcscmu/Craw4LLM

"Craw4LLM:LLM 预训练的高效网络爬取"的官方仓库

cxcscmu
⭐ 654 Python 👤 cxcscmu Organization 🕐 已更新 2025-02-24 📅 创建时间 2025-02-17
16
princeton-nlp/LLM-Shearing

[ICLR 2024] Sheared LLaMA: 通过结构化剪枝加速语言模型预训练

princeton-nlp
⭐ 635 Python 👤 princeton-nlp Organization 🕐 已更新 2024-03-04 📅 创建时间 2023-10-16
17
Shen-Lab/GraphCL

[NeurIPS 2020] "Graph Contrastive Learning with Augmentations" (作者:Yuning You, Tianlong Chen, Yongduo Sui, Ting Chen, Zhangyang Wang, Yang Shen)

Shen-Lab
⭐ 620 Python 👤 Shen-Lab User 🕐 已更新 2024-07-17 📅 创建时间 2020-09-25
18
microsoft/XPretrain

多模态预训练

microsoft
⭐ 510 Python 👤 microsoft Organization 🕐 已更新 2026-11-18 📅 创建时间 2022-03-15

常见问题解答

1

GitHub 上最受欢迎的 #pre-training 仓库是什么?

GitHub 上排名第一的开源 #pre-training 项目是 RUCAIBox/LLMSurvey,拥有 12,165 个 Star。关于调查论文“A Survey of Large Language Models”的官方GitHub页面。

2

#pre-training 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #pre-training 项目中,最常见的编程语言是 Python, Jupyter Notebook。

3

#pre-training 仓库的排名是如何计算的?

我们跟踪了 18 个标记为 #pre-training 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 43,729 个 Star,平均每个仓库拥有 2,429 个 Star。排名每日根据 GitHub API 更新。