#bert 仓库
共 109 个仓库
[ICLR'23 Spotlight🔥] 首次在任何卷积网络上成功进行BERT/MAE风格的预训练;"Designing BERT for Convolutional Networks: Sparse and Hierarchical Masked Modeling" 的 Pytorch 实现
用于预测全部 3 项 Jigsaw 有害评论挑战赛中有害评论的训练模型和代码。使用 ⚡ PyTorch Lightning 和 🤗 Transformers 构建。
一个用于运行语境化主题建模的Python包。CTM将语境化嵌入(例如BERT)与主题模型相结合,以获得连贯的主题。发布于EACL和ACL 2021(Bianchi et al.)。
💁 涵盖自然语言处理的Transformer模型的绝佳宝库,包含论文、视频、博客、官方仓库以及Colab笔记本。🛫☑️
一个精选的NLP资源列表,专注于Transformer网络、注意力机制、GPT、BERT、ChatGPT、LLM以及迁移学习。
TextGen: 文本生成模型实现,包括LLaMA,BLOOM,GPT2,BART,T5,SongNet等。文本生成模型,实现了包括LLaMA,ChatGLM,BLOOM,GPT2,Seq2Seq,BART,T5,UDA等模型的训练和预测,开箱即用。
从 BERT 到 GPT-4 的 Transformer 模型,从 Hugging Face 到 OpenAI 的环境。微调、训练和提示工程示例。包含 ChatGPT、GPT-3.5-turbo、GPT-4 和 DALL-E 的奖励部分,包括 GPT-4 的快速入门、语音转文本、文本转语音、使用 DALL-E 进行文本到图像生成、Google Cloud AI、HuggingGPT 等。
论文“GECToR – Grammatical Error Correction: Tag, Not Rewrite” (BEA-20) 和 “Text Simplification by Tagging” (BEA-21) 的官方实现
多标签文本分类, 多标签分类, 文本分类, multi-label, classifier, text classification, BERT, seq2seq, attention, multi-label-classification
LLM-PowerHouse:通过精选的教程、最佳实践和即用型代码,释放 LLM 的潜力,以实现自定义训练和推理。
JointBERT 的 PyTorch 实现:"BERT for Joint Intent Classification and Slot Filling"
Awesome-LLM-Eval: a curated list of tools, datasets/benchmark, demos, leaderboard, papers, docs and models, mainly for Evaluation on LLMs. 一个由工具、基准/数据、演示、排行榜和大模型等组成的精选列表,主要面向基础大模型评测,旨在探求生成式AI的技术边界。
Natural Language Processing with Transformers 中译本,最权威Transformers教程