#bert リポジトリ
リポジトリ合計109件
[ICLR'23 Spotlight🔥] 初のBERT/MAEスタイルの事前学習をあらゆる畳み込みニューラルネットワークで成功させる;"Designing BERT for Convolutional Networks: Sparse and Hierarchical Masked Modeling"のPytorch実装
Jigsaw Toxic Commentの3つすべてのコンペティションで、有害なコメントを予測するための学習済みモデルとコード。⚡ PyTorch Lightningと🤗 Transformersを使用して構築。
Transformers4Recは、PyTorchで動作する、シーケシャルおよびセッションベースのレコメンデーションのための柔軟で効率的なライブラリです。
文脈化されたトピックモデリングを実行するためのPythonパッケージです。CTMは、文脈化された埋め込み(例:BERT)とトピックモデルを組み合わせて、一貫性のあるトピックを取得します。EACLおよびACL 2021(Bianchi et al.)で発表されました。
MicrosoftのNatural Speechの特徴を備えたBERTおよびVITSに基づくベストプラクティスTTS。ONNXストリーミング出力をサポート!
💁 自然言語処理のためのTransformerモデルの素晴らしい宝庫には、論文、ビデオ、ブログ、公式リポジトリ、およびColabノートブックが含まれています。🛫☑️
NLPからLLMまでのアルゴリズムフルスタックチュートリアル、オンライン読書アドレス:https://datawhalechina.github.io/base-llm/
Transformerネットワーク、アテンション機構、GPT、BERT、ChatGPT、LLM、および転移学習に焦点を当てたNLPリソースのキュレーションされたリスト。
TextGen: テキスト生成モデルの実装。LLaMA、BLOOM、GPT2、BART、T5、SongNetなどを含みます。テキスト生成モデルは、LLaMA、ChatGLM、BLOOM、GPT2、Seq2Seq、BART、T5、UDAなどのモデルのトレーニングと予測を実装し、すぐに使用できます。
BERTからGPT-4までのTransformerモデル、Hugging FaceからOpenAIまでの環境。ファインチューニング、トレーニング、プロンプトエンジニアリングの例。ChatGPT、GPT-3.5-turbo、GPT-4、DALL-Eを含むボーナスセクションには、GPT-4のジャンプスタート、音声からテキストへの変換、テキストから音声への変換、DALL-Eによるテキストから画像への生成、Google Cloud AI、HuggingGPTなどが含まれます。
論文「GECToR – Grammatical Error Correction: Tag, Not Rewrite」(BEA-20) および「Text Simplification by Tagging」(BEA-21) の公式実装
マルチラベルテキスト分類、マルチラベル分類、テキスト分類、multi-label、classifier、text classification、BERT、seq2seq、attention、multi-label-classification
LLM-PowerHouse: カスタムトレーニングと推論のための、厳選されたチュートリアル、ベストプラクティス、すぐに使えるコードを通じてLLMの可能性を解き放ちます。
JointBERT の PyTorch 実装: "BERT for Joint Intent Classification and Slot Filling"
Awesome-LLM-Eval: LLMの評価のためのツール、データセット/ベンチマーク、デモ、リーダーボード、論文、ドキュメント、モデルのキュレーションされたリスト。生成AIの技術的境界を探求することを目的とした、主に基盤となる大規模モデルの評価に焦点を当てた、ツール、ベンチマーク/データ、デモ、ランキング、および大規模モデルのキュレーションされたリスト。
インドネシア語初の広範な自然言語処理ベンチマーク。複数の下流タスク、事前学習済みのIndoBERTモデル、およびスターターコードを提供します!(AACL-IJCNLP 2020)
TensorFlowを使用して、テキストの前処理から、Topic Models、BERT、GPT、LLMなどの最新モデルの下流タスクまでをまとめたDeep Learning NLPリポジトリです。
Natural Language Processing with Transformers 中訳、最も権威あるTransformersチュートリアル