#local-inference リポジトリ
#local-inferenceのタグが付いた、GitHub上の19件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は116,603個で、プロジェクトあたりの平均は6,137個です。このトピックをリードしているのは、47,736個のスターを獲得しているoobabooga/textgenです。
リポジトリ合計19件
ローカルLLM向けのオープンソースデスクトップアプリ。テキスト、ビジョン、ツール呼び出し、OpenAI/Anthropic互換APIに対応。100%プライベート。
Mano-P: エッジデバイス向けオープンソースGUI-VLAエージェント。OSWorldで1位(専門版、58.2%)。Apple M4 Mac mini/MacBookでローカル実行 — データはデバイスから出ません。Mano-PはオープンソースGUI-VLAプロジェクトで、Mac mini/MacBookまたはコンピュートスティックでのローカル推論をサポートし、純粋視覚駆動のクロスプラットフォームGUI自動化操作を実現します。データは完全にローカルで処理され、複雑な多段階タスクの計画と実行をサポートします。
CORTEX RAG は、引用、権限を考慮した検索、迅速なデプロイメントにより、チームが企業データから正確な回答を見つけることを支援するエンタープライズ検索および知識アシスタントです。
オープンな意思決定モデル向けのJev互換APIサーバー。意思決定モデルのためのOllama:29種類のモデルファミリー(Laya、pplx-decider、Clef、Winnow、cobaなど)をローカルで取得・実行するか、/v1/systemoneの背後でセルフホストできます。TypeSafe SDKは変更せずに利用可能です。ベースURLを設定し、オープンモデルを選ぶだけ。CLI、デスクトップアプリ、Docker、MCPサーバー、公開ベンチマークを提供。
Ollama(llama3, mistral, gemma2 phi3)を使用したMicrosoft Graphragのローカルモデルサポート – LLMとEmbeddingの抽出
自分自身の知性で進もう!Go を使って、llama.cpp、whisper.cpp、stable-diffusion.cpp によるハードウェアアクセラレーション対応のローカル推論を、Go アプリケーションに直接統合できます。Kronk は高レベル API と本番環境対応のモデルサーバーを提供します。
ゴマフアザラシ — Phocinae-Largha-150M-v1:1億4,430万規模のバイリンガル意思決定モデル。小さなモデル。大きな決断。小さなアザラシ、大きな決断。
よくある質問
GitHubで最も人気のある#local-inferenceリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#local-inferenceプロジェクトは、47,736個のスターを獲得しているoobabooga/textgenです。ローカルLLM向けのオープンソースデスクトップアプリ。テキスト、ビジョン、ツール呼び出し、OpenAI/Anthropic互換APIに対応。100%プライベート。
#local-inferenceリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#local-inferenceプロジェクトでは、Python, C++, TypeScript, Swiftが最も一般的なプログラミング言語です。
#local-inferenceリポジトリのランキングはどのように算出されていますか?
#local-inferenceのタグが付いた19件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は116,603個で、リポジトリあたりの平均は6,137個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。