#llmops リポジトリ
リポジトリ合計111件
Apache Hamilton は、データサイエンティストやエンジニアが、リネージ/トレーシングとメタデータをエンコードする、テスト可能でモジュール化された自己文書化データフローを定義するのに役立ちます。Python が実行されるすべての場所で実行およびスケーリングされます。
CubeStudioは、オープンソースのクラウドネイティブなオールインワンの機械学習/深層学習/大規模モデルAIプラットフォーム/MaaS/MLOps/人工知能プラットフォーム/訓練推論プラットフォームであり、アルゴリズムの全パイプライン、マルチテナント、計算能力レンタルプラットフォーム、トークン中継、ドラッグアンドドロップのタスクフローパイプラインオーケストレーション、マルチマシンマルチカード分散トレーニング、ハイパーパラメータ検索、推論サービス、VGPU仮想化、クラウドエッジデバイス連携、エッジコンピューティング、自動アノテーションプラットフォーム、DeepSeekなどの大規模モデルのSFTファインチューニング/報酬モデル/強化学習トレーニング、vLLM/Ollama/MindIEによる大規模モデルのマルチマシン推論、プライベート知識ベースLLMOpsエージェント、AIモデルマーケット、国産異種計算能力スケジューリング(昇騰、寒武紀、海光、モーアスレッド、沐曦など)のサポート、IB/RoCE/RDMAのサポート、信創サポートを提供します。
UpTrainは、生成AIアプリケーションを評価および改善するためのオープンソースの統合プラットフォームです。20以上の事前設定されたチェック(言語、コード、埋め込みのユースケースをカバー)の評価を提供し、失敗ケースの根本原因分析を実行し、それらを解決する方法に関する洞察を提供します。
オープンソースのエンドツーエンドプラットフォームで、LLMおよびAIエージェントアプリケーションの評価、観察、改善を行います。Tracing · Evals · Simulations · Datasets · Gateway · Guardrails。セルフホスト可能。Apache 2.0。
Waku Agentは、あなたが所有するオープンソースのAIエージェント・ハーネスです。ループ、メモリ、評価、そして常時稼働するレイヤー(イベント受信トレイ、タイマー、承認、送信トレイ)を備え、コードは読みやすいまま保たれます。
オープンソースのLLM/VLMロードバランサーおよびサービングプラットフォーム。自ホストLLM(およびVLM)を大規模に展開するためのもの 🏓🦙 llm-d、Docker Model Runnerなどのプロジェクトの代替ですが、可動部が少なく、ggmlエコシステムを中心に構築されたシンプルなデプロイメント。CPUとGPUで動作します。
[GenAIアプリケーション開発フレームワーク] 🚀 GenAIアプリケーションをすばやく簡単に構築 💬 構造化データと連鎖呼び出し構文を使用してコード内でGenAIエージェントと簡単にやり取り 🧩 イベント駆動フロー*TriggerFlow*を使用して複雑なGenAIの作業ロジックを管理 🔀 アプリケーションコードを書き直さずに任意のモデルに切り替え
SmythOS ランタイム環境(SRE)は、エージェントAI向けのオープンソースでクラウドネイティブなランタイムです。安全でモジュール化されており、本番環境に対応しているため、開発者はローカル、クラウド、エッジ環境全体でインテリジェントなエージェントを構築、実行、管理できます。
Langtrace 🔍は、LLMアプリケーション向けのオープンソース、Open Telemetryベースのエンドツーエンドオブザーバビリティツールであり、一般的なLLM、LLMフレームワーク、vectorDBなどのリアルタイムトレーシング、評価、メトリクスを提供します。Typescript、Pythonで統合できます。🚀💻📊
AuditPilot: 証拠に基づくワークフロー、管理されたツール、評価ハーネス、人間によるレビュー、および是正措置の提供のための監査可能なエンタープライズAIエージェント。
AIエージェント向けのトレースネイティブなCI/CD――本番環境の障害を、PRをブロックする回帰テストに変換。自動検出・クラスタリングし、自己完結型のテストケースとして固定して、CIで無料でリプレイします。
Rust製のオープンソースLLMゲートウェイ。OpenAI、Anthropic、Geminiをはじめ、あらゆるベンダーに1つのエンドポイントで接続。あらゆるSDK、モデル、ツールに対応。
Langchain、OpenAI、LlamaIndex、GPT、ChromaDB、Pinecone をフィーチャーした大規模言語モデル(LLM)チュートリアルとサンプル スクリプト
AIチャット統合のインタラクティブCV。React 19、TypeScript、Claude APIで構築。私の経験について私のAIアバターとチャット。
AIエージェント向けのトレースネイティブなCI/CD:本番環境のトレースを評価し、失敗をクラスタリングして再生可能な回帰テストとして固定し、リグレッションを引き起こすPRをブロックします。セルフホスト可能。
AIネイティブ企業向けのセルフホスト型AIエージェントプラットフォーム。Claude Code、Codex、Gemini、OpenCodeのエージェントに対応。Apache 2.0。
このサンプルには、Prompty と Azure AI Foundry を使用した RAG アプリケーション作成の完全な End2End プロセスが含まれています。GPT-4 LLM アプリケーション コード、評価、AZD CLI によるデプロイ自動化、評価とデプロイのための GitHub アクション、および複数の LLM タスク マッピングのためのインテント マッピングが含まれています。
コーディングエージェントが何をしたか、そのコストを確認できます。各タスクを作業ステップ(使用したツール、変更したファイル、実行したテスト、費やした時間とトークン)に分解します。Claude Code、Codex、OpenCodeなどに対応したローカルファーストのダッシュボード。ログイン不要、テレメトリなし。
AI エンジニア / Forward Deployed Engineer (FDE) のスキルセットを網羅した、フレームワーク不使用の実践的 Colab ノートブック — モデル API、構造化出力、ツール呼び出し、RAG、評価基盤 (evals-as-the-spine)、エージェント (ゼロからのループ構築、ツール設計、ガードレール、MCP、スキル)、ファインチューニング vs LoRA、プロンプトインジェクション/セキュリティ、LLMOps、顧客対応スキル。無料の Groq API で動作します。
OpenAI Deep ResearchとDifyが1つのプラットフォームだったら?OpenAgent — 深い推論ループ、ビジュアルワークフロー、RAG、A2A委任を備えた、垂直型AIエージェントを迅速に構築するためのアーキテクチャ。