#llm-inference リポジトリ
リポジトリ合計202件
オープンソースのAIコンピューター構成をご紹介。GPU 2基搭載のデスクトップから8基搭載のサーバーまで、CAD、部品表、BIOS設定、組み立てガイドを提供します。PCIeライザー付きケースキットをお求めいただくか、無料の適合確認をお問い合わせください。
AIの支援を受けてウェブを検索できるソフトウェアのリスト:https://hf.co/spaces/felladrin/awesome-ai-web-search
複数のドメインにわたる、厳選された一流のペネトレーションテストツールと生産性ユーティリティのコレクションです。ぜひご参加ください。ハッキングツールキットを探求し、貢献し、強化しましょう!
LLM推論のサービングと最適化のための、1日30分・10週間のロードマップ。vLLM、SGLang、量子化、推測デコーディング、ベンチマーク。
iPhoneがMacによる270億パラメータモデルの実行を支援:USB-Cケーブル経由でプロンプトの読み込みが高速化し、より長いコンテキストに対応
OpenAlpha_Evolveは、DeepMindのAlphaEvolveのような自律コーディングエージェントに関する画期的な研究に着想を得たオープンソースのPythonフレームワークです。
"AI-Compass"は、コミュニティにAI技術の海を航行する方向を示します。初心者でも上級開発者でも、ここでAIの主要な方向への道筋を見つけることができます。開発者がAIの核となる概念、主流技術、最先端トレンドを体系的に理解し、実践を通じて理論から実装までの全プロセスを習得できるよう支援することを目的としています。
jevos:JevおよびMicrosoft-Decision-1に代わるオープンソースの選択肢。ノートPCのCPU上で、確率付きのYes/No判定、選択、スコアリングを実行できます。