#llm-inference 저장소
저장소 총 202개
오픈소스 AI 컴퓨터 구성: GPU 2개 데스크톱부터 GPU 8개 서버까지 CAD, BOM, BIOS 및 조립 가이드를 제공합니다. PCIe 라이저가 포함된 케이스 키트를 구매하거나 무료 호환성 확인을 요청하세요.
AI의 도움으로 웹을 검색할 수 있는 소프트웨어 목록: https://hf.co/spaces/felladrin/awesome-ai-web-search
다양한 도메인에 걸친 최고 수준의 침투 테스트 도구 및 생산성 유틸리티 모음입니다. 저희와 함께 해킹 도구를 탐색하고, 기여하고, 강화하세요!
LLM 추론 서빙 및 최적화를 위한 10주 로드맵(하루 30분). vLLM, SGLang, 양자화, 추측 디코딩, 벤치마킹.
iPhone이 Mac의 270억 개 파라미터 모델 실행을 지원합니다: USB-C 케이블을 통해 프롬프트를 더 빠르게 읽고 더 많은 컨텍스트를 처리
OpenAlpha_Evolve는 DeepMind의 AlphaEvolve와 같은 자율 코딩 에이전트에 대한 획기적인 연구에서 영감을 받은 오픈 소스 Python 프레임워크입니다.
"AI-Compass"는 AI 기술의 바다를 항해하는 방향을 커뮤니티에 안내합니다. 초보자든 고급 개발자든 AI의 모든 주요 방향으로 가는 길을 이곳에서 찾을 수 있습니다. 이 서비스는 개발자들이 AI의 핵심 개념, 주류 기술, 최첨단 트렌드를 체계적으로 이해하고, 실천을 통해 이론부터 구현까지 전 과정을 숙달할 수 있도록 돕는 것을 목표로 합니다.
jevos: Jev 및 Microsoft-Decision-1의 오픈 소스 대안입니다. 노트북 CPU에서 확률을 포함한 예/아니요 판정, 선택 및 점수 산정을 수행합니다.
LLM.swift는 macOS, iOS, watchOS, tvOS 및 visionOS에서 대규모 언어 모델과 쉽게 상호 작용할 수 있게 해주는 간단하고 읽기 쉬운 라이브러리입니다.