#nlp 저장소
저장소 총 494개
LightLLM은 경량 설계, 쉬운 확장성 및 고속 성능으로 주목받는 LLM(대규모 언어 모델) 추론 및 서빙을 위한 Python 기반 프레임워크입니다.
이 프로젝트는 Dive Into Deep Learning 책(https://d2l.ai/)을 재현하며, MXNet 코드를 PyTorch로 적응시킵니다.
MNBVC(Massive Never-ending BT Vast Chinese corpus) 초 대규모 중국어 말뭉치. chatGPT 훈련에 사용된 40T 데이터에 맞먹습니다. MNBVC 데이터셋은 주류 문화뿐만 아니라 각 소수 문화 및 심지어 화성어 데이터까지 포함합니다. MNBVC 데이터셋은 뉴스, 작문, 소설, 서적, 잡지, 논문, 대사, 게시물, 위키, 고시, 가사, 상품 소개, 농담, 실수담, 채팅 기록 등 모든 형태의 순수 텍스트 중국어 데이터를 포함합니다.
"Build a Large Language Model (From Scratch)"는 GPT와 같은 대규모 모델의 아키텍처, 훈련 과정 및 애플리케이션 개발을 깊이 이해하고자 하는 학습자에게 적합하며, 대규모 언어 모델의 원리와 구현을 심도 있게 탐구하는 전자책입니다. 더 많은 중국어 독자들이 이 매우 가치 있는 교재를 접할 수 있도록, 저는 이 책을 중국어로 번역하고 GitHub를 통해 오픈 소스로 공유하기로 결정했습니다.
Datawhale 멤버들이 정리한 면접 경험, 내용에는 머신러닝, CV, NLP, 추천, 개발 등이 포함되며, 모두 star 환영합니다
대규모 언어 모델, Text2SQL, Text2DSL, Text2API, Text2Vis 등에 대한 큐레이션된 튜토리얼 및 리소스.
AI 이론 및 응용 실전 마스터하기: 기초 지식, Transformer, NLP, ML, DL, 대회. 모든 사람이 이해하고 재현할 수 있도록 풍부한 주석 및 데이터 세트 포함.
딥러닝 입문 강의, 고급 강의, 특색 강의, 학술 사례, 산업 실천 사례, 딥러닝 지식 백과 및 면접 문제 은행 딥러닝 및 AI의 코스, 사례 및 지식
오픈 소스 AI 문장 자연화 도구: AI가 생성한 텍스트를 자연스럽고 사람이 쓴 듯한 문장으로 다시 작성합니다. LLM 재작성과 다중 엔진 번역을 지원하며 단계별 추적 기록을 제공합니다. Python CLI, n8n 및 Docker 지원.
TextAttack 🐙 는 NLP에서 적대적 공격, 데이터 증강 및 모델 훈련을 위한 Python 프레임워크입니다 https://textattack.readthedocs.io/en/master/
Rust 네이티브 즉시 사용 가능한 NLP 파이프라인 및 트랜스포머 기반 모델 (BERT, DistilBERT, GPT2, ...)
Chinese-LLaMA 1&2, Chinese-Falcon 기본 모델; ChatFlow 중국어 대화 모델; 중국어 OpenLLaMA 모델; NLP 사전 훈련/지시 미세 조정 데이터셋
사전 학습 데이터, 토크나이저, Transformer, MoE, 분산 학습, 스케일링 법칙, 추론 및 정렬을 다룹니다. LLM을 풀스택으로 학습하기 위한 단계별 코딩 과제 6개를 제공합니다.
텍스트 마이닝 및 전처리 도구(텍스트 세척, 신어 발견, 감성 분석, 엔티티 인식 링크, 키워드 추출, 지식 추출, 구문 분석 등), 비지도 또는 약지도 방법