Tag

#pytorch

2 repo với tag này.

vLLM: Serve LLM nhanh và hiệu quả trên GPU

vLLM là repo AI đáng theo dõi, có hướng dẫn triển khai, ví dụ thực tế và lộ trình mở rộng giúp team đi từ thử nghiệm sang vận hành ổn định.

Use cases

— Serve model open-source với throughput cao cho chatbot hoặc API nội bộ
— Giảm bottleneck bộ nhớ và tăng hiệu quả GPU khi chạy nhiều request cùng lúc

29 tháng 3, 2026 74,889

#inference #llm-serving #model-serving #pytorch #openai

Mở GitHub Đọc phân tích →

Image / Video / Audio

Wan2.2: Tạo video AI từ text, ảnh và âm thanh

Wan2.2 cung cấp model và inference code cho text-to-video, image-to-video và speech-to-video, phù hợp với team muốn thử video generation tự host ở mức kỹ thuật sâu.

Use cases

— Thử text-to-video và image-to-video bằng model open-weight trong pipeline nội bộ
— Nghiên cứu character animation hoặc speech-to-video với inference code có sẵn

25 tháng 9, 2026 17,629

#video-generation #text-to-video #image-to-video #multimodal #pytorch

Mở GitHub Đọc phân tích →