DeepSeek-V4 là một trong những phát hành mô hình open-weight tham vọng nhất của DeepSeek cho đến nay. Gia đình này bao gồm DeepSeek-V4-Pro, một mô hình Mixture-of-Experts (MoE) với 1.6T tham số và 49B tham số kích hoạt, và DeepSeek-V4-Flash, một mô hình MoE nhỏ hơn với 284B tham số và 13B tham số kích hoạt. Cả hai mô hình đều hỗ trợ độ dài ngữ cảnh lên đến một triệu token.
GLM-5 là mô hình ngôn ngữ lớn mã nguồn mở mới nhất từ Z.ai, với tổng cộng 744 tỷ tham số (40 tỷ tham số hoạt động) sử dụng kiến trúc MoE. Mô hình mạnh mẽ này nổi bật trong các tác vụ suy luận, lập trình và tác vụ tác nhân, khiến nó trở thành một trong những LLM mã nguồn mở tốt nhất hiện nay.
Bạn có tò mò về việc cài đặt vLLM, một thư viện Python hiện đại được thiết kế để mở khóa khả năng mạnh mẽ của LLM không? Hướng dẫn này sẽ hướng dẫn bạn qua quy trình, đảm bảo bạn khai thác được tiềm năng của vLLM để biến đổi các dự án AI của bạn.
Hãy tưởng tượng bạn có sức mạnh của một mô hình ngôn ngữ lớn ngay trong tầm tay mà không cần phụ thuộc vào dịch vụ đám mây. Với Ollama và QwQ-32B, bạn có thể đạt được điều đó. QwQ-32B, được phát triển bởi đội ngũ Qwen, là một mô hình ngôn ngữ với 32 tỷ tham số được thiết kế để nâng cao khả năng suy luận, biến nó thành một công cụ mạnh mẽ cho suy luận logic, lập trình và giải quyết các bài toán toán học.