10 mô hình ngôn ngữ lớn (LLM) nguồn mở hàng đầu cho năm 2025. 7. Qwen1.5

Top 10 open source LLMs for 2025. 7. Qwen1.5

Theo: https://www.instaclustr.com/education/open-source-ai/top-10-open-source-llms-for-2025/

Mô hình Ngôn ngữ Lớn - LLM (Large Language Model) là mô hình máy học có thể hiểu được và tạo ra ngôn ngữ con người dựa vào các tập dữ liệu phạm vi rộng.

7. Qwen1.5

Qwen1.5, được phát triển bởi nhà cung cấp dịch vụ đám mây Trung Quốc Alibaba Cloud, là bản cập nhật mới nhất trong dòng sản phẩm Qwen, cung cấp các mô hình cơ sở và mô hình trò chuyện với nhiều kích cỡ: 0.5B, 1.8B, 4B, 7B, 14B, 32B, 72B và 110B. Phiên bản này cũng bao gồm mô hình Hỗn hợp Chuyên gia (MoE). Tất cả các phiên bản đều là mã nguồn mở và có sẵn ở nhiều định dạng lượng tử hóa khác nhau để cải thiện khả năng sử dụng.

Thông tin dự án:

• Giấy phép: Giấy phép nghiên cứu Tongyi Qianwen

• GitHub stars: 6,3K

• Người đóng góp: Đội ngũ Qwen

• Nhà tài trợ chính: Alibaba Trung Quốc

• Liên kết kho lưu trữ chính thức: https://github.com/QwenLM/Qwen2

Tính năng:

• Phiên bản mô hình: Có sẵn ở các kích cỡ tham số từ 0.5B đến 110B, bao gồm mô hình Hỗn hợp Chuyên gia (MoE). Các phiên bản lượng tử hóa bao gồm các mô hình Int4, Int8, GPTQ, AWQ và GGUF.

• Cửa sổ ngữ cảnh: Hỗ trợ ngữ cảnh lên đến 32K mã thông báo, hoạt động tốt trên chuẩn L-Eval, đo lường khả năng tạo ngữ cảnh dài.

• Tích hợp: Mã của Qwen1.5 được tích hợp với Hugging Face Transformers (phiên bản 4.37.0 trở lên). Các mô hình này cũng được hỗ trợ bởi các nền tảng như vLLM, SGLang, AutoAWQ, AutoGPTQ, Axolotl và LLaMA-Factory để tinh chỉnh, và llama.cpp để suy luận cục bộ.

• Hỗ trợ nền tảng: Có sẵn trên các nền tảng như Ollama, LMStudio và các dịch vụ API thông qua DashScope và together.ai.

• Khả năng đa ngôn ngữ: Được đánh giá trên 12 ngôn ngữ, thể hiện hiệu suất mạnh mẽ trong các kỳ thi, bài tập hiểu, bài tập dịch và bài tập toán.

Về mục lục ………. Phần trước ………. Phần tiếp theo

Qwen1.5, developed by Chinese cloud service provider Alibaba Cloud, is the latest update in the Qwen series, offering base and chat models in a range of sizes: 0.5B, 1.8B, 4B, 7B, 14B, 32B, 72B, and 110B. It also includes a Mixture of Experts (MoE) model. All versions are open-sourced and available in various quantized formats to improve usability.

Project information:

• License: Tongyi Qianwen research license

• GitHub stars: 6.3K

• Contributors: Qwen team

• Main corporate sponsor: Alibaba China

• Official repo link: https://github.com/QwenLM/Qwen2

Features:

• Model versions: Available in sizes from 0.5B to 110B parameters, including a Mixture of Experts (MoE) model. Quantized versions include Int4, Int8, GPTQ, AWQ, and GGUF models.

• Context window: Supports contexts up to 32K tokens, performing well on the L-Eval benchmark, which measures long-context generation capabilities.

• Integration: Qwen1.5’s code is integrated with Hugging Face Transformers (version 4.37.0 and above). The models are also supported by frameworks like vLLM, SGLang, AutoAWQ, AutoGPTQ, Axolotl, and LLaMA-Factory for fine-tuning, and llama.cpp for local inference.

• Platform support: Available on platforms such as Ollama, LMStudio, and API services via DashScope and together.ai.

• Multilingual capabilities: Evaluated across 12 languages, demonstrating strong performance in exams, understanding, translation, and math tasks.

Dịch: Lê Trung Nghĩa

letrungnghia.foss@gmail.com