10 mô hình ngôn ngữ lớn (LLM) nguồn mở hàng đầu cho năm 2025. 7. Qwen1.5

Top 10 open source LLMs for 2025. 7. Qwen1.5

Theo: https://www.instaclustr.com/education/open-source-ai/top-10-open-source-llms-for-2025/

Mô hình Ngôn ngữ Lớn - LLM (Large Language Model) là mô hình máy học có thể hiểu được và tạo ra ngôn ngữ con người dựa vào các tập dữ liệu phạm vi rộng.

7. Qwen1.5

Qwen1.5, được phát triển bởi nhà cung cấp dịch vụ đám mây Trung Quốc Alibaba Cloud, là bản cập nhật mới nhất trong dòng sản phẩm Qwen, cung cấp các mô hình cơ sở và mô hình trò chuyện với nhiều kích cỡ: 0.5B, 1.8B, 4B, 7B, 14B, 32B, 72B và 110B. Phiên bản này cũng bao gồm mô hình Hỗn hợp Chuyên gia (MoE). Tất cả các phiên bản đều là mã nguồn mở và có sẵn ở nhiều định dạng lượng tử hóa khác nhau để cải thiện khả năng sử dụng.

Thông tin dự án:

• Giấy phép: Giấy phép nghiên cứu Tongyi Qianwen

• GitHub stars: 6,3K

• Người đóng góp: Đội ngũ Qwen

• Nhà tài trợ chính: Alibaba Trung Quốc

• Liên kết kho lưu trữ chính thức: https://github.com/QwenLM/Qwen2

Tính năng:

• Phiên bản mô hình: Có sẵn ở các kích cỡ tham số từ 0.5B đến 110B, bao gồm mô hình Hỗn hợp Chuyên gia (MoE). Các phiên bản lượng tử hóa bao gồm các mô hình Int4, Int8, GPTQ, AWQ và GGUF.

• Cửa sổ ngữ cảnh: Hỗ trợ ngữ cảnh lên đến 32K mã thông báo, hoạt động tốt trên chuẩn L-Eval, đo lường khả năng tạo ngữ cảnh dài.

• Tích hợp: Mã của Qwen1.5 được tích hợp với Hugging Face Transformers (phiên bản 4.37.0 trở lên). Các mô hình này cũng được hỗ trợ bởi các nền tảng như vLLM, SGLang, AutoAWQ, AutoGPTQ, Axolotl và LLaMA-Factory để tinh chỉnh, và llama.cpp để suy luận cục bộ.

• Hỗ trợ nền tảng: Có sẵn trên các nền tảng như Ollama, LMStudio và các dịch vụ API thông qua DashScope và together.ai.

• Khả năng đa ngôn ngữ: Được đánh giá trên 12 ngôn ngữ, thể hiện hiệu suất mạnh mẽ trong các kỳ thi, bài tập hiểu, bài tập dịch và bài tập toán.

Về mục lục ………. Phần trước ………. Phần tiếp theo