Модель Hugging Face
bartowski/Qwen2.5-7B-Instruct-GGUF
Обзор модели
Данные относятся к ревизии 8911e8a47f92.
Проверка частично завершенаДоступных метаданных недостаточно для всех пунктов.
Форматы и запуск
- GGUFКвантизированный формат для локального запуска · файлов: 24112.7 ГБ
- llama.cpp / OllamaЕсть веса GGUF; совместимость зависит от архитектуры.
Лицензия
apache-2.0
Ссылка, указанная автором
Открыть условия ↗AIhoster не меняет лицензию и не даёт юридического заключения о допустимости использования.
Быстрая проверка
Только публичные метаданные HF и дерево файлов — без скачивания и запуска модели.
Источник HF + правила AIhoster
Результат не гарантирует безопасность: архивы не раскрываются, веса не исполняются, содержимое пользовательского кода не аудируется.
Технические сведения и теги
ggufchattext-generationenbase_model:Qwen/Qwen2.5-7B-Instructbase_model:quantized:Qwen/Qwen2.5-7B-Instructlicense:apache-2.0endpoints_compatibleregion:usconversational
Проверить и скачать
Обе команды закреплены на одной ревизии. Свежий huggingface_hub автоматически использует Xet, Range-запросы и продолжение загрузки.
Узнать объём без скачивания
export HF_ENDPOINT=https://hf.aihoster.ru
hf download bartowski/Qwen2.5-7B-Instruct-GGUF --revision 8911e8a47f92bac19d6f5c64a2e2095bd2f7d031 --dry-runСкачать всю модель
export HF_ENDPOINT=https://hf.aihoster.ru
hf download bartowski/Qwen2.5-7B-Instruct-GGUF --revision 8911e8a47f92bac19d6f5c64a2e2095bd2f7d031 --local-dir Qwen2.5-7B-Instruct-GGUFФайлы модели
Можно скачать весь репозиторий командой выше или выбрать отдельный файл.
Показать все файлы (27)
| Файл | Размер | Действия |
|---|---|---|
| .gitattributes | 3.1 КБ | |
| Qwen2.5-7B-Instruct-f16.gguf | 14.2 ГБ | |
| Qwen2.5-7B-Instruct-IQ2_M.gguf | 2.6 ГБ | |
| Qwen2.5-7B-Instruct-IQ3_M.gguf | 3.3 ГБ | |
| Qwen2.5-7B-Instruct-IQ3_XS.gguf | 3.1 ГБ | |
| Qwen2.5-7B-Instruct-IQ4_XS.gguf | 3.9 ГБ | |
| Qwen2.5-7B-Instruct-Q2_K.gguf | 2.8 ГБ | |
| Qwen2.5-7B-Instruct-Q2_K_L.gguf | 3.3 ГБ | |
| Qwen2.5-7B-Instruct-Q3_K_L.gguf | 3.8 ГБ | |
| Qwen2.5-7B-Instruct-Q3_K_M.gguf | 3.5 ГБ | |
| Qwen2.5-7B-Instruct-Q3_K_S.gguf | 3.3 ГБ | |
| Qwen2.5-7B-Instruct-Q3_K_XL.gguf | 4.3 ГБ | |
| Qwen2.5-7B-Instruct-Q4_0.gguf | 4.1 ГБ | |
| Qwen2.5-7B-Instruct-Q4_0_4_4.gguf | 4.1 ГБ | |
| Qwen2.5-7B-Instruct-Q4_0_4_8.gguf | 4.1 ГБ | |
| Qwen2.5-7B-Instruct-Q4_0_8_8.gguf | 4.1 ГБ | |
| Qwen2.5-7B-Instruct-Q4_K_L.gguf | 4.7 ГБ | |
| Qwen2.5-7B-Instruct-Q4_K_M.gguf | 4.4 ГБ | |
| Qwen2.5-7B-Instruct-Q4_K_S.gguf | 4.2 ГБ | |
| Qwen2.5-7B-Instruct-Q5_K_L.gguf | 5.4 ГБ | |
| Qwen2.5-7B-Instruct-Q5_K_M.gguf | 5.1 ГБ | |
| Qwen2.5-7B-Instruct-Q5_K_S.gguf | 5 ГБ | |
| Qwen2.5-7B-Instruct-Q6_K.gguf | 5.8 ГБ | |
| Qwen2.5-7B-Instruct-Q6_K_L.gguf | 6.1 ГБ | |
| Qwen2.5-7B-Instruct-Q8_0.gguf | 7.5 ГБ | |
| Qwen2.5-7B-Instruct.imatrix | 4.3 МБ | |
| README.md | 9.9 КБ |