AIhoster
Модель Hugging Face

Qwen/Qwen2.5-3B-Instruct-GGUF

Обзор модели

Данные относятся к ревизии 7dabda4d13d5.

Проверка частично завершенаДоступных метаданных недостаточно для всех пунктов.
Размер текущей ревизии23.5 ГБ13 файлов
Место с запасом29.4 ГБМинимум 25.9 ГБ
ДоступПубличнаяТокен не требуется
Хранилище HFXetXet-файлов: 10
Самый большой файл3.7 ГБqwen2.5-3b-instruct-fp16-00001-of-00002.gguf
Популярность на HF208 534195 отметок «нравится»

Форматы и запуск

  • GGUFКвантизированный формат для локального запуска · файлов: 10
    23.5 ГБ
  • llama.cpp / OllamaЕсть веса GGUF; совместимость зависит от архитектуры.

Лицензия

qwen-research

Файл LICENSE

Открыть условия ↗

AIhoster не меняет лицензию и не даёт юридического заключения о допустимости использования.

Быстрая проверка

Только публичные метаданные HF и дерево файлов — без скачивания и запуска модели.

Источник HF + правила AIhoster

Проверка Hugging FaceНе завершенаСканирование может выполняться, ожидать очереди или завершиться ошибкой.
Форматы весовБез pickleРаспознано безопасных форматов: 10.
Пользовательский кодНе обнаруженВ дереве файлов и конфигурации нет явных признаков remote code.
Состав репозиторияЯвных рисков нетИсполняемые файлы и архивы не обнаружены.

Результат не гарантирует безопасность: архивы не раскрываются, веса не исполняются, содержимое пользовательского кода не аудируется.

Технические сведения и теги
Автор
Qwen
Задача
text-generation
Библиотека
Не указана
Базовая модель
Qwen/Qwen2.5-3B-Instruct
Создана
17.09.2024 13:58
Обновлена
20.09.2024 06:34
Ревизия
7dabda4d13d513e3e842b20f0d435c732f172cbe
ggufchattext-generationenarxiv:2407.10671base_model:Qwen/Qwen2.5-3B-Instructbase_model:quantized:Qwen/Qwen2.5-3B-Instructlicense:otherendpoints_compatibleregion:usconversational

Проверить и скачать

Обе команды закреплены на одной ревизии. Свежий huggingface_hub автоматически использует Xet, Range-запросы и продолжение загрузки.

Узнать объём без скачивания

export HF_ENDPOINT=https://hf.aihoster.ru hf download Qwen/Qwen2.5-3B-Instruct-GGUF --revision 7dabda4d13d513e3e842b20f0d435c732f172cbe --dry-run

Скачать всю модель

export HF_ENDPOINT=https://hf.aihoster.ru hf download Qwen/Qwen2.5-3B-Instruct-GGUF --revision 7dabda4d13d513e3e842b20f0d435c732f172cbe --local-dir Qwen2.5-3B-Instruct-GGUF

Файлы модели

Можно скачать весь репозиторий командой выше или выбрать отдельный файл.

Показать все файлы (13)
ФайлРазмерДействия
LICENSE7.2 КБ
Скачать
.gitattributes1.5 КБ
Скачать
qwen2.5-3b-instruct-fp16-00001-of-00002.gguf3.7 ГБ
Скачать
qwen2.5-3b-instruct-fp16-00002-of-00002.gguf2.6 ГБ
Скачать
qwen2.5-3b-instruct-q2_k.gguf1.3 ГБ
Скачать
qwen2.5-3b-instruct-q3_k_m.gguf1.6 ГБ
Скачать
qwen2.5-3b-instruct-q4_0.gguf1.9 ГБ
Скачать
qwen2.5-3b-instruct-q4_k_m.gguf2 ГБ
Скачать
qwen2.5-3b-instruct-q5_0.gguf2.2 ГБ
Скачать
qwen2.5-3b-instruct-q5_k_m.gguf2.3 ГБ
Скачать
qwen2.5-3b-instruct-q6_k.gguf2.6 ГБ
Скачать
qwen2.5-3b-instruct-q8_0.gguf3.4 ГБ
Скачать
README.md4.8 КБ
Скачать