Статьи
GGUF и квантование LLM: сколько VRAM нужно
GGUF и квантование LLM простыми словами: что значат Q4, Q5, Q8 и сколько VRAM нужно для локального запуска моделей.
Тег: GGUF
Гайды
Как запустить нейросеть локально на своём ПК
Пошаговый гайд по запуску локальной нейросети на ПК: что выбрать между LM Studio, Ollama и GPT4All, какое железо нужно и как не скачать слишком тяжёлую модель.