# Запускаем локальные модели на простой видеокарте

**URL:** <https://383.su/t/zapuskaem-lokalnye-modeli-na-prostoj-videokarte/412>\
**Category:** Инструменты ИИ\
**Created:** [03.Июнь.2026 15:24:47 UTC](https://383.su/t/zapuskaem-lokalnye-modeli-na-prostoj-videokarte/412 "2026-06-03T15:24:47Z")\
**Posts on this page:** 1\
**Page:** 1

<div class="post-metadata">

**Author:** ![GGG](https://383.su/user_avatar/383.su/ggg/32/680_2.png) [@GGG](https://383.su/u/GGG)\
**Post date:** [03.Июнь.2026 15:24:48 UTC](https://383.su/t/zapuskaem-lokalnye-modeli-na-prostoj-videokarte/412/1 "2026-06-03T15:24:48Z")

</div>

**Запускаем гигантские локальные модели на простой видеокарте на 4 ГБ —** гении дропнули настоящую бомбу. Библиотека AirLLM позволяет запускать даже огромные 405В-модели на бюджетных и маломощных ПК.

 ![IMG9370](https://383.su/uploads/default/original/2X/e/e0f0071eaa8d07f55a99ed92fb3b8e286a47dc18.jpeg)

• Тулза **сжимает параметры нейронки, а не файлы —** можно уменьшить параметры нейронки и при этом не потерять ни возможности, ни функционал.

• Для сервиса подойдет любая видеокарта **даже на 4 ГБ** или процессор даже без видяхи.

• Напрямую поддерживает модели с **Hugging Face.**

• Работает **со всеми популярными форматами LLM:** OCR-модели, чат-боты, генераторы пикч и прочее.

😶😶😶😶😶😶😶😶😶

Юзаем тут:

> **[GitHub - lyogavin/airllm: AirLLM 70B inference with single 4GB GPU](https://github.com/lyogavin/airllm)**
>
> AirLLM 70B inference with single 4GB GPU