Необязательно оплачивать облачный ИИ-сервис, чтобы писать код с помощью нейросети. Некоторые модели можно запустить на собственном компьютере. В статье — пять локальных LLM, которые помогут с разработкой.
Что такое локальные модели и зачем они нужны разработчику
Локальные языковые модели — это нейросети, которые запускаются не на удаленной инфраструктуре поставщика, а на собственном компьютере или сервере. С их помощью можно:
- Писать код. Например, создавать функции на Python, готовить SQL-запросы или генерировать шаблоны компонентов веб-приложения.
- Разбираться в чужом коде. Модель может объяснить, как работает функция, за что отвечает класс и где вызывается определенный метод.
- Находить ошибки. Можно передать фрагмент кода и описать проблему. Нейросеть подскажет, в чем может быть причина сбоя и как все исправить.
- Рефакторить проект. Модель может упростить код, убрать повторяющиеся участки, предложить более понятную структуру.
- Работать с документацией. Например, объяснить незнакомый API или подготовить пример использования библиотеки.
Локальные модели нередко требуют производительного компьютера, а по качеству и скорости могут уступать облачным решениям. Такой подход особенно полезен, когда проект содержит конфиденциальную информацию или компания ограничивает передачу данных сторонним провайдерам.
При локальном запуске данные можно обрабатывать без отправки запросов поставщику модели. Однако это зависит от выбранного приложения и его настроек: отдельные инструменты могут обращаться к внешним сервисам.
Пять локальных моделей для кода
При выборе LLM для этой подборки мы ориентировались на следующие параметры:
- качество работы с кодом;
- требования к ресурсам;
- размер модели;
- длина контекста;
- вид лицензии.
Представленные ниже модели подойдут для разных сценариев разработки: от простого написания кода до работы с крупными репозиториями.
Часть моделей рассчитана на использование с агентными инструментами. В таком случае нейросеть помогает выбирать действия, а доступ к файлам, терминалу и тестам обеспечивает подключенное приложение.
Qwen3-Coder-Next
Специализированная модель для программирования, рассчитанная на работу в составе агентов для разработки. Она может анализировать репозиторий, решать многоэтапные задачи, корректировать дальнейшие действия после ошибок.
В модели 80 миллиардов параметров, но для обработки каждого токена она задействует примерно три миллиарда. Благодаря этому нейросеть работает быстрее и требует меньше вычислительных ресурсов. Нативное контекстное окно составляет 256 тысяч токенов.
Qwen3-Coder-Next подойдет разработчикам, которые хотят делегировать ИИ не только написание отдельных функций, но и более серьезные задачи — изменения в файлах, запуск тестов, исправление ошибок. Для выполнения таких действий модель нужно подключить к агентному инструменту, которому предоставлен доступ к соответствующим функциям. При этом требования к памяти остаются существенными. Это вариант прежде всего для мощной рабочей станции, хотя возможность запуска на другом оборудовании зависит от квантования и распределения вычислений.
Модель распространяется под лицензией Apache 2.0: ее можно использовать в коммерческих проектах, изменять и распространять при соблюдении условий лицензии.
North Mini Code 1.0
Локальная LLM для программирования. Модель подходит для генерации кода, агентной разработки, работы в терминале.
У нее около 30 миллиардов параметров, из которых при обработке токена активируются примерно три миллиарда. Контекстное окно достигает 256 тысяч токенов, что позволяет передавать модели большой объем исходного кода и требований.
Модель подойдет, если нужно поручить ИИ задачу, которая затрагивает сразу несколько частей проекта. Например, добавить новую функцию, обновить связанные с ней модули, проверить, не нарушили ли изменения существующую логику. Для работы с файлами и запуска команд потребуется совместимый агентный инструмент.
North Mini Code 1.0 распространяется под лицензией Apache 2.0, однако карточки отдельных вариантов весов дополнительно устанавливают правила Cohere и оговорки о коммерческом использовании. Перед внедрением нужно проверить условия конкретной версии.
GPT-OSS 20B
Открытая модель OpenAI общего назначения, которую можно запускать локально. Она не относится к специализированным моделям для программирования, но поддерживает рассуждения, вызов функций и структурированный вывод.
В модели около 21 млрд параметров, из которых активируются примерно 3,6 млрд. Контекстное окно — 131 072 токена. Модель gpt-oss-20b подходит разработчикам, которые хотят использовать LLM не только для написания кода, но и для других задач: сравнение подходов, поиск ошибок.
Для локального запуска потребуется конфигурация с достаточным объемом доступной памяти — около 16 ГБ для стандартной квантованной версии. Модель распространяется под лицензией Apache 2.0.
DeepSeek-Coder-V2-Lite-Instruct
Локальная нейросеть для программистов. Она умеет генерировать код, исправлять ошибки, писать тесты и разбираться в чужих проектах. Модель можно использовать как помощника в IDE или для отдельных задач, которые не требуют полноценного агентного цикла.
Она содержит 16 миллиардов параметров, из которых при обработке токена активируются около 2,4 миллиарда. Контекстное окно составляет 128 тысяч токенов.
Нейросеть подойдет тем, кто хочет попробовать локальную модель, но ограничен в ресурсах. При этом для запуска нужно учитывать общий объем весов модели, а не только число активных параметров. Она распространяется под собственной лицензией DeepSeek-Coder-V2, которую важно изучить перед использованием. Лицензия допускает коммерческое использование, но содержит дополнительные ограничения.
GLM-5.3-Flash
Мультимодальная модель для агентной разработки. Подходит в ситуациях, когда нужно выполнить сразу несколько связанных действий: изучить проект, изменить файлы, запустить тесты, исправить ошибки. Для действий с файлами и инструментами ее также необходимо подключить к подходящей программной среде.
Общее число параметров составляет около 320 миллиардов, активных — около 18 миллиардов. GLM-5.3-Flash подойдет для мощной рабочей станции или серверной инфраструктуры. Несмотря на сравнительно небольшое число активных параметров, полный набор весов занимает значительно больше памяти.
Модель распространяется под лицензией MIT: ее можно использовать в коммерческих и некоммерческих проектах, изменять и распространять свои версии при соблюдении условий лицензии.
Какую локальную модель выбрать
Выбор модели зависит от ресурсов компьютера и задач, которые вы хотите поручить нейросети.
- Для сложной работы с репозиторием — подойдет Qwen3-Coder-Next. Она позволяет работать с большими проектами, вносить связанные изменения в файлы, автоматизировать разработку с помощью агентов.
- Для разработки в терминале — используйте North Mini Code 1.0. С ее помощью можно автоматизировать рутинные операции, вносить изменения в код и исправлять ошибки.
- Для программирования и задач с рассуждениями — можно выбрать gpt-oss-20b. Помимо написания кода, модель умеет искать ошибки, составлять тесты, сравнивать варианты решения.
- При ограниченных ресурсах компьютера — попробуйте DeepSeek-Coder-V2-Lite-Instruct. Можно начать с более коротких задач, чтобы проверить, как быстро модель работает на вашем устройстве и хватает ли ей памяти. Для запуска может понадобиться квантованная версия.
- Для агентной разработки с поддержкой разных типов данных — подойдет GLM-5.3-Flash. Это мультимодальная модель, которая умеет не только писать код, но и работать с визуальной информацией. При выборе нужно учитывать высокие требования к памяти.
Также перед использованием обязательно проверьте лицензию. Если указано Research-only или Non-commercial, то нейросеть нельзяиспользовать в коммерческих продуктах.
Некоторые поставщики устанавливают максимальный порог по количеству пользователей. Например, стандартная Llama Community License разрешает коммерческое использование при соблюдении условий лицензии, но если у пользователя лицензии или его аффилированных лиц более 700 миллионов активных пользователей в месяц, то нужно получать отдельное письменное разрешение от Meta*.
Как сравнить разные модели
Для тестирования моделей подготовьте небольшой набор типовых задач, например:
- написать функцию с заданными требованиями;
- найти ошибку в существующем фрагменте кода;
- объяснить незнакомый модуль;
- добавить тесты для существующей функции;
- изменить несколько файлов, сохранив совместимость с остальным проектом.
Запускайте модели на одинаковых заданиях и в сопоставимых условиях, а затем сравните по следующим параметрам: правильность ответов, количество исправлений, время выполнения, потребление памяти. Для агентных моделей дополнительно проверьте, насколько корректно они работают с инструментами и восстанавливаются после ошибок.
Такой подход поможет понять, какая модель лучше справляется с задачами проекта, а не просто хорошо показывает себя в тестах.
Главное про локальные модели для разработки
- Локальные модели работают на компьютере или собственном сервере, поэтому их можно использовать без отправки запросов во внешний облачный сервис.
- На требования к памяти и производительность влияют разные факторы: количество параметров, выбранные настройки запуска, длина контекста.
- Большое контекстное окно позволяет передать модели больше кода и требований, но не гарантирует более качественную работу с крупным проектом.
- Перед выбором модели протестируйте несколько вариантов на одинаковых задачах, чтобы понять, какая нейросеть справляется лучше.
- Условия использования зависят от лицензии. Модели под лицензией Apache 2.0 и MIT можно использовать в коммерческих проектах при соблюдении соответствующих условий.
FAQ
Какую LLM запустить локально для разработки?
Зависит от задачи. Для сложной работы с репозиторием и кодинговых агентов можно начать с Qwen3-Coder-Next или North Mini Code 1.0. Для генерации и анализа кода подойдет DeepSeek-Coder-V2-Lite-Instruct, если нужно сочетать программирование с рассуждениями — gpt-oss-20b.
Можно ли запустить большую модель на обычном компьютере?
Зависит от характеристик компьютера. Для небольших моделей на 3–7 млрд параметров обычно достаточно 8–16 ГБ оперативной памяти. Однако это зависит от квантования, длины контекста и способа запуска. Для моделей на 30–70 миллиардов параметров требования могут быть значительно выше: их нельзя определить только по количеству параметров без учета формата весов и распределения вычислений. Также на требования влияют длина контекста и настройки запуска.
Можно ли использовать локальные модели для коммерческой разработки?
Да, но перед использованием нужно проверить лицензию конкретной модели и условия ее распространения. Например, Apache 2.0 и MIT допускают коммерческое использование при соблюдении условий лицензии.
Что важнее при выборе модели: размер или контекстное окно?
Количество параметров нейросети влияет на ее возможности, требования к оборудованию и скорость. Большое контекстное окно позволяет передавать больше кода и требований. Но ни один из параметров сам по себе не гарантирует хороший результат работы. Лучше сравнивать модели на типовых задачах своего проекта.
Работают ли локальные модели без интернета?
После загрузки файлов модель можно запускать без подключения к интернету. Однако установка, скачивание весов, обновление и некоторые интеграции требуют доступа к сети.
*Компания Meta признана экстремистской организацией и запрещена на территории Российской Федерации.
