Открытые модели: зачем бизнесу Llama, Qwen и другие
Открытые модели — это нейросети, веса которых опубликованы: их можно скачать и запустить на своём сервере, без отправки данных стороннему сервису. Бизнесу они нужны в трёх случаях: когда данные нельзя отдавать наружу, когда нужен предсказуемый контроль над моделью и её версией и когда задача узкая и массовая — например, разбор тысяч обращений. Для всего остального готовый сервис обычно проще и быстрее: открытая модель требует инфраструктуры и людей, которые её поддерживают.
Что значит «открытая»
Слово «открытая» в мире нейросетей используют свободно, и за ним скрываются разные вещи:
- Открытые веса. Опубликована сама обученная модель — её можно скачать и запустить. Так устроено большинство известных «открытых» моделей.
- Открытый код и данные обучения. Редкий случай, когда опубликовано всё, включая данные и процесс обучения.
- Лицензия. Даже при открытых весах условия использования разные: одни лицензии почти ничего не ограничивают, другие запрещают отдельные виды применения или требуют особых условий для крупных компаний.
Перед использованием модели в коммерческом продукте прочитайте её лицензию — она лежит рядом с весами на странице модели.
Известные семейства
| Семейство | Чем известно | На что обратить внимание |
|---|---|---|
| Llama | одно из самых распространённых семейств, огромная экосистема инструментов | собственная лицензия с условиями |
| Qwen | широкая линейка размеров, хорошая поддержка многих языков, сильные версии для кода | лицензия отличается у разных моделей |
| Mistral | компактные и эффективные модели, популярны в Европе | часть моделей открыта, часть — только по API |
| Gemma | лёгкие открытые модели от Google | своя лицензия |
| DeepSeek | сильные модели рассуждений с открытыми весами | большие размеры полных версий; подробнее — в обзоре DeepSeek |
Список далеко не полный, и новые версии выходят постоянно. Сравнивайте не названия, а результаты на своих задачах.
Зачем это бизнесу
Данные остаются внутри
Главная причина. Договоры, переписка с клиентами, медицинские или финансовые данные, внутренние регламенты — всё это можно обрабатывать моделью, которая работает на вашем сервере или в выбранном облаке. Сторонний сервис эти данные не видит.
Контроль версии
Публичные сервисы обновляют модели без предупреждения: вчера ассистент отвечал в одном стиле, сегодня в другом. Открытая модель не меняется, пока вы её не обновите. Для автоматизированных процессов — классификации обращений, извлечения данных из документов — это важно.
Дообучение под задачу
Открытую модель можно дообучить на своих примерах: ответах службы поддержки, описаниях товаров, внутренних терминах. Небольшая дообученная модель на узкой задаче часто работает не хуже крупной универсальной.
Предсказуемые расходы на массовых задачах
Если нужно обработать сотни тысяч документов, собственная инфраструктура может оказаться выгоднее оплаты каждого запроса. Это стоит считать на своих объёмах: сервер, электричество и работа специалистов тоже стоят денег.
Независимость от доступности сервисов
Зарубежные сервисы могут ограничить доступ для отдельных стран, сменить условия или закрыть нужную функцию. Модель, развёрнутая у себя, продолжит работать независимо от этих решений. Для российских компаний, которые строят процессы на нейросетях, это отдельный аргумент. При этом требования к обработке персональных данных никуда не исчезают: где хранить данные, кто к ним имеет доступ и как это оформить — вопрос к юристу и службе безопасности, а не к выбору модели.
Когда открытая модель не нужна
- Задач мало и они разные — проще пользоваться готовым ассистентом.
- Нет специалиста, который настроит и будет поддерживать модель.
- Нужно максимальное качество в сложных рассуждениях — закрытые модели лидеров рынка обычно впереди.
- Нужен поиск в интернете, генерация изображений и голос в одном окне — у готовых сервисов это уже собрано.
Как запускают открытые модели
Есть три основных пути, от простого к сложному:
- На своём компьютере. Программы вроде Ollama или LM Studio позволяют скачать небольшую модель и общаться с ней локально. Хорошо для знакомства и экспериментов с небольшими моделями.
- На облачном сервере с видеокартой. Модель разворачивают с помощью специальных серверов для запуска нейросетей, например vLLM, и подключают к своим системам по API.
- Через провайдера, который уже развернул модель. Вы используете открытую модель по API, но работаете с ней через стороннего провайдера. Удобно, но данные снова уходят наружу — смотрите условия провайдера.
Главное ограничение — память видеокарты. Чем больше модель, тем мощнее нужно оборудование. Уменьшенные и сжатые версии работают на скромном железе, но теряют в качестве.
Как начать: пилот за пару недель
- Выберите одну узкую задачу, где есть понятный правильный ответ: классификация обращений, извлечение реквизитов из счетов, ответы по базе знаний.
- Соберите 50–100 реальных примеров с правильными ответами.
- Запустите две-три открытые модели разного размера и одну закрытую для сравнения.
- Посчитайте качество на ваших примерах: сколько ответов верных.
- Оцените стоимость владения: сервер, настройка, поддержка.
- Примите решение: собственная модель, готовый сервис или комбинация.
Как организовать такое сравнение без перекосов, описано в статье как самому сравнить нейросети. О том, как продвигаются бренды в ответах языковых моделей, — на главной странице рейтинга.
Частые вопросы
Открытые модели бесплатные?
Скачать веса обычно можно бесплатно, но запуск требует оборудования или облачных серверов, а использование ограничено лицензией. В итоге стоимость определяется инфраструктурой и работой специалистов, а не самой моделью.
Можно ли использовать открытую модель в коммерческом продукте?
Чаще всего да, но условия зависят от лицензии конкретной модели. Некоторые лицензии разрешают почти всё, другие ограничивают отдельные сценарии или крупных пользователей. Читайте лицензию до начала разработки.
Насколько открытые модели хуже ChatGPT?
Зависит от задачи и размера модели. Крупные открытые модели близки к лидерам на многих задачах, небольшие заметно уступают в сложных рассуждениях, но хорошо справляются с узкими повторяющимися задачами, особенно после дообучения.
Нужен ли для этого программист?
Для экспериментов на своём компьютере — нет, достаточно готовой программы. Для подключения к рабочим системам, дообучения и поддержки — да, нужен специалист с опытом в машинном обучении или инфраструктуре.