Локальная модель ИИ в компании: Gemma 4, оборудование и затраты

Бухгалтерское бюро не хочет вставлять счета клиентов в ChatGPT. Юридическая контора предпочитает не отправлять договоры в облако, а магазину хотелось бы писать сотни описаний товаров, не платя за каждый запрос. В каждой из этих ситуаций стоит рассмотреть локальную модель ИИ в компании, то есть искусственный интеллект, который работает на Вашем компьютере или сервере и не отправляет содержимое поставщику.

Показываю, что умеет Gemma 4 от Google, какого оборудования достаточно и сколько это стоит по сравнению с облаком. Описываю ситуацию на начало ноября 2026 г.

Что такое локальная модель ИИ и что умеет Gemma 4

ChatGPT и Gemini работают на серверах поставщиков. Локальную модель Вы скачиваете один раз, а потом все вычисления выполняет Ваш компьютер. Содержимое письма, договора или счёта не покидает компанию, а за запросы Вы не платите.

Достаточно бесплатных программ. Самая простая — Ollama (Windows, macOS, Linux): Вы устанавливаете её, вводите одну команду и общаетесь с моделью. Для команды добавляют чат в браузере, например Open WebUI, который работает без интернета и поддерживает учётные записи нескольких человек и базы знаний из документов.

Gemma 4 — семейство открытых моделей Google, выпущенное в начале апреля 2026 г. Это первая Gemma на лицензии Apache 2.0, которая позволяет использовать модель в компании без лицензионных платежей. Есть пять размеров:

• E2B и E4B: небольшие модели для ноутбуков и телефонов («E» означает эффективные 2 и 4 млрд параметров),
• 12B: средняя модель для компьютера с видеокартой,
• 26B A4B: модель типа MoE, которая на каждое слово использует около 4 млрд параметров, поэтому обычно отвечает быстрее, чем 31B, но в памяти хранит всё целиком,
• 31B: самая большая модель, в которой работают все параметры.

По документации Google, все размеры понимают текст и изображение, а E2B, E4B и 12B — ещё и звук. Небольшие модели читают за один раз до 128 тыс. токенов, более крупные — до 256 тыс., поэтому в них помещаются длинные договоры. Модели умеют пользоваться подключёнными инструментами и имеют режим размышления для более сложных задач. Карточка модели сообщает, что Gemma 4 обучали более чем на 140 языках, а «из коробки» она поддерживает более 35. Поэтому качество польского языка у модели проверьте на собственных текстах.

Польская альтернатива: Bielik

Bielik — польская модель, которую развивают Фонд SpeakLeash и ACK Cyfronet AGH. Новейшая линейка — версия 3, например Bielik 11B v3.0 и меньшая Minitron 7B v3.0. У неё лицензия Apache 2.0, она ориентирована на польский язык, но работает с текстом, поэтому для изображений и звука лучше подойдёт Gemma. Подробности: bielik.ai. Стоит протестировать обе модели на одних и тех же задачах.

Для чего локальный ИИ пригодится в компании и магазине

Локальная модель лучше всего подходит для повторяющейся работы с текстом, когда данные не должны уходить наружу:

• Чат для команды: черновики деловых писем, переводы и правка текстов, только на Вашем оборудовании.
• Ответы по документам компании: модель ищет в регламентах, процедурах и прайс-листах.
• Описания товаров: сотни описаний по данным производителя без платы за запросы.
• Черновики писем и ответов на рекламации: модель пишет рабочую версию, человек её проверяет.
• Краткое изложение договоров и заметок: сроки, суммы и обязанности в нескольких пунктах.
• Распознавание счетов и фотографий: данные из счёта в таблицу, описание фотографии товара.

Запрос для теста:

Подготовь черновик ответа на приведённую ниже рекламацию. Тон вежливый и деловой, максимум 120 слов. Не обещай возврат денег до рассмотрения рекламации. В конце перечисли, что нам ещё нужно проверить. [текст рекламации]

Когда модель должна работать сама, например проверять остатки на складе или создавать задачи в CRM, это уже автоматизация процессов.

Локальный ИИ на страже безопасности: читает логи и предупреждает

Сервер, сайт, почта и файрвол записывают в логи каждый вход и подозрительный запрос. В небольшой компании эти файлы ежедневно никто не читает. Локальная модель может делать это: каждый час или раз в сутки она получает свежий фрагмент логов и простым языком пишет, что выглядит подозрительно, например серию неудачных входов в одну учётную запись или сканирование сотен адресов сайта за несколько минут. Предупреждение приходит на электронную почту или в мессенджер, а логи с IP-адресами и логинами не уходят в облако.

Пример запроса:

Ниже приведены логи входа на сервер за последние сутки. Перечисли простым языком подозрительные события: серии неудачных входов, входы в нетипичное время, сканирование многих адресов. По каждому укажи время, IP-адрес и риск: низкий, средний или высокий. Не добавляй события, которых нет в логах.

Честно о границах: это дополнительная пара глаз, а не система безопасности. Модель не заменит специалиста, обновления, резервные копии и инструменты, которые сами блокируют атаки (например, fail2ban). Она может пропустить атаку или поднять ложную тревогу, а большие логи сначала нужно отфильтровать скриптом. В логах есть и текст, введённый атакующим, поэтому модель только составляет отчёт и не получает прав на изменения на сервере. Защиту сервера, мониторинг и план действий на случай аварии я делаю в услуге Кибербезопасность проекта.

Какое оборудование: три порога

Важнее всего память: видеокарты (VRAM) или общая память в компьютерах Mac и мини-ПК с процессорами AMD Ryzen AI. Google приводит в документации Gemma, сколько памяти нужно только для весов модели, с запасом 20%:

Таблица не учитывает контекст, то есть текст, который читает модель. Чем длиннее документ и чем больше людей спрашивают одновременно, тем больше памяти нужно сверх этих цифр. Отсюда три порога:

1. Для пробы: компьютер, который у Вас уже есть. Ноутбук с 16 ГБ памяти запустит E2B и E4B даже без видеокарты, только медленнее. Этого хватит для тестов и работы одного человека.
2. Для небольшой команды: видеокарта с 16 ГБ VRAM. Модель 12B помещается с запасом на более длинные документы, поэтому обслужит чат для нескольких человек и описания товаров.
3. Мощный сервер для компании: 32 ГБ VRAM или много общей памяти. Видеокарта RTX 5090 (32 ГБ) или мини-ПК с AMD Ryzen AI Max+ 395 и 128 ГБ памяти запустит 26B A4B и 31B с длинным контекстом.

Скорость ответов зависит от оборудования, версии модели и настроек, поэтому проверьте её на собственной задаче перед покупкой.

Сколько это стоит и когда облако обходится дешевле

В 2026 г. цены на видеокарты и память сильно выросли и часто меняются, поэтому воспринимайте эти суммы как ориентировочные (цены в магазинах):

• RTX 5060 Ti 16 ГБ: около 3 000 зл по данным ppe.pl за август 2026 г.,
• RTX 5090 32 ГБ: около 30 тыс. зл в польских магазинах по данным benchmark.pl на 20 сентября 2026 г., при рекомендованной цене NVIDIA 9 100 зл,
• мини-ПК с Ryzen AI Max+ 395 и 128 ГБ: около 3 900 € в ЕС в феврале 2026 г.

Услуга Локальная модель ИИ в компании стоит у меня от 2 990 зл без НДС плюс оборудование: я подбираю оборудование, устанавливаю модель и тестирую её на Ваших задачах. Поддержка стоит от 199 зл без НДС в месяц.

В статье ChatGPT или Gemini для компании я считал около 100 зл за человека в месяц за корпоративный тариф в облаке, без НДС. Пример для 5 человек, когда видеокарта попадает в компьютер, который у Вас уже есть. Все суммы указаны без НДС: компания — плательщик НДС вычитает налог со стоимости видеокарты, поэтому 3 000 зл в магазине — это около 2 440 зл без НДС.

После первого года локальная модель обходится дешевле, а новые пользователи не увеличивают затраты, пока хватает оборудования.

Локальная модель не имеет смысла, когда:

• задачи самые сложные: при сложном анализе сильнейшие облачные модели обычно лучше,
• ИИ используется редко: при нескольких вопросах в неделю дешевле будет облачный тариф,
• некому будет ею заниматься: обновления, копии и поломка компьютера — Ваша забота.

Часто лучше всего сочетание: локальная модель для чувствительных данных, облако для остального. Такое разделение я настраиваю в услуге Внедрение ИИ в компании.

GDPR (RODO) и AI Act: данные остаются в компании, обязанности тоже

При локальной модели содержимое не попадает к поставщику, поэтому отпадает вопрос об обучении на Ваших данных и передаче их за пределы ЕС. Однако GDPR по-прежнему действует:

• определите, кто имеет доступ к чату и базе документов (отдельные учётные записи, а не один общий пароль),
• решите, как долго хранить историю разговоров,
• защитите компьютер с моделью: шифрование диска, копии, обновления,
• если внешняя фирма имеет доступ к серверу, например в рамках поддержки, заключите договор о поручении обработки данных (umowa powierzenia przetwarzania danych).

Остерегайтесь ловушки: модели Ollama с пометкой cloud (например, gemma4:cloud) работают на серверах Ollama, поэтому содержимое уходит из компании. Отключите облачные функции в настройках. Отдельный зашифрованный сервер для данных клиентов в Польше или ЕС я настраиваю в услуге Данные клиентов в ЕС.

Когда модель общается с клиентами, например как ИИ-чат-бот на сайте, с 2 августа 2026 г. ст. 50 Регламента ЕС об искусственном интеллекте (AI Act) требует, чтобы клиент знал, что общается с ИИ. Чат я настрою в рамках Пакета AI Act. Это общая информация, а не юридическая консультация.

Внедрение шаг за шагом: сначала тест, потом покупка

1. Выберите 5–10 реальных задач: письмо с рекламацией, договор для краткого изложения, товары для описания, скан счёта.
2. Запустите небольшую модель на компьютере, который у Вас уже есть. Установите Ollama и введите в терминале:

ollama run gemma4:e4b

Первый запуск загрузит модель (несколько ГБ). На более мощном компьютере проверьте также gemma4:12b. Инструкция есть у Google в документации Gemma.

3. Сравните с облаком. Те же задачи, без персональных данных, дайте облачной модели. Оцените польский язык, ошибки и время ожидания.
4. Подбирайте оборудование под модель, прошедшую тест, а не наоборот. Если хватает E4B, не покупайте дорогую видеокарту.
5. Настройте чат для команды: учётные записи, база знаний из документов, резервные копии.
6. Запишите правила. Модель ошибается, поэтому числа, сроки и ответы клиентам всегда проверяет человек.

Итог

Локальная модель ИИ в компании имеет смысл, когда Вы работаете с данными, которые не должны попадать в облако, или когда команда много пишет и Вы не хотите платить за каждый запрос. Gemma 4 и Bielik бесплатны, в том числе для коммерческого использования, а тест на собственном компьютере ничего не стоит. Оборудование покупайте только тогда, когда модель пройдёт тест на Ваших задачах.

Если Вы хотите, чтобы я подобрал оборудование, установил модель и настроил чтение логов, посмотрите услугу Локальная модель ИИ в компании или напишите мне. Отвечаю в течение 24 часов.