Локальные LLM в контуре компании: когда это оправдано в Казахстане, что выбрать и сколько стоит

Коротко: локальная LLM — это большая языковая модель (Large Language Model), развёрнутая на сервере компании или в её частном облаке, так что запросы, документы и ответы не покидают контур организации. В Казахстане интерес к таким моделям растёт с двух сторон: закон «О персональных данных и их защите» требует хранить базы ПДн на территории страны, а сотрудники уже отправляют договоры и клиентские базы в ChatGPT. Genius Systems разрабатывает ИИ-агентов для компаний Усть-Каменогорска, Астаны, Алматы, Караганды и Павлодара и в каждом проекте выбирает между облачной и локальной моделью. Ниже — критерии, модели, железо и цены на сентябрь 2026 года.

Когда локальная модель оправдана

Четыре ситуации, в которых мы рекомендуем модель в контуре:

1. Персональные данные в запросах. ИИН, телефоны, адреса, медицинские и финансовые данные клиентов. Статья 12 закона РК «О персональных данных и их защите» требует хранить базы ПДн в Казахстане, а трансграничная передача допускается только с согласия субъекта и в страны, обеспечивающие защиту данных. Запрос к облачной модели с ИИН клиента — уже передача за рубеж.
2. Коммерческая тайна. Договоры с ценами и штрафами, сметы, чертежи, отчётность, тендерные заявки. Закон не запрещает, но риск утечки через провайдера или взломанный аккаунт компания несёт сама.
3. Госорганы, квазигоссектор и КВОИКИ. Регулятор спрашивает, где обрабатываются данные, а с 25 августа 2026 года об утечке нужно уведомить в течение 1 рабочего дня. У объектов, подключённых к ОЦИБ, внешние ИИ-сервисы часто закрыты на периметре.
4. Большой поток однотипных запросов. Классификация обращений, извлечение реквизитов из счетов, разбор писем. При сотнях тысяч запросов в месяц оплата облачного API по токенам за год-полтора превышает стоимость собственного сервера.

Когда не оправдана

• Данные открытые, а задача сложная: длинные документы, код, многошаговые агенты. Облачные Claude, GPT и DeepSeek заметно точнее открытых моделей.
• Запросов мало — несколько тысяч в месяц. Сервер будет простаивать, а обслуживать его придётся.
• Некому обновлять модель, следить за видеокартами и закрывать уязвимости. ИИ-сервер — такой же сервер на периметре, как почта или 1С.

Какие модели ставить в 2026 году

Лицензия важна не меньше качества: Apache 2.0 и MIT разрешают коммерческое использование без оговорок, лицензии Meta и Google содержат условия.

Модель	Размер	Память GPU	Лицензия	Для чего
gpt-oss-20b / 120b (OpenAI)	20 и 120 млрд	от 16 ГБ / от 80 ГБ	Apache 2.0	Рассуждения, агенты, русский язык
Qwen3 (Alibaba)	от 0,6 до 235 млрд	от 8 ГБ	Apache 2.0	Русский и казахский текст, извлечение данных, RAG
Llama 4 Scout (Meta)	109 млрд, 17 активных	≈ 60 ГБ в 4-бит	Llama license	Длинный контекст, разбор документов
DeepSeek V3 / R1	671 млрд, 37 активных	кластер 8 × H100/H200	MIT	Максимальное качество, только крупные внедрения
KazLLM (ISSAI, Nazarbayev University)	8 и 70 млрд, на базе Llama	от 16 ГБ	Llama license	Казахский язык, госсектор

Для большинства задач бизнеса мы начинаем с Qwen3 или gpt-oss: обе линейки уверенно работают на русском, свободно лицензированы и запускаются через vLLM для десятков одновременных пользователей.

Сколько стоит сервер

Ориентиры на сентябрь 2026 года при курсе около 445 тенге за доллар, без таможни и НДС:

Конфигурация	Что тянет	Пользователей одновременно	Ориентир цены
Сервер с 1 × RTX 5090 (32 ГБ)	Модели до 30 млрд параметров в 4-бит	5–15	2–3 млн тенге
Сервер с 1 × RTX PRO 6000 Blackwell (96 ГБ)	70–120 млрд: gpt-oss-120b, Llama 4 Scout	20–50	9–12 млн тенге, из них карта ≈ 7 млн
Сервер с 1 × H100 (80 ГБ)	То же в серверном исполнении, нагрузка 24/7	30–80	14–20 млн тенге
Аренда H100 в облаке	То же	То же	≈ $2,7 в час, ≈ 850 тыс. тенге в месяц при работе 24/7

При круглосуточной нагрузке собственный сервер с RTX PRO 6000 окупается против аренды за 12–15 месяцев. При нагрузке только в рабочие часы — дольше, и тогда разумнее гибрид, о котором ниже.

Память — главный дефицит года: NVIDIA подняла цену RTX PRO 6000 до $16 000, почти вдвое за полтора года. Закладывайте в смету запас по цене и срок поставки 4–8 недель.

Что нужно кроме сервера

Модель — треть проекта. Остальное:

• Сервер вывода и база знаний. vLLM или Ollama, векторная база под RAG, коннекторы к 1С, Bitrix24 и файловым хранилищам.
• Доступ и журнал. SSO, роли, события в SIEM: кто и с какими данными обращался к модели. Без этого регулятору нечего показать.
• Защита от промпт-инъекций. Локальная модель уязвима так же, как облачная. Check Point GenAI Protect и Palo Alto Prisma AIRS работают и с моделями в контуре; подробнее — в статье о промпт-инъекциях и в разделе защита ИИ.
• Сканирование ИИ-стека. Langflow, MLflow и Ray в 2026 году попали в CISA KEV. Сервер модели входит в управление уязвимостями наравне с остальными: Rapid7 или Invicti (ex-Acunetix) по расписанию.
• DLP на рабочих местах. Falcongaze SecureTower или Kaspersky в составе DLP видят, что сотрудник всё же копирует в ChatGPT.
• Резервное копирование базы знаний и настроек модели — Veeam, как для любой рабочей системы.

Гибрид: локальная маскирует, облачная думает

В большинстве проектов мы ставим не «или», а «и». Локальная модель на сервере заказчика читает документ, находит ИИН, телефоны, суммы и реквизиты и заменяет их метками. Обезличенный текст уходит в Claude или GPT, которые делают сложную часть: сравнивают редакции договора, готовят ответ, ставят задачу. Ответ возвращается, метки подставляются обратно внутри контура. Компания получает точность облачной модели при соблюдении закона о ПДн, а сервер нужен скромный: RTX 5090 на 32 ГБ закрывает маскирование для сотен документов в день.

Что дальше

Начните с классификации данных: какие процессы работают с ПДн и коммерческой тайной, а какие — с открытой информацией. Это двухчасовой воркшоп, после которого понятно, где нужна локальная модель, где хватит облака и во сколько обойдётся сервер. Genius Systems проводит такие воркшопы для компаний Усть-Каменогорска, Астаны, Алматы и всего Казахстана, поставляет оборудование и разворачивает модели в рамках ИИ-разработки. Напишите нам — посчитаем вашу конфигурацию.