Закрытый контур ИИ: нейросеть внутри периметра компании
Сначала контур, потом модели
Проектируем, где живут модели, промпты и база знаний, кто к ним имеет доступ и что пишется в журнал. Без этой схемы локальный ИИ не проходит согласование службы безопасности - с ней проходит до покупки железа.
Что делаем
Служба безопасности запрещает отправлять документы в публичные нейросети - и права: договоры, клиентские базы и регламенты не должны уходить к внешнему провайдеру. При этом сотрудники уже копируют их в чат-боты с телефона. Закрытый контур решает обе проблемы: модель работает внутри вашей сети, доступ к ней - по ролям, каждый запрос остаётся в журнале. Мы проектируем такой контур под ваши политики и законы, которые на вас распространяются, и согласуем его с ИБ до закупки GPU.
Персональные данные - 152-ФЗ
Обработка и хранение персональных данных россиян внутри периметра на территории РФ, без передачи в зарубежное облако.
Объекты КИИ - 187-ФЗ
Для госорганов и стратегических предприятий: контур без иностранных облачных сервисов на значимых объектах критической инфраструктуры.
Коммерческая тайна - 98-ФЗ
Промпты, документы и база знаний остаются у вас, доступ - по ролям и с журналом, кто что спрашивал у модели.
Гибрид с облаком
Иногда нечувствительные задачи выгоднее отдать облаку. Границу между облаком и периметром фиксируем в архитектуре, а не на словах.
Что входит в работу
Стоимость - по задаче, смета за 1–2 дня после брифа. Железо и ЦОД - отдельной строкой.
- Разбор требований: персональные данные, КИИ, политики ИБ, интеграции
- Схема контура: сегменты сети, хранение, шлюзы, резервирование
- Роли и доступы через ваш SSO, журналирование запросов к модели
- Правила для промптов и базы знаний: что можно загружать и кому показывать
- Сценарий пилота и критерии приёмки
- Требования к железу и площадке для следующего этапа
Как работаем
- 01
Требования
Разбираем, какие данные нельзя выносить: персональные данные, коммерческая тайна, объекты КИИ. Фиксируем требования службы ИБ и сценарий, ради которого нужен ИИ.
- 02
Архитектура контура
Где живут модели, база знаний и журналы, кто к чему имеет доступ, как контур связан с вашими системами. Схему согласуем с ИБ до закупки железа.
- 03
Пилот внутри периметра
4–8 недель на реальной задаче: модель, документы, роли. Критерии приёмки - доля верных ответов со ссылкой на источник, скорость, эскалации человеку - фиксируем заранее.
- 04
Дообучение и масштабирование
Если базовой модели с поиском по документам не хватает - дообучаем на ваших данных. Добавляем пользователей, сценарии и мощности по мере нагрузки.
- 05
Сопровождение
Мониторинг, обновление моделей и базы знаний, разбор инцидентов. Контур и код остаются у вас.
Вопросы
Что такое закрытый контур ИИ?
Это модели, база знаний и журналы внутри вашего периметра: сотрудники работают с ИИ, а данные не уходят к внешнему провайдеру. Нужен компаниям с персональными данными, коммерческой тайной и требованиями ИБ.
Это заменяет политику информационной безопасности?
Нет. Мы собираем технический контур под ваши политики и согласуем его со службой безопасности заказчика.
С чего начать, если GPU ещё нет?
Со схемы контура и пилота на доступном железе. Закупку GPU планируем, когда понятен профиль нагрузки: сколько пользователей, какие документы, какая модель.
Можно ли совмещать с облаком?
Да, для задач без чувствительных данных. Критичные данные остаются в периметре, граница прописывается в архитектуре.
Контур работает - дальше поддержка
После запуска берём контур на сопровождение: обновление моделей и базы знаний, мониторинг, инциденты и доработки по договору или SLA.
Другие направления разработки
- Локальная LLM на ваших серверахОткрытая языковая модель внутри периметра: корпоративный ИИ-чат по вашим документам, API для систем, роли и журналы.
- Дообучение моделейFine-tuning открытой LLM на ваших данных: терминология, формат ответов, классификация. Внутри периметра, с проверкой качества.
- GPU и инфраструктураПодбор GPU-серверов под модель и нагрузку, подготовка площадки, оркестрация. Железо под задачу, а не «максимум с витрины».