On-Premise AIсценарий
GPU и инфраструктура под локальный ИИ
Карты · питание · сеть · оркестрация · без иллюзий про «платы с витрины»
Железо под задачу, не «максимум H100»
Считаем профиль: размер модели, контекст, число пользователей. Подбираем NVIDIA / альтернативы, закладываем питание и охлаждение, планируем поставку. Софт-пилот можно начать на доступном железе, кластер — по мере роста.
Какую боль закрываем
Купили GPU «на глаз» — не тянет или простой
ЦОД не готов к 10–12 кВт на узел
Нет плана по сети между картами
Сроки параллельного импорта не заложены в проект
Что делаем
Профиль нагрузки
Модель, токены, concurrency, fine-tune или только inference.
Спецификация
GPU, CPU, RAM, storage, сеть.
ЦОД-готовность
Питание, охлаждение, стойка.
Оркестрация
K8s + GPU Operator при необходимости.
Смежный опыт
ФАВОРИТ
Costbl - SaaS расчёта себестоимости металлоизделий по чертежам
Больше 5 месяцев, два этапа. Этап 1 — прототип: чат с ИИ и разбор PDF (скрины в блоке этапа 1). Этап 2 — как сейчас: полноценный расчёт (видео в блоке этапа 2). Продукт: https://costbl.ru/
Проект (NDA)
AI-аватар для стримов
Собрали инструмент AI-трансляции: на камере - человек, в эфире - выбранный персонаж. Live face swap + выбор личности. Демо работы - в блоке «Видео» (без автоплея). Детали бренда под NDA.
ChatNeuron
ChatNeuron - облачный ИИ-агент и виджет
Сделали NeuronChat как SaaS: кабинет с дашбордом, агентами, диалогами, заявками, аналитикой и базой знаний. Виджет на сайт, обучение через RAG, несколько агентов на разные домены в одном аккаунте.
Ориентиры
Стоимость карт — отдельная смета. Ниже — работы JimmyNeuron по подбору и запуску.
| Пакет | Что входит | Цена | Срок |
|---|---|---|---|
| Подбор и спецификация | Профиль, BOM, риски поставки | в рамках архитектуры от 150 000 ₽ | 1–2 недели |
| Развёртывание на вашем железе | Софт-контур на предоставленных GPU | от 500 000 ₽ | 4–8 недель |
Полный блок драйверов сметы — на On-Premise AI и в ценах.
Частые вопросы
Поставляете ли карты сами?
Организуем подбор и каналы (в т.ч. параллельный импорт). Сроки и стоимость железа фиксируем отдельно от софт-пилота.