Дообучение LLM и нейросетей на данных компании

Модель, которая говорит на языке вашей компании

Дообучаем открытую языковую модель на ваших документах и примерах: она начинает понимать отраслевые термины, писать в вашем формате и точнее разбирать обращения. Обучение и данные - внутри периметра, качество - на проверочном наборе ваших задач.

Что делаем

Не каждой задаче нужно дообучение. Если модель должна просто знать содержимое документов, хватает поиска по базе знаний (RAG), и это дешевле. Дообучение нужно, когда модель должна вести себя по-вашему: понимать узкую терминологию, отвечать строго в формате вашего документа, классифицировать обращения по вашим правилам или писать в принятом у вас стиле. Мы начинаем с проверки на базовой модели, собираем датасет из ваших примеров, дообучаем модель (как правило, адаптерами LoRA - это быстрее и дешевле полного обучения) и сравниваем результат с исходной моделью на одних и тех же задачах.

Отраслевая терминология
Строительство, медицина, право, производство: модель перестаёт путать термины и сокращения вашей отрасли.
Ваш формат и стиль
Ответы клиентам, заключения, письма и отчёты - в структуре и тоне, принятых в компании, без ручной переделки.
Классификация и извлечение
Разбор обращений, документов и писем по вашим категориям и полям - точнее, чем у универсальной модели.
Компактная модель под задачу
Небольшая дообученная модель часто справляется с узкой задачей не хуже крупной и требует меньше GPU.

Что входит в работу

Стоимость - по задаче: зависит от объёма данных и размера модели. Смета за 1–2 дня после брифа, GPU - отдельной строкой.

Проверка задачи на базовой модели и с RAG - чтобы не дообучать там, где это не нужно
Сбор и очистка датасета из ваших примеров, разметка вместе с вашими экспертами
Проверочный набор задач и метрики качества
Дообучение (LoRA или полное) на ваших серверах или арендованных GPU в РФ
Сравнение с исходной моделью и отчёт о качестве
Развёртывание дообученной модели в контуре и план переобучения

Как работаем

01
Требования
Разбираем, какие данные нельзя выносить: персональные данные, коммерческая тайна, объекты КИИ. Фиксируем требования службы ИБ и сценарий, ради которого нужен ИИ.
02
Архитектура контура
Где живут модели, база знаний и журналы, кто к чему имеет доступ, как контур связан с вашими системами. Схему согласуем с ИБ до закупки железа.
03
Пилот внутри периметра
4–8 недель на реальной задаче: модель, документы, роли. Критерии приёмки - доля верных ответов со ссылкой на источник, скорость, эскалации человеку - фиксируем заранее.
04
Дообучение и масштабирование
Если базовой модели с поиском по документам не хватает - дообучаем на ваших данных. Добавляем пользователей, сценарии и мощности по мере нагрузки.
05
Сопровождение
Мониторинг, обновление моделей и базы знаний, разбор инцидентов. Контур и код остаются у вас.

Вопросы

Чем дообучение отличается от RAG?

RAG даёт модели доступ к вашим документам: она ищет нужный фрагмент и отвечает по нему. Дообучение меняет поведение самой модели: терминологию, формат, стиль. Часто нужны оба, но начинать стоит с RAG.

Сколько данных нужно для дообучения?

Зависит от задачи: для формата и стиля бывает достаточно сотен качественных примеров, для классификации - больше. Объём оцениваем на старте по вашим данным.

Данные уходят наружу при обучении?

Нет. Обучаем на ваших серверах или на арендованных GPU в РФ по вашему согласованию. Датасет и веса дообученной модели остаются у вас.

Как понять, что стало лучше?

До обучения собираем проверочный набор ваших задач и прогоняем на нём исходную и дообученную модель. Решение о внедрении - по цифрам, а не по впечатлению.