Свой ИИ на своём сервере — открытая модель вроде DeepSeek или Qwen, запущенная внутри компании. Она читает документы, отвечает сотрудникам, разбирает почту и договоры, и ни один запрос не уходит в чужое облако. Сама модель бесплатна: платишь за железо и внедрение, а данные остаются в стране и в компании.
Как это работает
Модель — это файл весов: миллиарды чисел, в которых записано всё, чему она научилась. Открытая лицензия, как MIT у DeepSeek V4, разрешает скачать этот файл, запустить у себя и встроить в свои продукты. У DeepSeek V4 1,6 трлн параметров, но устроена она как команда экспертов: на каждое слово включается лишь небольшая часть сети, и это бережёт видеокарты.
Работает модель на сервере с видеокартами: веса загружаются в их память, и чем больше модель, тем больше нужно карт. Для многих офисных задач хватает версий поменьше — открытые модели обычно выходят в нескольких размерах, а сжатие весов уменьшает требования к памяти ценой небольшой потери точности. Программа-сервер принимает вопросы сотрудников из чата, почты или портала и отдаёт ответы.
Чтобы модель знала дела компании, её не обязательно переобучать. Документы режут на фрагменты и складывают в поисковый индекс; на вопрос сотрудника система находит нужные куски и подаёт их модели вместе с вопросом. Ответ приходит со ссылками на первоисточник, а права доступа те же, что в файловом хранилище: через модель не прочесть документ, закрытый для этого сотрудника.
Где уже работает
- Ответы сотрудникам по регламентам, инструкциям и внутренней базе знаний.
- Разбор договоров и почты: выжимки, сроки, риски, черновики ответов.
- Компании с персональными данными и коммерческой тайной: банки, клиники, промышленность.
- Россия: сильный вариант — данные остаются внутри страны и компании.
- Агенты и программирование на своём сервере, без внешних API.
Что учесть
- Модель бесплатна, видеокарты — нет: размер модели под задачу определяет бюджет.
- Открытые модели отстают от флагманов на 3–6 месяцев — по оценке самой DeepSeek.
- Нужен свой специалист или подрядчик: обновления, мониторинг, права доступа, резервные копии.
- Проверь лицензию каждой модели: MIT у DeepSeek V4 разрешает коммерческое использование, у других условия свои.