← ЭкспертизаЭкономика

Нужен ли компании свой сервер под ИИ

Разговор о своём сервере обычно начинается с вопроса «какой брать» и заканчивается закупкой с запасом. Мы предлагаем начать с другого вопроса: нужен ли он вообще прямо сейчас. Разбираем, как считается конфигурация, чем вредна переплата и почему «поставили и забыли» не работает.

7 мин чтенияРуководителям служб ИТ · Техническим директорам · Собственникам
Разделы материала — 5
  1. 01Короткий ответ
  2. 02Как считается конфигурация
  3. 03Почему запас вреден
  4. 04Где ставить
  5. 05Что «поставили и забыли» не работает

Короткий ответ

Не всем и не сразу. Если сотрудников немного, задачи типовые, а документы не относятся к тем, что нельзя выносить наружу, — дешевле и быстрее стартовать на внешней модели российского поставщика. Своё оборудование понадобится тогда, когда этого потребует объём или требования к данным.

Три случая, когда свой контур нужен сразу: передача документов наружу невозможна по регламенту или договору; поток обращений такой, что плата за каждое перестаёт сходиться с экономикой; предприятие распределено по площадкам и зависимость от одного внешнего канала неприемлема.

Как считается конфигурация

От нагрузки, а не от каталога поставщика. Нужно знать три вещи: сколько людей будут работать одновременно, какие задачи они решают и какое время ответа считается приемлемым.

Разница между задачами больше, чем кажется. Короткие вопросы по регламенту и разбор стостраничного договора — это разные требования. Распознавание сканов, расшифровка речи и работа с изображениями считаются отдельно от текстовых моделей.

На выходе разбора получается не «сервер такой‑то», а расчёт: какая часть нагрузки закрывается лёгкими моделями, какая требует тяжёлых, что можно оставить на внешнем сервисе, а что обязано считаться внутри.

Почему запас вреден

Логика «возьмём помощнее, чтобы потом не докупать» кажется разумной и почти всегда оказывается дорогой ошибкой. Неиспользуемая мощность не делает ответы быстрее — она просто стоит денег и обесценивается.

Нехватка вредна ровно так же, но она хотя бы заметна: люди жалуются на медленные ответы, и проблему видно. Переплату не видит никто, поэтому она живёт годами.

Здоровый подход — считать под расчётную нагрузку с понятным путём расширения. Добавить мощность в работающий контур проще, чем объяснить собственнику, почему половина закупки простаивает.

Где ставить

Два рабочих варианта. Первый — на вашей площадке, в существующей инфраструктуре компании: данные не покидают периметр, доступ настраивается по вашим правилам. Второй — у выбранного вами хостинга в России, если своего оборудования нет и заводить его не хочется.

С точки зрения проекта разницы почти нет: проектируем и сопровождаем в обоих случаях. Разница в скорости старта и в том, кто отвечает за физическую доступность машины.

Что «поставили и забыли» не работает

Контур требует наблюдения — за нагрузкой, отказами, свободным местом. Требует обновлений: модели выходят новые, и через год работать на прошлогодней означает сознательно получать ответы хуже, чем можно. Требует резервных копий и понятного плана на случай отказа узла.

Всё это входит в сопровождение по договору. Если сопровождения нет, контур живёт ровно до первого сбоя — и дальше компания получает опыт, из которого делает вывод «ИИ не работает», хотя не работало обслуживание.

Коротко
  • Свой сервер нужен не всем и не сразу — начать можно на внешней российской модели
  • Сразу нужен, если данные нельзя выносить, поток обращений большой или предприятие распределено
  • Конфигурация считается от нагрузки: число людей, тип задач, требуемое время ответа
  • Переплата за неиспользуемую мощность так же вредна, как нехватка, но незаметна
  • Без сопровождения контур живёт до первого сбоя
По теме

Направления, о которых речь

Читайте дальше

2 материала
Следующий шаг
Проверим это на ваших документах

Статья — общий разбор. Демо на вашей отрасли за 3–5 рабочих дней покажет, как оно работает именно у вас. Бесплатно и до всяких обязательств.