Эксперт GlowByte разобрал барьеры масштабирования ИИ-проектов
Издательство «Открытые системы» выпустило цикл из трех аналитических материалов о том, почему корпоративные ИИ-проекты застревают на стадии пилота и что нужно заложить до запуска. Материалы подготовлены по оценкам экспертов форума «Интеллектуальное предприятие — 2026». Своей экспертизой поделился директор практики искусственного интеллекта и машинного обучения GlowByte Александр Ефимов. Эксперт разобрал причины, по которым удачный пилот не гарантирует результата в промышленной эксплуатации.
В материале «Ловушка „пилота“: как успешные ИИ-проекты „ломаются“ при масштабировании» эксперт GlowByte выделил три особенности ИИ-проектов. Первая — ИИ-модель не дает стопроцентного качества с первого раза, она может деградировать или столкнуться с данными, которых не видела при обучении, поэтому нужны постоянный мониторинг и при необходимости дообучение.
Вторая — цена ошибки автономности: агент поддержки, которому поставили цель быстрее закрывать обращения, начал предлагать клиентам компенсацию при малейшем недовольстве, и через месяц-два у компании выросли расходы.
Третья кроется в самом смысле слова «внедрение»: для ИИ это не установка системы, а перестройка процессов, ролей и решений. В качестве аргумента Александр Ефимов сослался на исследование PwC: по его данным, 20% компаний получают 74% всей отдачи от ИИ, а лидеры растут в 7,2 раза быстрее отстающих. Разницу объясняет организационная зрелость, а не качество моделей.
Третья кроется в самом смысле слова «внедрение»: для ИИ это не установка системы, а перестройка процессов, ролей и решений. В качестве аргумента Александр Ефимов сослался на исследование PwC: по его данным, 20% компаний получают 74% всей отдачи от ИИ, а лидеры растут в 7,2 раза быстрее отстающих. Разницу объясняет организационная зрелость, а не качество моделей.
“
Формально агент прекрасно справился с задачей, которую перед ним поставили. Просто задачу поставили неправильно — не ограничили, чем именно можно расплачиваться за скорость, — сказал Александр Ефимов, директор практики искусственного интеллекта и машинного обучения GlowByte.
В материале «Технология есть, результата нет: три группы барьеров на пути масштабирования ИИ» эксперт GlowByte обратил внимание на технологические и организационные барьеры. Среди технологических — права доступа к данным и понятный владелец данных в масштабе всей компании, а не только пилотного подразделения. Кроме того, локальное развертывание модели окупается за полтора-два года стабильной нагрузки, а бизнес часто ждет эффекта уже в первом квартале после запуска.
Среди организационных барьеров Александр Ефимов назвал отсутствие владельца процесса: при подготовке к масштабированию выясняется, что агенту нужны данные из еще нескольких систем, а вместе с ними приходится пересматривать логику работы и условия передачи решения человеку.
Отдельно эксперт GlowByte привел пример с агрономами, которые фотографировали листья растений для оценки посевов: на небольшой обученной группе пилот работал хорошо, а при масштабировании начались отклонения от инструкции, и точность упала, хотя модель не менялась. Так же ведет себя ИИ-агент, когда попадает из подготовленного пилотного потока в реальные данные с исключениями и нестандартными форматами документов.
Среди организационных барьеров Александр Ефимов назвал отсутствие владельца процесса: при подготовке к масштабированию выясняется, что агенту нужны данные из еще нескольких систем, а вместе с ними приходится пересматривать логику работы и условия передачи решения человеку.
Отдельно эксперт GlowByte привел пример с агрономами, которые фотографировали листья растений для оценки посевов: на небольшой обученной группе пилот работал хорошо, а при масштабировании начались отклонения от инструкции, и точность упала, хотя модель не менялась. Так же ведет себя ИИ-агент, когда попадает из подготовленного пилотного потока в реальные данные с исключениями и нестандартными форматами документов.
“
«Пилот» без бизнес-владельца автоматизирует не реальный рабочий процесс, а его удобную версию. Но дело в том, что масштабировать нужно именно реальный процесс, — отметил Александр Ефимов.
В материале «AI by design: спроектировать и не пожалеть» эксперт сформулировал, что закладывать в ИИ-решение с первого дня. По словам Александра Ефимова, это не столько технология, сколько управляемость: владелец процесса, отвечающий за экономический результат и разбор инцидентов. Экономику нужно считать до выбора архитектуры — сначала стоимость одной единицы работы модели, например токена или запроса, затем сравнение облака и локального размещения на горизонте трех-пяти лет сразу на десять подразделений вперед.
Для агентов Александр Ефимов предложил проектировать «агентский фактор» по аналогии с человеческим. На старте проекта нужно определить процесс, действие агента, ограничения, того, кто подтверждает решение, стоп-сигнал и ответственного за разбор инцидента. Безопасность и масштабируемость проектируются одновременно: контроль качества ответов, включая галлюцинации, защитные фильтры, ролевая модель доступа, журналирование действий, резервное копирование весов моделей и векторных баз данных, единый конвейер разработки и эксплуатации (CI/CD).
Для агентов Александр Ефимов предложил проектировать «агентский фактор» по аналогии с человеческим. На старте проекта нужно определить процесс, действие агента, ограничения, того, кто подтверждает решение, стоп-сигнал и ответственного за разбор инцидента. Безопасность и масштабируемость проектируются одновременно: контроль качества ответов, включая галлюцинации, защитные фильтры, ролевая модель доступа, журналирование действий, резервное копирование весов моделей и векторных баз данных, единый конвейер разработки и эксплуатации (CI/CD).
“
«Агентский фактор» нужно закладывать в архитектуру так же, как человеческий фактор закладывается в обычный процесс — заранее проектировать не саму модель, а матрицу полномочий вокруг нее: что агент делает сам, что делает только с подтверждением человека, а что ему не разрешено делать вовсе, — подчеркнул Александр Ефимов.