1. Как считается эта метрика
Самая частая находка на старте проекта: показатель называется одинаково, а считается по-разному. Отгрузка с возвратами и без. Выручка с НДС и без. Активный клиент за 30 дней и за 90. Валовая маржа, в которую в одном подразделении входит логистика, а в другом нет.
Пока с этим работают люди, система как-то функционирует: аналитик помнит, что в отчёте для коммерции своя логика, и мысленно поправляет. Агент не может этого сделать — он возьмёт то определение, которое найдёт первым.
Как проверить. Выберите пять ключевых показателей и запросите формулу их расчёта у трёх сотрудников из разных подразделений. При расхождении ответов хотя бы по одному показателю подключение агента преждевременно. На следующем этапе формируется реестр метрик, включающий формулу, источник, гранулярность, исключения и владельца, уполномоченного изменять определение. Такой реестр должен храниться в семантическом слое BI, а не в текстовом документе, — в противном случае агент не сможет к нему обратиться.
2. Откуда взялась эта цифра
Каждый вывод должен прослеживаться до конкретного набора данных, отчёта или системы-источника. Пользователю нужно видеть не только число, но и путь его получения.
Как проверить. Возьмите один показатель из управленческого отчёта и попробуйте пройти его до строки в исходной системе. Засеките время. Если у вас это заняло больше получаса с участием двух человек, то в момент, когда цифру назовёт агент, разбирательство займёт столько же. Только теперь оно начнётся после того, как на цифру уже отреагировали.
3. Кто имеет право это видеть
Пока дашборд открывает человек, ограничение по площадке, юрлицу или региону работает как фильтр отображения. Пользователь видит свой кусок, всё в порядке.
Как только данные тянет агент и сам рассылает сводки, тот же фильтр становится контуром безопасности. Появляются вопросы, которых раньше не было. От чьего имени агент ходит в данные: от имени задавшего вопрос или от собственной технической учётки с расширенными правами? Что происходит, когда руководитель одного дивизиона просит сравнить свои показатели с соседним? Кому уйдёт рассылка, если в списке получателей есть человек с более узкими правами, чем у автора запроса?
Как проверить. Пересмотрите матрицу доступа до пилота, а не после. Отдельно разведите права на чтение модели и права на получение рассылки, они не совпадают. Убедитесь, что в логах видно, кто и что запрашивал через агента.
4. Насколько данные свежие
Человек, открывающий дашборд, обычно знает, что продажи обновляются ночью, а данные из MES приезжают с задержкой в час. Агент этого не чувствует и ответит на вопрос про сегодняшнее утро вчерашними цифрами, не сделав оговорки.
Как проверить. Зафиксируйте расписание обновления по каждому источнику и вынесите метку актуальности в модель так, чтобы она попадала в ответ. «Доля годной продукции 94,2% по состоянию на 06:00» и просто «94,2%» — это ответы разной надёжности.
Сюда же относится сценарий «данных нет». Загрузка упала, витрина пустая. Агент, который в этот момент отвечает «продажи составили ноль», опаснее агента, который отвечает «данные за вчера не загрузились».
5. Понимает ли ИИ смысл вашего бизнеса
Названия столбцов — это ещё не экспертиза. Руководитель спросит «сколько мы отгрузили в Питере», а в модели увидит sales_qty с кодом региона. Проблема в том, что «Питер» для одного означает город, а для другого — весь Северо-Западный федеральный округ. И это совершенно разные показатели.
Как проверить. Соберите список реальных вопросов, которые звучали на совещаниях за последний квартал. Не гипотетических, а тех, что задавали живые люди. Сверьте с моделью и честно отметьте, на какие вопросы данных нет. Обычно оказывается, что часть вопросов упирается в отсутствие связей между системами, и это задача хранилища, а не ИИ.
Таким образом, задав пять вопросов, вы можете проверить главное: согласованность, прослеживаемость, доступ, актуальность и смысл. Чем яснее компания отвечает на эти вопросы до пилота, тем меньше времени уйдёт на перепроверку результатов после.