Проверка на истории
Модели обучаются на прошлом и сравниваются с фактом следующих периодов.
ПРОГНОЗИРОВАНИЕ И ПРОВЕРКА
Статистические и ML-подходы оцениваются на одинаковых исторических периодах. Выбор опирается на качество прогноза.
ОБОСНОВАННОЕ ПЛАНИРОВАНИЕ
Модели обучаются на прошлом и сравниваются с фактом следующих периодов.
Ошибки прогноза, смещение и качество интервалов рассматриваются отдельно.
Рост от рекомендаций проверяется отдельно от качества прогнозирования.
ПОСЛЕДОВАТЕЛЬНАЯ ПРОВЕРКА
Данные до выбранной даты
Следующий период
Факт, ошибка, смещение
Проверка новой версии
ОЦЕНКА КАЧЕСТВА
Насколько прогноз отличается от факта и склонен ли он завышать или занижать продажи.
Как часто фактический результат попадает в ожидаемый диапазон и насколько этот диапазон полезен.
Отдельная проверка категорий, территорий и групп клиентов, а не только общего итога.
Вероятность заказа и дополнительный результат от звонка или предложения — разные оценки. Для второго нужны данные о действиях и корректно организованный пилот.
Выберите одну задачу и проверьте подход в пилоте.