StatGazer · независимая проверка моделей

Независимая проверка модели до того, как на неё поставят решение

Второе экспертное мнение по модели — своей или вендорской — перед запуском, инвесткомитетом или сделкой. Проверяем данные, спецификацию, код, воспроизводимость и границы применимости, а выводы оформляем в отчёт с уровнями критичности находок.

  • Риск-команды банков и фондов · инвесткомитеты · due diligence перед сделкой
  • Данные · спецификация · код · воспроизводимость · устойчивость
  • Отчёт о находках с severity и воспроизводимый протокол
  • Независимый рецензент · NDA · все артефакты в собственность

Работаем с клиентами из России: оплата в рублях, договор и закрывающие документы

Независимость

проверку ведёт внешний рецензент, не участвовавший в разработке модели

Severity

находки ранжированы по критичности — от блокирующих до замечаний

Воспроизводимо

протокол проверки можно повторить и перепроверить на тех же данных

В собственность

отчёт, протокол и сопутствующий код остаются у заказчика

Кто проверяет Независимый рецензент

проверку ведёт внешний эксперт, не участвовавший в построении модели и не заинтересованный в её выводах.

Что на выходе Отчёт · Протокол

структурированный список находок с уровнями критичности и воспроизводимый протокол проверки.

Чем это не является Не аудит

техническая проверка и валидация — не аудит в значении 307-ФЗ и не регуляторное заключение.

Когда нужна валидация

Ситуации, в которых на модель ставят решение

Валидация нужна не каждой модели, а той, цена ошибки которой высока: когда от её выводов зависит запуск, капитал или защита позиции перед комитетом.

Перед запуском

Внедрение модели в решение

Модель готова к продакшену или к использованию в процессе принятия решений, и нужна независимая проверка до того, как на её выводы начнут опираться.

  • скоринг, ценообразование, прогноз
  • риск-модель перед боевым контуром
  • расчёт, на который ставят капитал
Риск-функция

Требование риск-функции или регулятора

Внутренний риск-менеджмент или внешнее требование предполагают независимое второе мнение по модели до её утверждения и периодически после.

  • независимость от разработчика модели
  • документированная проверка методологии
  • прозрачные ограничения и допущения
Сделка

Due diligence чужой модели

Перед покупкой продукта, команды или бизнеса, где модель — часть ценности: нужно понять, на чём она держится и где её границы.

  • проверка модели вендора перед сделкой
  • что покупается: метод, данные или допущения
  • риски, скрытые в коде и подготовке данных
Спор и защита

Спор о расчёте или защита исследования

Есть разногласие о корректности расчёта, либо нужно подготовить модель и результаты к защите — диссертации, исследования, экспертизы.

  • второе мнение по спорному расчёту
  • проверка воспроизводимости результатов
  • подготовка к вопросам по методологии

Что проверяем

Шесть слоёв, по которым модель обычно ломается

Ошибка редко прячется в одной формуле. Чаще она в подготовке данных, в неявном допущении или в коде, который считает не то, что описано в методологии.

Данные и их подготовка

Источники, пропуски, выбросы, выравнивание частот, утечка будущего в признаки, корректность выборок для обучения и проверки.

Спецификация и допущения

Соответствует ли выбранный метод задаче, какие допущения заложены, проверяемы ли они и что произойдёт при их нарушении.

Корректность кода и воспроизводимость

Считает ли код то, что описано в методологии; запускается ли он повторно на тех же данных и даёт ли тот же результат.

Устойчивость

Поведение модели под стрессом, на других периодах и при сдвиге входов: бэктест, анализ чувствительности, проверка на разных окнах.

Интерпретация и границы применимости

Что выводы значат на самом деле, где модель применима, а где её использование уже выходит за пределы того, что она умеет.

Документация

Достаточно ли описания, чтобы модель можно было сопровождать и защищать без её автора, и совпадает ли документация с реальным кодом.

Как это работает

От запроса до разбора находок

Процесс выстроен как независимая проверка: фиксированный объём, чек-лист, документированные находки и финальный разбор. Без правок чужой модели «по ходу» — сначала диагностика, потом рекомендации.

01

Запрос

Вы описываете модель, её роль в решении и перед кем нужно защищать выводы. Фиксируем объём и границы проверки.

02

NDA и доступ

Подписываем NDA, получаем доступ к модели, коду и данным в согласованном объёме и формате.

03

Проверка по чек-листу

Идём по слоям: данные, спецификация, код, воспроизводимость, устойчивость, границы. Каждый шаг фиксируется.

04

Отчёт с findings

Оформляем находки с уровнями критичности, воспроизводимый протокол и рекомендации по каждому пункту.

05

Разбор

Проходим отчёт вместе с вашей командой: что критично, что некритично и что делать дальше.

Методология опирается на практику управления модельным риском (как практическая параллель — принципы SR 11-7), но это не аудит и не регуляторное заключение. Это независимая техническая проверка и второе экспертное мнение.

Что получает заказчик

Не «всё хорошо», а проверяемый результат с границами

Заключение валидации полезно ровно настолько, насколько его можно перепроверить и предъявить. Поэтому выводы оформлены так, чтобы их выдержали и комитет, и сторона сделки.

Документ для решения

Отчёт о находках с уровнями критичности

  • Список находок, ранжированных по severity — от блокирующих до замечаний
  • По каждой находке: что обнаружено, почему это важно и что с этим делать
  • Рекомендации, разделённые на обязательные и желательные
  • Чёткие границы: модель применима для…, не применима для…
  • Формат, пригодный для записки риск-комитету или стороне сделки
Проверяемость

Воспроизводимый протокол и собственность на артефакты

  • Протокол проверки, который можно повторить на тех же данных
  • Сопутствующий код проверок — там, где он создавался
  • Зафиксированные допущения и условия, в которых проверка проводилась
  • Все артефакты — отчёт, протокол, код проверок — в собственность заказчика
  • Без замыкания на исполнителя: проверку можно воспроизвести самостоятельно

Если модель относится к финансовым рискам, к проверке примыкает наша работа по риск-моделям; если это исследование или диссертация — направление по исследованиям. Что такое сама метрика VaR и где в ней чаще всего ошибаются — разбираем в материале про VAR-модель.

Стоимость и сроки

Без прайс-карточек: считаем по объёму модели и кода

У валидации нет «средней цены»: одна модель — это несколько формул и чистые данные, другая — большой код, разрозненные источники и нетривиальные допущения. Поэтому объём и стоимость фиксируются письменно до старта.

Как формируется оценка: после первичного знакомства с моделью, кодом и данными мы оцениваем объём проверки и согласуем границы. Стоимость и сроки фиксируются письменно до начала работ — без оценки «вилкой» постфактум. Объём зависит от размера и сложности модели, состояния кода и данных, а также от глубины проверки, которую вы хотите получить.

Вопросы и ответы

Что чаще всего спрашивают перед валидацией

Чаще всего вопросы про границы: что именно проверяется, чем это отличается от аудита и что остаётся у заказчика.

Это аудит?

Нет. Это независимая техническая проверка и валидация модели, расчётов и кода — второе экспертное мнение. Это не аудит в значении Федерального закона № 307-ФЗ и не регуляторное заключение о соответствии: проверка не выдаёт сертификацию или комплаенс-вывод, а фиксирует находки и их критичность.

Можно ли проверить чужую, вендорскую модель?

Да, это одна из основных задач: независимое второе мнение по модели, которую вы покупаете или уже используете. Для этого нужен доступ к достаточному описанию, коду и данным в согласованном объёме. Если доступ ограничен, мы фиксируем это в отчёте как ограничение проверки и описываем, какие выводы при таком доступе сделать нельзя.

Вы переписываете или чините модель?

Валидация — это диагностика, а не доработка. Мы фиксируем находки и даём рекомендации, но не правим чужую модель «по ходу проверки», чтобы сохранить независимость выводов. Доработка модели — отдельная задача, которую можно обсудить после получения отчёта.

Что значит «severity» находок?

Каждая находка получает уровень критичности — например, блокирующая (использовать модель в текущем виде нельзя), существенная (требует исправления до запуска) или замечание (улучшение, не влияющее на корректность). Это позволяет отделить то, что действительно мешает принять решение, от того, что можно учесть позже.

Что остаётся у нас после проверки?

Структурированный отчёт о находках, воспроизводимый протокол проверки, сопутствующий код проверок и рекомендации с границами применимости модели. Все артефакты передаются в собственность заказчика; проверку можно воспроизвести самостоятельно на тех же данных.

Сколько это стоит?

Стоимость зависит от объёма модели и кода и фиксируется письменно до старта после первичной оценки. Готовых прайс-карточек нет осознанно: они либо завышают цену для простой модели, либо занижают для сложной. Опишите задачу — оценим объём и согласуем границы.

Не нашли ответ на свой вопрос?

Напишите нам →

Начать валидацию

Опишите модель и задачу.
Согласуем объём проверки.

Расскажите, что за модель, своя она или вендорская, и перед кем нужно защищать выводы. Под NDA посмотрим объём и зафиксируем границы и стоимость до старта.

NDA до передачи модели и данных · объём, границы и стоимость фиксируются до старта · hello@statgazer.ru

Обсудить задачу Почта