ИСТИНА

Работа посвящена задача автоматического подбора гиперпараметров (hyperparameter optimization) для моделей машинного обучения. Примером гиперпараметров может служить глубина решающих деревьев, настройки метрических методов, сила регуляризации, скорость обучения, число нейронов в нейросетевых моделях, решающих как задачи прогнозирования, так и генерации новых объектов (например, генерация текстов и стилизация изображений). Проводится обзор одного из наиболее популярных алгоритмов оптимизации Tree-structured Parzen Estimator (TPE) и предлагаются его модификации. Представлен разбор принципов работы алгоритма TPE, его ключевых особенностей и предполагаемых преимуществ и недостатков в контексте задачи автоматической настройки методов машинного обучения (AutoML). Предлагается модификация метода и проводится сравнительный анализ базового подхода с предложенной модификацией. Полученные результаты могут быть полезны для исследователей и практиков в области машинного обучения для автоматизации процесса подбора оптимальных прогнозирующих моделей.