Место издания:ФГБОУ ВО "РЭУ им.Г.В.Плеханова" Москва
Первая страница:91
Последняя страница:100
Аннотация:Очность методов машинного обучения существенно зависит от пользовательских настроек или гиперпараметров модели. В статье предложено улучшение популярного метода автоматической оптимизации гиперпараметров DEHB. Ограниченность базовой версии алгоритма заключается в переиспользовании предыдущих найденных значений гиперпараметров, что приводит к невозможности метода выбраться из локального минимума оптимизируемой функции потерь. Предложено в течение работы метода добавлять дополнительный шум в этап мутации для увеличения покрытия пространства гиперпараметров, что увеличивает полноту перебора оптимизируемой функции. Были представлены экспериментальные результаты, демонстрирующие эффективность этого метода в сравнении с базовым алгоритмом DEHB и традиционными методами выбора гиперпараметров. Результаты показывают, что изменение мутации может обеспечить более высокую точность модели при таком же использовании вычислительных ресурсов.
