|
ИСТИНА |
Войти в систему Регистрация |
ИСТИНА ЦЭМИ РАН |
||
Методы автоматизированного проектирования архитектур нейросетейдипломная работа (Магистр)
- Научный руководитель: Попова Нина Николаевна
- Автор: Коньков Ю.А.
- Тип: Магистр
- Организация, в которой проходила защита: МГУ имени М.В. Ломоносова
- Год защиты: 2020
- Аннотация: Разработка архитектуры нейронной сети является одним из важнейших этапов в нейросетевом подходе решения задач машинного обучения. В данной работе для исследования выбрана одна из важнейших и востребованных нейросетевых задач, требующих больших вычислительных затрат – задача автоматизированного проектирования архитектур нейронных сетей. В ходе диссертационного исследования был проведен обзор существующих подходов к автоматизированному проектированию архитектур и выбраны методы для исследования (CoDeepNEAT, TPE, Anneal, Evolution). Для сокращения времени поиска архитектуры был предложен и разработан подход к распределенному запуску выбранных методов на нейросетей платформе Neural Network Intelligence (NNI). В работе предложен набор инструментов для поддержки распределенной работы платформы NNI на суперкомпьютере “Ломоносов 2”. Проведенные эксперименты показали, что распределенная реализация CoDeepNEAT обладает близкими к идеальному свойствами масштабирования. Архитектуры, построенные алгоритмом CoDeepNEAT, позволили достичь точности на тестовых задачах в 97% (MNIST) и 73.2% (CleanedVsDirty). С применением алгоритмов оптимизации гиперпараметров (TPE, Anneal, Evolution) полученные результаты удалось улучшить до 98.3% и 94%.
- Добавил в систему: Попова Нина Николаевна