Конвергентные когнитивно-информационные технологии, интеллектуальные инструменты, сервисы и ресурсы безопасных распределенных информационно-вычислительных инфраструктур в науке, образовании, социумеНИР

Convergent cognitive and information technologies, intelligent tools, services and resources for secure distributed information and computing infrastructures in science, education and society

Соисполнители НИР

МГУ имени М.В.Ломоносова Координатор

Источник финансирования НИР

госбюджет, раздел 0110 (для тем по госзаданию)

Этапы НИР

# Сроки Название
1 1 января 2021 г.-31 декабря 2021 г. Конвергентные когнитивно-информационные технологии, интеллектуальные инструменты, сервисы и ресурсы безопасных распределенных информационно-вычислительных инфраструктур в науке, образовании, социуме
Результаты этапа: Завершены исследования цифровых навыков кибербезопасности, результаты опубликованы в монографии «Модель цифровых навыков кибербезопасности». Разработан профиль «Кибербезопасность и искусственный интеллект» для направления подготовки 02.03.02 Фундаментальная информатика и информационные технологии (ФИИТ). Разработана магистерская программа "Искусственный интеллект в кибербезопасности". Описана операторская модель для предоставления сервисов, зависящих от местоположения (location-basedservices) на основе 3GPP D2D. Предложена архитектура представления сервисов, использующих информацию о местоположении по модели SaaS. В ее основе лежит модель сетевой пространственной близости, использующая рекламные пакеты беспроводных сетей для организации кибер-физической системы, заменяющей традиционную работу с гео-данными. Вместе с сотрудниками Российского университета транспорта выполнены исследования по применению цифровых двойников и автоматическому формированию цифровых двойников для транспортных систем. Создана система дискретно-событийного моделирования для пассажирских потоков метро. Проведено исследование методов и алгоритмов машинного обучения для выявления архитектуры программных систем. Подготовлены и внедрены в учебный процесс учебно-методические материалы и комплексы по программам магистратуры и дополнительного образования. Продолжены начатые в прошлом году работы по неожиданно возникшей теме вывода в онлайн практических работ по сетевым технологиям. Успешно переведены в онлайн занятия по построению сегмента сети Интернет. В развитие предыдущих работ начато дистанционное обучение технологиям сетевой безопасности на реальном сетевом оборудовании. Лабораторные работы проводятся с использованием межсетевых экранов D-Link DFL 860E, сертифицированных ФСТЭК. Проведены работы по интерактивному доступу к регистрам приемопередатчиков Ethernet. Проведен международный конгресс, включающий три международные конференции, подготовлены к изданию труды. Издано два включенных в перечень ВАК журнала.
2 1 января 2022 г.-31 декабря 2022 г. Конвергентные когнитивно-информационные технологии, интеллектуальные инструменты, сервисы и ресурсы безопасных распределенных информационно-вычислительных инфраструктур в науке, образовании, социуме
Результаты этапа: Подготовлено и опубликовано руководство по разработке образовательных программ для подготовки профессиональных кадров высшей квалификации по дисциплине «Кибербезопасность», аналогом которой часто выступает «Информационная безопасность». «Куррикулум по кибербезопасности» представляет собой комплексные учебно-методические материалы, которые содержат ответы на важнейшие вопросы: «чему учить» и «как учить» и предназначены для разработки на их основе учебными учреждениями образовательных программ. Д.Е. Намиотом защищена докторская диссертация по техническим наукам «Технологии сетевой близости: концепция, модели и алгоритмы, распределенные системы и сервисы». Работа посвящена новой программной архитектуре для сервисов, использующих информацию о местоположении. Выполнено комплексное исследование проблематики, связанной с атаками на системы машинного обучения. Подготовлены систематические обзорные работы на русском языке по новым аспектам применения (использования) моделей машинного обучения и по формированию перспективных направлений развития кибербезопасности ИИ. Проведен анализ подходов архитектурного проектирования цифровых двойников. Выполнена разработка алгебры конечных автоматов специального вида DTA (Digital Twin Algebra), предназначенной для математического моделирования поведения цифровых двойников производства, предложен метод моделирования работы горнодобывающих предприятий на ее основе. В области инструментальных средств программной инженерии проведены исследование методов и алгоритмов кластеризации для восстановления архитектуры программных систем, исследование методов и алгоритмов выявления и визуализации шаблонов и дефектов проектирования на основе модели программной системы, исследование методов и алгоритмов выявления и визуализации клонов и дефектов кодирования в программном коде. Выполнен сравнительный анализ CTF-платформ для обучения кибербезопасности. Проведен анализ возможностей использования технологий машинного обучения для выявления атак на веб-приложения. Представлена модель оценки социального деления в городе, основанная на транспортных данных. Создана визуализация пассажиропотока для системы метрополитена города Москвы. Проведен международный конгресс, включающий три международные конференции, подготовлены к изданию труды. Издано два включенных в перечень ВАК журнала.
3 1 января 2023 г.-31 декабря 2023 г. Конвергентные когнитивно-информационные технологии, интеллектуальные инструменты, сервисы и ресурсы безопасных распределенных информационно-вычислительных инфраструктур в науке, образовании, социуме
Результаты этапа: Подготовлена магистерская программа по кибербезопасности, проведен первый набор студентов. Программа разработана в соответствии с современными международными профессиональными и образовательными стандартами и с учетом действующих национальных стандартов и норм. Проанализированы схемы атак на системы искусственного интеллекта, проведен систематический обзор атак на модели машинного обучения. Проведены обзоры атак отравления и атак инверсией модели на системы машинного обучения. Проведен анализ атак (и противодействия им с помощью состязательных тренировок) на системы распознавания изображений с помощью камуфляжной раскраски, проведены экспериментальные исследования. Проведен обзор состязательного тестирования систем искусственного интеллекта на предприятиях (AI red teaming). Проанализированы ошибки и причины неудач проектов, использующих машинное обучение. На основе множества проанализированных работ представлены суммарные данные по ошибкам и неудачам проектов, использующих машинное обучение, и проанализированы связи этих причин с требованиями устойчивости проектируемых систем. Показано, что большинство причин неудач связано с отсутствием устойчивости для систем машинного обучения. Проанализировано применение электронных тегов в киберфизических системах. Предложена новая программная архитектура для приложений, использующих информацию о местоположении. В области инструментальных средств программной инженерии проведены исследование методов и алгоритмов кластеризации для облегчения понимания программных систем, а также исследование методов и алгоритмов восстановления архитектуры программных систем. Проанализировано управление доступом на основе атрибутов в протоколе OAuth 2.0, исследованы возможности стандартов RBAC, ABAC и CORS для управления доступом к ресурсам из различных источников. Проанализированы механизмы межсервисной аутентификации в приложениях с микросервисной архитектурой, предложена архитектура сервис-сервисной аутентификации. Исследовано использование машинного обучения для обнаружения SQL-инъекций и борьбы с фишинговыми атаками. Проведен анализ пассажиропотока московского метрополитена в пространственно-временном разрезе. Проведен международный конгресс, включающий три международные конференции, подготовлены к изданию труды. Издано два включенных в перечень ВАК журнала.
4 1 января 2024 г.-31 декабря 2024 г. Конвергентные когнитивно-информационные технологии, интеллектуальные инструменты, сервисы и ресурсы безопасных распределенных информационно-вычислительных инфраструктур в науке, образовании, социуме
Результаты этапа: Подготовлен и опубликован учебник для вузов «Введение в модельно-ориентированную системную и программную инженерию (MBSSE)». Учебник рекомендован ФУМО по укрупненной группе специальностей и направлений подготовки 02.00.00 Компьютерные и информационные науки. Проведены исследования в поддержку развития направлений ИИ в кибербезопасности и безопасность систем искусственного интеллекта. Были выполнены обзорные и исследовательские работы по новым аспектам применения (использования) моделей машинного обучения и по формированию перспективных направлений развития. Подробно рассмотрены технические аспекты поиска (классификации) вредоносного программного обеспечения с помощью машинного (глубокого) обучения. Проанализированы кибератаки, которые могут совершаться с использованием систем искусственного интеллекта (ИИ). Рассмотрены последствия использования облачных сервисов для обучения нейронных сетей с точки зрения кибербезопасности. Рассмотрены вопросы улучшения робастности для моделей машинного обучения. Рассмотрены подходы к сертификации моделей машинного обучения. Проведен обзор рисков генеративных моделей искусственного интеллекта. Проведен анализ современных проблем, связанных с извлечением тренировочных данных из больших языковых моделей (LLM). Проведены исследование и разработка эффективных алгоритмов и методов, способных обнаруживать и блокировать атаки типа Prompt Injection, с целью повышения безопасности систем и защиты от вредоносных воздействий. В области инструментальных средств программной инженерии проведены исследование методов и алгоритмов анализа и визуализации для облегчения понимания программных систем, а также исследование методов и алгоритмов восстановления и визуализации эволюции архитектуры программной системы. Разработаны и внедрены в учебный процесс два курса по безопасности сетевых технологий. Исследованы состязательные атаки для автономных транспортных средств. Проведен анализ тенденций развития цифровых двойников нового поколения. Проведен международный конгресс, включающий три международные конференции, подготовлены к изданию труды. Издано два включенных в перечень ВАК журнала.
5 1 января 2025 г.-31 декабря 2025 г. Конвергентные когнитивно-информационные технологии, интеллектуальные инструменты, сервисы и ресурсы безопасных распределенных информационно-вычислительных инфраструктур в науке, образовании, социуме
Результаты этапа:

Прикрепленные к НИР результаты

Для прикрепления результата сначала выберете тип результата (статьи, книги, ...). После чего введите несколько символов в поле поиска прикрепляемого результата, затем выберете один из предложенных и нажмите кнопку "Добавить".

Прикрепленные файлы

№ Имя Описание Имя файла Размер Добавлен