![]() |
ИСТИНА |
Войти в систему Регистрация |
ИСТИНА ЦЭМИ РАН |
||
Общей целью НИР является исследование тенденций, направлений и процессов развития новых конвергентных когнитивно-информационных технологий, методов и средств их создания и применения в науке, образовании, социальной сфере. Значительное внимание в исследованиях уделяется вопросам кибербезопасности, в частности, развитию методов и средств защиты компьютерных систем, сетевой инфраструктуры, систем искусственного интеллекта. Другими направлениями исследования являются: создание теоретической и инструментальной основы для создания распределенных систем и сервисов сетевой близости и контекстных вычислений; разработка CASE-инструментария программной инженерии; разработка методов искусственного интеллекта и машинное обучение при анализе и разработке программ; создание конференц-издательской платформы на принципах открытой науки; создание платформы управления цифровыми навыками как основы развития дополнительного профессионального образования.
The overarching goal of the study is to research the trends, directions and processes of advancement of new convergent cognitive-information technologies, methods and means of designing and applying them in science, education and the social sphere. Significant attention is paid to questions of cybersecurity and, in particular, advancement of methods and means of protection of computer systems, network infrastructure and artificial intelligence systems. Other areas of research are: development of theoretical basis and tooling for implementation of distributed systems and network proximity services, and contextual computing; development of CASE tools for software engineering; research of artificial intelligence methods and machine learning for software analysis and development; creation of conference-publishing platform based on open science principles; creation of digital skill management platform as a basis for advancement of secondary professional education.
Предполагается выполнить работы исследовательского характера, связанные с разработкой методов и технологий создания цифровых двойников, контекстно-зависимых вычислений, основанных на понятиях сетевой близости, анализа транспортных потоков, технологий Умных городов, анализа и разработки системного и прикладного программного обеспечения, кибербезопасности и сетевой безопасности.
Предыдущие исследования и разработки создают задел в области контекстно-зависимых вычислений, анализа транспортных потоков, извлечения, анализа и визуализации архитектуры программных систем (и разработки CASE-инструментария для проведения данных исследований), сетевой инфраструктуры и сетевых протоколов, безопасности компьютерных сетей, анализа и визуализации электрической активности мозга, образовательных технологий и стандартизации, облачных вычислений и разработке системного программного обеспечения.
МГУ имени М.В.Ломоносова | Координатор |
госбюджет, раздел 0110 (для тем по госзаданию) |
# | Сроки | Название |
1 | 1 января 2021 г.-31 декабря 2021 г. | Конвергентные когнитивно-информационные технологии, интеллектуальные инструменты, сервисы и ресурсы безопасных распределенных информационно-вычислительных инфраструктур в науке, образовании, социуме |
Результаты этапа: Завершены исследования цифровых навыков кибербезопасности, результаты опубликованы в монографии «Модель цифровых навыков кибербезопасности». Разработан профиль «Кибербезопасность и искусственный интеллект» для направления подготовки 02.03.02 Фундаментальная информатика и информационные технологии (ФИИТ). Разработана магистерская программа "Искусственный интеллект в кибербезопасности". Описана операторская модель для предоставления сервисов, зависящих от местоположения (location-basedservices) на основе 3GPP D2D. Предложена архитектура представления сервисов, использующих информацию о местоположении по модели SaaS. В ее основе лежит модель сетевой пространственной близости, использующая рекламные пакеты беспроводных сетей для организации кибер-физической системы, заменяющей традиционную работу с гео-данными. Вместе с сотрудниками Российского университета транспорта выполнены исследования по применению цифровых двойников и автоматическому формированию цифровых двойников для транспортных систем. Создана система дискретно-событийного моделирования для пассажирских потоков метро. Проведено исследование методов и алгоритмов машинного обучения для выявления архитектуры программных систем. Подготовлены и внедрены в учебный процесс учебно-методические материалы и комплексы по программам магистратуры и дополнительного образования. Продолжены начатые в прошлом году работы по неожиданно возникшей теме вывода в онлайн практических работ по сетевым технологиям. Успешно переведены в онлайн занятия по построению сегмента сети Интернет. В развитие предыдущих работ начато дистанционное обучение технологиям сетевой безопасности на реальном сетевом оборудовании. Лабораторные работы проводятся с использованием межсетевых экранов D-Link DFL 860E, сертифицированных ФСТЭК. Проведены работы по интерактивному доступу к регистрам приемопередатчиков Ethernet. Проведен международный конгресс, включающий три международные конференции, подготовлены к изданию труды. Издано два включенных в перечень ВАК журнала. | ||
2 | 1 января 2022 г.-31 декабря 2022 г. | Конвергентные когнитивно-информационные технологии, интеллектуальные инструменты, сервисы и ресурсы безопасных распределенных информационно-вычислительных инфраструктур в науке, образовании, социуме |
Результаты этапа: Подготовлено и опубликовано руководство по разработке образовательных программ для подготовки профессиональных кадров высшей квалификации по дисциплине «Кибербезопасность», аналогом которой часто выступает «Информационная безопасность». «Куррикулум по кибербезопасности» представляет собой комплексные учебно-методические материалы, которые содержат ответы на важнейшие вопросы: «чему учить» и «как учить» и предназначены для разработки на их основе учебными учреждениями образовательных программ. Д.Е. Намиотом защищена докторская диссертация по техническим наукам «Технологии сетевой близости: концепция, модели и алгоритмы, распределенные системы и сервисы». Работа посвящена новой программной архитектуре для сервисов, использующих информацию о местоположении. Выполнено комплексное исследование проблематики, связанной с атаками на системы машинного обучения. Подготовлены систематические обзорные работы на русском языке по новым аспектам применения (использования) моделей машинного обучения и по формированию перспективных направлений развития кибербезопасности ИИ. Проведен анализ подходов архитектурного проектирования цифровых двойников. Выполнена разработка алгебры конечных автоматов специального вида DTA (Digital Twin Algebra), предназначенной для математического моделирования поведения цифровых двойников производства, предложен метод моделирования работы горнодобывающих предприятий на ее основе. В области инструментальных средств программной инженерии проведены исследование методов и алгоритмов кластеризации для восстановления архитектуры программных систем, исследование методов и алгоритмов выявления и визуализации шаблонов и дефектов проектирования на основе модели программной системы, исследование методов и алгоритмов выявления и визуализации клонов и дефектов кодирования в программном коде. Выполнен сравнительный анализ CTF-платформ для обучения кибербезопасности. Проведен анализ возможностей использования технологий машинного обучения для выявления атак на веб-приложения. Представлена модель оценки социального деления в городе, основанная на транспортных данных. Создана визуализация пассажиропотока для системы метрополитена города Москвы. Проведен международный конгресс, включающий три международные конференции, подготовлены к изданию труды. Издано два включенных в перечень ВАК журнала. | ||
3 | 1 января 2023 г.-31 декабря 2023 г. | Конвергентные когнитивно-информационные технологии, интеллектуальные инструменты, сервисы и ресурсы безопасных распределенных информационно-вычислительных инфраструктур в науке, образовании, социуме |
Результаты этапа: Подготовлена магистерская программа по кибербезопасности, проведен первый набор студентов. Программа разработана в соответствии с современными международными профессиональными и образовательными стандартами и с учетом действующих национальных стандартов и норм. Проанализированы схемы атак на системы искусственного интеллекта, проведен систематический обзор атак на модели машинного обучения. Проведены обзоры атак отравления и атак инверсией модели на системы машинного обучения. Проведен анализ атак (и противодействия им с помощью состязательных тренировок) на системы распознавания изображений с помощью камуфляжной раскраски, проведены экспериментальные исследования. Проведен обзор состязательного тестирования систем искусственного интеллекта на предприятиях (AI red teaming). Проанализированы ошибки и причины неудач проектов, использующих машинное обучение. На основе множества проанализированных работ представлены суммарные данные по ошибкам и неудачам проектов, использующих машинное обучение, и проанализированы связи этих причин с требованиями устойчивости проектируемых систем. Показано, что большинство причин неудач связано с отсутствием устойчивости для систем машинного обучения. Проанализировано применение электронных тегов в киберфизических системах. Предложена новая программная архитектура для приложений, использующих информацию о местоположении. В области инструментальных средств программной инженерии проведены исследование методов и алгоритмов кластеризации для облегчения понимания программных систем, а также исследование методов и алгоритмов восстановления архитектуры программных систем. Проанализировано управление доступом на основе атрибутов в протоколе OAuth 2.0, исследованы возможности стандартов RBAC, ABAC и CORS для управления доступом к ресурсам из различных источников. Проанализированы механизмы межсервисной аутентификации в приложениях с микросервисной архитектурой, предложена архитектура сервис-сервисной аутентификации. Исследовано использование машинного обучения для обнаружения SQL-инъекций и борьбы с фишинговыми атаками. Проведен анализ пассажиропотока московского метрополитена в пространственно-временном разрезе. Проведен международный конгресс, включающий три международные конференции, подготовлены к изданию труды. Издано два включенных в перечень ВАК журнала. | ||
4 | 1 января 2024 г.-31 декабря 2024 г. | Конвергентные когнитивно-информационные технологии, интеллектуальные инструменты, сервисы и ресурсы безопасных распределенных информационно-вычислительных инфраструктур в науке, образовании, социуме |
Результаты этапа: Подготовлен и опубликован учебник для вузов «Введение в модельно-ориентированную системную и программную инженерию (MBSSE)». Учебник рекомендован ФУМО по укрупненной группе специальностей и направлений подготовки 02.00.00 Компьютерные и информационные науки. Проведены исследования в поддержку развития направлений ИИ в кибербезопасности и безопасность систем искусственного интеллекта. Были выполнены обзорные и исследовательские работы по новым аспектам применения (использования) моделей машинного обучения и по формированию перспективных направлений развития. Подробно рассмотрены технические аспекты поиска (классификации) вредоносного программного обеспечения с помощью машинного (глубокого) обучения. Проанализированы кибератаки, которые могут совершаться с использованием систем искусственного интеллекта (ИИ). Рассмотрены последствия использования облачных сервисов для обучения нейронных сетей с точки зрения кибербезопасности. Рассмотрены вопросы улучшения робастности для моделей машинного обучения. Рассмотрены подходы к сертификации моделей машинного обучения. Проведен обзор рисков генеративных моделей искусственного интеллекта. Проведен анализ современных проблем, связанных с извлечением тренировочных данных из больших языковых моделей (LLM). Проведены исследование и разработка эффективных алгоритмов и методов, способных обнаруживать и блокировать атаки типа Prompt Injection, с целью повышения безопасности систем и защиты от вредоносных воздействий. В области инструментальных средств программной инженерии проведены исследование методов и алгоритмов анализа и визуализации для облегчения понимания программных систем, а также исследование методов и алгоритмов восстановления и визуализации эволюции архитектуры программной системы. Разработаны и внедрены в учебный процесс два курса по безопасности сетевых технологий. Исследованы состязательные атаки для автономных транспортных средств. Проведен анализ тенденций развития цифровых двойников нового поколения. Проведен международный конгресс, включающий три международные конференции, подготовлены к изданию труды. Издано два включенных в перечень ВАК журнала. | ||
5 | 1 января 2025 г.-31 декабря 2025 г. | Конвергентные когнитивно-информационные технологии, интеллектуальные инструменты, сервисы и ресурсы безопасных распределенных информационно-вычислительных инфраструктур в науке, образовании, социуме |
Результаты этапа: |
Для прикрепления результата сначала выберете тип результата (статьи, книги, ...). После чего введите несколько символов в поле поиска прикрепляемого результата, затем выберете один из предложенных и нажмите кнопку "Добавить".
№ | Имя | Описание | Имя файла | Размер | Добавлен |
---|