Все выпуски

Объяснимый искусственный интеллект (Explainable AI, XAI) представляет собой область искусственного интеллекта, направленную на создание методов и инструментов для генерации интерпретируемых и понятных для человека объяснений решений ИИ. Актуальность объяснимости моделей возрастает по мере внедрения искусственного интеллекта в критически важные сферы (медицина, финансы, юриспруденция), где непрозрачность алгоритмов может приводить к серьезным последствиям для пользователей и общества. В работе представлен аналитический обзор современного состояния области XAI, охватывающий теоретические основы, методологию и практические применения.

Рассматриваемые методы объяснимого ИИ были отобраны и систематизированы на основе многоуровневой классификации методов XAI по постановке задачи (цель, целевая аудитория, тип данных), методологии (стадия применения, модель-специфичность, методы, масштаб) и форме результата (представление, презентация, метрики оценки).

Проведен сравнительный анализ методов объяснимого ИИ для различных областей применения. Для классического машинного обучения детально рассмотрены SHAP и LIME с выявлением их теоретических оснований, вычислительных характеристик и ограничений. Для компьютерного зрения систематизированы градиентные методы (SmoothGrad, Integrated Gradients), методы визуализации активаций (Grad-CAM, Grad-CAM++), методы на основе возмущений (RISE, Occlusion) и концептуальные объяснения (TCAV, Network Dissection). Особое внимание уделено специфике применения XAI к обработке естественного языка и большим языковым моделям, включая анализ достоверности цепочек размышлений (Chain-of-Thought), естественно-языковых объяснений и методов на основе графов атрибуции. Выделены фундаментальные ограничения существующих подходов к объяснимости LLM и определены направления дальнейших исследований.

Результаты обзора демонстрируют, что методы XAI достигли значительной зрелости в области классического машинного обучения и компьютерного зрения, однако применение к большим языковым моделям остается открытой исследовательской проблемой, требующей разработки новых парадигм объяснения.

Целью данной работы является оценка механического поведения коронарных сосудов и ангиопластических баллонов при проведении процедуры ангиопластики на основании данных внутрисосудистого ультразвукового исследования и ангиографии, полученных для каждого пациента индивидуально. Для лечения атеросклероза, представляющего собой серьезное хроническое воспалительное заболевание артерий с образованием атеросклеротических бляшек и вызывающего сужение сосудов и ухудшение кровоснабжения тканей и органов, в современной медицинской практике применяют малоинвазивную эндоваскулярную процедуру — баллонную ангиопластику, ключевым аспектом моделирования которой является понимание поведения артерий пациентов и баллонов, которые используют для ее проведения. На основании данных внутрисосудистого ультразвукового исследования и ангиографии была разработана биомеханическая модель артерии, пораженной атеросклерозом. Построена конечно-элементная модель участка артерии, учитывающая ее нелинейное гиперупругое поведение. Для моделирования поведения ангиопластического баллона была разработана математическая модель баллона, проведена валидация с экспериментальными данными. Проведена оценка напряженно-деформированного состояния коронарной артерии конкретного пациента и ангиопластического баллона. На основании разработанных математических моделей отдельных объектов в дальнейшем будет построена полномасштабная математическая модель процесса ангиопластики, включающая три рассмотренных выше объекта: персонифицированную за счет использования данных реального пациента модель артерии; построенную на основе персонифицированной модели конечно-элементную модель артерии, учитывающую ее нелинейное поведение и конечно-элементную модель ангиопластического баллона, а также их взаимосвязь. Разработанные математические модели и полученные на их основе результаты в дальнейшем позволят получить зависимости ключевых параметров ангиопластики, которые могут быть использованы для усовершенствования методики ангиопластики на основе данных внутрисосудистой визуализации, а применение методов математического моделирования позволит снизить число клинических испытаний в данной области.

В данной работе представлены результаты экспериментального и расчетно-теоретического изучения влияния неравновесного химического возбуждения топливно-воздушной смеси на характеристики дизельного индикаторного процесса. Способом возбуждения является генерация высоковольтного стримерного разряда высокого давления непосредственно в камере сгорания на фазе сжатия топливно-воздушной смеси. Дано описание работы электро-разрядной системы, приведены результаты измерений и визуализации. Рассмотрена плазмо-химическая кинетика неравновесного воспламенения, и обсуждаются возможности построения редуцированной схемы описания химических процессов. Представлены результаты компьютерного моделирования газодинамических процессов, развивающихся на фоне горения, стимулированного электрическим разрядом в геометрической конфигурации, близкой к экспериментальной постановке.

В работе развивается новый математический метод решения задачи совместного расчета параметров сигнала и шума в условиях статистического распределения Райса посредством метода моментов, основанного на анализе данных для начальных моментов 1-го и 3-го порядков случайной райсовской величины. Получена в явном виде система уравнений для искомых параметров сигнала и шума. В предельном случае малой величины отношения сигнала к шуму получены аналитические формулы, позволяющие рассчитать искомые параметры задачи без необходимости численного решения уравнений. Развитый в работе метод обеспечивает эффективное разделение информативной и шумовой компонент анализируемых данных в отсутствие каких-либо априорных предположений, лишь на основе обработки результатов выборочных измерений сигнала. Задача является значимой для целей обработки райсовских данных, в частности, в системах магнитно-резонансной визуализации, в системах ультразвуковой визуализации, при анализе оптических сигналов в системах дальнометрии, в радиолокации и т. д. Как показали результаты исследований, решение двухпараметрической задачи разработанным методом не приводит к увеличению объема требуемых вычислительных ресурсов по сравнению с решением однопараметрической задачи, решаемой в предположении априорной известности второго параметра. В работе приведены результаты компьютерного моделирования разработанного метода. Результаты численного расчета параметров сигнала и шума разработанным методом подтверждают его эффективность. Проведено сопоставление точности определения искомых параметров развитым в работе методом и ранее разработанным вариантом метода моментов, основанным на обработке измеренных данных для низших четных моментов анализируемого сигнала.

В статье представлены результаты численного моделирования и экспериментальные данные по высокоскоростному внедрению ударника в преграду. В расчетах использовалась дискретно-элементная модель, основанная на представлении ударника и преграды совокупностью плотно упакованных взаимосвязанных частиц. Данный класс моделей находит все более широкое применение в задачах высокоскоростного взаимодействия тел. В предыдущих работах авторов рассмотрены вопросы применения дискретно-элементной модели к задаче внедрения металлических шаров в массивные преграды. На основе сравнительного анализа данных вычислительных и физических экспериментов было показано, что для широкого класса задач высокоскоростного внедрения достаточно высокая точность дискретно-элементного моделирования может быть достигнута с использованием двухпараметрического потенциала Леннарда–Джонса. При этом была идентифицирована зависимость энергии межэлементной связи от динамической твердости материалов. Использование построенной таким образом дискретно-элементной модели позволило достаточно точно описать наблюдаемые в экспериментах процессы внедрения ударника в массивную преграду в диапазоне скоростей взаимодействия 500–2500 м/c.

В настоящей работе проводится сравнение результатов дискретно-элементного моделирования с экспериментальными данными по пробитию высокопрочных преград различной толщины стальными ударниками. Использование технологий распараллеливания вычислений на графических процессорах в сочетании со средствами трехмерной визуализации и анимации результатов позволяет получить детальные пространственно-временные картины процесса внедрения и провести сопоставление полученных картин с экспериментальными данными.

Сравнительный анализ экспериментальных и расчетных данных показал достаточно высокую точность дискретно-элементного моделирования для широкого диапазона толщин преград: для тонких преград, пробиваемых с сохранением цельности деформируемого ударника, для преград средней толщины, пробиваемых с практически полной фрагментацией ударника на выходе из преграды, а также для непробиваемых насквозь преград.

В данной статье предлагается фреймворк sumo-atclib, который предоставляет удобный единообразный интерфейс для апробации разных по ограничениям алгоритмов адаптивного управления, например ограничения на длительности фаз, последовательности фаз, ограничения на минимальное время между управляющими воздействиями, который использует среду микроскопического моделирования транспорта с открытым исходным кодом SUMO. Фреймворк разделяет функционал контроллеров (класс TrafficController) и систему наблюдения и детектирования (класс StateObserver), что повторяет архитектуру реальных светофорных объектов и систем адаптивного управления и упрощает апробацию новыха лгоритмов, так как можно свободно варьировать сочетания разных контроллеров и систем детектирования транспортных средств. Также в отличие от большинства существующих решений добавлен класс дороги Road, который объединяет набор полос, это позволяет, например, определить смежность регулируемых перекрестков, в случаях когда на пути от одного перекрестка к другому количество полос меняется, а следовательно, граф дороги разбивается на несколько ребер. При это сами алгоритмы используют одинаковый интерфейс и абстрагированы от конкретных параметров детекторов, топологии сети, то есть предполагается, что это решение позволит транспортному инженеру протестировать уже готовые алгоритмы для нового сценария, без необходимости их адаптации под новые условия, что ускоряет процесс разработки управляющей системы и снижает накладные расходы на проектирование. В настоящий момент в пакете есть примеры алгоритмов MaxPressure и метода обучения с подкреплением Q-learning, база примеров также пополняется. Также фреймворк включает в себя набор сценариев SUMO для тестирования алгоритмов, в который входят как синтетические карты, так и хорошо верифицированные SUMO-сценарии, такие как Cologne и Ingolstadt. Кроме того, фреймворк предоставляет некоторый набор автоматически подсчитываемых метрик, таких как полное время в пути, время задержки, средняя скорость; также в фреймворке представлен готовый пример для визуализации метрик.

В условиях интенсивного развития мегаполисов и крупных городов во всех странах мира растет воздействие техногенных вибраций на жилые сооружения и инфраструктуру. Эксплуатация метро, строительство свайным и буровым оборудованием, движение тяжелого транспорта становятся активными источниками волновых возмущений, которые могут являться решающим фактором снижения устойчивости зданий и, соответственно, длительности надежной эксплуатации. В статье приведены результаты численных расчетов с использованием сеточно-характеристического метода для моделирования проходящих через грунтовые породы и несущие конструкции упругих волн от источников различной природы. С помощью полученных решений прямой задачи численного моделирования импульса и варьированием его местонахождения получены значения компонент вектора скорости и тензора напряжений Коши в каждый момент времени. В работе рассматривались две постановки: первая моделирует воздействие вибраций, возникающих в результате строительных работ или движения по транспортным магистралям, располагающимся рядом с постройкой; вторая показывает, как вибрации от движения поездов метрополитена в подземном тоннеле действуют на многоквартирные дома. Были получены визуализации распространения волн от различных источников, благодаря которым можно быстро и удобно проводить комплексное исследование задачи. Анализ полученных данных позволит скорректировать сроки и виды ремонтных работ, выявить слабые места в конструкции, разработать улучшенные методики сохранения исторических зданий, являющихся объектами культурного наследия, в том числе даст возможность наиболее экономически оптимальным способом производить строительство современных сооружений в окружении архитектурных памятников, представить эффективный и безопасный порядок действий в случае возникновения чрезвычайных ситуаций, а также модернизировать существующие строительные технологии для повышения уровня комфорта жилых зданий, офисных построек и других социально-значимых объектов, выбирать наиболее подходящие локации для строительства современных высокоточных производств.

Представлена модель гибридной искусственной нейронной сети, основанная на архитектуре, включающей сверточный энкодер изображений (Convolutional Neural Network, CNN) и модуль внимания (Attention-based Multiple Instance Learning, Attention MIL), обеспечивающий агрегирование информативных признаков из последовательности кадров процесса газопламенного напыления. Дополнительные технологические параметры — давление воздуха, давление пропана и расстояние от сопла до поверхности — интегрируются в модель через табличный канал, что позволяет учитывать взаимосвязь между визуальными и числовыми характеристиками технологического режима. Программная реализация выполнена на платформе Streamlit с использованием библиотеки PyTorch и включает интерактивный интерфейс для обучения и визуализации результатов, анализ весов внимания по кадрам, а также режим прогнозирования выходных характеристик — шероховатости поверхности ($R_a$) и массы нанесенного слоя ($m$). Проведены экспериментальные исследования на данных реальных технологических процессов, выполнен сравнительный анализ точности различных конфигураций модели. Показано, что гибридная нейронная сеть, объединяющая визуальные и табличные признаки, обеспечивает более высокую точность прогноза по сравнению с моделями, использующими только одну из модальностей. При сравнении вариантов реализации гибридной нейронной сети установлено, что использование механизма внимания при формировании признаков серии изображений процесса газопламенного напыления обеспечивает существенное увеличение точности результатов по сравнению с режимом усреднения признаков без использования механизма внимания. В приложении реализован модуль визуализации внимания, который создает монтаж наиболее значимых кадров и отображает их веса внимания, что позволяет определить, какие кадры оказали наибольшее влияние на прогноз. Реализована возможность экспорта модели в формат ONNX для интеграции в системы технологического контроля. Предложенный подход демонстрирует эффективность слияния визуальной и табличной информации для задач мониторинга технологических процессов. Модель может служить основой для создания системы поддержки принятия решений или системы автоматизированного контроля качества покрытия при газопламенном напылении. Рассмотрены ограничения реализованной модели и перспективы ее дальнейшего развития.

Решается задача накопления и статистического анализа результатов компьютерного эксперимента. Программа основного эксперимента рассматривается в рамках разработанной методики как источник данных, собираемых на специально подготовленный лист Excel с заранее организованной структурой для накопления, статистической обработки и визуализации данных. Созданная методика и программа использованы при исследовании эффективности корреляционных методов выделения гармонического сигнала на фоне помех по реализации ограниченной длины.

Рассмотрены вопросы предметной интерпретации квазиклеточных сетей в задачах моделирования потоков людей на различных объектах их массового пребывания. Квазиклеточные сети представляют собой фундаментальные дискретные структуры, не имеющие сигнатуры. Предлагаемый подход позволяет в рамках одной дискретной структуры реализовать микро и макромоделирование потоков людей, а также визуализацию данных. Отдельно рассмотрены интерпретации многосортности потоков в квазиклеточных сетях для случая фанатов на стадионах, а также распространения огня и отравляющих веществ на объектах массового пребывания людей. Подход соответствует указаниям МЧС России от 03.02.2009 г. № 7-3-113.