Все выпуски

Объяснимый искусственный интеллект (Explainable AI, XAI) представляет собой область искусственного интеллекта, направленную на создание методов и инструментов для генерации интерпретируемых и понятных для человека объяснений решений ИИ. Актуальность объяснимости моделей возрастает по мере внедрения искусственного интеллекта в критически важные сферы (медицина, финансы, юриспруденция), где непрозрачность алгоритмов может приводить к серьезным последствиям для пользователей и общества. В работе представлен аналитический обзор современного состояния области XAI, охватывающий теоретические основы, методологию и практические применения.

Рассматриваемые методы объяснимого ИИ были отобраны и систематизированы на основе многоуровневой классификации методов XAI по постановке задачи (цель, целевая аудитория, тип данных), методологии (стадия применения, модель-специфичность, методы, масштаб) и форме результата (представление, презентация, метрики оценки).

Проведен сравнительный анализ методов объяснимого ИИ для различных областей применения. Для классического машинного обучения детально рассмотрены SHAP и LIME с выявлением их теоретических оснований, вычислительных характеристик и ограничений. Для компьютерного зрения систематизированы градиентные методы (SmoothGrad, Integrated Gradients), методы визуализации активаций (Grad-CAM, Grad-CAM++), методы на основе возмущений (RISE, Occlusion) и концептуальные объяснения (TCAV, Network Dissection). Особое внимание уделено специфике применения XAI к обработке естественного языка и большим языковым моделям, включая анализ достоверности цепочек размышлений (Chain-of-Thought), естественно-языковых объяснений и методов на основе графов атрибуции. Выделены фундаментальные ограничения существующих подходов к объяснимости LLM и определены направления дальнейших исследований.

Результаты обзора демонстрируют, что методы XAI достигли значительной зрелости в области классического машинного обучения и компьютерного зрения, однако применение к большим языковым моделям остается открытой исследовательской проблемой, требующей разработки новых парадигм объяснения.

Предложен численный метод решения квазилинейных уравнений параболического типа, основанный на аппроксимации потоков. Описана реализация метода на прямоугольной сетке. Приведены результаты численных расчетов. В отличие от применяемых методов для данного метода используется аппроксимация потоков на нерасширенном шаблоне. Для каждой итерации метода Ньютона возможно решение линейной задачи с помощью метода верхней релаксации (SOR). По сравнению с методами потоковой прогонки рассмотренный метод обладает большим потенциалом для использования на современных параллельных вычислительных комплексах.

В докладе представлен ряд новостей и обновлений ALICE computing к RUN2 и RUN3.

В их числе:

– ввод в работу новой системы EOS;

– переход к файловой системе CVMFS для хранения ПО;

– план решения проблемы Long Term Data Preservation;

– обзор концепции “O square”, совмещающей офлайн- и онлайн-обработку данных;

– обзор существующих моделей использования виртуальных облаков для обработки данных ALICE.

Ряд нововведений показан на примере российских сайтов.

В работе предложена методика упрощения математической модели химической реакции за счет сокращения числа стадий схемы реакции, основанная на анализе чувствительности целевой функции к изменению параметров модели. Функционал характеризует меру близости расчетных значений по исходной кинетической схеме реакции и схеме, полученной возмущением ее параметров. Преимуществом данной методики является возможность анализа сложных кинетических схем и редуцирования кинетических моделей до размеров, приемлемых с точки зрения точности описания и простоты практического использования. В функционал можно включить результаты вычислительных экспериментов при различных условиях проведения реакции и таким образом получить компактную схему, согласующуюся с детальной схемой для требуемого диапазона условий. Анализ чувствительности функционала модели позволяет выявить те параметры, которые обеспечивают наибольший (или наименьший) вклад на результат моделирования процесса. Математическая модель может содержать параметры, изменение значений которых не влияет на качественное и количественное описание процесса. Вклад таких параметров в значение функционала не будет иметь большого значения. Поэтому стадии, которые не служат для моделирования кинетических кривых веществ, можно исключить из рассмотрения. С применением данной методики была исследована кинетическая схема реакции окисления формальдегида, детальный механизм которой включает в себя 25 стадий и 15 веществ. На основании локального и глобального анализа чувствительности определены наиболее значимые стадии процесса, влияющие на общую динамику изменения концентраций целевых веществ реакции. Получена редуцированная схема модельной реакции окисления формальдегида, которая так же описывает поведение основных веществ реакции, как и детальная схема, но имеет значительно меньшее число стадий реакций. Приведены результаты сравнительного анализа моделирования реакции окисления формальдегида по детальной и редуцированной схемам. В статье приведены вычислительные аспекты решения задач химической кинетики глобальным методом Соболя И.М. на примере данной реакции. Приведены результаты сравнения локальных, глобальных и полных глобальных коэффициентов чувствительности.

В работе представлены результаты моделирования расчетных случаев приводнения возвращаемого аппарата (ВА) пилотируемого транспортного корабля нового поколения в условиях штиля. Рассмотрены случаи посадки ВА с работающими и с выключенными двигательными установками.

Задача приводнения ВА моделировалась в рамках двухфазной постановки с наличием двух несмешивающихся фаз: воды и газа, состоящего из воздуха и продуктов сгорания, поступающих из двигательной установки. Параметры течения в каждой фазе резко отличаются друг от друга по величине плотности и скорости распространения звука. Истечение продуктов сгорания из сопловых установок характеризуется высокими скоростями и давлениями, что усложняет задачу, по сравнению со свободным падением ВА в воду. В расчетах используется упрощение постановки задачи, в котором при взаимодействии горячих струй с водой кипение, испарение и образование водяного пара не учитываются. Газовые струи только нагревают и вытесняют воду.

Для моделирования переноса межфазных границ применяется метод VOF (Volume of fluid), где перенос контактной поверхности описывается конвективным уравнением, а поверхностное натяжение на межфазной границе учитывается давлением Лапласа. Ключевой особенностью метода является расщепление поверхностных ячеек, куда заносятся данные соответствующей фазы. Уравнения для обеих фаз (уравнения неразрывности, импульса, энергии и другие) в поверхностных ячейках решаются совместно.

Моделирование приводнения ВА занимает длительное время, что связанно с особенностями явного расчета уровня границы раздела фаз (свободной поверхности). Для получения качественных результатов свободная поверхность должна быть разрешена большим количеством расчетных ячеек, но при этом за один шаг интегрирования перемещаться не более чем на одну ячейку.

В процессе приземления исследовались гидродинамическое воздействие на ВА, динамика его движения и остойчивость ВА после приводнения, оценивались продольные перегрузки. Полученные данные использовались для анализа нагружения и прочности конструкции корпуса ВА, а также его отдельных элементов.

Движение влекомых наносов по дну напорного канала может приводить к потере устойчивости донной поверхности, когда на дне канала возникают донные волны. Исследование процесса развития донных волн связано с возможностью определения характера движения влекомых наносов по дну периодической формы. Несмотря на большое внимание многих исследователей к данной проблеме, вопрос о развитии процесса донных волн остается открытым и в настоящее время. В значительной мере это связано с тем, что при анализе данного процесса многие исследователи используют в своих работах феноменологические формулы движения влекомых наносов. Полученные в таких моделях результаты позволяют лишь качественно оценить процесс развития донных волн. По этой причине представляет интерес проведение анализа развития донных волн с использованием аналитической модели движения влекомых наносов.

В работе предложена двумерная профильная математическая русловая модель, позволяющая исследовать движение влекомых наносов над периодическим дном. Особенностью математической модели является возможность расчета расхода влекомых наносов по аналитической модели с реологией Кулона–Прандтля, учитывающей влияние уклонов поверхности дна, придонных нормальных и касательных напряжений на процесс движения донного материала. Показано, что при движении донного материла по дну периодической формы диффузионные и напорные расходы влекомых наносов являются разнонаправленными и доминирующими по отношению к транзитному расходу. Изучались влияния параметра перекошенности донной волны на вклад транзитного, диффузионного и напорного расходов в полный расход влекомых наносов. Выполнено сравнение полученных результатов с численными решениями других авторов для донной поверхности косинусоидальной формы.

В статье рассматривается разработка алгоритма шумоподавления на основе анизотропной нелинейной фильтрации данных. Анализ отечественной и зарубежной литературы показал, что наиболее эффективные алгоритмы шумоподавления данных рентгеновской компьютерной томографии применяют комплекс нелинейных методик анализа и обработки данных, таких как билатеральная, адаптивная, трехмерная фильтрации. Однако комбинация таких методик редко применяется на практике ввиду большого времени обработки данных. В связи с этим было принято решение разработать эффективный и быстродейственный алгоритм шумоподавления на основе упрощенных билатеральных фильтров с трехмерным накоплением данных. Алгоритм был разработан на языке C++11 в программной среде Microsoft Visual Studio 2015. Основным отличием разработанного алгоритма шумоподавления является применение в нем улучшенной математической модели шума на основе распределения Пуассона и Гаусса от логарифмической величины, разработанной ранее. Это позволило точнее определить уровень шума и тем самым порог обработки данных. В результате работы алгоритма шумоподавления были получены обработанные данные компьютерной томографии с пониженным уровнем шума. При визуальной оценке работы алгоритма были отмечены повышенная информативность обработанных данных по сравнению с оригиналом, четкость отображения гомогенных областей и значительное сокращение шума в областях обработки. При оценке численных результатов обработки было выявлено снижение уровня среднеквадратичного отклонения более чем в 6 раз в областях, подвергшихся шумоподавлению, а высокие показатели коэффициента детерминации показали, что данные не подверглись искажению и изменились только из-за удаления шумов. Применение разработанного универсального динамического порога, принцип работы которого основан на пороговых критериях, позволил снизить уровень шума во всем массиве данных более чем в 6 раз. Динамический порог хорошо вписывается как в разработанный алгоритм шумоподавления на основе анизотропной нелинейной фильтрации, так и другой алгоритм шумоподавления. Алгоритм успешно функционирует в составе рабочей станции MultiVox, получил высокую оценку своей работы от специалистов-рентгенологов, а также готовится к внедрению в единую радиологическую сеть города Москвы в качестве модуля.

В данном обзоре рассмотрен широкий круг явлений и задач, связанных с взрывом. Подробные численные исследования позволили обнаружить интересный физический эффект — образование дискретных вихревых структур сразу за фронтом ударной волны, распространяющейся в плотных слоях неоднородной атмосферы. Показана необходимость дальнейшего исследования такого рода явлений и определения степени их связи с возможным развитием газодинамической неустойчивости. Дан краткий анализ многочисленных работ по тепловому взрыву метеороидов при их высокоскоростном движении в атмосфере Земли. Большое внимание уделено разработке численного алгоритма для расчета одновременного взрыва нескольких фрагментов метеороидов и проанализированы особенности развития такого газодинамического течения. Показано, что разработанные раннее алгоритмы для расчета взрывов могут успешно использоваться для исследования взрывных вулканических извержений. В работе представлены и обсуждаются результаты таких исследований как для континентальных, так и для подводных вулканов с определенными ограничениями на условия вулканической активности.

В работе выполнен математический анализ и представлены результаты аналитических исследований ряда важных физических явлений, характерных для взрывов высокой удельной энергии в ионосфере. Показано, что принципиальное значение для разработки достаточно полных и адекватных теоретических и численных моделей таких сложных явлений, как мощные плазменные возмущения в ионосфере, имеет предварительное лабораторное физическое моделирование основных процессов, определяющих эти явления. Показано, что наиболее близким объектом для такого моделирования является лазерная плазма. Приведены результаты соответствующих теоретических и экспериментальных исследований и показана их научная и практическая значимость. Дан краткий обзор работ последних лет по использованию лазерного излучения для лабораторного физического моделирования процессов воздействия ядерного взрыва на астроидные материалы.

В результате выполненного в обзоре анализа удалось выделить и предварительно сформулировать некоторые интересные и весомые в научном и прикладном отношении вопросы, которые необходимо исследовать на основе уже полученных представлений: это мелкодисперсные химически активные системы, образующиеся при выбросе вулканов; маломасштабные вихревые структуры; генерация спонтанных магнитных полей из-за развития неустойчивости и их роль в трансформации энергии плазмы при ее разлете в ионосфере. Важное значение имеет также вопрос об исследовании возможного лабораторного физического моделирования теплового взрыва тел при воздействии высокоскоростного плазменного потока, который до настоящего времени имеет лишь теоретические толкования.

Адекватное моделирование сложной динамики городских транспортных потоков требует сбора больших объемов данных для определения характера соответствующих моделей и их калибровки. Вместе с тем оборудование специализированных постов наблюдения является весьма затратным мероприятием и не всегда технически возможно. Совокупность этих факторов приводит к недостаточному фактографическому обеспечению как систем оперативного управления транспортными потоками, так и специалистов по транспортному планированию с очевидными последствиями для качества принимаемых решений. В качестве способа обеспечить массовый сбор данных хотя бы для качественного анализа ситуаций достаточно давно применяется обзорные видеокамеры, транслирующие изображения в определенные ситуационные центры, где соответствующие операторы осуществляют контроль и управление процессами. Достаточно много таких обзорных камер предоставляют данные своих наблюдений в общий доступ, что делает их ценным ресурсом для транспортных исследований. Вместе с тем получение количественных данных с таких камер сталкивается с существенными проблемами, относящимися к теории и практике обработки видеоизображений, чему и посвящена данная работа. В работе исследуется практическое применение некоторых мейнстримовских нейросетевых технологий для определения основных характеристик реальных транспортных потоков, наблюдаемых камерами общего доступа, классифицируются возникающие при этом проблемы и предлагаются их решения. Для отслеживания объектов дорожного движения применяются варианты сверточных нейронных сетей, исследуются способы их применения для определения базовых характеристик транспортных потоков. Простые варианты нейронной сети используются для автоматизации при получении обучающих примеров для более глубокой нейронной сети YOLOv4. Сеть YOLOv4 использована для оценки характеристик движения (скорость, плотность потока) для различных направлений с записей камер видеонаблюдения.

Традиционные методы решения задачи коммивояжера не являются эффективными для задач высокой размерности из-за их высокой вычислительной сложности. Одним из эффективных способов решения этой проблемы является декомпозиционный подход, который включает в себя три основных этапа: кластеризацию вершин, решение подзадач внутри каждого кластера и последующее объединение полученных решений в итоговое. В данной статье основное внимание уделяется третьему этапу — объединению циклов решений подзадач, поскольку этому этапу не всегда уделяется должное внимание, что приводит к менее точному итоговому решению. В статье предлагается новый модифицированный алгоритм Сигала для объединения циклов. Для оценки его эффективности проводится сравнение с двумя алгоритмами объединения циклов: метод соединения средних точек ребер и алгоритм на основе близости центроидов кластеров. Исследуется зависимость качества решения подзадач на алгоритмы объединения циклов. Модифицированный алгоритм Сигала выполняет попарное объединение кластеров, минимизируя количество пересечений и общее расстояние. Метод центроидов ориентирован на соединение кластеров на основе близости центроидов, а алгоритм с использованием средних точек оценивает расстояние между средними точками ребер. Также были рассмотрены два типа кластеризации: алгоритмы k-means и affinity propagation. Для проверки эффективности предложенного алгоритма были проведены численные эксперименты на наборе данных TSPLIB с различным количеством городов. В исследовании анализируются ошибки, вызванные порядком объединения кластеров, качеством решения подзадач и количеством кластеров. Эксперименты показали, что модифицированный алгоритм Сигала демонстрирует наименьшую медиану итогового расстояния и наиболее устойчивые результаты по сравнению с другими методами. Результаты указывают на большую устойчивость качества конечного решения, полученным модифицированным алгоритмом Сигала, от последовательности объединения кластеров. Повышение качества решения подзадачи обычно приводит к линейному улучшению конечного решения, но используемый алгоритм объединения редко влияет на степень этого улучшения.