Все выпуски

Объяснимый искусственный интеллект (Explainable AI, XAI) представляет собой область искусственного интеллекта, направленную на создание методов и инструментов для генерации интерпретируемых и понятных для человека объяснений решений ИИ. Актуальность объяснимости моделей возрастает по мере внедрения искусственного интеллекта в критически важные сферы (медицина, финансы, юриспруденция), где непрозрачность алгоритмов может приводить к серьезным последствиям для пользователей и общества. В работе представлен аналитический обзор современного состояния области XAI, охватывающий теоретические основы, методологию и практические применения.

Рассматриваемые методы объяснимого ИИ были отобраны и систематизированы на основе многоуровневой классификации методов XAI по постановке задачи (цель, целевая аудитория, тип данных), методологии (стадия применения, модель-специфичность, методы, масштаб) и форме результата (представление, презентация, метрики оценки).

Проведен сравнительный анализ методов объяснимого ИИ для различных областей применения. Для классического машинного обучения детально рассмотрены SHAP и LIME с выявлением их теоретических оснований, вычислительных характеристик и ограничений. Для компьютерного зрения систематизированы градиентные методы (SmoothGrad, Integrated Gradients), методы визуализации активаций (Grad-CAM, Grad-CAM++), методы на основе возмущений (RISE, Occlusion) и концептуальные объяснения (TCAV, Network Dissection). Особое внимание уделено специфике применения XAI к обработке естественного языка и большим языковым моделям, включая анализ достоверности цепочек размышлений (Chain-of-Thought), естественно-языковых объяснений и методов на основе графов атрибуции. Выделены фундаментальные ограничения существующих подходов к объяснимости LLM и определены направления дальнейших исследований.

Результаты обзора демонстрируют, что методы XAI достигли значительной зрелости в области классического машинного обучения и компьютерного зрения, однако применение к большим языковым моделям остается открытой исследовательской проблемой, требующей разработки новых парадигм объяснения.

Explainable Artificial Intelligence (XAI) is a field of artificial intelligence aimed at creating methods and tools for generating interpretable and human-understandable explanations of AI decisions. The relevance of model explainability increases with the deployment of artificial intelligence in critical domains (healthcare, finance, law), where algorithmic opacity can lead to serious consequences for users and society. This work presents an analytical review of the current state of the XAI field, covering theoretical foundations, methodology, and practical applications.

The examined explainable AI methods were selected and systematized based on a multi-level classification of XAI methods by problem formulation (goal, target audience, data type), methodology (application stage, model-specificity, methods, scale), and result form (representation, presentation, evaluation metrics).

A comparative analysis of explainable AI methods for various application domains is conducted. For classical machine learning, SHAP and LIME are examined in detail, revealing their theoretical foundations, computational characteristics, and limitations. For computer vision, gradient-based methods (SmoothGrad, Integrated Gradients), activation visualization methods (Grad-CAM, Grad-CAM++), perturbation-based methods (RISE, Occlusion), and conceptual explanations (TCAV, Network Dissection) are systematized. Special attention is paid to the specifics of applying XAI to natural language processing and large language models, including analysis of the faithfulness of Chain-of-Thought reasoning, natural language explanations, and attribution graph methods. Fundamental limitations of existing approaches to LLM explainability are identified and directions for future research are defined.

The review results demonstrate that XAI methods have reached significant maturity in classical machine learning and computer vision, however, their application to large language models remains an open research problem requiring the development of new explanation paradigms.

Целью данной работы является оценка механического поведения коронарных сосудов и ангиопластических баллонов при проведении процедуры ангиопластики на основании данных внутрисосудистого ультразвукового исследования и ангиографии, полученных для каждого пациента индивидуально. Для лечения атеросклероза, представляющего собой серьезное хроническое воспалительное заболевание артерий с образованием атеросклеротических бляшек и вызывающего сужение сосудов и ухудшение кровоснабжения тканей и органов, в современной медицинской практике применяют малоинвазивную эндоваскулярную процедуру — баллонную ангиопластику, ключевым аспектом моделирования которой является понимание поведения артерий пациентов и баллонов, которые используют для ее проведения. На основании данных внутрисосудистого ультразвукового исследования и ангиографии была разработана биомеханическая модель артерии, пораженной атеросклерозом. Построена конечно-элементная модель участка артерии, учитывающая ее нелинейное гиперупругое поведение. Для моделирования поведения ангиопластического баллона была разработана математическая модель баллона, проведена валидация с экспериментальными данными. Проведена оценка напряженно-деформированного состояния коронарной артерии конкретного пациента и ангиопластического баллона. На основании разработанных математических моделей отдельных объектов в дальнейшем будет построена полномасштабная математическая модель процесса ангиопластики, включающая три рассмотренных выше объекта: персонифицированную за счет использования данных реального пациента модель артерии; построенную на основе персонифицированной модели конечно-элементную модель артерии, учитывающую ее нелинейное поведение и конечно-элементную модель ангиопластического баллона, а также их взаимосвязь. Разработанные математические модели и полученные на их основе результаты в дальнейшем позволят получить зависимости ключевых параметров ангиопластики, которые могут быть использованы для усовершенствования методики ангиопластики на основе данных внутрисосудистой визуализации, а применение методов математического моделирования позволит снизить число клинических испытаний в данной области.

Тhe aim of this work is to assess the mechanical behavior of coronary vessels and angioplasty balloons during the angioplasty procedure, based on intravascular ultrasound (IVUS) and angiography data obtained for each patient individually. To treat atherosclerosis, a serious chronic inflammatory disease of the arteries characterized by the formation of atherosclerotic plaques, which causes vessel narrowing and impairs blood supply to tissues and organs, modern medical practice employs a minimally invasive endovascular procedure known as balloon angioplasty. Key aspects of modeling this procedure include understanding the behavior of patients’ arteries and the balloons used during the intervention. Based on intravascular ultrasound and angiography data, a biomechanical model of an artery affected by atherosclerosis is developed. A finite element model of the arterial segment is constructed, accounting for its nonlinear hyperelastic behavior. To simulate the behavior of the angioplasty balloon, a mathematical model of the balloon is developed and validated against experimental data. An assessment of the stress-strain state of a specific patient’s coronary artery and angioplasty balloon is performed. For a full-scale simulation of the angioplasty process, a mathematical model is developed that incorporates all three objects considered above: personalization of the artery model through the use of real patient data; a finite element model of the artery built based on of the personalized model, accounting for its nonlinear behavior; a finite element model of the angioplasty balloon. The developed mathematical models and the results obtained from them will further allow us to derive dependencies of key angioplasty parameters. These dependencies can be used to improve angioplasty techniques based on intravascular imaging data. Furthermore, the application of mathematical modeling methods will help reduce the number of clinical trials in this field.

Вывозка лесоматериалов из удаленных лесозаготовительных районов Сибири характеризуется высоким уровнем транспортных издержек. Наличие протяженных участков грунтовых лесовозных дорог, сезонные ограничения (весенняя распутица, зимники) и значительные расстояния от лесосек до магистральных транспортных узлов (50–200 км) обусловливают необходимость систематического решения задачи рационального планирования маршрутов вывозки.

В настоящей работе предложена математическая модель двухэшелонной маршрутизации транспортных средств (2E-VRP), адаптированная к условиям вывозки лесоматериалов в макрорегионе Урала и Сибири. Модель учитывает переменные транспортные затраты (пробег лесовозов), фиксированные затраты на задействование каждой единицы техники ($c_{fix}$ = 30 000 руб./рейс) и ограничения грузоподъемности. Задача приведена к форме QUBO — квадратичной безусловной бинарной оптимизации; емкостные ограничения интегрированы посредством штрафного коэффициента $\lambda_{cap} = 500$. Такое представление обеспечивает совместимость модели с современными специализированными решателями (квантовыми отжигателями и цифровыми аннилерами).

Апробация модели выполнена на реальной географии Уральского и Сибирского федеральных округов: 207 узлов логистической сети, 65 предприятий-потребителей, 8 магистральных транспортных узлов. Предложенный трехстадийный алгоритм «Допустимость прежде всего» формирует допустимый маршрутный план за 1,7 с и обеспечивает снижение суммарных транспортных затрат на 69% относительно базового генетического алгоритма. Последующая оптимизация методом имитации отжига дополнительно улучшает значение целевой функции QUBO на 55%.

The haulage of timber from remote logging areas of Siberia is characterized by high transportation costs. Long stretches of unpaved logging roads, seasonal constraints (spring thaw and winter roads), and considerable distances from cutting areas to main transport hubs (50–200 km) make systematic route planning essential.

This paper proposes a mathematical model of the two-echelon vehicle routing problem (2E-VRP) adapted to timber haulage in the macro-region of the Urals and Siberia. The model incorporates variable transportation costs (truck mileage), fixed costs of using each vehicle ($c_{fix}$ = 30 000 RUB per trip), and vehicle-capacity constraints. The problem is transformed into a QUBO (quadratic unconstrained binary optimization) formulation; capacity constraints are integrated through the penalty coefficient $\lambda_{cap}$ = 500. This representation makes the model compatible with modern specialized solvers, including quantum annealers and digital annealers.

The model is tested on the real geography of the Ural and Siberian Federal Districts: 207 nodes in the logistics network, 65 customer enterprises, and 8 main transport hubs. The proposed three-stage “Feasible-First” algorithm constructs a feasible routing plan in 1.7 s and reduces total transportation costs by 69% relative to a baseline genetic algorithm. Subsequent simulated annealing further improves the QUBO objective value by 55%.

В работе представлен метод анализа цифровых изображений, основанный на совместном использовании быстрого дискретного шиарлет-преобразования и статистически значимых мер информационной энтропии и сложности. Предложенный подход ориентирован на исследование пространственных структур различной природы, включая регулярные, стохастические и многомасштабные системы, и позволяет выявлять закономерности их организации без необходимости предварительной сегментации или обучения моделей.

В основе метода лежит построение локальных вероятностных распределений на основе коэффициентов шиарлет-преобразования, учитывающего масштабную и направленную структуру изображений. На базе этих распределений вычисляются нормированная энтропия Шеннона и статистическая сложность, определяемая черездиверг енцию от равномерного распределения. Это позволяет перейти от анализа отдельных коэффициентов к более устойчивому описанию структурных свойств изображений в пространстве «энтропия – сложность».

Метод протестирован на ряде синтетических и реальных данных. В частности, исследован переход от упорядоченных систем к хаотическим, продемонстрирована чувствительность предложенных мер к разрушению регулярных структур. На примере фрактальных объектов (треугольник Серпинского) показано, что статистическая сложность достигает максимума на характерных масштабах самоподобия. Применение метода к изображениям поверхности Марса продемонстрировало его потенциал для задач дистанционного зондирования и геоморфологического анализа.

Отдельное внимание уделено устойчивости метода к шуму. Показано, что даже слабое зашумление приводит к росту энтропии и снижению сложности, что позволяет использовать данные характеристики как индикаторы дегра- дации структур.

Полученные результаты свидетельствуют о том, что пространство «энтропия – сложность», сформированное на основе шиарлет-преобразования, может служить универсальным инструментом для анализа многомасштабных изображений. Предложенный подход обладает высокой чувствительностью к структурным особенностям данных и может быть применен в широком спектре задач, включая обработку текстур, анализ природных изображений и медицинскую диагностику.

This paper presents a method for digital image analysis based on the combined use of the Fast Finite Shearlet Transform and statistically significant measures of information entropy and complexity. The proposed approach is aimed at studying spatial structures of various nature, including regular, stochastic, and multiscale systems, and enables the identification of their organizational patterns without the need for preliminary segmentation or model training.

The method is based on constructing local probability distributions derived from shearlet decomposition coefficients, which capture both the scale and directional properties of images. Using these distributions, the normalized Shannon entropy and statistical complexity — defined via divergence from the uniform distribution — are computed. This allows transitioning from the analysis of individual coefficients to a more robust characterization of structural properties in the entropy – complexity space.

The method has been tested on a range of synthetic and real-world data. In particular, the transition from ordered to chaotic systems has been investigated, demonstrating the sensitivity of the proposed measures to the degradation of regular structures. Using fractal objects (such as the Sierpinski triangle) as an example, it is shown that statistical complexity reaches its maximum at characteristic scales of self-similarity. Application of the method to images of the Martian surface demonstrates its potential for remote sensing and geomorphological analysis.

Special attention is given to noise robustness. It is shown that even weak noise leads to an increase in entropy and a decrease in complexity, allowing these measures to be used as indicators of structural degradation.

The obtained results indicate that the entropy – complexity framework based on the shearlet transform can serve as a universal tool for multiscale image analysis. The proposed approach exhibits high sensitivity to structural features and can be applied across a wide range of tasks, including texture analysis, natural image processing, and medical diagnostics.

Исследуется модель распространения волн горения с двухступенчатым цепным механизмом реакции в адиабатическом одномерном случае. Показано, что пульсирующие неустойчивости возникают при числах Льюиса для топлива больше единицы в результате бифуркации Хопфа, приводящей к мягкому возбуждению осциллирующих решений. Установлено, что увеличение параметра закритичности приводит к появлению каскада Фейгенбаума бифуркаций удвоения периода и хаотическому режиму распространения волн горения. Дальнейшее увеличение параметра закритичности приводит к затуханию решения.

In this paper we investigate propagation of planar combustion waves in an adiabatic model with two-step chain branching reaction mechanism. Pulsating instabilities are found to emerge for fuel Lewis number greater than one due to a Hopf bifurcation. The Hopf bifurcation is demonstrated to be of a supercritical nature and it gives rise to periodic pulsating combustion waves as the neutral stability boundary is crossed. Further in-crease of the bifurcation parameter initiates period doubling bifurcation cascade and leads to chaotic regime of combustion wave propagation. The chaotic wave extinguishes when the bifurcation parameter becomes sufficiently large.

Найдено точное решение стационарной задачи ветрового движения вязкой двухслойной жидкости для двумерного в вертикальной плоскости течения и для дрейфовой составляющей трехмерного течения. На дне бассейна ставится условие проскальзывания, на вертикальных боковых стенках — условие непротекания. Приводятся примеры расчетов конкретных течений и сравнение полученных результатов с решениями аналогичной задачи по модели Экмана (без учета горизонтальной вязкости).

Exact solution of the stationary problem of wind-induced flow of two-layered viscous fluid is found for two-dimensional in vertical plane current and for drift current in three-dimensional case. The condition of sliding is set on the bottom of a water body. The condition of nonpassage is set on the lateral surface. Results of some calculations are given in comparison with those obtained using Ekman’s model (which does not take into account horizontal viscosity of the layer).

Получены численные решения двумерного реакционно-диффузионного уравнения с нелокальной нелинейностью, описывающие формирование диссипативной структуры. Рассмотрены структуры, возникающие из начальных распределений с одним и несколькими центрами локализации. При изменении параметров уравнения решения описывают формирование расширяющихся кольцевых структур. Рассмотрены особенности образования и взаимодействия расширяющихся кольцеобразных структур в зависимости от характера нелокального взаимодействия.

Numerical solutions for the two-dimensional reaction-diffusion equation with nonlocal nonlinearity are obtained. The solutions reveal formation of dissipative structures. Structures arising from initial distributions with one and several centers of localization are considered. Formation of extending circular structures is shown. Peculiarities of formation and interaction of extending circular structures depending on  nonlocal interaction are considered.

Обзор содержит введение в модели клеточных автоматов. Описаны три автомата на плоскости: клеточный автомат Винера-Розенблюта, игра «Жизнь» и автомат Кохомото-Ооно для моделирования систем «реакция–диффузия». Построены обобщения клеточного автомата игры «Жизнь» на случай пространства произвольной размерности и автомата Кохомото-Ооно для случая трех пространственных измерений.

An introduction to the models of cellular automata is given. The three automata described on the plane are: Viner-Rosenbluth cellular automata, the game of Life and Kohomoto-Oono automata for modelling «reaction-diffusion» systems. There is built the generalization of cellular automata of the game of Life to arbitrary dimension of space and the generalization of Kohomoto-Oono automata in 3D.

В настоящей работе приводится математическая модель и результаты численного исследования распространения фронта горения СВС состава, когда скорость химического реагирования в каждой точке по длине образца СВС определяется из решения задачи диффузии и химического реагирования в реакционных ячейках. Получены зависимости скорости фронта горения от размера усредненного элемента гетерогенной структуры при различных значениях интенсивности диффузии. Данные зависимости качественно согласуются с экспериментальными зависимостями. В работе проведено исследование влияния энергии активации диффузии на скорость распространения фронта горения. Выявлено, что при увеличении энергии активации диффузии распространение фронта горения переходит в колебательный режим. Определена граница перехода от стационарного режима распространения фронта горения к колебательному режиму.

In this paper we present a mathematical model and numerical results on a propagation of the combustion front of the SHS compound, where the rate of chemical reaction at each point of the SHS sample is determined by solving the problem of diffusion and chemical reaction in the reaction cell. We obtained the dependence of the combustion front on the size of the average element of a heterogeneous structure with different values of the diffusion intensity. These dependences agree qualitatively with the experimental data. We studied the effect of activation energy for diffusion on the propagation velocity of combustion front. It is revealed the propagation of the combustion front transforms to an oscillatory regime at increase in activation energy of diffusion. A transition boundary of the combustion front propagation from the steady-state regime to the oscillatory one is defined.

В работе построены сопряженные задачи для явной и неявной параболической квазилинейной сеточной пространственно-одномерной краевой задачи: коэффициенты задачи зависят от решения в текущий и предыдущие моменты времени. Зависимость от предыстории осуществляется через вектор состояния, эволюция которого описывается дифференциальным уравнением. К подобным задачам сводятся многие модели диффузионного массопереноса. Решения исходной и сопряженной краевых задач дают возможность получить точное значение градиента некоторого функционала в пространстве параметров, от которых также зависят коэффициенты задачи. Предложены алгоритмы решения задач, в том числе с использованием высокопроизводительных вычислительных систем.

In the paper we construct the adjoint problem for the explicit and implicit parabolic quazi-linear grid boundary-value problems with one spatial variable; the coefficients of the problems depend on the solution at the same time and earlier times. Dependence on the history of the solution is via the state vector; its evolution is described by the differential equation. Many models of diffusion mass transport are reduced to such boundary-value problems. Having solutions to the direct and adjoint problems, one can obtain the exact value of the gradient of a functional in the space of parameters the problem also depends on. We present solving algorithms, including the parallel one.