Все выпуски

В работе представлена модель тепловых пристеночных функций FlowVision (WFFV), позволяющая моделировать неизотермические течения жидкости и газа около твердых поверхностей на относительно грубых сетках с использованием различных моделей турбулентности. Настоящая работа продолжает исследование по разработке модели пристеночных функций, применимой в широком диапазоне значений величины y+. Модель WFFV предполагает гладкие профили касательной составляющей скорости, турбулентной вязкости, температуры и турбулентной теплопроводности около твердой поверхности. В работе исследуется возможность использования простой алгебраической модели для вычисления переменного турбулентного числа Прандтля, входящего в модель WFFV в качестве параметра. Результаты удовлетворительные. Обсуждаются особенности реализации модели WFFV в программном комплексе FlowVision. В частности, обсуждается граничное условие для уравнения энергии, используемое в высокорейнольдсовых расчетах неизотермических течений. Граничное условие выводится для уравнения энергии, записанного через термодинамическую энтальпию, и для уравнения энергии, записанного через полную энтальпию. Возможности модели демонстрируются на двух тестовых задачах: течение несжимаемой жидкости около пластины и сверхзвуковое течение газа около пластины (M = 3).

Анализ литературы показывает, что в экспериментальных данных и, как следствие, в эмпирических корреляциях для числа Стэнтона (безразмерного теплового потока) присутствует существенная неопределенность. Результаты расчетов дают основание полагать, что значения параметров модели WFFV, автоматически задаваемые в программе по умолчанию, позволяют рассчитывать тепловые потоки на твердых протяженных поверхностях с инженерной погрешностью. В то же время очевидно, что невозможно изобрести универсальные пристеночные функции. По этой причине управляющие параметры модели WFFV выведены в интерфейс FlowVision. При необходимости пользователь может настраивать модель на нужный класс течений.

Предлагаемая модель пристеночных функций совместима со всеми реализованными в программном комплексе FlowVision моделями турбулентности: Смагоринского, Спаларта–Аллмараса, SST $k-\omega$, $k-\varepsilon$ стандартной, $k-\varepsilon$ Abe Kondoh Nagano, $k-\varepsilon$ квадратичной и $k-\varepsilon$ FlowVision.

This work presents the model of heat wall functions FlowVision (WFFV), which allows simulation of nonisothermal flows of fluid and gas near solid surfaces on relatively coarse grids with use of turbulence models. The work follows the research on the development of wall functions applicable in wide range of the values of quantity y+. Model WFFV assumes smooth profiles of the tangential component of velocity, turbulent viscosity, temperature, and turbulent heat conductivity near a solid surface. Possibility of using a simple algebraic model for calculation of variable turbulent Prandtl number is investigated in this study (the turbulent Prandtl number enters model WFFV as parameter). The results are satisfactory. The details of implementation of model WFFV in the FlowVision software are explained. In particular, the boundary condition for the energy equation used in high-Reynolds number calculations of non-isothermal flows is considered. The boundary condition is deduced for the energy equation written via thermodynamic enthalpy and via full enthalpy. The capability of the model is demonstrated on two test problems: flow of incompressible fluid past a plate and supersonic flow of gas past a plate (M = 3).

Analysis of literature shows that there exists essential ambiguity in experimental data and, as a consequence, in empirical correlations for the Stanton number (that being a dimensionless heat flux). The calculations suggest that the default values of the model parameters, automatically specified in the program, allow calculations of heat fluxes at extended solid surfaces with engineering accuracy. At the same time, it is obvious that one cannot invent universal wall functions. For this reason, the controls of model WFFV are made accessible from the FlowVision interface. When it is necessary, a user can tune the model for simulation of the required type of flow.

The proposed model of wall functions is compatible with all the turbulence models implemented in the FlowVision software: the algebraic model of Smagorinsky, the Spalart-Allmaras model, the SST $k-\omega$ model, the standard $k-\varepsilon$ model, the $k-\varepsilon$ model of Abe, Kondoh, Nagano, the quadratic $k-\varepsilon$ model, and $k-\varepsilon$ model FlowVision.

Работа является теоретическим исследованием процесса развития донной неустойчивости в реках и каналах. На основе аналитической модели расхода влекомых наносов, учитывающей влияние уклонов донной поверхности, придонного давления и касательного напряжения на движение донного материала и аналитического решения, позволяющего определять придонные касательные и нормальные напряжения, возникающие при обтекании турбулентным потоком периодических длинных донных волн малой крутизны, сформулирована и решена задача определения скорости роста амплитуды для растущих донных волн. Полученное решение задачи позволяет определить характерное время роста донной волны, скорость роста донной волны и ее максимальную амплитуду в зависимости от физических и гранулометрических характеристик донного материала и гидравлических параметров водного потока. На примере развития периодической синусоидальной донной волны малой крутизны выполнена верификация решения, полученного для сформулированной задачи. Полученное аналитическое решение задачи позволяет определить скорость роста амплитуды донной волны от текущего значения ее амплитуды. Сравнение полученного решения с экспериментальными данными показало их хорошее качественное и количественное согласование.

The work is a theoretical study of the development of bottom instability in rivers and canals. Based on an analytical model of the load of sediment, taking into account the influence of slopes of the bottom surface, bottom pressure and shear stress on the movement of the bottom material and an analytical solution that allows to determine bottom tangential and normal stresses over the periodic bottom, the problem of determining the amplitude growth rate for growing bottom waves is formulated and solved . The obtained solution of the problem allows us to determine the characteristic time of the growth of the bottom wave, the growth rate of the bottom wave and its maximum amplitude, depending on the physical and particle size characteristics of the bottom material and the hydraulic parameters of the water flow. On the example of the development of a periodic sinusoidal bottom wave of low steepness, the verification of the solution obtained for the formulated problem is carried out. The obtained analytical solution to the problem allows us to determine the growth rate of the amplitude of the bottom wave from the current value of its amplitude. Comparison of the obtained solution with experimental data showed their good qualitative and quantitative agreement.

В данной работе рассматривается параллельный метод решения задач однофазной фильтрации в трещиноватой пористой среде, основанный на представлении трещин вложенными в расчетную сетку поверхностями и называемый в литературе моделью (или методом) вложенных дискретных трещин. В рамках модели пористая среда и крупные трещины представляются в виде двух независимых континуумов. Отличительной особенностью рассматриваемого подхода является то, что расчетная сетка не перестраивается под положение трещин, при этом для каждой ячейки, пересекаемой трещиной, вводится дополнительная степень свободы. Дискретизация потоков между введенными континуумами трещин и пористой среды использует преднасчитанные характеристики пересечения поверхностей трещин с трехмерной расчетной сеткой. При этом дискретизация потоков внутри пористой среды не зависит от потоков между континуумами. Это позволяет интегрировать модель в уже существующие симуляторы многофазных течений в пористых коллекторах и при этом точно описывать поведение течений вблизи трещин.

Ранее автором был предложен монотонный метод вложенных дискретных трещин, основанный на применении метода конечных объемов с нелинейными схемами дискретизации потоков внутри пористой среды: монотонной двухточечной схемы или компактной многоточечной схемы с дискретным принципом максимума. Было доказано, что дискретное решение полученной нелинейной задачи для системы «пористая среда + трещины» сохраняет неотрицательность или удовлетворяет дискретному принципу максимума в зависимости от выбора схемы дискретизации.

Данная работа является продолжением предыдущих исследований. Предложенный метод был параллелизован с помощью программной платформы INMOST и протестирован. Были использованы такие возможности INMOST, как сбалансированное распределение сетки по процессорам, масштабируемые методы решения разреженных распределенных систем линейных уравнений и другие. Были проведены параллельные расчеты, демонстрирующие хорошую масштабируемость при увеличении числа процессоров.

In this work, parallel method for solving single-phase flow problems in a fractured porous media is considered. Method is based on the representation of fractures by surfaces embedded into the computational mesh, and known as the embedded discrete fracture model. Porous medium and fractures are represented as two independent continua within the model framework. A distinctive feature of the considered approach is that fractures do not modify the computational grid, while an additional degree of freedom is introduced for each cell intersected by the fracture. Discretization of fluxes between fractures and porous medium continua uses the pre-calculated intersection characteristics of fracture surfaces with a three-dimensional computational grid. The discretization of fluxes inside a porous medium does not depend on flows between continua. This allows the model to be integrated into existing multiphase flow simulators in porous reservoirs, while accurately describing flow behaviour near fractures.

Previously, the author proposed monotonic modifications of the model using nonlinear finite-volume schemes for the discretization of the fluxes inside the porous medium: a monotonic two-point scheme or a compact multi-point scheme with a discrete maximum principle. It was proved that the discrete solution of the obtained nonlinear problem preserves non-negativity or satisfies the discrete maximum principle, depending on the choice of the discretization scheme.

This work is a continuation of previous studies. The previously proposed monotonic modification of the model was parallelized using the INMOST open-source software platform for parallel numerical modelling. We used such features of the INMOST as a balanced grid distribution among processors, scalable methods for solving sparse distributed systems of linear equations, and others. Parallel efficiency was demonstrated experimentally.

В этой статье рассматриваются механические свойства платины, армированной углеродной нанотрубкой (УНТ), в условиях одноосной растягивающей нагрузки посредством метода молекулярной динамики. Обзор текущих расчетных и экспериментальных исследований подчеркивает преимущества композитов, армированных углеродными нанотрубками с структурной точки зрения. Однако количественные и качественные исследования влияния углеродной нанотрубки на улучшения свойств композитов все еще редки. Выбор композита обусловлен перспективой применения платиновых сплавов во многих сферах, где они могут подвергаться механическим воздействиям, в том числе и в биосовместимых системах. Армирование платины (Pt) с помощью УНТ может обеспечить дополнительные возможности для вживления имплантатов и при этом достичь требуемых механических характеристик.

Структура композита состояла из кристалла Pt с гранецентрированной кубической решеткой с постоянной 3,92 Å и углеродной нанотрубки. Матрица кристалла платины имеет форму куба с размерами $43,1541 Å \times 43,1541 Å \times 43,1541 Å$. Размер отверстия в середине платиновой матрицы определяется радиусом углеродной нанотрубки типа «зигзаг» (8,0), который составляет 2,6 Å. Углеродная нанотрубка помещается в отверстие радиусом 4,2 Å. При таких параметрах взаимной конфигурации наблюдался минимум энергии взаимодействия. Рассматриваемая модель содержит 320 атомов углерода и 5181 атом платины. Объемная доля углерода в композите Pt-C составляет 5,8%. На первом этапе исследования производились анализ влияния скорости деформации на соотношение «напряжение–деформация» и изменение энергии в процессе одноосного растяжения композита Pt-C.

Анализ влияния скорости деформации показал, что предел текучести при растяжении увеличивается с увеличением скоростей деформации, а модуль упругости имеет, скорее, тенденцию к уменьшению при увеличении скорости деформации. Данная работа также демонстрирует, что по сравнению с чистой платиной модуль Юнга увеличился на 40% для Pt-C, а эластичность композита меньше на 42,3%. В целом подробно рассмотрены механизмы разрушения, включая пластическую деформацию в атомистическом масштабе.

This article discusses the mechanical properties of carbon nanotube (CNT)-reinforced platinum under uniaxial tensile loading using the molecular dynamics method. A review of current computational and experimental studies on the use of carbon nanotube-reinforced composites from a structural point of view. However, quantitative and qualitative studies of CNTs to improve the properties of composites are still rare. Composite selection is a promising application for platinum alloys in many cases where they may be subjected to mechanical stress, including in biocompatibility sources. Pt-reinforced with CNTs may have additional possibilities for implantation of the implant and at the same time obtain the required mechanical characteristics.

The structure of the composite is composed of a Pt crystal with a face-centered cubic lattice with a constant of 3.92 Å and a carbon nanotube. The Pt matrix has the shape of a cube with dimensions of $43.1541 Å \times 43.1541 Å \times 43.1541 Å$. The hole size in the average platinum dimension is the radius of the carbon nanotube of the «zigzag» type (8,0), which is 2.6 Å. A carbon nanotube is placed in a hole with a radius of 4.2 Å. At such parameters, the maximum energy level was mutually observed. The model under consideration is contained in 320 atomic bombs and 5181 atomic platinum. The volume fraction of deaths in the Pt-C composite is 5.8%. At the first stage of the study, the strain rate was analyzed for stress-strain and energy change during uniaxial action on the Pt-C composite.

Analysis of the strain rate study showed that the consumption yield strength increases with high strain rate, and the elasticity has increased density with decreasing strain rate. This work also increased by 40% for Pt-C, the elasticity of the composite decreased by 42.3%. In general, fracture processes are considered in detail, including plastic deformation on an atomistic scale.

Предложена трехкомпонентная модельпланк тонного сообщества с дискретным временем. Сообщество представлено зоопланктоном и двумя конкурирующими за ресурсы видами фитопланктона: токсичным и нетоксичным. Модельдв ух связанных уравнений Рикера, ориентированная на описание динамики конкурентного сообщества, используется для описания взаимодействия двух видов фитопланктона и позволяет неявно учитывать ограничение роста биомассы каждого из видов-конкурентов доступностью внешних ресурсов. Изъятие фитопланктона за счет питания зоопланктоном описывается трофической функцией Холлинга II типа с учетом насыщения хищника. Способность фитопланктона защищаться от хищничества и избирательность питания хищника учтены в виде ограничения потребления: зоопланктон питается только нетоксичным фитопланктоном.

Анализ сценариев перехода от стационарной динамики к колебаниям численности сообщества показал, что потеря устойчивости нетривиального равновесия, соответствующего сосуществованию двух видов фитопланктона и зоопланктона, может происходитьч ерез каскад бифуркаций удвоения периода, также возникает бифуркация Неймарка – Сакера, ведущая к возникновению квазипериодических колебаний. Вариация внутрипопуляционных параметров фито- или зоопланктона может приводитьк выраженным изменениям динамического режима в сообществе: резким переходам от регулярной к квазипериодической динамике и далее к точным циклам с небольшим периодом или даже стационарной динамике. В областях мультистабильности возможна кардинальная смена как динамического режима, так и состава сообщества за счет изменения начальных условий или же текущего состава сообщества. Предложенная в данной работе трехкомпонентная модель динамики сообщества с дискретным временем, являясь достаточно простой, позволяет получитьадекв атную динамику взаимодействующих видов: возникают динамические режимы, отражающие основные свойства экспериментальной динамики. Так, наблюдается динамика характерная для модели «хищник–жертва» без учета эволюции — с отставанием динамики хищника от жертвы примерно на четвертьперио да. Рассмотрение генетической неоднородности фитопланктона, даже в случае выделения всего двух генетически различных форм: токсичного и нетоксичного, позволяет наблюдатьв модели как длиннопериодические противофазные циклы хищника и жертвы, так и скрытые циклы, при которых плотностьч исленности жертв остается практически постоянной, а плотность численности хищников колеблется, демонстрируя влияние быстрой эволюции, маскирующей трофическое взаимодействие видов.

We propose a three-component discrete-time model of the phytoplankton-zooplankton community, in which toxic and non-toxic species of phytoplankton compete for resources. The use of the Holling functional response of type II allows us to describe an interaction between zooplankton and phytoplankton. With the Ricker competition model, we describe the restriction of phytoplankton biomass growth by the availability of external resources (mineral nutrition, oxygen, light, etc.). Many phytoplankton species, including diatom algae, are known not to release toxins if they are not damaged. Zooplankton pressure on phytoplankton decreases in the presence of toxic substances. For example, Copepods are selective in their food choices and avoid consuming toxin-producing phytoplankton. Therefore, in our model, zooplankton (predator) consumes only non-toxic phytoplankton species being prey, and toxic species phytoplankton only competes with non-toxic for resources.

We study analytically and numerically the proposed model. Dynamic mode maps allow us to investigate stability domains of fixed points, bifurcations, and the evolution of the community. Stability loss of fixed points is shown to occur only through a cascade of period-doubling bifurcations. The Neimark – Sacker scenario leading to the appearance of quasiperiodic oscillations is found to realize as well. Changes in intrapopulation parameters of phytoplankton or zooplankton can lead to abrupt transitions from regular to quasi-periodic dynamics (according to the Neimark – Sacker scenario) and further to cycles with a short period or even stationary dynamics. In the multistability areas, an initial condition variation with the unchanged values of all model parameters can shift the current dynamic mode or/and community composition.

The proposed discrete-time model of community is quite simple and reveals dynamics of interacting species that coincide with features of experimental dynamics. In particular, the system shows behavior like in prey-predator models without evolution: the predator fluctuations lag behind those of prey by about a quarter of the period. Considering the phytoplankton genetic heterogeneity, in the simplest case of two genetically different forms: toxic and non-toxic ones, allows the model to demonstrate both long-period antiphase oscillations of predator and prey and cryptic cycles. During the cryptic cycle, the prey density remains almost constant with fluctuating predators, which corresponds to the influence of rapid evolution masking the trophic interaction.

Представлена неоднородная двумерная сетевая модель двухфазного течения в пористых средах. Предполагается, что ребра сети представляют собой капиллярные трубки разного радиуса. Предложен новый алгоритм управления фазовыми потоками в узлах этой сетевой модели. Показано, что сетевая модель демонстрирует свойства, аналогичные свойствам реальных пористых сред: капиллярная пропитка, зависимость капиллярного давления от насыщенности и влияние капиллярных сил при двухфазном течении. Было решено две тестовые задачи: противоточная пропитка пористого блока и двухфазное течение в периодически неоднородной пористой среде. В первой задаче реализована сеть, состоящая из двух областей: область с низкой проницаемостью и тонкими капиллярами окружена областью с высокой проницаемостью и толстыми капиллярами, изначально насыщенными смачивающими и несмачивающими несжимаемыми жидкостями соответственно. Капиллярное равновесие устанавливается за счет противоточной пропитки внутренней области. Исследована зависимость насыщенности смачивающей жидкости в областях от времени и капиллярного давления от текущей насыщенности. Получено качественное соответствие известным экспериментальным и теоретическим результатам, что в дальнейшем позволит использовать эту сетевую модель для проверки осредненных моделей капиллярной неравновесности. Во второй задаче рассматривается двухфазное вытеснение, при котором сеть изначально насыщается несмачивающей жидкостью. Затем смачивающая жидкость вводится через границу с постоянным расходом. Анализируется распределение насыщенности вдоль оси, направленной вдоль приложенного градиента давления, для различных моментов времени при различных значениях коэффициентов поверхностного натяжения. Результаты расчетов показывают, что при более низких значениях коэффициента поверхностного натяжения смачивающая жидкость предпочитает проникать через более толстые трубки, а при более высоких значениях — через более тонкие.

We present an inhomogeneous two-dimensional network model of two-phase flow in porous media. The edges of the network are assumed to be capillary tubes of different radii. We propose a new algorithm for handling phase fluxes at the nodes of this network model. We perform two test problems and show that the two-phase flow in this inhomogeneous network model demonstrates properties that are analogous to those of real porous media: capillary imbibition, dependence of capillary pressure on saturation and effect of capillary forces in two-phase displacement. The two test problems are: the counter-current imbibition and the twophase displacement in a periodically inhomogeneous porous medium. In the former problem, we implement a network consisting of two regions: a region of low-permeability with thin capillaries surrounded by a region of high-permeability with thick capillaries, initially saturated with wetting and nonwetting incompressible fluids, respectively. Capillary equilibrium is established due to counter-current imbibition by a region. We examine the dependence: of saturation of the wetting fluid with respect to time in the regions, and of capillary pressure on the current saturation. We have obtained a qualitative agreement with the known experimental and theoretical results, which will further allow us to use this network model to verify homogenized models of capillary nonequilibrium. In the latter problem, we consider the two-phase displacement, where the network is initially saturated with nonwetting fluid. Then wetting fluid is injected through a boundary at a constant rate. We analyze the saturation with respect to the axis which is along the applied pressure gradient for various moments in time with various values of coefficients of surface tension. The results show that for lower values of coefficient of surface tension, the wetting fluid prefers to invade through the thicker tubes, and in the case of higher values, through thinner tubes.

Изучение структурной характеристики композитов и наноструктур имеет фундаментальное значение в материаловедении. Теоретическое и численное моделирование и симуляция механических свойств наноструктур является основным инструментом, позволяющим проводить комплексные исследования, которые сложно проводить только экспериментально. Одним из примеров наноструктур, рассматриваемых в данной работе, являются углеродные нанотрубки (УНТ), которые обладают хорошими тепловыми и электрическими свойствами, а также низкой плотностью и высоким модулем Юнга, что делает их наиболее подходящим армирующим элементом для композитов, для потенциального применения в аэрокосмической, автомобильной, металлургической и биомедицинской промышленности. В данном обзоре мы рассмотрели методы моделирования, механические свойства и применение композитов с металлической матрицей, армированных УНТ. Также рассмотрены некоторые методы моделирования, применимые при исследованиях композитов с полимерными и металлическими матрицами. Рассмотрены такие методы, как метод градиентного спуска, метод Монте-Карло, методы молекулярной статики и молекулярной динамики. Было показано, что молекулярно-динамическое моделирование отлично подходит для создания различных систем композиционных материалов и изучения свойств композитов с металлической матрицей, армированных углеродными наноматериалами, в различных условиях. В данной работе кратко представлены наиболее часто используемые потенциалы, описывающие взаимодействие систем моделирования композитов. Правильный выбор потенциалов взаимодействия частей композитов напрямую влияет на описание изучаемого явления. Детализирована и обсуждена зависимость механических свойств композитов от объемной доли, диаметра, ориентации и количества УНТ. Показано, что объемная доля углеродных нанотрубок имеет существенное влияние на предел прочности и модуль Юнга. Диаметр УНТ оказывает большее значение на предел прочности, нежели на модуль упругости. Также приведен в пример работы, в которых изучается влияние длины УНТ на механические свойства композитов. В заключении нами предложены перспективы направления развития молекулярно-динамического моделирования в отношении композитов с металлической матрицей, армированных углеродными наноматериалами.

The study of the structural characteristics of composites and nanostructures is of fundamental importance in materials science. Theoretical and numerical modeling and simulation of the mechanical properties of nanostructures is the main tool that allows for complex studies that are difficult to conduct only experimentally. One example of nanostructures considered in this work are carbon nanotubes (CNTs), which have good thermal and electrical properties, as well as low density and high Young’s modulus, making them the most suitable reinforcement element for composites, for potential applications in aerospace, automotive, metallurgical and biomedical industries. In this review, we reviewed the modeling methods, mechanical properties, and applications of CNT-reinforced metal matrix composites. Some modeling methods applicable in the study of composites with polymer and metal matrices are also considered. Methods such as the gradient descent method, the Monte Carlo method, methods of molecular statics and molecular dynamics are considered. Molecular dynamics simulations have been shown to be excellent for creating various composite material systems and studying the properties of metal matrix composites reinforced with carbon nanomaterials under various conditions. This paper briefly presents the most commonly used potentials that describe the interactions of composite modeling systems. The correct choice of interaction potentials between parts of composites directly affects the description of the phenomenon being studied. The dependence of the mechanical properties of composites on the volume fraction of the diameter, orientation, and number of CNTs is detailed and discussed. It has been shown that the volume fraction of carbon nanotubes has a significant effect on the tensile strength and Young’s modulus. The CNT diameter has a greater impact on the tensile strength than on the elastic modulus. An example of works is also given in which the effect of CNT length on the mechanical properties of composites is studied. In conclusion, we offer perspectives on the direction of development of molecular dynamics modeling in relation to metal matrix composites reinforced with carbon nanomaterials.

Представлена модель гибридной искусственной нейронной сети, основанная на архитектуре, включающей сверточный энкодер изображений (Convolutional Neural Network, CNN) и модуль внимания (Attention-based Multiple Instance Learning, Attention MIL), обеспечивающий агрегирование информативных признаков из последовательности кадров процесса газопламенного напыления. Дополнительные технологические параметры — давление воздуха, давление пропана и расстояние от сопла до поверхности — интегрируются в модель через табличный канал, что позволяет учитывать взаимосвязь между визуальными и числовыми характеристиками технологического режима. Программная реализация выполнена на платформе Streamlit с использованием библиотеки PyTorch и включает интерактивный интерфейс для обучения и визуализации результатов, анализ весов внимания по кадрам, а также режим прогнозирования выходных характеристик — шероховатости поверхности ($R_a$) и массы нанесенного слоя ($m$). Проведены экспериментальные исследования на данных реальных технологических процессов, выполнен сравнительный анализ точности различных конфигураций модели. Показано, что гибридная нейронная сеть, объединяющая визуальные и табличные признаки, обеспечивает более высокую точность прогноза по сравнению с моделями, использующими только одну из модальностей. При сравнении вариантов реализации гибридной нейронной сети установлено, что использование механизма внимания при формировании признаков серии изображений процесса газопламенного напыления обеспечивает существенное увеличение точности результатов по сравнению с режимом усреднения признаков без использования механизма внимания. В приложении реализован модуль визуализации внимания, который создает монтаж наиболее значимых кадров и отображает их веса внимания, что позволяет определить, какие кадры оказали наибольшее влияние на прогноз. Реализована возможность экспорта модели в формат ONNX для интеграции в системы технологического контроля. Предложенный подход демонстрирует эффективность слияния визуальной и табличной информации для задач мониторинга технологических процессов. Модель может служить основой для создания системы поддержки принятия решений или системы автоматизированного контроля качества покрытия при газопламенном напылении. Рассмотрены ограничения реализованной модели и перспективы ее дальнейшего развития.

The paper presents a hybrid artificial neural network model based on an architecture that incorporates a convolutional image encoder (CNN) and an attention module (Attention-based Multiple Instance Learning, Attention MIL). This module aggregates informative features from a sequence of frames capturing the flame spraying process. Additional technological parameters—air pressure, propane pressure, and standoff distance — are integrated into the model via a tabular channel, enabling it to account for the relationship between visual data and numerical process regime characteristics. The software implementation was developed using the Streamlit platform and the PyTorch library. It features an interactive interface for model training and result visualization, analysis of attention weights across frames, and a prediction mode for output characteristics: surface roughness ($R_a$) and the mass of the deposited coating ($m$). Experimental studies were conducted on data from real-world technological processes, and a comparative analysis of the accuracy of various model configurations was performed. The results demonstrate that the hybrid neural network, which combines visual and tabular features, achieves higher prediction accuracy compared to models using only a single modality. Furthermore, when comparing different implementations of the hybrid network, it was established that using the attention mechanism to process the series of flame spray images provides a significant increase in accuracy over a simple averaging of features without attention. The application includes an attention visualization module that creates a montage of the most significant frames and displays their attention weights, allowing users to identify which frames had the greatest influence on the prediction. The model’s capability for export to the ONNX format for integration into process control systems is also demonstrated. The proposed approach showcases the effectiveness of fusing visual and tabular information for manufacturing process monitoring tasks. The model can serve as a foundation for developing a decision support system or an automated quality control system for coatings produced by flame spraying. The limitations of the implemented model and prospects for its further development are also considered.

В работе проанализированы некоторые проблемы разработки численных методов решения задач с линейным кинетическим уравнением переноса больцмановского типа. Перечислены существующие приложения такого рода уравнения. Основное внимание уделяется задачам переноса излучения в плоском слое, имеющим важное значение для экспериментальной исследовательской практики. Даны основные определения и приведены традиционные ограничения, применяемые в задачах переноса излучения. Рассмотрены некоторые особенности постановки задач радиационного переноса для плоских слоев нерегулярных гетерогенных композиционных материалов, частично прозрачных для электромагнитного излучения. Указаны основные подходы к численному и численно-аналитическому решению линейного кинетического уравнения переноса.

Рассмотрены некоторые варианты наиболее простых сеточных численных методов установления для решения кинетических задач переноса в плоском слое среды с сильным ослаблением. Проанализированы проблемы одно- и двухшаговых вариантов таких итерационных методов, для некоторых из них исследованы и установлены причины отсутствия устойчивости и сходимости.

Показано, что в явном консервативном одношаговом методе для слоя однородной поглощающей, но не излучающей и не рассеивающей среды в спектре гармонических решений всегда существуют неустойчивые моды. Они возникают в области излучения, распространяющегося почти параллельно границам слоя, а их неустойчивость усиливается с ростом эффектов ослабления среды и обусловлена наличием в уравнении переноса малого коэффициента перед пространственной производной. Для ограничения нежелательного влияния этой компоненты рассмотрены различные варианты расщепления уравнения на два и три дробных шага. Показано, что наиболее предпочтительными являются варианты с явной организацией дробных шагов, для которых представлено доказательство устойчивости и сходимости, основанное на теореме Лакса об эквивалентности. Доказано, что правильное выстраивание последовательности дробных шагов в явных схемах численного решения линейных нестационарных кинетических задач переноса способно обеспечивать их дополнительную стабилизацию, причем важную роль стабилизирующего инструмента может играть интеграл рассеяния. Так, при решении кинетических задач переноса в средах с высоким альбедо рассеяния наиболее простым и эффективным оказался явный сеточный метод установления с расщеплением итераций на три дробных шага по физическим процессам. Метод реализован в виде кода на языке Matlab, который в процессе получения численного решения осуществляет контроль его качества.

Представлены наиболее существенные результаты моделирования, подтвердившие, что трехшаговый метод предъявляет сравнительно умеренные требования по ресурсам, точности численного интегрирования и обеспечивает условную сходимость итераций. Его математическая корректность подтверждена поведением невязок уравнения, прямым контролем сходимости численных решений, физическая — обеспечением для эргодических систем свойством сходимости к инвариантному стационарному состоянию, не зависящему от начальных условий. Перечислены некоторые обнаруженные и возможные ограничения метода.

Работа будет полезной специалистам в области математического моделирования, численных методов, кинетической теории, комбинированного тепло- и массообмена, занимающимся вопросами интерпретации экспериментальных данных, аспирантам и студентам старших курсов, специализирующимся в указанных направлениях.

This paper analyzes some issues in developing numerical methods for solving problems with a Boltzmann-type linear kinetic transport equation. Existing applications of this type of equation are listed. The focus is on the problem of radiative transfer in a flat layer, which are important for experimental research practice. Key definitions and traditional limitations applied to radiative transfer problems are presented. Some features of formulating radiative transfer problems for flat layers of irregular heterogeneous composite materials that are partially transparent to electromagnetic radiation are considered. The main approaches to the numerical and numerical-analytical solution of the linear kinetic transport equation are outlined.

Some variants of the simplest grid numerical methods for solving of nonstationary kinetic problems of transport a flat layer of a medium with strong attenuation are considered. Problems with one- and two-step variants of these iterative methods are analyzed, for some of them the causes of instability and convergence absence in some of them are investigated and established. It is shown that in the explicit conservative one-step method for a layer of a homogeneous absorbing, but neither radiating nor scattering, medium, unstable modes always exist in the spectrum of harmonic solutions. These modes arise in the region of radiation propagating almost parallel to the layer boundaries, and their instability increases with increasing attenuation effects and is caused by the presence of a small coefficient before the spatial derivative in the transport equation. To limit the undesirable influence of this component, various variants of splitting the equation into two and three fractional steps are considered.

It is shown that the most preferable options are those with explicitly organized fractional steps, for which a proof of their stability and convergence, that based on the Lax’s equivalence theorem is presented. It is demonstrated that the correct building of the fractional step sequence in explicit schemes for numerical solving of the nonstationary linear kinetic transport problems can provide additional stabilization, with the scattering integral plays an important role in stabilizing them. So, when solving kinetic transport problems in media with high scattering albedo, the explicit grid method of settling with splitting the iterations into three fractional steps, that were based on physical processes proved to be the simplest and most effective. The method is implemented as Matlab code, which performs quality control during the generation of the numerical solution process. The most significant modeling results are presented, confirming that the three-step method imposes relatively moderate requirements on resources and numerical integration accuracy, and ensures conditional convergence of iterations. Its mathematical correctness is confirmed by the behavior of the equation residuals and direct control of the convergence of numerical solutions. Its physical correctness is confirmed by ensuring, for ergodic systems, the property of convergence to an invariant steady state independent of the initial conditions. Some discovered and possible limitations of the method are listed.

The work will be useful to specialists in the field of mathematical modeling, numerical methods, kinetic theory, combined heat and mass transfer, dealing with issues of interpretation of experimental data, graduate students and senior students specializing in the indicated areas.

Представлены результаты компьютерного моделирования нестационарных температурных полей, возникающих в полярных диэлектриках, облученных сфокусированными электронными пучками средних энергий, при исследовании с помощью методик растровой электронной микроскопии. Математическая модель основана на решении многомерного эволюционного уравнения теплопроводности численным конечноэлементным методом. Аппроксимация теплового источника проведена с учетом оценки области взаимодействия электронов с веществом на основе симуляции электронных траекторий методом Монте-Карло. Разработано программное приложение в ППП Маtlab, реализующее данную модель. Приведены геометрические интерпретации и результаты расчётов, демонстрирующие особенности температурного нагрева модельных образцов электронным зондом, при заданных параметрах эксперимента и принятой аппроксимации источника.

The paper describes the results of computer simulation of time-dependent temperature fields arising in polar dielectrics irradiated by focused electron bunches with average electron energy when analyzing with electron microscopy techniques. The mathematical model was based on solving several-dimensional nonstationary heat conduction equation with use of numerical finite element method. The approximation of thermal source was performed taking into account the estimation of initial electron distribution determined by Monte-Carlo simulation of electron trajectories. The simulation program was designed in Matlab. The geometrical modeling and calculation results demonstrated the main features of model sample heating by electron beam were presented at the given experimental parameters as well as source approximation.