Все выпуски
- 2026 Том 18
- 2025 Том 17
- 2024 Том 16
- 2023 Том 15
- 2022 Том 14
- 2021 Том 13
- 2020 Том 12
- 2019 Том 11
- 2018 Том 10
- 2017 Том 9
- 2016 Том 8
- 2015 Том 7
- 2014 Том 6
- 2013 Том 5
- 2012 Том 4
- 2011 Том 3
- 2010 Том 2
- 2009 Том 1
-
Метод оценки скорости коронарного кровотока по ангиографическим изображениям
Компьютерные исследования и моделирование, 2026, т. 18, № 3, с. 715-735В современной кардиологии точная оценка функциональной значимости стенозов коронарных артерий является критическим фактором для выбора тактики лечения и принятия обоснованных клинических решений. В данной работе представлен автоматизированный алгоритм для обработки динамических последовательностей рентгеновских ангиографических изображений, направленный на оценку скорости кровотока. Данный параметр служит основой для определения количественного соотношения кровотока (QFR), выступающего эффективной неинвазивной альтернативой традиционному инвазивному измерению фракционного резерва кровотока. Предложенная методика успешно преодолевает классические трудности ангиографического анализа, такие как артефакты движения сосудов в ходе сердечно-дыхательного цикла, неравномерная контрастная плотность и геометрическая сложность сосудистого дерева в двумерных проекциях.
Представленный алгоритм обработки включает в себя несколько ключевых стадий. Первоначально выполняется предобработка кадров для подавления шумов и фильтрации анатомического фона. Далее проводится сегментация с использованием фильтра Сато и пороговой обработки Оцу, после чего производится скелетонизация для извлечения центральных линий сосудов. Особое внимание уделено алгоритму автоматической идентификации точек бифуркации и фильтрации артефактных пересечений, возникающих при наложении сосудов. Для обеспечения непрерывности данных применяется метод временного отслеживания целевого сегмента на основе корреляции шаблонов, что особенно важно в фазах с низкой концентрацией контрастного вещества. Математическое ядро алгоритма основано на решении обратной одномерной задачи для уравнения адвекции – диффузии, что позволяет восстановить скорость кровотока по временным кривым интенсивности.
В рамках исследования проведена детальная валидация метода путем сопоставления результатов автоматического расчета с ручными экспертными измерениями на десяти наборах клинических данных. Полученные результаты подтверждают устойчивость вычислительной схемы в физиологически значимых диапазонах и ее способность значительно снижать межэкспертную вариабельность. Разработанный подход минимизирует необходимость врачебного вмешательства в процесс обработки данных, открывая перспективы для создания систем поддержки принятия врачебных решений в реальном времени в условиях катетеризационной лаборатории.
Ключевые слова: сегментация медицинских изображений, коронарное кровообращение, фракционный резерв кровотока, резерв коронарного кровотока, количественное соотношение кровотока, ангиография, скорость кровотока, обратные задачи, численные методы.
Method for coronary blood flow velocity estimation based on angiographic images
Computer Research and Modeling, 2026, v. 18, no. 3, pp. 715-735In modern cardiology, accurate assessment of the functional significance of coronary artery stenoses is a critical factor for selecting treatment strategies and making informed clinical decisions. This paper presents an automated algorithm for processing dynamic X-ray angiographic image sequences aimed at estimating blood flow velocity. This parameter serves as the basis for determining the Quantitative Flow Ratio (QFR), which acts as an effective noninvasive alternative to traditional invasive fractional flow reserve (FFR) measurements. The proposed methodology successfully overcomes classic challenges of angiographic analysis, such as vessel motion artifacts during the cardio-respiratory cycle, variable contrast opacification, and the geometric complexity of the vascular tree in two-dimensional projections.
The presented processing workflow includes several key stages. Initially, frame preprocessing is performed to suppress noise and filter out the anatomical background. Subsequently, segmentation is implemented using a Sato filter and Otsu thresholding, followed by skeletonization to extract vessel centerlines. Particular attention is paid to the algorithm for automated identification of bifurcation points and the filtration of artifactual intersections caused by vessel overlapping. To ensure data continuity, a temporal tracking method for the target segment based on template correlation is applied, which is especially important during phases with low contrast agent concentration. The mathematical core of the algorithm is based on solving a 1D inverse problem for the advection-diffusion equation, allowing for the recovery of blood flow velocity from temporal intensity curves.
As part of the study, a detailed validation of the method was conducted by comparing automated calculation results with manual expert measurements across ten clinical datasets. The results confirm the robustness of the computational scheme within physiologically relevant ranges and its ability to significantly reduce inter-observer variability. The developed approach minimizes the need for physician intervention in the data processing stage, opening up prospects for creating real-time clinical decision support systems in the catheterization laboratory setting.
-
Применение методов кластерного анализа к исследованию множества допустимых решений фазовой проблемы биологической кристаллографии
Компьютерные исследования и моделирование, 2010, т. 2, № 1, с. 91-101Рентгеновский дифракционный эксперимент позволяет определить значения модулей комплексных коэффициентов в разложении в ряд Фурье функции, описывающей распределение электронов в исследуемом объекте. Определение недостающих значений фаз коэффициентов Фурье представляет центральную проблему метода. Результатом применения некоторых подходов к решению фазовой проблемы является множество допустимых решений. Методы кластерного анализа позволяют исследовать структуру этого множества и выделить одно или несколько характерных решений. Существенной особенностью описываемого подхода является то, что близость решений оценивается не по их формальным параметрам, а на основе корреляции предварительно выровненных синтезов Фурье электронной плотности, рассчитанных с использованием сравниваемых наборов фаз. Предлагаемый метод исследования реализован в виде интерактивной программы ClanGR.
The use of cluster analysis methods for the study of a set of feasible solutions of the phase problem in biological crystallography
Computer Research and Modeling, 2010, v. 2, no. 1, pp. 91-101Просмотров за год: 2.X-ray diffraction experiment allows determining of magnitudes of complex coefficients in the decomposition of the studied electron density distribution into Fourier series. The determination of the lost in the experiment phase values poses the central problem of the method, namely the phase problem. Some methods for solving of the phase problem result in a set of feasible solutions. Cluster analysis method may be used to investigate the composition of this set and to extract one or several typical solutions. An essential feature of the approach is the estimation of the closeness of two solutions by the map correlation between two aligned Fourier syntheses calculated with the use of phase sets under comparison. An interactive computer program ClanGR was designed to perform this analysis.
-
Сравнительный анализ методов оптимизации для решения задачи интервальной оценки потерь электроэнергии
Компьютерные исследования и моделирование, 2013, т. 5, № 2, с. 231-239Данная работа посвящена сравнительному анализу оптимизационных методов и алгоритмов для проведения интервальной оценки технических потерь электроэнергии в распределительных сетях напряжением 6–20 кВ. Задача интервальной оценки потерь сформулирована в виде задачи многомерной условной минимизации/максимизации с неявной целевой функцией. Рассмотрен ряд методов численной оптимизации первого и нулевого порядков, с целью определения наиболее подходящего для решения рассмотренной проблемы. Таким является алгоритм BOBYQA, в котором целевая функция заменяется ее квадратичной аппроксимацией в пределах доверительной области.
Ключевые слова: методы оптимизации, технические потери электроэнергии, распределительные сети, BOBYQA.
Comparative analysis of optimization methods for electrical energy losses interval evaluation problem
Computer Research and Modeling, 2013, v. 5, no. 2, pp. 231-239Просмотров за год: 2. Цитирований: 1 (РИНЦ).This article is dedicated to a comparison analysis of optimization methods, in order to perform an interval estimation of electrical energy technical losses in distribution networks of voltage 6–20 kV. The issue of interval evaluation is represented as a multi-dimensional conditional minimization/maximization problem with implicit target function. A number of numerical optimization methods of first and zero orders is observed, with the aim of determining the most suitable for the problem of interest. The desired algorithm is BOBYQA, in which the target function is replaced with its quadratic approximation in some trusted region.
-
Анализ стохастических аттракторов квадратичной дискретной популяционной модели с запаздыванием
Компьютерные исследования и моделирование, 2015, т. 7, № 1, с. 145-157В работе рассматривается квадратичная дискретная модель популяционной динамики с запаздыванием под воздействием случайных возмущений. Анализ стохастических аттракторов модели проводится с помощью методов прямого численного моделирования и техники функций стохастической чувствительности. Показана деформация вероятностных распределений случайных состояний вокруг устойчивых равновесий и циклов при изменении параметров. Продемонстрировано явление индуцированных шумом переходов в зоне дискретных циклов.
Ключевые слова: квадратичная дискретная популяционная модель с запаздыванием, функция стохастической чувствительности.
Analysis of stochastic attractors for time-delayed quadratic discrete model of population dynamics
Computer Research and Modeling, 2015, v. 7, no. 1, pp. 145-157Просмотров за год: 3. Цитирований: 1 (РИНЦ).We consider a time-delayed quadratic discrete model of population dynamics under the influence of random perturbations. Analysis of stochastic attractors of the model is performed using the methods of direct numerical simulation and the stochastic sensitivity function technique. A deformation of the probability distribution of random states around the stable equilibria and cycles is studied parametrically. The phenomenon of noise-induced transitions in the zone of discrete cycles is demonstrated.
-
Математическая модель регуляции легочной вентиляции при гипоксии и гиперкапнии
Компьютерные исследования и моделирование, 2017, т. 9, № 2, с. 297-310Транспорт дыхательных газов дыхательной и кровеносной системами является одним из основных процессов, связанных с жизнедеятельностью организма человека. Значительные и/или длительные отклонения от нормальных значений концентраций кислорода и углекислого газа в крови могут приводить к существенным патологическим изменениям, вызывающим необратимые последствия: недостаток кислорода (гипоксия и ишемические явления), изменение кислотно-щелочного баланса крови (ацидоз или алкалоз) и др. В условиях меняющейся внешней среды и внутреннего состояния организма действие его регуляторных систем направлено на поддержание гомеостаза. Одним из основных механизмов поддержания концентраций (парциальных давлений) кислорода и углекислого газа в крови на нормальном уровне является регуляция минутной вентиляции, частоты и глубины дыхания за счет активности центрального и периферического регуляторов.
В данной работе предложена математическая модель регуляции параметров легочной вентиляции, которая затем используется для расчета минутной вентиляции легких при гипоксии и гиперкапнии. Модель построена с использованием однокомпонентной модели легкого и уравнений биохимического равновесия кислорода в крови и альвеолярном объеме легких. Приводится сопоставление с данными лабораторных исследований. Анализ полученных результатов показывает, что модель удовлетворительно воспроизводит динамику минутной вентиляции при гиперкапнии. Анализируются факторы, которые необходимо учесть для более точного моделирования регуляции минутной вентиляции при гипоксии.
Респираторная функция является одним из главных лимитирующих факторов организма при интенсивных физических нагрузках, характерных для спорта высших достижений. Поэтому результаты данной работы имеют значимое прикладное значения в области математического моделирования в спорте. Условия гипоксии и гиперкапнии отчасти воспроизводят тренировки в условиях высокогорья и гипоксии, целью которых является легальное повышение гемоглобина в крови у спортсменов.
Ключевые слова: гипоксия, гиперкапния, центральный регулятор, периферический регулятор, математическое моделирование.
Mathematical model of respiratory regulation during hypoxia and hypercapnia
Computer Research and Modeling, 2017, v. 9, no. 2, pp. 297-310Просмотров за год: 16.Transport of respiratory gases by respiratory and circulatory systems is one of the most important processes associated with living conditions of the human body. Significant and/or long-term deviations of oxygen and carbon dioxide concentrations from the normal values in blood can be a reason of significant pathological changes with irreversible consequences: lack of oxygen (hypoxia and ischemic events), the change in the acidbase balance of blood (acidosis or alkalosis), and others. In the context of a changing external environment and internal conditions of the body the action of its regulatory systems aimed at maintaining homeostasis. One of the major mechanisms for maintaining concentrations (partial pressures) of oxygen and carbon dioxide in the blood at a normal level is the regulation of minute ventilation, respiratory rate and depth of respiration, which is caused by the activity of the central and peripheral regulators.
In this paper we propose a mathematical model of the regulation of pulmonary ventilation parameter. The model is used to calculate the minute ventilation adaptation during hypoxia and hypercapnia. The model is developed using a single-component model of the lungs, and biochemical equilibrium conditions of oxygen and carbon dioxide in the blood and the alveolar lung volume. A comparison with laboratory data is performed during hypoxia and hypercapnia. Analysis of the results shows that the model reproduces the dynamics of minute ventilation during hypercapnia with sufficient accuracy. Another result is that more accurate model of regulation of minute ventilation during hypoxia should be developed. The factors preventing from satisfactory accuracy are analysed in the final section.
Respiratory function is one of the main limiting factors of the organism during intense physical activities. Thus, it is important characteristic of high performance sport and extreme physical activity conditions. Therefore, the results of this study have significant application value in the field of mathematical modeling in sport. The considered conditions of hypoxia and hypercapnia are partly reproduce training at high altitude and at hypoxia conditions. The purpose of these conditions is to increase the level of hemoglobin in the blood of highly qualified athletes. These conditions are the only admitted by sport committees.
-
Популяционные волны и их бифуркации в модели «активный хищник – пассивная жертва»
Компьютерные исследования и моделирование, 2020, т. 12, № 4, с. 831-843В работе изучаются пространственно-временные режимы, реализующиеся в системе типа «хищник– жертва». Предполагается, что хищники перемещаются направленно и случайно, а жертвы распространяются только диффузионно. Демографические процессы в популяции хищников не учитываются, их общая численность постоянна и является параметром. Переменные модели — плотности популяций хищников и жертв, скорость хищников — связаны между собой системой трех уравнений типа «реакция – диффузия – адвекция». Система рассматривается на кольцевом ареале (с периодическими условиями на границах интервала). Исследуются бифуркации волновых режимов при изменении двух параметров — общего количества хищников и их коэффициента таксисного ускорения.
Основным методом исследования является численный анализ. Пространственная аппроксимация задачи в частных производных производится методом конечных разностей. Интегрирование полученной системы обыкновенных дифференциальных уравнений по времени проводится методом Рунге – Кутты. Для анализа динамических режимов используются построение отображения Пуанкаре, расчет показателей Ляпунова и спектр Фурье.
Показано, что популяционные волны в предположениях модели могут возникать в результате направленных перемещений хищников. Динамика в системе качественно меняется при росте их общего количества. При малых значениях устойчив стационарный однородный режим, который сменяется автоколебаниями в виде бегущих волн. Форма волн претерпевает изменения с ростом бифуркационного параметра, ее усложнение происходит за счет увеличения числа временных колебательных мод. Большой коэффициент таксисного ускорения приводит к переходу от многочастотных к хаотическим и гиперхаотическим популяционным волнам. При большом количестве хищников реализуется стационарный режим с отсутствием жертв.
Population waves and their bifurcations in a model “active predator – passive prey”
Computer Research and Modeling, 2020, v. 12, no. 4, pp. 831-843Our purpose is to study the spatio-temporal population wave behavior observed in the predator-prey system. It is assumed that predators move both directionally and randomly, and prey spread only diffusely. The model does not take into account demographic processes in the predator population; it’s total number is constant and is a parameter. The variables of the model are the prey and predator densities and the predator speed, which are connected by a system of three reaction – diffusion – advection equations. The system is considered on an annular range, that is the periodic conditions are set at the boundaries of the interval. We have studied the bifurcations of wave modes arising in the system when two parameters are changed — the total number of predators and their taxis acceleration coefficient.
The main research method is a numerical analysis. The spatial approximation of the problem in partial derivatives is performed by the finite difference method. Integration of the obtained system of ordinary differential equations in time is carried out by the Runge –Kutta method. The construction of the Poincare map, calculation of Lyapunov exponents, and Fourier analysis are used for a qualitative analysis of dynamic regimes.
It is shown that, population waves can arise as a result of existence of directional movement of predators. The population dynamics in the system changes qualitatively as the total predator number increases. А stationary homogeneous regime is stable at low value of parameter, then it is replaced by self-oscillations in the form of traveling waves. The waveform becomes more complicated as the bifurcation parameter increases; its complexity occurs due to an increase in the number of temporal vibrational modes. A large taxis acceleration coefficient leads to the possibility of a transition from multi-frequency to chaotic and hyperchaotic population waves. A stationary regime without preys becomes stable with a large number of predators.
-
Физический анализ и математическое моделирование параметров области взрыва, произведенного в разреженной ионосфере
Компьютерные исследования и моделирование, 2022, т. 14, № 4, с. 817-833В работе выполнен физический и численный анализ динамики и излучения продуктов взрыва, образующихся при проведении российско-американского эксперимента в ионосфере с использованием взрывного генератора на основе гексогена и тротила. Основное внимание уделяется анализу взаимосвязи излучения возмущенной области с динамикой процессов взрывчатого вещества и плазменной струи на поздней стадии. Проанализирован подробный химический состав продуктов взрыва и определены начальные концентрации наиболее важных молекул, способных излучать в инфракрасном диапазоне спектра, и приведены их излучательные константы. Определены начальная температура продуктов взрыва и показатель адиабаты. Проанализирован характер взаимопроникновения атомов и молекул сильно разреженной ионосферы в сферически расширяющееся облако продуктов. Разработана приближенная математическая модель динамики продуктов взрыва в условиях подмешивания к ним разреженного воздуха ионосферы и рассчитаны основные термодинамические характеристики системы. Показано, что на время 0,3–3 с происходит существенное повышение температуры разлетающейся смеси в результате ее торможения. Для анализа и сравнения на основе лагранжевого подхода разработан численный алгоритм решения двухобластной газодинамической задачи, в которой продукты взрыва и фоновый газ разделены контактной границей. Требовалось выполнение специальных условий на контактной границе при ее движении в покоящемся газе. В данном случае существуют определенные трудности в описании параметров продуктов взрыва вблизи контактной границы, что связано с большим различием в размерах массовых ячеек продуктов взрыва и фона из-за перепада плотности на 13 порядков. Для сокращения времени расчета данной задачи в области продуктов взрыва применялась неравномерная расчетная сетка. Расчеты выполнялись с различными показателями адиабаты. Получены результаты, наиболее важным из которых является температура, хорошо согласуется с результатами, полученными по методике, приближенно учитывающей взаимопроникновение. Получено поведение во времени коэффициентов излучения ИК-активных молекул в широком диапазоне спектра. Данное поведение качественно согласуется с экспериментами по ИК-свечению разлетающихся продуктов взрыва.
Ключевые слова: ионосфера, численное моделирование, активный геофизический эксперимент, взрывной генератор, высокоскоростная плазменная струя, инфракрасное излучение, плазма, ионизация, околоземное пространство, кинетика.
Physical analysis and mathematical modeling of the parameters of explosion region produced in a rarefied ionosphere
Computer Research and Modeling, 2022, v. 14, no. 4, pp. 817-833The paper presents a physical and numerical analysis of the dynamics and radiation of explosion products formed during the Russian-American experiment in the ionosphere using an explosive generator based on hexogen (RDX) and trinitrotoluene (TNT). The main attention is paid to the radiation of the perturbed region and the dynamics of the products of explosion (PE). The detailed chemical composition of the explosion products is analyzed and the initial concentrations of the most important molecules capable of emitting in the infrared range of the spectrum are determined, and their radiative constants are given. The initial temperature of the explosion products and the adiabatic exponent are determined. The nature of the interpenetration of atoms and molecules of a highly rarefied ionosphere into a spherically expanding cloud of products is analyzed. An approximate mathematical model of the dynamics of explosion products under conditions of mixing rarefied ionospheric air with them has been developed and the main thermodynamic characteristics of the system have been calculated. It is shown that for a time of 0,3–3 sec there is a significant increase in the temperature of the scattering mixture as a result of its deceleration. In the problem under consideration the explosion products and the background gas are separated by a contact boundary. To solve this two-region gas dynamic problem a numerical algorithm based on the Lagrangian approach was developed. It was necessary to fulfill special conditions at the contact boundary during its movement in a stationary gas. In this case there are certain difficulties in describing the parameters of the explosion products near the contact boundary which is associated with a large difference in the size of the mass cells of the explosion products and the background due to a density difference of 13 orders of magnitude. To reduce the calculation time of this problem an irregular calculation grid was used in the area of explosion products. Calculations were performed with different adiabatic exponents. The most important result is temperature. It is in good agreement with the results obtained by the method that approximately takes into account interpenetration. The time behavior of the IR emission coefficients of active molecules in a wide range of the spectrum is obtained. This behavior is qualitatively consistent with experiments for the IR glow of flying explosion products.
-
Автоматизированная проверка соответствия соглашений об обработке данных регламенту по защите данных
Компьютерные исследования и моделирование, 2024, т. 16, № 7, с. 1667-1685В современном мире соблюдение нормативных требований по защите данных, таких как GDPR, является ключевым для организаций. Другой важной проблемой, выявленной при анализе, является то, что соблюдение осложняется сложностью правовых документов и постоянными изменениями в регулировании. В данной статье описываются способы, с помощью которых NLP (обработка естественного языка) способствует упрощению соблюдения GDPR путем автоматического сканирования на соответствие, оценки политик конфиденциальности и повышения уровня прозрачности. Работа не ограничивается исследованием применения NLP для работы с политиками конфиденциальности и улучшения понимания обмена данными с третьими сторонами, но также проводит предварительные исследования для оценки различий между несколькими моделями NLP. В статье описывается реализация и исполнение моделей для выявления той, которая демонстрирует наилучшую производительность по эффективности и скорости автоматизации процесса проверки соответствия и анализа политики конфиденциальности. Кроме того, в исследовании обсуждаются возможности использования автоматических инструментов и анализа данных для соблюдения GDPR, например, создание машиночитаемых моделей, которые помогают в оценке соответствия. Среди моделей, оцененных в нашем исследовании, SBERT показала лучшие результаты на уровне политики с точностью 0,57, прецизионностью 0,78, полнотой 0,83 и F1-метрикой 0,80. Модель BERT продемонстрировала наивысшую производительность на уровне предложений, достигнув точности 0,63, прецизионности 0,70, полноты 0,50 и F1-метрики 0,55. Таким образом, данная статья подчеркивает важность NLP в помощи организациям преодолеть трудности соблюдения GDPR, создавая дорожную карту к более ориентированному на клиента режиму защиты данных. В этом отношении, сравнивая предварительные исследования и демонстрируя производительность лучших моделей, работа способствует усилению мер по соблюдению и защите прав личности в киберпространстве.
Ключевые слова: аудит соответствия, NLP (обработка естественного языка), DPA (соглашение об обработке данных), GDPR (общий регламент по защите данных), конфиденциальность, SBERT, BERT, GPT.
NLP-based automated compliance checking of data processing agreements against General Data Protection Regulation
Computer Research and Modeling, 2024, v. 16, no. 7, pp. 1667-1685As it stands in the contemporary world, compliance with regulations concerning data protection such as GDPR is central to organizations. Another important issue analysis identified is the fact that compliance is hampered by the fact that legal documents are often complex and that regulations are ever changing. This paper aims to describe the ways in which NLP aids in keeping GDPR compliance effortless through automated scanning for compliance, evaluating privacy policies, and increasing the level of transparency. The work does not only limit to exploring the application of NLP for dealing with the privacy policies and facilitate better understanding of the third-party data sharing but also proceed to perform the preliminary studies to evaluate the difference of several NLP models. They implement and execute the models to distinguish the one that performs the best based on the efficiency and speed at which it automates the process of compliance verification and analyzing the privacy policy. Moreover, some of the topics discussed in the research deal with the possibility of using automatic tools and data analysis to GDPR, for instance, generation of the machine readable models that assist in evaluation of compliance. Among the evaluated models from our studies, SBERT performed best at the policy level with an accuracy of 0.57, precision of 0.78, recall of 0.83, and F1-score of 0.80. BERT showed the highest performance at the sentence level, achieving an accuracy of 0.63, precision of 0.70, recall of 0.50, and F1-score of 0.55. Therefore, this paper emphasizes the importance of NLP to help organizations overcome the difficulties of GDPR compliance, create a roadmap to a more client-oriented data protection regime. In this regard, by comparing preliminary studies done in the test and showing the performance of the better model, it helps enhance the measures taken in compliance and fosters the defense of individual rights in the cyberspace.
-
Моделирование лазерной полировки кварцевого стекла
Компьютерные исследования и моделирование, 2026, т. 18, № 2, с. 399-421Лазерная полировка является перспективной технологией финишной обработки изделий из кварцевого стекла, позволяющей устранять дефекты подповерхностного слоя, возникающие при механической обработке. Однако сложность и нелинейность физических процессов, протекающих при лазерном воздействии, затрудняют подбор оптимальных технологических режимов. Целью данной статьи является разработка, сравнительный анализ и применение высокоточных прогностических моделей для предсказания и оптимизации основных показателей процесса лазерной полировки кварцевого стекла. На основе верифицированной конечно-элементной модели, реализованной в среде ANSYS, был сгенерирован набор данных о температурных полях и полях напряжений при различных сочетаниях технологических параметров. Этот набор данных использовался для построения и верификации четырех типов прогностических моделей: полиномиальной регрессии, нечеткой системы вывода (Fuzzy Logic), адаптивной нейро-нечеткой системы (ANFIS) и нейронной сети типа многослойный персептрон (MLP). Качество моделей оценивалось на тестовой выборке с использованием статистических метрик МAE, RMSE, MAPE, $R^2$, $R^2_{Adj}$. Сравнительный анализ моделей показал значительное превосходство нейросетевой модели MLP, которая продемонстрировала наивысшую точность прогнозирования для всех выходных параметров, достигнув значений скорректированного коэффициента детерминации ($R^2_{Adj}$) выше 0,97 и средней абсолютной процентной ошибки (МАРЕ) в диапазоне 0,7–2,8%. Использование этой модели в качестве суррогатной функции совместно с генетическим алгоритмом позволило успешно определить оптимальные технологические параметры. Разработанная нейросетевая модель MLP является надежным и высокоточным инструментом не только для прогнозирования, но и для оптимизации результатов лазерной полировки кварцевого стекла СО2-лазером. Она способна эффективно аппроксимировать сложные нелинейные зависимости в процессе и может служить основой для создания интеллектуальных систем управления и оптимизации данной технологии.
Ключевые слова: лазерная полировка, ANSYS, моделирование, регрессия, нечеткая система вывода, ANFIS, нейросетевая модель, оптимизация.
Simulation of laser polishing for fused quartz
Computer Research and Modeling, 2026, v. 18, no. 2, pp. 399-421Laser polishing is a promising technology for the finishing of fused quartz (fused silica or quartz glass) products, enabling the removal of subsurface defects induced by mechanical processing. However, the complexity and nonlinearity of the physical processes occurring during laser irradiation complicate the selection of optimal technological parameters. The present paper aims to develop, comparatively analyze, and apply high-precision predictive models for forecasting and optimizing the key performance indicators of the laser polishing process for quartz glass. A verified finite element model implemented in the ANSYS software environment produced a dataset of temperature and stress fields for various combinations of process parameters. This dataset was used to develop and validate four types of predictive models: Polynomial Regression, a Fuzzy Logic System, an Adaptive Neuro-Fuzzy Inference System (ANFIS), and a Multilayer Perceptron (MLP) neural network. The models’ quality was evaluated on a test set using the statistical metrics MAE, RMSE, MAPE, $R^2$, and $R^2_{Adj}$. A comparative analysis of the models revealed the significant superiority of the MLP neural network, which demonstrated the highest prediction accuracy for all output parameters, achieving Adjusted $R^2$ ($R^2_{Adj}$.) values above 0.97 and a Mean Absolute Percentage Error (MAPE) in the range of 0.7–2.8%. This model was effectively utilized as a surrogate function in combination with a genetic algorithm to successfully identify the optimal process parameters. The constructed MLP neural network model functions as a reliable and high-precision tool, facilitating both prediction and the optimization of fused quartz polishing outcomes using a CO2 laser. This approach effectively approximates the complex nonlinear dependencies inherent in the process and can serve as a foundation for developing intelligent control and optimization systems for this technology.
Keywords: laser polishing, ANSYS, modeling, regression, fuzzy logic system, ANFIS, neural network model, optimization. -
Численный анализ естественной конвекции кориума в условиях внутрикорпусной локализации с учетом переменного тепловыделения
Компьютерные исследования и моделирование, 2021, т. 13, № 4, с. 807-822В представленном исследовании проводится численное моделирование охлаждения кориума, расплава керамического топлива ядерного реактора и оксидов конструкционных материалов, в горизонтальной полуцилиндрической полости, стенки которой поддерживаются при постоянной температуре, в условиях естественной конвекции.
Охлаждение кориума — это процесс характерный для тяжелой аварии на ядерном реакторе, которая может быть локализована путем удержания кориума внутри корпуса реактора, испытывающего внешнее охлаждение. Такой подход обеспечивает не только сравнительно простой способ удержания радиоактивности в пределах первого контура, но и возможность реализации на действующих блоках. Это выступает альтернативой ловушке расплава, еще одному методу локализации. Точный анализ и моделирование процесса охлаждения в таких условиях оказываются перспективной областью исследований в настоящее время.
В начальный момент времени температура кориума принимается равной температуре стенки. Кориум, несмотря на останов реактора, обладает остаточным тепловыделением, которое уменьшается со временем согласно формуле Вэя–Вигнера. Процесс естественной конвекции внутри полости описывается системой уравнений в приближении Буссинеска, которая включает в себя уравнение движения, уравнение неразрывности и уравнение энергии. Конвективные потоки считаются ламинарными и двумерными, теплофизические свойства жидкости считаются независимыми от температуры.
Краевая задача математической физики формулируется в безразмерных переменных «функция тока – завихренность». Полученные дифференциальные уравнения решаются численно при помощи метода конечных разностей c использованием локально-одномерной схемы Самарского применительно к уравнениям параболического типа.
В результате исследований получены временные зависимости среднего числа Нуссельта на верхней и нижней стенках полости в широком диапазоне изменения числа Рэлея от 103 до 106. Указанные зависимости также были проанализированы при различных значениях безразмерного времени работы реактора до аварии. Исследования проведены как на основе распределений изолиний функции тока и температуры, так и с использованием временных профилей интенсивности конвективного течения и теплообмена.
Ключевые слова: естественная конвекция, кориум, ядерный реактор, тяжелая авария, численное моделирование, метод конечных разностей.
Numerical simulation of corium cooling driven by natural convection in case of in-vessel retention and time-dependent heat generation
Computer Research and Modeling, 2021, v. 13, no. 4, pp. 807-822Represented study considers numerical simulation of corium cooling driven by natural convection within a horizontal hemicylindrical cavity, boundaries of which are assumed isothermal. Corium is a melt of ceramic fuel of a nuclear reactor and oxides of construction materials.
Corium cooling is a process occurring during severe accident associated with core melt. According to invessel retention conception, the accident may be restrained and localized, if the corium is contained within the vessel, only if it is cooled externally. This conception has a clear advantage over the melt trap, it can be implemented at already operating nuclear power plants. Thereby proper numerical analysis of the corium cooling has become such a relevant area of studies.
In the research, we assume the corium is contained within a horizontal semitube. The corium initially has temperature of the walls. In spite of reactor shutdown, the corium still generates heat owing to radioactive decays, and the amount of heat released decreases with time accordingly to Way–Wigner formula. The system of equations in Boussinesq approximation including momentum equation, continuity equation and energy equation, describes the natural convection within the cavity. Convective flows are taken to be laminar and two-dimensional.
The boundary-value problem of mathematical physics is formulated using the non-dimensional nonprimitive variables «stream function – vorticity». The obtained differential equations are solved numerically using the finite difference method and locally one-dimensional Samarskii scheme for the equations of parabolic type.
As a result of the present research, we have obtained the time behavior of mean Nusselt number at top and bottom walls for Rayleigh number ranged from 103 to 106. These mentioned dependences have been analyzed for various dimensionless operation periods before the accident. Investigations have been performed using streamlines and isotherms as well as time dependences for convective flow and heat transfer rates.
Журнал индексируется в Scopus
Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU
Журнал входит в систему Российского индекса научного цитирования.
Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science
Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"





