Все выпуски
- 2026 Том 18
- 2025 Том 17
- 2024 Том 16
- 2023 Том 15
- 2022 Том 14
- 2021 Том 13
- 2020 Том 12
- 2019 Том 11
- 2018 Том 10
- 2017 Том 9
- 2016 Том 8
- 2015 Том 7
- 2014 Том 6
- 2013 Том 5
- 2012 Том 4
- 2011 Том 3
- 2010 Том 2
- 2009 Том 1
-
Одномерная вычислительная модель теплового состояния молочной железы с внутритканевым новообразованием
Компьютерные исследования и моделирование, 2026, т. 18, № 1, с. 169-184В данной работе разработана вычислительная модель теплового состояния молочной железы с внутритканевым новообразованием. Модель базируется на модифицированном биотепловом уравнении Пеннеса и описывает пятислойную биологическую структуру, включающую кожу, жировую, железистую и мышечную ткани, а также зону опухоли. На внешней границе области моделируется конвективный теплообмен с окружающей средой, на внутренней границе задается фиксированная температура тела. Дополнительно учитывается пространственный нагрев поверхности, описываемый экспоненциально затухающим законом Бугера – Ламберта – Бера. Теплопроводность тканей и перфузия крови зависят от температуры по линейным законам, что отражает механизмы физиологической терморегуляции. Краевая задача для дифференциального уравнения в частных производных решалась численно с использованием явно-неявной конечно-разностной схемы; полученная после дискретизации система линейных алгебраических уравнений решалась методом прогонки. Численные эксперименты показали, что наличие даже небольшой опухоли приводит к локальному повышению температуры тканей на 0,5–1 ◦C вследствие увеличения метаболической активности и снижения кровотока. Эта температурная аномалия становится выраженной при диаметре опухоли свыше 10 мм. Установлено, что глубина расположения новообразования существенно влияет на распределение температурного поля: при поверхностном залегании тепловой максимум смещается к коже, тогда как при более глубоком — формируется в железистой ткани. Эффективность гипертермического воздействия оценивалась с помощью интегрального критерия термального некроза, основанного на законе Аррениуса. Показано, что при поверхностной тепловой нагрузке около 5 кВт/м2 и коэффициенте ослабления 100 м−1 разрушение опухолевых тканей начинается через 2–3 минуты облучения, при этом здоровые ткани сохраняются в пределах безопасного температурного диапазона. Уменьшение коэффициента ослабления приводит к более глубокому распространению тепла и раннему повреждению железистой ткани, что сужает терапевтическое окно. Построены карты распределения температуры, времени до наступления некроза и глубины термического поражения в зависимости от мощности облучения, диаметра и положения опухоли.
Ключевые слова: модель Пеннеса, многослойная биологическая система, процесс гипертермии, математическое моделирование.
One-dimensional computational model of thermal state of the breast with an interstitial tumor
Computer Research and Modeling, 2026, v. 18, no. 1, pp. 169-184The paper presents a computational model of the thermal state of the breast with an interstitial tumor. The model is based on the modified Pennes biothermal equation and describes a five-layered biological area including skin, subcutaneous fat, glandular and muscular tissues, as well as a neoplasm zone. Convective heat exchange with the environment is taken into account at the outer boundary, and body temperature is maintained at the internal boundary. In addition, the fabric surface is exposed to exponentially attenuating effects of spatial heating, such a heating scheme is actually based on the Bouguer – Lambert – Baer law. Tissue thermal conductivity and blood perfusion are modeled by linear functions of temperature, reflecting physiological thermoregulation. The boundary-value problem for the partial differential equation has been solved numerically using an explicit-implicit finite difference scheme; the system of algebraic equations getting after an approximation of the mentioned boundary-value problem is solved by the Thomas procedure. Numerical experiments have shown that even a small tumor increases the local temperature of tissues by half a degree due to increased metabolism and delayed blood perfusion. This anomaly is clearly manifested in tumors larger than ten millimeters. It was found that the depth of occurrence critically affects the thermal response: when the tumor is located closer to the surface, the maximum temperature shifts to the skin, whereas at a deeper position, a thermal peak forms inside the glandular tissue. The effectiveness of hyperthermic exposure was assessed by the integral criterion of thermal necrosis based on the Arrhenius law. At a radiation intensity that creates a surface thermal load of about five kilowatts per square meter and an attenuation factor of one hundred, tumor destruction begins after two to three minutes of exposure, while the surrounding healthy tissues remain within safe temperatures. Reducing the attenuation coefficient leads to the opposite effect: heat spreads deeper, and the glandular tissue is damaged first, which limits the therapeutic window. Additionally, maps of the distribution of temperature, time to necrosis, and the depth of thermal damage were constructed depending on the irradiation power, diameter, and position of the tumor.
-
Моделирование лазерной полировки кварцевого стекла
Компьютерные исследования и моделирование, 2026, т. 18, № 2, с. 399-421Лазерная полировка является перспективной технологией финишной обработки изделий из кварцевого стекла, позволяющей устранять дефекты подповерхностного слоя, возникающие при механической обработке. Однако сложность и нелинейность физических процессов, протекающих при лазерном воздействии, затрудняют подбор оптимальных технологических режимов. Целью данной статьи является разработка, сравнительный анализ и применение высокоточных прогностических моделей для предсказания и оптимизации основных показателей процесса лазерной полировки кварцевого стекла. На основе верифицированной конечно-элементной модели, реализованной в среде ANSYS, был сгенерирован набор данных о температурных полях и полях напряжений при различных сочетаниях технологических параметров. Этот набор данных использовался для построения и верификации четырех типов прогностических моделей: полиномиальной регрессии, нечеткой системы вывода (Fuzzy Logic), адаптивной нейро-нечеткой системы (ANFIS) и нейронной сети типа многослойный персептрон (MLP). Качество моделей оценивалось на тестовой выборке с использованием статистических метрик МAE, RMSE, MAPE, $R^2$, $R^2_{Adj}$. Сравнительный анализ моделей показал значительное превосходство нейросетевой модели MLP, которая продемонстрировала наивысшую точность прогнозирования для всех выходных параметров, достигнув значений скорректированного коэффициента детерминации ($R^2_{Adj}$) выше 0,97 и средней абсолютной процентной ошибки (МАРЕ) в диапазоне 0,7–2,8%. Использование этой модели в качестве суррогатной функции совместно с генетическим алгоритмом позволило успешно определить оптимальные технологические параметры. Разработанная нейросетевая модель MLP является надежным и высокоточным инструментом не только для прогнозирования, но и для оптимизации результатов лазерной полировки кварцевого стекла СО2-лазером. Она способна эффективно аппроксимировать сложные нелинейные зависимости в процессе и может служить основой для создания интеллектуальных систем управления и оптимизации данной технологии.
Ключевые слова: лазерная полировка, ANSYS, моделирование, регрессия, нечеткая система вывода, ANFIS, нейросетевая модель, оптимизация.
Simulation of laser polishing for fused quartz
Computer Research and Modeling, 2026, v. 18, no. 2, pp. 399-421Laser polishing is a promising technology for the finishing of fused quartz (fused silica or quartz glass) products, enabling the removal of subsurface defects induced by mechanical processing. However, the complexity and nonlinearity of the physical processes occurring during laser irradiation complicate the selection of optimal technological parameters. The present paper aims to develop, comparatively analyze, and apply high-precision predictive models for forecasting and optimizing the key performance indicators of the laser polishing process for quartz glass. A verified finite element model implemented in the ANSYS software environment produced a dataset of temperature and stress fields for various combinations of process parameters. This dataset was used to develop and validate four types of predictive models: Polynomial Regression, a Fuzzy Logic System, an Adaptive Neuro-Fuzzy Inference System (ANFIS), and a Multilayer Perceptron (MLP) neural network. The models’ quality was evaluated on a test set using the statistical metrics MAE, RMSE, MAPE, $R^2$, and $R^2_{Adj}$. A comparative analysis of the models revealed the significant superiority of the MLP neural network, which demonstrated the highest prediction accuracy for all output parameters, achieving Adjusted $R^2$ ($R^2_{Adj}$.) values above 0.97 and a Mean Absolute Percentage Error (MAPE) in the range of 0.7–2.8%. This model was effectively utilized as a surrogate function in combination with a genetic algorithm to successfully identify the optimal process parameters. The constructed MLP neural network model functions as a reliable and high-precision tool, facilitating both prediction and the optimization of fused quartz polishing outcomes using a CO2 laser. This approach effectively approximates the complex nonlinear dependencies inherent in the process and can serve as a foundation for developing intelligent control and optimization systems for this technology.
Keywords: laser polishing, ANSYS, modeling, regression, fuzzy logic system, ANFIS, neural network model, optimization. -
Моделирование связанной динамики фитопланктона и кислорода
Компьютерные исследования и моделирование, 2026, т. 18, № 5, с. 1269-1286В работе рассмотрена концептуальная модель связанной динамики концентрации растворенного кислорода и плотности фитопланктона в приближении хорошо перемешанного слоя океана без учета пространственных координат. Изменение этих двух переменных описывается системой разностных уравнений с суточным шагом. Продукция кислорода пропорциональна плотность фитопланктона и зависит от удельной скорости фотосинтеза, при этом влияние внешних факторов, таких как температура воды, учитывается параметрически. Перенос кислорода через клеточную мембрану описывается законом Фика, т.е. монотонно убывающей зависимостью скорости выделения кислорода от его внешней концентрации с насыщением. Элиминация кислорода из системы складывается из двух составляющих: постоянной скорости естественного биохимического распада и потребления кислорода морской флорой и фауной, которое описывается откликом типа Моно, отражающим ограниченность удельной скорости потребления. Рост фитопланктона представлен логистическим уравнением с максимальной удельной скоростью роста, достижимой при достаточном содержании кислорода, константой полунасыщения по кислороду и коэффициентом внутривидовой конкуренции. Гибель фитопланктона, включающая естественную смертность, выедание зоопланктоном и воздействие вирусной инфекции, принята линейной по плотности с постоянным коэффициентом смертности. Таким образом, несмотря на концептуальный характер, использованная параметризация позволила учесть основные биологические процессы продукции, дыхания, смертности и внутривидовой конкуренции в их упрощенном содержательном виде.
Целью работы является исследование динамики системы «кислород – фитопланктон» в зависимости от условий функционирования морской экосистемы и выявление закономерностей формирования гипоксических зон в океане.
Показано, что тривиальное равновесие не теряет устойчивости; в результате оказываются возможными два различных сценария функционирования системы: либо ее полное вырождение, либо возникновение ненулевого притягивающего равновесия, которое с ростом параметра, характеризующего влияние факторов окружающей среды на скорость продукции кислорода внутри клеток фитопланктона, эволюционирует по сценарию Фейгенбаума. Выявлена параметрическая область седлоузловой бифуркации, приводящей к появлению устойчивого и неустойчивого ненулевых решений. При превышении порогового значения возникает бистабильность, когда выбор сценария определяется начальными условиями. В окрестности бифуркации наблюдается длительный период квазистабильного развития, завершающийся резкой гибелью компонентов системы. Поскольку тривиальное решение устойчиво всегда, даже малая вариация состояния может перевести систему в режим вымирания. Полученные результаты позволяют выявлять границы смены сценариев развития системы и могут служить основой для прогнозирования критических состояний морских экосистем.
Ключевые слова: математическое моделирование, дискретное время, кислород, фитопланктон, бифуркация, бистабильность.
Modeling of coupled dynamics of phytoplankton and oxygen
Computer Research and Modeling, 2026, v. 18, no. 5, pp. 1269-1286The paper considers a conceptual model of coupled dynamics of dissolved oxygen concentration and phytoplankton density in the approximation of a well-mixed ocean layer, without accounting for spatial coordinates. The evolution of these two variables is described by a system of difference equations with a daily time step. Oxygen production is proportional to phytoplankton density and depends on the specific photosynthetic rate, while the influence of external factors, such as water temperature, is accounted for parametrically. Oxygen transfer across the cell membrane is described by Fick’s law, i. e., a monotonically decreasing dependence of the oxygen release rate on its external concentration with saturation. Oxygen elimination from the system consists of two components: a constant rate of natural biochemical decay and oxygen consumption by marine flora and fauna, which is described by a Monod-type response reflecting the limited specific consumption rate. Phytoplankton growth is represented by a logistic equation with a maximum specific growth rate achievable under sufficient oxygen supply, a half-saturation constant for oxygen, and an intraspecific competition coefficient. Phytoplankton mortality, including natural mortality, grazing by zooplankton, and viral infection, is assumed to be linear in density with a constant mortality rate. Thus, despite its conceptual nature, the employed parameterization allows the main biological processes of production, respiration, mortality, and intraspecific competition to be incorporated in a simplified but meaningful form.
The objective of this study is to investigate the dynamics of the oxygen–phytoplankton system under various conditions of marine ecosystem functioning and to elucidate the mechanisms underlying the formation of hypoxic zones in the ocean.
It is shown that the trivial equilibrium never loses stability; as a result, two different scenarios of system functioning are possible: either complete extinction of the system, or the emergence of a non-trivial attracting equilibrium, which, with an increase in the parameter characterizing the influence of environmental factors on the rate of oxygen production inside phytoplankton cells, evolves according to the Feigenbaum scenario. A parametric region of saddle-node bifurcation is identified, leading to the appearance of stable and unstable non-trivial solutions. When a threshold value is exceeded, bistability arises, where the choice of scenario is determined by initial conditions. In the vicinity of the bifurcation, a long period of quasi-stable development is observed, ending with a sharp collapse of the system components. Since the trivial solution is always stable, even a small variation in the current state can shift the system into an extinction regime. The obtained results make it possible to identify the boundaries of scenario shifts in system development and can serve as a basis for forecasting critical states of marine ecosystems.
-
Моделирование динамики кальция в органических горизонтах почвы
Компьютерные исследования и моделирование, 2010, т. 2, № 1, с. 103-110В данной работе представлены результаты моделирования круговорота кальция в лесных экосистемах. Кальций является одним из основных элементов минерального питания растений, регулирующим разные метаболические процессы. Его недостаток вызывает нарушения роста тканей растений. Увеличение дефицита кальция в лесных экосистемах появляется вследствие усиления кислотной нагрузки или отчуждения биомассы при вырубках. Модель представляет собой описание круговорота на основе потока вещества между пулами, включая подробное описание почвенной части круговорота – трансформация и минерализация подстилки и др. Для калибровки модели использовались экспериментальные данные по еловым лесам Болгарии.
Modeling of calcium dynamics in soil organic layers
Computer Research and Modeling, 2010, v. 2, no. 1, pp. 103-110Просмотров за год: 1.Calcium is a major nutrient regulating metabolism in a plant. Deficiency of calcium results in a growth decline of plant tissues. Ca may be lost from forest soils due to acidic atmospheric deposition and tree harvesting. Plant-available calcium compounds are in the soil cation exchange complex and soil waters. Model of soil calcium dynamics linking it with the model of soil organic matter dynamics ROMUL in forest ecosystems is developed. ROMUL describes the mineralization and humification of the fraction of fresh litter which is further transformed into complex of partially humified substance (CHS) and then to stable humus (H) in dependence on temperature, soil moisture and chemical composition of the fraction (nitrogen, lignin and ash contents, pH). Rates of decomposition and humification being coefficients in the system of ordinary differential equations are evaluated using laboratory experiments and verified on a set of field experiments. Model of soil calcium dynamics describes calcium flows between pools of soil organic matter. Outputs are plant nutrition, leaching, synthesis of secondary minerals. The model describes transformation and mineralization of forest floor in detail. Experimental data for calibration model was used from spruсe forest of Bulgaria.
-
Компьютерное исследование инструмента для изготовления проволоки
Компьютерные исследования и моделирование, 2014, т. 6, № 6, с. 983-989В данной работе средствами программы DEFORM-2D исследовано напряженное состояние инструмента при волочении упрочненного сплава Pt–Ni эквиатомного состава при комнатной температуре. Рассмотрены различные варианты геометрии алмазного инструмента при неизменных габаритных размерах оправы. Обоснована принципиальная возможность снизить жесткость волоки без изменения параметров технологического процесса.
A computational study of tool for wire drawing
Computer Research and Modeling, 2014, v. 6, no. 6, pp. 983-989Просмотров за год: 1.In this paper, stresses in tool for drawing of equiatomic Pt–Ni alloy at room temperature were investigated by means of DEFORM-2D software. Different variants of the diamond tool geometry were analyzed at constant overall dimensions of workholder. It was shown that the rigidity of the die could be reduced without changing the process parameters.
-
Моделирование температурного поля воздушных фурм доменных печей
Компьютерные исследования и моделирование, 2017, т. 9, № 1, с. 117-125Проведено компьютерное моделирование динамики нагрева воздушной фурмы доменной печи с помощью вычислительной среды конечно-элементного анализа DEFORM-2D. Исследовано влияние теплоизолирующей вставки, установленной в дутьевой канал с воздушным зазором и без зазора, а также газотермического покрытия на температурное поле воздушной фурмы доменной печи. Результаты моделирования показали значительное влияние теплоизолирующей вставки в дутьевой канал и воздушного зазора, отделяющего ее от внутреннего стакана, на температурное поле фурмы. При наличии вставки наблюдается градиент температуры по ее толщине до 540–555 °С, причем максимального значения температура вставки достигает на поверхности со стороны дутьевого канала. В то же время температура внутреннего стакана снижается на 35–40 °С по сравнению с фурмой без вставки. При наличии вставки с воздушным зазором градиент температуры вставки по ее толщине снижается до 160–250 °С по сравнению с вариантом без воздушного зазора, причем максимальное значение температуры поверхности вставки со стороны дутьевого канала также увеличивается. Температура внутреннего стакана также снижается еще на 15–20 °С по сравнению с вариантом без воздушного зазора. Однако наблюдается резкий градиент температуры воздушного зазора по его толщине до 760 °С из-за низкой теплопроводности воздуха. При наличии газотермического покрытия максимальная температура нагрева торца рыльной части снизилась до 326 °С, а максимальный градиент температуры по его толщине также снизился до 67 °С по сравнению с вариантом без покрытия. С помощью программного комплекса DEFORM-2D создана модель, имитирующая прогар фурмы вследствие контака с жидким чугуном. Показано, что через 40 с контакта с чугуном температура на поверхности рыльной части со стороны воды достигает 1050 °С, а через 100 с — 1060 °С, что практически равносильно прогару.
Ключевые слова: доменная печь, воздушная фурма, теплоизолирующая вставка, газотермическое покрытие, DEFORM-2D, температурное поле, прогар фурмы.
Computer simulation of temperature field of blast furnace’s air tuyere
Computer Research and Modeling, 2017, v. 9, no. 1, pp. 117-125Просмотров за год: 7.Study of work of heating equipment is an actual issue because it allows determining optimal regimes to reach highest efficiency. At that it is very helpful to use computer simulation to predict how different heating modes influence the effectiveness of the heating process and wear of heating equipment. Computer simulation provides results whose accuracy is proven by many studies and requires costs and time less than real experiments. In terms of present research, computer simulation of heating of air tuyere of blast furnace was realized with the help of FEM software. Background studies revealed possibility to simulate it as a flat, axisymmetric problem and DEFORM-2D software was used for simulation. Geometry, necessary for simulation, was designed with the help of SolidWorks, saved in .dxf format. Then it was exported to DEFORM-2D pre-processor and positioned. Preliminary and boundary conditions were set up. Several modes of operating regimes were under analysis. In order to demonstrate influence of eah of the modes and for better visualization point tracking option of the DEFORM-2D post-processor was applied. Influence of thermal insulation box plugged into blow channel, with and without air gap, and thermal coating on air tuyere’s temperature field was investigated. Simulation data demonstrated significant effect of thermal insulation box on air tuyere’s temperature field. Designed model allowed to simulate tuyere’s burnout as a result of interaction with liquid iron. Conducted researches have demonstrated DEFORM-2D effectiveness while using it for simulation of heat transfer and heating processes. DEFORM-2D is about to be used in further studies dedicated to more complex process connected with temperature field of blast furnace’s air tuyere.
-
Численный анализ естественной конвекции кориума в условиях внутрикорпусной локализации с учетом переменного тепловыделения
Компьютерные исследования и моделирование, 2021, т. 13, № 4, с. 807-822В представленном исследовании проводится численное моделирование охлаждения кориума, расплава керамического топлива ядерного реактора и оксидов конструкционных материалов, в горизонтальной полуцилиндрической полости, стенки которой поддерживаются при постоянной температуре, в условиях естественной конвекции.
Охлаждение кориума — это процесс характерный для тяжелой аварии на ядерном реакторе, которая может быть локализована путем удержания кориума внутри корпуса реактора, испытывающего внешнее охлаждение. Такой подход обеспечивает не только сравнительно простой способ удержания радиоактивности в пределах первого контура, но и возможность реализации на действующих блоках. Это выступает альтернативой ловушке расплава, еще одному методу локализации. Точный анализ и моделирование процесса охлаждения в таких условиях оказываются перспективной областью исследований в настоящее время.
В начальный момент времени температура кориума принимается равной температуре стенки. Кориум, несмотря на останов реактора, обладает остаточным тепловыделением, которое уменьшается со временем согласно формуле Вэя–Вигнера. Процесс естественной конвекции внутри полости описывается системой уравнений в приближении Буссинеска, которая включает в себя уравнение движения, уравнение неразрывности и уравнение энергии. Конвективные потоки считаются ламинарными и двумерными, теплофизические свойства жидкости считаются независимыми от температуры.
Краевая задача математической физики формулируется в безразмерных переменных «функция тока – завихренность». Полученные дифференциальные уравнения решаются численно при помощи метода конечных разностей c использованием локально-одномерной схемы Самарского применительно к уравнениям параболического типа.
В результате исследований получены временные зависимости среднего числа Нуссельта на верхней и нижней стенках полости в широком диапазоне изменения числа Рэлея от 103 до 106. Указанные зависимости также были проанализированы при различных значениях безразмерного времени работы реактора до аварии. Исследования проведены как на основе распределений изолиний функции тока и температуры, так и с использованием временных профилей интенсивности конвективного течения и теплообмена.
Ключевые слова: естественная конвекция, кориум, ядерный реактор, тяжелая авария, численное моделирование, метод конечных разностей.
Numerical simulation of corium cooling driven by natural convection in case of in-vessel retention and time-dependent heat generation
Computer Research and Modeling, 2021, v. 13, no. 4, pp. 807-822Represented study considers numerical simulation of corium cooling driven by natural convection within a horizontal hemicylindrical cavity, boundaries of which are assumed isothermal. Corium is a melt of ceramic fuel of a nuclear reactor and oxides of construction materials.
Corium cooling is a process occurring during severe accident associated with core melt. According to invessel retention conception, the accident may be restrained and localized, if the corium is contained within the vessel, only if it is cooled externally. This conception has a clear advantage over the melt trap, it can be implemented at already operating nuclear power plants. Thereby proper numerical analysis of the corium cooling has become such a relevant area of studies.
In the research, we assume the corium is contained within a horizontal semitube. The corium initially has temperature of the walls. In spite of reactor shutdown, the corium still generates heat owing to radioactive decays, and the amount of heat released decreases with time accordingly to Way–Wigner formula. The system of equations in Boussinesq approximation including momentum equation, continuity equation and energy equation, describes the natural convection within the cavity. Convective flows are taken to be laminar and two-dimensional.
The boundary-value problem of mathematical physics is formulated using the non-dimensional nonprimitive variables «stream function – vorticity». The obtained differential equations are solved numerically using the finite difference method and locally one-dimensional Samarskii scheme for the equations of parabolic type.
As a result of the present research, we have obtained the time behavior of mean Nusselt number at top and bottom walls for Rayleigh number ranged from 103 to 106. These mentioned dependences have been analyzed for various dimensionless operation periods before the accident. Investigations have been performed using streamlines and isotherms as well as time dependences for convective flow and heat transfer rates.
-
Анализ идентифицируемости математической модели пиролиза пропана
Компьютерные исследования и моделирование, 2021, т. 13, № 5, с. 1045-1057Работа посвящена численному моделированию и исследованию кинетической модели пиролиза пропана. Изучение кинетики реакций является необходимой стадией моделирования динамики газового потока в реакторе.
Кинетическая модель представляет собой нелинейную систему обыкновенных дифференциальных уравнений первого порядка с параметрами, роль которых играют константы скоростей стадий. Математическое моделирование процесса основано на использовании закона сохранения масс. Для решения исходной (прямой) задачи используется неявный метод решения жестких систем обыкновенных дифференциальных уравнений. Модель содержит 60 входных кинетических параметров и 17 выходных параметров, соответствующих веществам реакции, из которых наблюдаемыми являются только 9. В процессе решения задачи по оценке параметров (обратная задача) возникает вопрос неединственности набора параметров, удовлетворяющего имеющимся экспериментальным данным. Поэтому перед решением обратной задачи проводится оценка возможности определения параметров модели — анализ идентифицируемости.
Для анализа идентифицируемости мы используем ортогональный метод, который хорошо себя зарекомендовал для анализа моделей с большим числом параметров. Основу алгоритма составляет анализ матрицы чувствительно- сти методами дифференциальной и линейной алгебры, показывающей степень зависимости неизвестных параметров моделей от заданных измерений. Анализ чувствительности и идентифицируемости показал, что параметры модели устойчиво определяются по заданному набору экспериментальных данных. В статье представлен список параметров модели от наиболее идентифицируемого до наименее идентифицируемого. Учитывая анализ идентифицируемости математической модели, были введены более жесткие ограничения на поиск слабоидентифицируемых параметров при решении обратной задачи.
Обратная задача по оценке параметров была решена с использованием генетического алгоритма. В статье представлены найденные оптимальные значения кинетических параметров. Представлено сравнение экспериментальных и расчетных зависимостей концентраций пропана, основных и побочных продуктов реакции от температуры для разных расходов смеси. На основании соответствия полученных результатов физико-химическим законам и экспериментальным данным сделан вывод об адекватности построенной математической модели.
Ключевые слова: пиролиз пропана, математическая модель, химическая кинетика, анализ чувствительности, анализ идентифицируемости.
Analysis of the identifiability of the mathematical model of propane pyrolysis
Computer Research and Modeling, 2021, v. 13, no. 5, pp. 1045-1057The article presents the numerical modeling and study of the kinetic model of propane pyrolysis. The study of the reaction kinetics is a necessary stage in modeling the dynamics of the gas flow in the reactor.
The kinetic model of propane pyrolysis is a nonlinear system of ordinary differential equations of the first order with parameters, the role of which is played by the reaction rate constants. Math modeling of processes is based on the use of the mass conservation law. To solve an initial (forward) problem, implicit methods for solving stiff ordinary differential equation systems are used. The model contains 60 input kinetic parameters and 17 output parameters corresponding to the reaction substances, of which only 9 are observable. In the process of solving the problem of estimating parameters (inverse problem), there is a question of non-uniqueness of the set of parameters that satisfy the experimental data. Therefore, before solving the inverse problem, the possibility of determining the parameters of the model is analyzed (analysis of identifiability).
To analyze identifiability, we use the orthogonal method, which has proven itself well for analyzing models with a large number of parameters. The algorithm is based on the analysis of the sensitivity matrix by the methods of differential and linear algebra, which shows the degree of dependence of the unknown parameters of the models on the given measurements. The analysis of sensitivity and identifiability showed that the parameters of the model are stably determined from a given set of experimental data. The article presents a list of model parameters from most to least identifiable. Taking into account the analysis of the identifiability of the mathematical model, restrictions were introduced on the search for less identifiable parameters when solving the inverse problem.
The inverse problem of estimating the parameters was solved using a genetic algorithm. The article presents the found optimal values of the kinetic parameters. A comparison of the experimental and calculated dependences of the concentrations of propane, main and by-products of the reaction on temperature for different flow rates of the mixture is presented. The conclusion about the adequacy of the constructed mathematical model is made on the basis of the correspondence of the results obtained to physicochemical laws and experimental data.
-
Оценка влияния простейшего типа многочастичных взаимодействий на примере решеточной модели адсорбционного слоя
Компьютерные исследования и моделирование, 2024, т. 16, № 2, с. 445-458Самоорганизация молекул на твердой поверхности является одним из перспективных направлений по созданию материалов с уникальными магнитными, электрическими и оптическими свойствами. Они могут широко применяться в таких областях, как электроника, оптоэлектроника, катализ и биология. Однако на структуру и физико-химические свойства адсорбирующихся молекул оказывает влияние множество параметров, которые необходимо учитывать при изучении процесса самоорганизации молекул. В связи с этим экспериментальное исследование свойств новых материалов данного типа оказывается дорогостоящим, а также довольно часто его проведение затруднительно по различным причинам. В таких ситуациях целесообразнее воспользоваться методами математического моделирования. В рассматриваемых адсорбционных системах одним из параметров является многочастичное взаимодействие, которое часто не учитывается в моделировании из-за усложнения расчетов. В данной работе мы провели оценку влияния многочастичных взаимодействий на общую энергию системы с помощью метода трансфер-матрицы и программного комплекса Materials Studio. За основу была взята модель моноцентровой адсорбции молекул на треугольной решетке с учетом ближайших взаимодействий. Для этой модели были построены фазовые диаграммы в основном состоянии и проведены расчеты ряда термодинамических характеристик (степени покрытия $\theta$, энтропии $S$, восприимчивости $\xi $) при ненулевых температурах. Было обнаружено образование всех четырех упорядоченных структур (решеточный газ с $\theta=0$, $(\sqrt{3} \times \sqrt{3}) R30^{\circ}$ с $\theta = \frac{1}{3}$, $(\sqrt{3} \times \sqrt{3})R^{*}30^{\circ}$ с $\theta = \frac{2}{3}$, плотнейшая фаза с $\theta = 1$) в системе, учитывающей исключительно двухчастичные взаимодействия, и отсутствие фазы $(\sqrt{3}\times \sqrt{3}) R30^\circ$ при учете только трехчастичных взаимодействий. На основе квантово-механических расчетов на примере атомистической модели адсорбционного слоя тримезиновой кислоты мы определили, что в такой системе вклад многочастичного характера взаимодействий составляет 11,44% от энергии двухчастичных взаимодействий. При таких значениях в решеточной модели возникают только количественные отличия, проявляющиеся в смещении области перехода из структуры $(\sqrt{3} \times \sqrt{3}) R^{*}30^\circ$ в плотнейшую фазу вправо на 38,25% при $\frac{\varepsilon}{RT} = 4$ и влево на 23,46% при $\frac{\varepsilon}{RT} = −2$.
Ключевые слова: самоорганизация, многочастичные взаимодействия, моноцентровая адсорбция, метод трансфер-матрицы, фазовые переходы.
Influence of the simplest type of multiparticle interactions on the example of a lattice model of an adsorption layer
Computer Research and Modeling, 2024, v. 16, no. 2, pp. 445-458Self-organization of molecules on a solid surface is one of the promising directions for materials generation with unique magnetic, electrical, and optical properties. They can be widely used in fields such as electronics, optoelectronics, catalysis, and biology. However, the structure and physicochemical properties of adsorbed molecules are influenced by many parameters that must be taken into account when studying the self-organization of molecules. Therefore, the experimental study of such materials is expensive, and quite often it is difficult for various reasons. In such situations, it is advisable to use the mathematical modeling. One of the parameters in the considered adsorption systems is the multiparticle interaction, which is often not taken into account in simulations due to the complexity of the calculations. In this paper, we evaluated the influence of multiparticle interactions on the total energy of the system using the transfer-matrix method and the Materials Studio software package. The model of monocentric adsorption with nearest interactions on a triangular lattice was taken as the basis. Phase diagrams in the ground state were constructed and a number of thermodynamic characteristics (coverage $\theta$, entropy $S$, susceptibility $\xi$) were calculated at nonzero temperatures. The formation of all four ordered structures (lattice gas with $\theta=0$, $(\sqrt{3} \times \sqrt{3}) R30^{\circ}$ with $\theta = \frac{1}{3}$, $(\sqrt{3} \times \sqrt{3})R^{*}30^{\circ}$ with $\theta = \frac{2}{3}$ and densest phase with $\theta = 1$) in a system with only pairwise interactions, and the absence of the phase $(\sqrt{3}\times \sqrt{3}) R30^\circ$ when only three-body interactions are taken into account, were found. Using the example of an atomistic model of the trimesic acid adsorption layer by quantum mechanical methods we determined that in such a system the contribution of multiparticle interactions is 11.44% of the pair interactions energy. There are only quantitative differences at such values. The transition region from the $(\sqrt{3} \times \sqrt{3}) R^{*}30^\circ$ to the densest phase shifts to the right by 38.25% at $\frac{\varepsilon}{RT} = 4$ and to the left by 23.46% at $\frac{\varepsilon}{RT} = −2$.
-
Моделирование формообразования наноструктурного титанового сплава ВТ6 при низкотемпературной формовке
Компьютерные исследования и моделирование, 2017, т. 9, № 1, с. 127-133Сверхпластическая формовка сплавов на основе титана и никеля широко применяется в аэрокосмической промышленности. Основным преимуществом использования эффекта сверхпластичности является возможность формования материала до очень высоких деформаций при значительных растягивающих напряжений в материале. Представленная работа посвящена изучению возможности программного комплекса, основанного на методе конечных элементов, SFTC DEFORM прогнозировать разнотолщинность наноструктурного сплава ВТ6 при низкотемпературной сверхпластической формовке. Экспериментально разнотолщинность при свехпластической формовке наблюдается при локализации пластического течения и усугубляется локальным разупрочнением материала, которое обусловлено структурными изменениями. Для анализа экспериментально наблюдаемого течения металла была построена теоретическая модель. При расчете использовались два подхода. Первый подход включал использование интегрированной в программный комплекс модели ползучести. Так как эффект сверхпластичности наблюдается только в материалах с ультрамелкозернистой структурой, второй подход заключался в разработке комбинированной реологической модели материала с учетом структурного состояния. С помощью пользовательского программирования на языке Fortran уравнения реологической модели с учетом структурных превращений были интегрированы в DEFORM на солверном уровне. Использование КЭ-моделирования для подобных задач позволяет оценивать скорость деформации в разных точках заготовки, что является важным для поддержания состояния сверхпластичности в материале. Сопоставление применяемых моделей пластического течения позволило выявить влияние эволюции микроструктуры на течение сплава в режиме сверхпластичности. Результаты моделирования и теоретические выводы подтверждаются результатами стандартного испытания по Эриксону. В результате проведения работы было установлено следующее: а) программный пакет DEFORM позволяет спрогнозировать формообразование при низкотемпературной сверхпластичности; б) для повышения достоверности прогнозирования мест локализации деформации при сверхпластической деформации СМК материалов необходимо учитывать влияние измерения микроструктурного состояния и его влияние на свойства материалов в процессе деформирования.
Simulation of forming of UFG Ti-6-4 alloy at low temperature of superplasticity
Computer Research and Modeling, 2017, v. 9, no. 1, pp. 127-133Просмотров за год: 10.Superplastic forming of Ni and Ti based alloys is widely used in aerospace industry. The main advantage of using the effect of superplasticity in sheet metal forming processes is a feasibility of forming materials with a high amount of plastic strain in conditions of prevailing tensile stresses. This article is dedicated to study commercial FEM software SFTC DEFORM application for prediction thickness deviation during low temperature superplastic forming of UFG Ti-6-4 alloy. Experimentally, thickness deviation during superplastic forming can be observed in the local area of plastic deformation and this process is aggravated by local softening of the metal and this is stipulated by microstructure coarsening. The theoretical model was prepared to analyze experimentally observed metal flow. Two approaches have been used for that. The first one is the using of integrated creep rheology model in DEFORM. As superplastic effect is observed only in materials with fine and ultrafine grain sizes the second approach is carried out using own user procedures for rheology model which is based on microstructure evolution equations. These equations have been implemented into DEFORM via Fortran user’s solver subroutines. Using of FEM simulation for this type of forming allows tracking a strain rate in different parts of a workpiece during a process, which is crucial for maintaining the superplastic conditions. Comparison of these approaches allows us to make conclusions about effect of microstructure evolution on metal flow during superplastic deformation. The results of the FEM analysis and theoretical conclusions have been approved by results of the conducted Erichsen test. The main issues of this study are as follows: a) the DEFORM software allows an engineer to predict formation of metal shape under the condition of low-temperature superplasticity; b) in order to augment the accuracy of the prediction of local deformations, the effect of the microstructure state of an alloy having sub-microcristalline structure should be taken into account in the course of calculations in the DEFORM software.
Журнал индексируется в Scopus
Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU
Журнал входит в систему Российского индекса научного цитирования.
Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science
Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"





