Все выпуски
- 2025 Том 17
- 2024 Том 16
- 2023 Том 15
- 2022 Том 14
- 2021 Том 13
- 2020 Том 12
- 2019 Том 11
- 2018 Том 10
- 2017 Том 9
- 2016 Том 8
- 2015 Том 7
- 2014 Том 6
- 2013 Том 5
- 2012 Том 4
- 2011 Том 3
- 2010 Том 2
- 2009 Том 1
-
Моделирование одномерных нелинейных пульсовых волн в эластичных сосудах на основе решеточных уравнений Больцмана
Компьютерные исследования и моделирование, 2019, т. 11, № 4, с. 707-722В работе рассмотрено приложение методов кинетической теории к задачам гемодинамики. Для моделирования выбраны решеточные уравнения Больцмана. Данные модели описывают дискретизированную по пространственной и временной координате динамику движения частиц на одномерной решетке. Хорошо известно, что в пределе малых длин свободного пробега решеточные уравнения Больцмана описывают уравнения гидродинамики. Если течение достаточно медленное (мало число Маха), то данные уравнения гидродинамики переходят в уравнения Навье – Стокса для сжимаемого газа. Если в получающихся гидродинамических уравнениях переменные, отвечающие плотности и скорости звука, считать площадью поперечного сечения сосуда и скоростью распространения пульсовой волны давления, то выводятся хорошо известные в биомеханике нелинейные уравнения распространения несжимаемой вязкой жидкости (крови) в эластичном сосуде для частного случая постоянной пульсовой скорости.
В общем случае скорость распространения пульсовой волны зависит от площади просвета сосуда. Следует отметить интересную аналогию: уравнение состояния решеточного газа в новых переменных становится законом, связывающим давление и площадь поперечного сечения сосуда. Таким образом, в общем случае требуется модифицировать уравнение состояния для решеточного уравнения Больцмана. Данная процедура хорошо известна в теории неидеального газа и многофазных течений и эквивалентна введению в уравнения виртуальной силы. Получающиеся уравнения могут использоваться для моделирования любых законов, связывающих скорость пульсовой волны и площадь просвета сосуда.
В качестве тестовых задач рассмотрено распространение уединенной нелинейной пульсовой волны в сосуде с упругими свойствами, описываемыми законом Лапласа. Во второй задаче рассмотрено распространение пульсовых волн для бифуркации сосудов. Показано, что результаты расчетов хорошо совпадают с данными из предыдущих исследований.
The modeling of nonlinear pulse waves in elastic vessels using the Lattice Boltzmann method
Computer Research and Modeling, 2019, v. 11, no. 4, pp. 707-722Просмотров за год: 2.In the present paper the application of the kinetic methods to the blood flow problems in elastic vessels is studied. The Lattice Boltzmann (LB) kinetic equation is applied. This model describes the discretized in space and time dynamics of particles traveling in a one-dimensional Cartesian lattice. At the limit of the small times between collisions LB models describe hydrodynamic equations which are equivalent to the Navier – Stokes for compressible if the considered flow is slow (small Mach number). If one formally changes in the resulting hydrodynamic equations the variables corresponding to density and sound wave velocity by luminal area and pulse wave velocity then a well-known 1D equations for the blood flow motion in elastic vessels are obtained for a particular case of constant pulse wave speed.
In reality the pulse wave velocity is a function of luminal area. Here an interesting analogy is observed: the equation of state (which defines sound wave velocity) becomes pressure-area relation. Thus, a generalization of the equation of state is needed. This procedure popular in the modeling of non-ideal gas and is performed using an introduction of a virtual force. This allows to model arbitrary pressure-area dependence in the resulting hemodynamic equations.
Two test case problems are considered. In the first problem a propagation of a sole nonlinear pulse wave is studied in the case of the Laplace pressure-area response. In the second problem the pulse wave dynamics is considered for a vessel bifurcation. The results show good precision in comparison with the data from literature.
-
Применение модели кинетического типа для изучения пространственного распространения COVID-19
Компьютерные исследования и моделирование, 2021, т. 13, № 3, с. 611-627Предлагается простая модель на основе уравнения кинетического типа для описания распространения вируса в пространстве посредством миграции носителей вируса из выделенного центра. Рассматриваются страны, для которых применима одномерная модель: Россия, Италия, Чили. Одномерный подход возможен из-за географического расположения этих стран и их протяженности в направлениях от центров заражения (Москвы, Ломбардии и Сантьяго соответственно). Определяется изменение плотности зараженных во времени и пространстве. Применяется двухпараметрическая модель. Первый параметр — величина средней скорости распространения, соответствующий переносу инфицированных транспортными средствами. Второй параметр — частота уменьшения количества инфицированных элементов по мере продвижения по территории страны, что связано с прибытием пассажиров в места назначения, а также с карантинными мерами, препятствующими их перемещению по стране. Параметры модели определяются по фактически известным данным. Строится аналитическое решение, для получения серии расчетов применяются также простые численные методы. В модели рассматривается пространственное распространение заболевания, при этом заражения на местах не учитываются. Поэтому вычисленные значения на начальном этапе хорошо соответствуют экспериментальным данным, а затем плотность заболевших начинает быстрее возрастать из-за заражений на местах. Тем не менее модельные расчеты позволяют делать некоторые предсказания. Помимо скорости заражения, возможна аналогичная «скорость выздоровления». По моменту времени достижения охвата большей части населения страны при движении фронта выздоровления делается вывод о начале глобального выздоровления, что соответствует реальным данным.
Application of the kinetic type model for study of a spatial spread of COVID-19
Computer Research and Modeling, 2021, v. 13, no. 3, pp. 611-627A simple model based on a kinetic-type equation is proposed to describe the spread of a virus in space through the migration of virus carriers from a certain center. The consideration is carried out on the example of three countries for which such a one-dimensional model is applicable: Russia, Italy and Chile. The geographical location of these countries and their elongation in the direction from the centers of infection (Moscow, Milan and Lombardia in general, as well as Santiago, respectively) makes it possible to use such an approximation. The aim is to determine the dynamic density of the infected in time and space. The model is two-parameter. The first parameter is the value of the average spreading rate associated with the transfer of infected moving by transport vehicles. The second parameter is the frequency of the decrease of the infected as they move through the country, which is associated with the passengers reaching their destination, as well as with quarantine measures. The parameters are determined from the actual known data for the first days of the spatial spread of the epidemic. An analytical solution is being built; simple numerical methods are also used to obtain a series of calculations. The geographical spread of the disease is a factor taken into account in the model, the second important factor is that contact infection in the field is not taken into account. Therefore, the comparison of the calculated values with the actual data in the initial period of infection coincides with the real data, then these data become higher than the model data. Those no less model calculations allow us to make some predictions. In addition to the speed of infection, a similar “speed of recovery” is possible. When such a speed is found for the majority of the country's population, a conclusion is made about the beginning of a global recovery, which coincides with real data.
-
Моделирование начального периода развития инфекции ВИЧ-1 в лимфоузле на основе дифференциальных уравнений с запаздыванием
Компьютерные исследования и моделирование, 2025, т. 17, № 6, с. 1181-1203Представлена математическая модель, описывающая динамику инфекции ВИЧ-1 в отдельно взятом лимфоузле в начальный период развития инфекции. В рамках модели инфицирование индивидуума задается неотрицательной финитной функцией, описывающей скорость поступления первоначальных вирусных частиц в лимфоузел. Уравнения модели построены с учетом следующих факторов: 1) взаимодействие вирусных частиц с наивными Т-лимфоцитами CD4+, находящимися в различных фазах клеточного цикла; 2) контактное взаимодействие между размножающимися наивными Т-лимфоцитами CD4+ и инфицированными Т-лимфоцитами CD4+, производящими вирусные частицы. Спецификой контактных межклеточных взаимодействий является образование комплексов, состоящих из пар указанных клеток. Длительности существования комплексов задаются функциями распределения на конечных промежутках времени. Модель записана в форме высокоразмерной системы нелинейных дифференциальных уравнений с запаздыванием, включая два уравнения с распределенным запаздыванием, и дополнена неотрицательными начальными данными. При отсутствии инфекции ВИЧ-1 модель сводится к четырем дифференциальным уравнениям с запаздыванием, описывающим численность наивных Т-лимфоцитов CD4+ в различных фазах клеточного цикла. Показана глобальная разрешимость модели (существование и единственность решения на полуоси) и установлена неотрицательность компонент решения. Для проведения вычислительных экспериментов с моделью разработан алгоритм численного решения используемой системы дифференциальных уравнений на основе полунеявной схемы Эйлера для случая равномерного распределения длительностей существования комплексов. Представлены результаты вычислительных экспериментов, направленных на приближение численного решения модели к описанию кинетики развития инфекции ВИЧ-1 в ее острой фазе, включая фазу эклипса. В качестве наблюдаемой использована переменная, описывающая количество вирусных частиц на один миллилитр крови на 10–12-е сутки после начала острой инфекции. Численно исследована динамика наблюдаемой переменной в зависимости от вариации параметров модели, отражающих закономерности формирования комплексов и образования клеток, производящих вирусные частицы. Показана возможность затухания инфекции ВИЧ-1 в лимфоузле при определенных значениях некоторых из параметров модели.
Ключевые слова: инфекция ВИЧ-1, лимфатический узел, наивные Т-лимфоциты CD4+, дифференциальные уравнения с запаздыванием, вычислительный эксперимент.
Modeling the initial period of HIV-1 infection spread in the lymph node based on delay differential equations
Computer Research and Modeling, 2025, v. 17, no. 6, pp. 1181-1203A mathematical model describing the dynamics of HIV-1 infection in a single lymph node during the initial period of infection development is presented. Within the framework of the model, the infection of an individual is set by a nonnegative finite function describing the rate of entry of the initial viral particles into the lymph node. The equations of the model are derived with consideration of two factors: 1) the interaction of viral particles with naive CD4+ T lymphocytes in various phases of the cell cycle; 2) contact interaction between multiplying naive CD4+ T lymphocytes and infected CD4+ T lymphocytes producing viral particles. The specific feature of intercellular contact interactions is the formation of complexes consisting of pairs of these cells. The duration of the complexes’ existence is determined by the distribution functions over finite time intervals. The model is presented as a high-dimensional system of nonlinear delay differential equations, including two equations with distributed delay, and is supplemented with non-negative initial data. In the absence of HIV-1 infection, the model is reduced to four delay differential equations describing the number of naive CD4+ T-lymphocytes in different phases of the cell cycle. The global solvability of the model (the existence and uniqueness of the solution on the semi-axis) is determined, and the non-negativity of the solution components is established. To carry out computational experiments with the model, an algorithm for numerically solving the used system of differential equations are developed based on the semi-implicit Euler scheme for the case of uniform distribution of durations of the complexes existence. The results of computational experiments aimed at approximation the numerical solution of the model to describing the kinetics of HIV-1 infection spread in its acute phase, including the eclipse phase, are presented. The variable used as the observable is the variable describing the number of viral particles per milliliter of blood on days 10–12 after the onset of acute infection. The dynamics of the observable variable is numerically studied depending on the variation of the model parameters reflecting the patterns of complex formation and the formation of cells producing viral particles. The possibility of attenuation of HIV-1 infection in the lymph node at certain values of some of the model parameters is shown.
-
Высокопроизводительная идентификация моделей кинетики гидридного фазового перехода
Компьютерные исследования и моделирование, 2020, т. 12, № 1, с. 171-183Гидриды металлов представляют собой интересный класс соединений, способных обратимо связывать большое количество водорода и потому представляющих интерес для приложений энергетики. Особенно важно понимание факторов, влияющих на кинетику формирования и разложения гидридов. Особенности материала, экспериментальной установки и условий влияют на математическое описание процессов, которое может претерпевать существенные изменения в ходе обработки экспериментальных данных. В статье предложен общий подход к численному моделированию формирования и разложения гидридов металлов и решения обратных задач оценки параметров материала по данным измерений. Модели делятся на два класса: диффузионные, принимающие во внимание градиент концентрации водорода в решетке металла, и модели с быстрой диффузией. Первые более сложны и имеют форму неклассических краевых задач параболического типа. Описан подход к сеточному решению таких задач. Вторые решаются сравнительно просто, но могут сильно меняться при изменении модельных предположений. Опыт обработки экспериментальных данных показывает, что необходимо гибкое программное средство, позволяющее, с одной стороны, строить модели из стандартных блоков, свободно изменяя их при необходимости, а с другой — избегать реализации рутинных алгоритмов, причем приспособленное для высокопроизводительных систем различной парадигмы. Этим условиям удовлетворяет представленная в работе библиотека HIMICOS, протестированная на большом числе экспериментальных данных. Она позволяет моделировать кинетику формирования и разложения гидридов металлов (и других соединений) на трех уровнях абстракции. На низком уровне пользователь определяет интерфейсные процедуры, такие как расчет слоя по времени на основании предыдущего слоя или всей предыстории, вычисление наблюдаемой величины и независимой переменной по переменным задачи, сравнение кривой с эталонной. При этом могут использоваться алгоритмы, решающие краевые задачи параболического типа со свободными границами в весьма общей постановке, в том числе с разнообразными квазилинейными (линейными по производной) граничными условиями, а также вычисляющие расстояние между кривыми в различных метрических пространствах и с различной нормировкой. Это средний уровень абстракции. На высоком уровне достаточно выбрать готовую модель для того или иного материала и модифицировать ее применительно к условиям эксперимента.
Ключевые слова: гидриды металлов, моделирование кинетики фазового перехода, численное моделирование химической кинетики.
High-throughput identification of hydride phase-change kinetics models
Computer Research and Modeling, 2020, v. 12, no. 1, pp. 171-183Metal hydrides are an interesting class of chemical compounds that can reversibly bind a large amount of hydrogen and are, therefore, of interest for energy applications. Understanding the factors affecting the kinetics of hydride formation and decomposition is especially important. Features of the material, experimental setup and conditions affect the mathematical description of the processes, which can undergo significant changes during the processing of experimental data. The article proposes a general approach to numerical modeling of the formation and decomposition of metal hydrides and solving inverse problems of estimating material parameters from measurement data. The models are divided into two classes: diffusive ones, that take into account the gradient of hydrogen concentration in the metal lattice, and models with fast diffusion. The former are more complex and take the form of non-classical boundary value problems of parabolic type. A rather general approach to the grid solution of such problems is described. The second ones are solved relatively simply, but can change greatly when model assumptions change. Our experience in processing experimental data shows that a flexible software tool is needed; a tool that allows, on the one hand, building models from standard blocks, freely changing them if necessary, and, on the other hand, avoiding the implementation of routine algorithms. It also should be adapted for high-performance systems of different paradigms. These conditions are satisfied by the HIMICOS library presented in the paper, which has been tested on a large number of experimental data. It allows simulating the kinetics of formation and decomposition of metal hydrides, as well as related tasks, at three levels of abstraction. At the low level, the user defines the interface procedures, such as calculating the time layer based on the previous layer or the entire history, calculating the observed value and the independent variable from the task variables, comparing the curve with the reference. Special algorithms can be used for solving quite general parabolic-type boundary value problems with free boundaries and with various quasilinear (i.e., linear with respect to the derivative only) boundary conditions, as well as calculating the distance between the curves in different metric spaces and with different normalization. This is the middle level of abstraction. At the high level, it is enough to choose a ready tested model for a particular material and modify it in relation to the experimental conditions.
-
Исследование усредненной модели окислительной регенерации закоксованного катализатора
Компьютерные исследования и моделирование, 2021, т. 13, № 1, с. 149-161Статья посвящена построению и исследованию усредненной математической модели окислительной регенерации алюмокобальтмолибденового катализатора гидрокрекинга. Окислительная регенерация является эффективным средством восстановления активности катализатора при покрытии его гранул коксовыми отложениями.
Математическая модель указанного процесса представляет собой нелинейную систему обыкновенных дифференциальных уравнений, в которую включены кинетические уравнения для концентраций реагентов и уравнения для учета изменения температуры зерна катализатора и реакционной смеси в результате протекания неизотермических реакций и теплообмена между газом и слоем катализатора. Вследствие гетерогенности процесса окислительной регенерации часть уравнений отличается от стандартных кинетических и построена на основе эмпирических данных. В статье рассмотрена схема химического взаимодействия в процессе регенерации, на основе которой составлены уравнения материального баланса. В ней отражены непосредственное взаимодействие кокса и кислорода с учетом степени покрытия гранулы кокса углерод-водородным и углерод-кислородным комплексами, выделение монооксида и диоксида углерода в процессе горения, а также освобождение кислорода и водорода внутри зерна катализатора. При построении модели учитывается изменение радиуса, а следовательно, и площади поверхности коксовых гранул. Адекватность разработанной усредненной модели подтверждена анализом динамики концентраций веществ и температуры.
В статье приведен численный эксперимент для математической модели окислительной регенерации алюмокобальтмолибденового катализатора гидрокрекинга. Эксперимент проведен с использованием метода Кутты–Мерсона. Этот метод относится к методам семейства Рунге–Кутты, но разработан для решения жестких систем обыкновенных дифференциальных уравнений. Результаты вычислительного эксперимента визуализированы.
В работе приведена динамика концентраций веществ, участвующих в процессе окислительной регенерации. На основании соответствия полученных результатов физико-химическим законам сделан вывод об адекватности построенной математической модели. Проанализирован разогрев зерна катализатора и выделение монооксида углерода при изменении радиуса зерна для различных степеней начальной закоксованности. Дано описание полученных результатов.
В заключении отмечены основные результаты, приведены примеры задач, для решения которых может быть применена разработанная математическая модель.
Ключевые слова: окислительная регенерация катализатора, химическая кинетика, нелинейные системы обыкновенных дифференциальных уравнений, численный метод Кутты–Мерсона.
Investigation of the averaged model of coked catalyst oxidative regeneration
Computer Research and Modeling, 2021, v. 13, no. 1, pp. 149-161The article is devoted to the construction and investigation of an averaged mathematical model of an aluminum-cobalt-molybdenum hydrocracking catalyst oxidative regeneration. The oxidative regeneration is an effective means of restoring the activity of the catalyst when its granules are coating with coke scurf.
The mathematical model of this process is a nonlinear system of ordinary differential equations, which includes kinetic equations for reagents’ concentrations and equations for changes in the temperature of the catalyst granule and the reaction mixture as a result of isothermal reactions and heat transfer between the gas and the catalyst layer. Due to the heterogeneity of the oxidative regeneration process, some of the equations differ from the standard kinetic ones and are based on empirical data. The article discusses the scheme of chemical interaction in the regeneration process, which the material balance equations are compiled on the basis of. It reflects the direct interaction of coke and oxygen, taking into account the degree of coverage of the coke granule with carbon-hydrogen and carbon-oxygen complexes, the release of carbon monoxide and carbon dioxide during combustion, as well as the release of oxygen and hydrogen inside the catalyst granule. The change of the radius and, consequently, the surface area of coke pellets is taken into account. The adequacy of the developed averaged model is confirmed by an analysis of the dynamics of the concentrations of substances and temperature.
The article presents a numerical experiment for a mathematical model of oxidative regeneration of an aluminum-cobalt-molybdenum hydrocracking catalyst. The experiment was carried out using the Kutta–Merson method. This method belongs to the methods of the Runge–Kutta family, but is designed to solve stiff systems of ordinary differential equations. The results of a computational experiment are visualized.
The paper presents the dynamics of the concentrations of substances involved in the oxidative regeneration process. A conclusion on the adequacy of the constructed mathematical model is drawn on the basis of the correspondence of the obtained results to physicochemical laws. The heating of the catalyst granule and the release of carbon monoxide with a change in the radius of the granule for various degrees of initial coking are analyzed. There are a description of the results.
In conclusion, the main results and examples of problems which can be solved using the developed mathematical model are noted.
-
Физический анализ и математическое моделирование параметров области взрыва, произведенного в разреженной ионосфере
Компьютерные исследования и моделирование, 2022, т. 14, № 4, с. 817-833В работе выполнен физический и численный анализ динамики и излучения продуктов взрыва, образующихся при проведении российско-американского эксперимента в ионосфере с использованием взрывного генератора на основе гексогена и тротила. Основное внимание уделяется анализу взаимосвязи излучения возмущенной области с динамикой процессов взрывчатого вещества и плазменной струи на поздней стадии. Проанализирован подробный химический состав продуктов взрыва и определены начальные концентрации наиболее важных молекул, способных излучать в инфракрасном диапазоне спектра, и приведены их излучательные константы. Определены начальная температура продуктов взрыва и показатель адиабаты. Проанализирован характер взаимопроникновения атомов и молекул сильно разреженной ионосферы в сферически расширяющееся облако продуктов. Разработана приближенная математическая модель динамики продуктов взрыва в условиях подмешивания к ним разреженного воздуха ионосферы и рассчитаны основные термодинамические характеристики системы. Показано, что на время 0,3–3 с происходит существенное повышение температуры разлетающейся смеси в результате ее торможения. Для анализа и сравнения на основе лагранжевого подхода разработан численный алгоритм решения двухобластной газодинамической задачи, в которой продукты взрыва и фоновый газ разделены контактной границей. Требовалось выполнение специальных условий на контактной границе при ее движении в покоящемся газе. В данном случае существуют определенные трудности в описании параметров продуктов взрыва вблизи контактной границы, что связано с большим различием в размерах массовых ячеек продуктов взрыва и фона из-за перепада плотности на 13 порядков. Для сокращения времени расчета данной задачи в области продуктов взрыва применялась неравномерная расчетная сетка. Расчеты выполнялись с различными показателями адиабаты. Получены результаты, наиболее важным из которых является температура, хорошо согласуется с результатами, полученными по методике, приближенно учитывающей взаимопроникновение. Получено поведение во времени коэффициентов излучения ИК-активных молекул в широком диапазоне спектра. Данное поведение качественно согласуется с экспериментами по ИК-свечению разлетающихся продуктов взрыва.
Ключевые слова: ионосфера, численное моделирование, активный геофизический эксперимент, взрывной генератор, высокоскоростная плазменная струя, инфракрасное излучение, плазма, ионизация, околоземное пространство, кинетика.
Physical analysis and mathematical modeling of the parameters of explosion region produced in a rarefied ionosphere
Computer Research and Modeling, 2022, v. 14, no. 4, pp. 817-833The paper presents a physical and numerical analysis of the dynamics and radiation of explosion products formed during the Russian-American experiment in the ionosphere using an explosive generator based on hexogen (RDX) and trinitrotoluene (TNT). The main attention is paid to the radiation of the perturbed region and the dynamics of the products of explosion (PE). The detailed chemical composition of the explosion products is analyzed and the initial concentrations of the most important molecules capable of emitting in the infrared range of the spectrum are determined, and their radiative constants are given. The initial temperature of the explosion products and the adiabatic exponent are determined. The nature of the interpenetration of atoms and molecules of a highly rarefied ionosphere into a spherically expanding cloud of products is analyzed. An approximate mathematical model of the dynamics of explosion products under conditions of mixing rarefied ionospheric air with them has been developed and the main thermodynamic characteristics of the system have been calculated. It is shown that for a time of 0,3–3 sec there is a significant increase in the temperature of the scattering mixture as a result of its deceleration. In the problem under consideration the explosion products and the background gas are separated by a contact boundary. To solve this two-region gas dynamic problem a numerical algorithm based on the Lagrangian approach was developed. It was necessary to fulfill special conditions at the contact boundary during its movement in a stationary gas. In this case there are certain difficulties in describing the parameters of the explosion products near the contact boundary which is associated with a large difference in the size of the mass cells of the explosion products and the background due to a density difference of 13 orders of magnitude. To reduce the calculation time of this problem an irregular calculation grid was used in the area of explosion products. Calculations were performed with different adiabatic exponents. The most important result is temperature. It is in good agreement with the results obtained by the method that approximately takes into account interpenetration. The time behavior of the IR emission coefficients of active molecules in a wide range of the spectrum is obtained. This behavior is qualitatively consistent with experiments for the IR glow of flying explosion products.
-
Математическое моделирование действия лазерного излучения ближнего ИК-спектра на раковые клетки
Компьютерные исследования и моделирование, 2025, т. 17, № 6, с. 1205-1218В последние десятилетия внедрение достижений биофотоники и квантовой электроники в медицинскую практику привело к развитию новых методов диагностики и терапии многих заболеваний. В области онкологии сегодня успешно применяется метод фотодинамической терапии (ФДТ) для лечения различных типов рака. Наряду с дальнейшим совершенствованием ФДТ в настоящее время ведутся исследования по разработке прямой лазерной терапии, при которой генерация молекул синглетного кислорода ($^{1}$О$_2^{}$) в раковых клетках происходит при действии лазерного излучения ближнего ИК-спектра (ЛИ БИК) с длиной волны $\lambda=1267$ нм без необходимости введения фотосенсибилизаторов в организм пациентов. С целью теоретического исследования прямого действия ЛИ БИК-спектра на раковые клетки и описания большого набора экспериментальных данных разработана математическая модель, включающая основные клеточные процессы, активируемые в раковых клетках при действии ЛИ и определяющие эффективность его цитотоксического действия на раковые клетки. В результате моделирования получена оценка скорости генерации $^{1}$О$_2^{}$ при ЛИ с $\lambda =1267$ нм и описана кинетика генерации вторичных молекул активных форм кислорода (АФК), деградация которых определяется действием учтенной в модели антиоксидантной системы защиты клетки. Показано, что при действии лазерного излучения индуцируются процессы перекисного окисления липидов, приводящие к повреждению клеточных мембран и гибели клеток путем ферроптоза. В результате моделирования установлено, что каскад свободнорадикальных и ферментативных реакций трансформации и накопления АФК приводит к пролонгированному ответу раковых клеток шейки матки на действие лазерного излучения с $\lambda=1267$ нм, в течение которого в раковых клетках развивается окислительный стресс, вызывающий их гибель в результате апоптоза и ферроптоза.
Ключевые слова: биофотоника, лазерная терапия, онкология, компьютерное моделирование, синглетный кислород, активные формы кислорода.
Mathematical modeling of near-infrared laser irradiation effects on cancer cells
Computer Research and Modeling, 2025, v. 17, no. 6, pp. 1205-1218In recent decades, the introduction of biophotonics and quantum electronics advance into medical practice led to the development of new diagnostic and therapeutic approaches for many diseases. In the field of oncology, photodynamic therapy (PDT) is successfully used today in the treatment of various types of cancer. Along with further improvement of PDT, the development of direct laser therapy is currently underway, in which the generation of singlet oxygen molecules ($^{1}$О$_2^{}$) in cancer cells occurs under NIR laser irradiation with a wavelength of $\lambda=1267$ nm without the need to introduce photosensitizers into the patient's body. For the purpose of a~theoretical investigation of the direct effect of NIR laser irradiation on cancer cells and the description of a~large set of experimental data, a mathematical model has been developed. The model includes the main cellular processes activated in cancer cells by NIR laser irradiation that determine the effectiveness of its cytotoxic effect on cancer cells. As a result of modeling, the rate of $^{1}$О$_2^{}$ generation under NIR laser irradiation was estimated, and the kinetics of active oxygen species (ROS) molecules was described. The ROS degradation due to the action of the antioxidant system of cell protection was taken into account in the model. It was shown that NIR laser irradiation induces lipid peroxidation that leads to cellular membrane damage and cell death through ferroptosis. As a result of modeling, it was established that a cascade of free-radical and enzymatic reactions of ROS transformation and accumulation leads to a prolonged response of cervical adenocarcinoma cells HeLa to the action of laser irradiation with $\lambda=1267$ nm, during which oxidative stress develops, causing cancer cell death through apoptosis and ferroptosis.
-
Кинетическая модель репарации двунитевых разрывов ДНК в первичных фибробластах человека при действии редкоионизирующего излучения с различной мощностью дозы
Компьютерные исследования и моделирование, 2015, т. 7, № 1, с. 159-176В настоящей работе представлены результаты кинетического моделирования индукции и репарации двунитевых разрывов ДНК, а также формирования скоплений (фокусов) фосфорилированного гистона H2AX ($\gamma$-H2AX) и белка Rad 51 в местах образования двунитевых разрывов, индуцированных воздействием редкоионизирующего излучения с различной мощностью и продолжительностью, в первичных фибробластах человека. Модель описывает основные механизмы репарации двунитевых разрывов: НГСК (негомологичное соединение концов) и ГР (гомологическая рекомбинация) и учитывает взаимодействия ряда белков (ДНК-ПКкс, ATM, Ku70/80, XRCC1, XRCC4, Rad51, ФРА и др.), участвующих в репарации двунитевых разрывов ДНК, на основе закона действующих масс и кинетики Михаэлиса-Ментен. Для тренировки и подтверждения статистической достоверности модели были использованы литературные данные по кинетике репарации двунитевых разрывов, а также данные по кинетике формирования и деградации фокусов белков репарации $\gamma$-H2AX и Rad51 в местах репарации двунитевых разрывов ДНК после облучения с различной мощностью дозы, полученные ранее нашим коллективом.
Ключевые слова: двунитевые разрывы ДНК, репарация ДНК, кинетическое моделирование, редкоионизирующее излучение, мощность дозы излучения.
Kinetic model of DNA double-strand break repair in primary human fibroblasts exposed to low-LET irradiation with various dose rates
Computer Research and Modeling, 2015, v. 7, no. 1, pp. 159-176Просмотров за год: 4. Цитирований: 3 (РИНЦ).Here we demonstrate the results of kinetic modeilng of DNA double-strand breaks induction and repair and phosphorilated histone H2AX ($\gamma$-H2AX) and Rad51 foci formation in primary human fibroblasts exposed to low-LET ionizing radiation (IR). The model describes two major paths of DNA double-strand breaks repair: non-homologous end joining (NHEJ) and homologous recombination (HR) and considers interactions between DNA and several repair proteins (DNA-PKcs, ATM, Ku70/80, XRCC1, XRCC4, Rad51, RPA, etc.) using mass action equations and Michaelis–Menten kinetics. Experimental data on DNA rejoining kinetics and $\gamma$-H2AX and Rad51 foci formation in vicinity of double strand breaks in primary human fibroblasts exposed to low-LET IR with various dose rates and exposure times was utilized for training and statistical validation of the model.
-
Анализ неустойчивости системы «хищник–жертва», вызванной таксисом, на примере модели сообщества планктона
Компьютерные исследования и моделирование, 2020, т. 12, № 1, с. 185-199В работе представлена модель типа «хищник–жертва», описывающая пространственно-временную динамику планктонного сообщества с учетом биогенных элементов. Система описывается уравнениями типа «реакция–диффузия–адвекция» в одномерной области, соответствующей вертикальному столбу воды в поверхностном слое. Адвективный член уравнения хищника описывает вертикальные перемещения зоопланктона в направлении градиента фитопланктона. Исследование посвящено определению условий возникновения пространственно-неоднородных структур, генерируемых системой под воздействием этих перемещений (таксиса). В предположении равных коэффициентов диффузии всех компонент модели анализируется неустойчивость системы в окрестности гомогенного равновесия к малым пространственно-неоднородным возмущениям.
В результате линейного анализа получены условия для возникновения неустойчивости Тьюринга и волновой неустойчивости. Определено, что соотношения между параметрами локальной кинетики системы определяют возможность потери устойчивости системой и тип неустойчивости. В качестве бифуркационного параметра в исследовании рассматривается скорость таксиса. Показано, что при малых значениях этого параметра система устойчива, а начиная с некоторого критического значения устойчивость может теряться, и система способна генерировать либо стационарные пространственно-неоднородные структуры, либо структуры, неоднородные и по времени, и по пространству. Полученные результаты согласуются с ранними исследованиями подобных двухкомпонентных моделей.
В работе получен интересный результат, указывающий, что бесконечное увеличение скорости таксиса не будет существенно менять вид этих структур. Выявлено, что существует предел величины волнового числа, соответствующего самой неустойчивой моде. Это значение и определяет вид пространственной структуры. В подтверждение полученных результатов в работе приведены варианты пространственно-временной динамики компонент модели в случае неустойчивости Тьюринга и волновой неустойчивости.
Ключевые слова: пространственно-распределенная модель, неустойчивость Тьюринга, волновая неустойчивость, планктонное сообщество, трофотаксис.
Analysis of taxis-driven instability of a predator–prey system through the plankton community model
Computer Research and Modeling, 2020, v. 12, no. 1, pp. 185-199The paper deals with a prey-predator model, which describes the spatiotemporal dynamics of plankton community and the nutrients. The system is described by reaction-diffusion-advection equations in a onedimensional vertical column of water in the surface layer. Advective term of the predator equation represents the vertical movements of zooplankton with velocity, which is assumed to be proportional to the gradient of phytoplankton density. This study aimed to determine the conditions under which these movements (taxis) lead to the spatially heterogeneous structures generated by the system. Assuming diffusion coefficients of all model components to be equal the instability of the system in the vicinity of stationary homogeneous state with respect to small inhomogeneous perturbations is analyzed.
Necessary conditions for the flow-induced instability were obtained through linear stability analysis. Depending on the local kinetics parameters, increasing the taxis rate leads to Turing or wave instability. This fact is in good agreement with conditions for the emergence of spatial and spatiotemporal patterns in a minimal phytoplankton–zooplankton model after flow-induced instabilities derived by other authors. This mechanism of generating patchiness is more general than the Turing mechanism, which depends on strong conditions on the diffusion coefficients.
While the taxis exceeding a certain critical value, the wave number corresponding to the fastest growing mode remains unchanged. This value determines the type of spatial structure. In support of obtained results, the paper presents the spatiotemporal dynamics of the model components demonstrating Turing-type pattern and standing wave pattern.
-
Анализ идентифицируемости математической модели пиролиза пропана
Компьютерные исследования и моделирование, 2021, т. 13, № 5, с. 1045-1057Работа посвящена численному моделированию и исследованию кинетической модели пиролиза пропана. Изучение кинетики реакций является необходимой стадией моделирования динамики газового потока в реакторе.
Кинетическая модель представляет собой нелинейную систему обыкновенных дифференциальных уравнений первого порядка с параметрами, роль которых играют константы скоростей стадий. Математическое моделирование процесса основано на использовании закона сохранения масс. Для решения исходной (прямой) задачи используется неявный метод решения жестких систем обыкновенных дифференциальных уравнений. Модель содержит 60 входных кинетических параметров и 17 выходных параметров, соответствующих веществам реакции, из которых наблюдаемыми являются только 9. В процессе решения задачи по оценке параметров (обратная задача) возникает вопрос неединственности набора параметров, удовлетворяющего имеющимся экспериментальным данным. Поэтому перед решением обратной задачи проводится оценка возможности определения параметров модели — анализ идентифицируемости.
Для анализа идентифицируемости мы используем ортогональный метод, который хорошо себя зарекомендовал для анализа моделей с большим числом параметров. Основу алгоритма составляет анализ матрицы чувствительно- сти методами дифференциальной и линейной алгебры, показывающей степень зависимости неизвестных параметров моделей от заданных измерений. Анализ чувствительности и идентифицируемости показал, что параметры модели устойчиво определяются по заданному набору экспериментальных данных. В статье представлен список параметров модели от наиболее идентифицируемого до наименее идентифицируемого. Учитывая анализ идентифицируемости математической модели, были введены более жесткие ограничения на поиск слабоидентифицируемых параметров при решении обратной задачи.
Обратная задача по оценке параметров была решена с использованием генетического алгоритма. В статье представлены найденные оптимальные значения кинетических параметров. Представлено сравнение экспериментальных и расчетных зависимостей концентраций пропана, основных и побочных продуктов реакции от температуры для разных расходов смеси. На основании соответствия полученных результатов физико-химическим законам и экспериментальным данным сделан вывод об адекватности построенной математической модели.
Ключевые слова: пиролиз пропана, математическая модель, химическая кинетика, анализ чувствительности, анализ идентифицируемости.
Analysis of the identifiability of the mathematical model of propane pyrolysis
Computer Research and Modeling, 2021, v. 13, no. 5, pp. 1045-1057The article presents the numerical modeling and study of the kinetic model of propane pyrolysis. The study of the reaction kinetics is a necessary stage in modeling the dynamics of the gas flow in the reactor.
The kinetic model of propane pyrolysis is a nonlinear system of ordinary differential equations of the first order with parameters, the role of which is played by the reaction rate constants. Math modeling of processes is based on the use of the mass conservation law. To solve an initial (forward) problem, implicit methods for solving stiff ordinary differential equation systems are used. The model contains 60 input kinetic parameters and 17 output parameters corresponding to the reaction substances, of which only 9 are observable. In the process of solving the problem of estimating parameters (inverse problem), there is a question of non-uniqueness of the set of parameters that satisfy the experimental data. Therefore, before solving the inverse problem, the possibility of determining the parameters of the model is analyzed (analysis of identifiability).
To analyze identifiability, we use the orthogonal method, which has proven itself well for analyzing models with a large number of parameters. The algorithm is based on the analysis of the sensitivity matrix by the methods of differential and linear algebra, which shows the degree of dependence of the unknown parameters of the models on the given measurements. The analysis of sensitivity and identifiability showed that the parameters of the model are stably determined from a given set of experimental data. The article presents a list of model parameters from most to least identifiable. Taking into account the analysis of the identifiability of the mathematical model, restrictions were introduced on the search for less identifiable parameters when solving the inverse problem.
The inverse problem of estimating the parameters was solved using a genetic algorithm. The article presents the found optimal values of the kinetic parameters. A comparison of the experimental and calculated dependences of the concentrations of propane, main and by-products of the reaction on temperature for different flow rates of the mixture is presented. The conclusion about the adequacy of the constructed mathematical model is made on the basis of the correspondence of the results obtained to physicochemical laws and experimental data.
Журнал индексируется в Scopus
Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU
Журнал входит в систему Российского индекса научного цитирования.
Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science
Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"





