Все выпуски
- 2026 Том 18
- 2025 Том 17
- 2024 Том 16
- 2023 Том 15
- 2022 Том 14
- 2021 Том 13
- 2020 Том 12
- 2019 Том 11
- 2018 Том 10
- 2017 Том 9
- 2016 Том 8
- 2015 Том 7
- 2014 Том 6
- 2013 Том 5
- 2012 Том 4
- 2011 Том 3
- 2010 Том 2
- 2009 Том 1
-
Анализ дисперсионных характеристик металлических фотонных кристаллов методом разложения
Компьютерные исследования и моделирование, 2022, т. 14, № 5, с. 1059-1068Рассматривается метод изучения дисперсионных характеристик фотонных кристаллов — сред с периодически меняющейся в пространстве диэлектрической проницаемостью. Метод основывается на представлении волновых функций и диэлектрической проницаемости периодической среды в виде рядов Фурье и последующей их подстановки в волновое уравнение, приводящей к формулировке дисперсионного уравнения. Пользуясь последним, для каждого значения волнового вектора можно определить набор собственных частот, каждая из которых, являясь непрерывной функцией волнового числа, образует отдельную дисперсионную кривую. Коэффициенты фурье-разложения диэлектрической проницаемости, зависящие от векторов обратной решетки фотонного кристалла, определяются на основе данных о геометрических характеристиках элементов, образующих кристалл, их электрофизических свойствах и плотности заполнения кристалла. Решение найденного дисперсионного уравнения позволяет получить полную информацию о количестве мод, распространяющихся в периодической структуре на различных частотах, и о возможности формирования в ней запрещенных зон — диапазонов частот, в пределах которых волновое распространение через фотонный кристалл невозможно. Основное внимание в работе уделяется приложению данного метода к анализу дисперсионных свойств металлических фотонных кристаллов. Сложности, возникающие в данном случае из-за наличия собственных дисперсионных свойств металлов, образующих элементы кристалла, преодолеваются аналитическим описанием их диэлектрической проницаемости, основывающимся на модели свободных электронов. В итоге формулируется дисперсионное уравнение, численное решение которого легко алгоритмизируется, что позволяет определять дисперсионные характеристики металлических фотонных кристаллов с произвольными параметрами. В работе сопоставляются полученные по данной методике результаты расчета дисперсионных диаграмм, характеризующих двумерные металлические фотонные кристаллы, с экспериментальными данными и численными результатами, полученными с использованием метода самосогласованных уравнений. Демонстрируется их хорошее согласие.
Ключевые слова: численные методы, фотонные кристаллы, зоны Бриллюэна, дисперсионные характеристики, запрещенные зоны, спектр.
Analysis of the dispersion characteristics of metallic photonic crystals by the plane-wave expansion method
Computer Research and Modeling, 2022, v. 14, no. 5, pp. 1059-1068A method for studying the dispersion characteristics of photonic crystals — media with a dielectric constant that varies periodically in space — is considered. The method is based on the representation of the wave functions and permittivity of a periodic medium in the form of Fourier series and their subsequent substitution into the wave equation, which leads to the formulation of the dispersion equation. Using the latter, for each value of the wave vector it is possible determined a set of eigen frequencies. Each of eigen frequency forms a separate dispersion curve as a continuous function of the wave number. The Fourier expansion coefficients of the permittivity, which depend on the vectors of the reciprocal lattice of the photonic crystal, are determined on the basis of data on the geometric characteristics of the elements that form the crystal, their electrophysical properties and the density of the crystal. The solution of the dispersion equation found makes it possible to obtain complete information about the number of modes propagating in a periodic structure at different frequencies, and about the possibility of forming band gaps, i.e. frequency ranges within which wave propagation through a photonic crystal is impossible. The focus of this work is on the application of this method to the analysis of the dispersion properties of metallic photonic crystals. The difficulties that arise in this case due to the presence of intrinsic dispersion properties of the metals that form the elements of the crystal are overcome by an analytical description of their permittivity based on the model of free electrons. As a result, a dispersion equation is formulated, the numerical solution of which is easily algorithmized. That makes possible to determine the dispersion characteristics of metallic photonic crystals with arbitrary parameters. Obtained by this method the results of calculation of dispersion diagrams, which characterize two-dimensional metal photonic crystals, are compared with experimental data and numerical results obtained using the method of self-consistent equations. Their good agreement is demonstrated.
-
Моделирование неравномерного горения и напряженно-деформированного состояния пороховых элементов трубчатого заряда при выстреле
Компьютерные исследования и моделирование, 2022, т. 14, № 6, с. 1281-1300Врабо те представлена физико-математическая постановка задач внутренней баллистики артиллерийского выстрела для заряда, состоящего из совокупности пороховых трубок, и их напряженно-деформированного состояния. Горение и движение пучка пороховых трубок по каналу ствола моделируются эквивалентным трубчатым зарядом всестороннего горения. Предполагается, что эквивалентная трубка движется по оси канала ствола. Скорость движения эквивалентного трубчатого заряда и его текущее положение определяются из второго закона Ньютона. При расчете параметров течения использованы двумерные осесимметричные уравнения газовой динамики, для решения которых строится осесимметричная ортогонализированная разностная сетка, адаптирующаяся к условиям течения. Для численного решения системы газодинамических уравнений применяется метод контрольного объема. Параметры газа на границах контрольных объемов определяются с использованием автомодельного решения задачи о распаде произвольного разрыва С. К. Годунова. Напряженно-деформированное состояние моделируется для отдельной горящей пороховой трубки, находящейся в поле нестационарных газодинамических параметров. Расчет газодинамических параметров выстрела осуществляется без учета деформированного состояния пороховых элементов. При данных условиях рассмотрено поведение пороховых элементов при выстреле. Для решения нестационарной задачи упругости используется метод конечных элементов с разбиением области расчета на треугольные элементы. В процессе выгорания пороховой трубки расчетная сетка на каждом временном слое динамической задачи полностью обновляется в связи с изменением границ порохового элемента за счет горения. Представлены временные зависимости параметров внутрибаллистического процесса и напряженно-деформированного состояния пороховых элементов, а также распределения основных параметров течения продуктов горения в различные моменты времени. Установлено, что трубчатые пороховые элементы в процессе выстрела испытывают существенные деформации, которые необходимо учитывать при решении основной задачи внутренней баллистики. Полученные данные дают представления об уровне эквивалентных напряжений, действующих в различных точках порохового элемента. Представленные результаты говорят об актуальности сопряженной постановки задачи газовой динамики и напряженно-деформированного состояния для зарядов, состоящих из трубчатых порохов, поскольку это позволяет по-новому подойти к проектированию трубчатых зарядов и открывает возможность определения параметров, от которых существенно зависят физика процесса горения пороха и, следовательно, динамика процесса выстрела.
Ключевые слова: артиллерийская система, внутренняя баллистика, математическое моделирование, осесимметричная постановка, уравнения газовой динамики, трубчатые пороховые элементы, уравнения напряженно-деформированного состояния.
Simulation of uneven combustion and stress-strain state of powder elements of a tubular charge during firing
Computer Research and Modeling, 2022, v. 14, no. 6, pp. 1281-1300The paper presents the physical and mathematical formulation of the problems of internal ballistics of an artillery shot for a charge consisting of a set of powder tubes and their stress-strain state. Combustion and movement of a bundle of powder tubes along the barrel channel is modeled by an equivalent tubular charge of all-round combustion. It is assumed that the equivalent tube moves along the axis of the bore. The speed of movement of an equivalent tubular charge and its current position are determined from Newton’s second law. When calculating the flow parameters, two-dimensional axisymmetric equations of gas dynamics were used, for the solution of which an axisymmetric orthogonalized difference grid is constructed, which adapts to the flow conditions. The control volume method is used to numerically solve the system of gas-dynamic equations. The gas parameters at the boundaries of the control volumes are determined using a self-similar solution to the Godunov’s problem of the decay of an arbitrary discontinuity. The stress-strain state is modeled for a separate burning powder tube located in the field of gas-dynamic parameters. The calculation of the gas-dynamic parameters of the shot is carried out without taking into account the deformed state of the powder elements. The behavior of powder elements during firing is considered under these conditions. The finite element method with the division of the calculation area into triangular elements is used to solve the problem of elasticity. In the process of powder tube burnout, the computational grid on each time layer of the dynamic problem is completely updated due to a change in the boundaries of the powder element due to combustion. The paper shows the time dependences of the parameters of the internal ballistics process and the stress-strain state of powder elements, as well as the distribution of the main parameters of the flow of combustion products at different points in time. It has been established that the tubular powder elements during the shot experience significant deformations, which must be taken into account when solving the basic problem of internal ballistics. The data obtained give an idea of the level of equivalent stresses acting at various points of the powder element. The results obtained indicate the relevance of the conjugate formulation of the problem of gas dynamics and the stress-strain state for charges consisting of tubular powders, since this allows a new approach to the design of tubular charges and opens up the possibility of determining the parameters on which the physics of the combustion process of gunpowder significantly depends, therefore, and the dynamics of the shot process.
-
Нейроморфный процессор с аппаратным обучением на основе сверточной нейронной сети для анализа аудиоспектрограмм
Компьютерные исследования и моделирование, 2026, т. 18, № 1, с. 81-99В статье предлагается архитектурное решение организации сверточной нейронной сети (СНС), ориентированное на аппаратную реализацию на конечных устройствах (edge-устройствах) в условиях ограниченных ресурсов. С этой целью предложен подход к сжатию спектрограмм до заданного размера (28×28) с использованием дискретизации, моноконверсии, оконного преобразования Фурье и двумерной интерполяции. Разработана сбалансированная процедура свертки на базе компактных сверточных фильтров, размер которых обеспечивает необходимый для edge-устройств баланс между вычислительной сложностью и точностью. Предложен алгоритм, позволяющий выполнять операции свертки и вычисления градиента функции ошибки на сверточном слое за один такт, обеспечивая повышение производительности режимов инференса и обучения СНС. Проведена оптимизация соотношения между обучаемостью сети и ее устойчивостью к переобучению за счет применения метода регуляризации Dropout с коэффициентом отбрасывания 0,5 для полносвязного слоя.
Работоспособность предложенного решения продемонстрирована на примере задачи распознавания аудиоспектрограмм звуков двигателей автомобилей и самолетов. СНС обучалась на сбалансированном наборе данных, состоящем из 7160 аудиозаписей. Обученная сеть демонстрировала высокую точность распознавания (95%), низкие значения функции потерь (<0,2), сбалансированные метрики «точность/полнота/F-мера», что свидетельствует об эффективности разработанной модели СНС.
Ключевые слова: нейроморфный процессор, аппаратный режим обучения, аудиоспектрограмма, сверточная нейронная сеть.
Neuromorphic processor with hardware learning based on a convolutional neural network for audio spectrogram analysis
Computer Research and Modeling, 2026, v. 18, no. 1, pp. 81-99This paper proposes an architectural solution for organizing a convolutional neural network (CNN) oriented towards hardware implementation on edge devices under limited resources. To this goal, an approach to compressing spectrograms to a given size (28 × 28) is proposed using discretization, monoconversion, windowed Fourier transform, and two-dimensional interpolation. A balanced convolution procedure is developed based on compact convolutional filters, the size of which provides the balance between computational complexity and accuracy required for edge devices. An algorithm that enables convolution operations and calculation of the error function gradient in the convolutional layer in a single cycle ensuring increased performance in both inference and training modes of the CNN is proposed. The tradeoff between network trainability and its resistance to overfitting is optimized by applying the Dropout regularization method with a dropout coefficient of 0.5 for the fully connected layer.
The effectiveness of the proposed solution was demonstrated using the example of recognizing audio spectrograms of car and airplane engine sounds. The CNN was trained on a balanced dataset consisting of 7160 audio recordings. The trained network demonstrated high recognition accuracy (95%), low loss values (< 0.2), and balanced precision/recall/F-metric, demonstrating the effectiveness of the developed CNN model.
-
Точные решения модели Экмана трехмерного ветрового движения однородной жидкости с учетом геострофической составляющей
Компьютерные исследования и моделирование, 2009, т. 1, № 1, с. 57-66Первое решение для ветрового движения однородной жидкости было найдено в 1905 г. Экманом и представляло собой сумму двух слагаемых: дрейфовой составляющей, определяемой напряжением ветра, и геострофической, определяемой наклоном свободной поверхности. Дрейфовая составляющая определяется конкретной формулой и легко поддается анализу. Нахождение геострофической составляющей требует решения уравнения эллиптического типа в области, ограниченной береговой линией, и представляет собой более сложную задачу. В данной работе приводятся примеры областей и ветровых напряжений, когда уравнения для нахождения геострофической составляющей решаются аналитически.
Ключевые слова: ветровое движение жидкости, модель Экмана.
Exact solutions of Ekman’s model for three-dimensional wind-induced flow of homogeneous fluid with geostrophic current
Computer Research and Modeling, 2009, v. 1, no. 1, pp. 57-66The first solution for wind-induced flow of homogeneous fluid was found in 1905 by Ekman and it involved the sum of two components: the drift current determined by wind stress and the geostrophic current determined by slope of the free surface. Drift current is defined by the specific formula and can be easily analyzed. In order to find the geostrophic current it is necessary to solve an elliptic type equation in the area bounded by coastline and it is a more difficult problem. In this paper examples of areas and wind stresses are given for the case when the equations for finding the geostrophic current are solved analytically.
Keywords: wind-induced flow, Ekman's model.Просмотров за год: 2. -
Исследование путей распространения потенциала действия у высших растений с использованием модели ФитцХью-Нагумо
Компьютерные исследования и моделирование, 2011, т. 3, № 1, с. 77-84Двумерная система электрически связанных возбудимых клеток, описанных моделью ФитцХью-Нагумо, была использована для теоретического анализа механизмов распространения потенциала действия (ПД) в тканях высших растений. Показано, что в системе, состоящей из одинаковых элементов, увеличение электрической проводимости между клетками повышало как скорость распространения, так и порог возбуждения ПД. Для имитации симпласта проводящих пучков растений была использована система, состоящая из элементов со слабой электрической связью, которые описывали паренхимные клетки проводящих пучков, и элементов с сильной электрической связью, которые описывали ситовидные элементы. При этом показано,
что порог возбуждения ПД приближался к порогу системы, состоящей только из элементов со слабой электрической связью, а скорость распространения сигнала была значительно выше, нежели в такой системе.
An investigation of an action potential propagation in vascular plant using FitzHugh-Nagumo model
Computer Research and Modeling, 2011, v. 3, no. 1, pp. 77-84Просмотров за год: 3. Цитирований: 4 (РИНЦ).A two-dimensional system of excitable cells, describing by the FitzHugh-Nagumo model, has been used for a theoretical investigation of an action potential propagation (AP) in vascular plant tissues. It is shown that growth of electrical conductivity between cells increases the AP generation threshold and its propagation velocity in the homogeneous system, which has been formed by equal elements. The plant symplast has been
described by the heterogeneous system, including elements with low electrical conductivity, which simulate parenchyma cells, and elements with high electrical conductivity, which simulate sieve elements. Analysis of this system shows that the threshold of the AP generation is similar with this threshold in the homogeneous system
with low electrical conductivity; the velocity of the AP propagation is faster than one in this system. -
Устойчивость дна в напорных каналах
Компьютерные исследования и моделирование, 2015, т. 7, № 5, с. 1061-1068В работе на основе предложенной ранее русловой модели решена одномерная задача устойчивости песчаного дна напорного канала. Особенностью исследуемой задачи является используемое оригинальное уравнение русловых деформаций, учитывающее влияние физико-механических и гранулометрических характеристик донного материала и неровности донной поверхности при русловом анализе. Еще одной особенностью рассматриваемой задачи является учет влияния не только придонного касательного, но и нормального напряжения при изучении русловой неустойчивости. Из решения задачи устойчивости песчаного дна для напорного канала получена аналитическая зависимость, определяющая длину волны для быстрорастущих донных возмущений. Выполнен анализ полученной аналитической зависимости, показано, что она обобщает ряд известных эмпирических формул: Коулмана, Шуляка и Бэгнольда. Структура полученной аналитической зависимости указывает на существование двух гидродинамических режимов, характеризуемых числом Фруда, при которых рост донных возмущений может сильно или слабо зависеть от числа Фруда. Учитывая природную стохастичность процесса движения донных волн и наличие области определения решения со слабой зависимостью от чисел Фруда, можно сделать вывод о том, что экспериментальное наблюдение за процессом развития движения донных волн в данной области должно приводить к получению данных, имеющих существенную дисперсию, что и происходит в действительности.
Bottom stability in closed conduits
Computer Research and Modeling, 2015, v. 7, no. 5, pp. 1061-1068Просмотров за год: 1. Цитирований: 2 (РИНЦ).In this paper on the basis of the riverbed model proposed earlier the one-dimensional stability problem of closed flow channel with sandy bed is solved. The feature of the investigated problem is used original equation of riverbed deformations, which takes into account the influence of mechanical and granulometric bed material characteristics and the bed slope when riverbed analyzing. Another feature of the discussed problem is the consideration together with shear stress influence normal stress influence when investigating the riverbed instability. The analytical dependence determined the wave length of fast-growing bed perturbations is obtained from the solution of the sandy bed stability problem for closed flow channel. The analysis of the obtained analytical dependence is performed. It is shown that the obtained dependence generalizes the row of well-known empirical formulas: Coleman, Shulyak and Bagnold. The structure of the obtained analytical dependence denotes the existence of two hydrodynamic regimes characterized by the Froude number, at which the bed perturbations growth can strongly or weakly depend on the Froude number. Considering a natural stochasticity of the waves movement process and the presence of a definition domain of the solution with a weak dependence on the Froude numbers it can be concluded that the experimental observation of the of the bed waves movement development should lead to the data acquisition with a significant dispersion and it occurs in reality.
-
Параллельный метод вложенных дискретных трещин для моделирования течений в трещиноватых пористых средах
Компьютерные исследования и моделирование, 2021, т. 13, № 4, с. 735-745В данной работе рассматривается параллельный метод решения задач однофазной фильтрации в трещиноватой пористой среде, основанный на представлении трещин вложенными в расчетную сетку поверхностями и называемый в литературе моделью (или методом) вложенных дискретных трещин. В рамках модели пористая среда и крупные трещины представляются в виде двух независимых континуумов. Отличительной особенностью рассматриваемого подхода является то, что расчетная сетка не перестраивается под положение трещин, при этом для каждой ячейки, пересекаемой трещиной, вводится дополнительная степень свободы. Дискретизация потоков между введенными континуумами трещин и пористой среды использует преднасчитанные характеристики пересечения поверхностей трещин с трехмерной расчетной сеткой. При этом дискретизация потоков внутри пористой среды не зависит от потоков между континуумами. Это позволяет интегрировать модель в уже существующие симуляторы многофазных течений в пористых коллекторах и при этом точно описывать поведение течений вблизи трещин.
Ранее автором был предложен монотонный метод вложенных дискретных трещин, основанный на применении метода конечных объемов с нелинейными схемами дискретизации потоков внутри пористой среды: монотонной двухточечной схемы или компактной многоточечной схемы с дискретным принципом максимума. Было доказано, что дискретное решение полученной нелинейной задачи для системы «пористая среда + трещины» сохраняет неотрицательность или удовлетворяет дискретному принципу максимума в зависимости от выбора схемы дискретизации.
Данная работа является продолжением предыдущих исследований. Предложенный метод был параллелизован с помощью программной платформы INMOST и протестирован. Были использованы такие возможности INMOST, как сбалансированное распределение сетки по процессорам, масштабируемые методы решения разреженных распределенных систем линейных уравнений и другие. Были проведены параллельные расчеты, демонстрирующие хорошую масштабируемость при увеличении числа процессоров.
Ключевые слова: трещиноватые пористые среды, модель вложенных дискретных трещин, параллельные вычисления.
Parallel embedded discrete fracture method for flows in fractured porous media
Computer Research and Modeling, 2021, v. 13, no. 4, pp. 735-745In this work, parallel method for solving single-phase flow problems in a fractured porous media is considered. Method is based on the representation of fractures by surfaces embedded into the computational mesh, and known as the embedded discrete fracture model. Porous medium and fractures are represented as two independent continua within the model framework. A distinctive feature of the considered approach is that fractures do not modify the computational grid, while an additional degree of freedom is introduced for each cell intersected by the fracture. Discretization of fluxes between fractures and porous medium continua uses the pre-calculated intersection characteristics of fracture surfaces with a three-dimensional computational grid. The discretization of fluxes inside a porous medium does not depend on flows between continua. This allows the model to be integrated into existing multiphase flow simulators in porous reservoirs, while accurately describing flow behaviour near fractures.
Previously, the author proposed monotonic modifications of the model using nonlinear finite-volume schemes for the discretization of the fluxes inside the porous medium: a monotonic two-point scheme or a compact multi-point scheme with a discrete maximum principle. It was proved that the discrete solution of the obtained nonlinear problem preserves non-negativity or satisfies the discrete maximum principle, depending on the choice of the discretization scheme.
This work is a continuation of previous studies. The previously proposed monotonic modification of the model was parallelized using the INMOST open-source software platform for parallel numerical modelling. We used such features of the INMOST as a balanced grid distribution among processors, scalable methods for solving sparse distributed systems of linear equations, and others. Parallel efficiency was demonstrated experimentally.
-
Моделирование двухфазного течения в пористых средах с использованием неоднородной сетевой модели
Компьютерные исследования и моделирование, 2024, т. 16, № 4, с. 913-925Представлена неоднородная двумерная сетевая модель двухфазного течения в пористых средах. Предполагается, что ребра сети представляют собой капиллярные трубки разного радиуса. Предложен новый алгоритм управления фазовыми потоками в узлах этой сетевой модели. Показано, что сетевая модель демонстрирует свойства, аналогичные свойствам реальных пористых сред: капиллярная пропитка, зависимость капиллярного давления от насыщенности и влияние капиллярных сил при двухфазном течении. Было решено две тестовые задачи: противоточная пропитка пористого блока и двухфазное течение в периодически неоднородной пористой среде. В первой задаче реализована сеть, состоящая из двух областей: область с низкой проницаемостью и тонкими капиллярами окружена областью с высокой проницаемостью и толстыми капиллярами, изначально насыщенными смачивающими и несмачивающими несжимаемыми жидкостями соответственно. Капиллярное равновесие устанавливается за счет противоточной пропитки внутренней области. Исследована зависимость насыщенности смачивающей жидкости в областях от времени и капиллярного давления от текущей насыщенности. Получено качественное соответствие известным экспериментальным и теоретическим результатам, что в дальнейшем позволит использовать эту сетевую модель для проверки осредненных моделей капиллярной неравновесности. Во второй задаче рассматривается двухфазное вытеснение, при котором сеть изначально насыщается несмачивающей жидкостью. Затем смачивающая жидкость вводится через границу с постоянным расходом. Анализируется распределение насыщенности вдоль оси, направленной вдоль приложенного градиента давления, для различных моментов времени при различных значениях коэффициентов поверхностного натяжения. Результаты расчетов показывают, что при более низких значениях коэффициента поверхностного натяжения смачивающая жидкость предпочитает проникать через более толстые трубки, а при более высоких значениях — через более тонкие.
Ключевые слова: пористая среда, капиллярное давление, пропитка, многофазный поток, сетевые модели, периодически неоднородные среды.
Simulation of two-phase flow in porous media using an inhomogeneous network model
Computer Research and Modeling, 2024, v. 16, no. 4, pp. 913-925We present an inhomogeneous two-dimensional network model of two-phase flow in porous media. The edges of the network are assumed to be capillary tubes of different radii. We propose a new algorithm for handling phase fluxes at the nodes of this network model. We perform two test problems and show that the two-phase flow in this inhomogeneous network model demonstrates properties that are analogous to those of real porous media: capillary imbibition, dependence of capillary pressure on saturation and effect of capillary forces in two-phase displacement. The two test problems are: the counter-current imbibition and the twophase displacement in a periodically inhomogeneous porous medium. In the former problem, we implement a network consisting of two regions: a region of low-permeability with thin capillaries surrounded by a region of high-permeability with thick capillaries, initially saturated with wetting and nonwetting incompressible fluids, respectively. Capillary equilibrium is established due to counter-current imbibition by a region. We examine the dependence: of saturation of the wetting fluid with respect to time in the regions, and of capillary pressure on the current saturation. We have obtained a qualitative agreement with the known experimental and theoretical results, which will further allow us to use this network model to verify homogenized models of capillary nonequilibrium. In the latter problem, we consider the two-phase displacement, where the network is initially saturated with nonwetting fluid. Then wetting fluid is injected through a boundary at a constant rate. We analyze the saturation with respect to the axis which is along the applied pressure gradient for various moments in time with various values of coefficients of surface tension. The results show that for lower values of coefficient of surface tension, the wetting fluid prefers to invade through the thicker tubes, and in the case of higher values, through thinner tubes.
-
Численное моделирование динамики распределения плотности клеточной ткани с учетом влияния хемотаксиса и деформации внеклеточного матрикса
Компьютерные исследования и моделирование, 2024, т. 16, № 6, с. 1433-1445В настоящей работе рассматривается математическая модель динамики клеточной ткани. В первой части дается вывод модели, основные положения и постановка задачи. Во второй части итоговая система исследуется численно и приводятся результаты моделирования. Постулируется, что клеточная ткань есть трехфазная среда, которая состоит из твердого скелета (представляющего собой внеклеточный матрикс), клеток и внеклеточной жидкости. Ко всему прочему учитывается наличие питательных веществ в ткани. В основу модели положены уравнения сохранения массы с учетом обмена масс, уравнения сохранения импульса для каждой фазы, а также уравнение диффузии для питательных веществ. В уравнении, описывающем клеточную фазу, также учитывается слагаемое, описывающее химическое воздействие на ткань, которое называется хемотаксисом — движением клеток, вызванным градиентом концентрации химических веществ. Исходная система уравнений сводится к системе трех уравнений для нахождения пористости, насыщенности клеток и концентрации питательных веществ. Данные уравнения дополняются начальными и краевыми условиями. В одномерном случае в начальный момент времени задается распределение пористости, концентрации клеточной фазы и питательных веществ. На левой границе задана постоянная концентрация питательных веществ, что соответствует, например, поступлению кислорода из сосуда, а также поток концентрации клеток на ней равен нулю. На правой границе рассматриваются два типа условий: первое — условие непроницаемости правой границы, второе — условие постоянной концентрации клеточной фазы и нулевой поток концентрации питательных веществ. В обоих случаях условия для матрикса и внеклеточной жидкости одинаковы, предполагается наличие источника питательных веществ (кровеносного сосуда) на левой границе области моделирования. В результате моделирования было выявлено, что хемотаксис оказывает значительное влияние на рост ткани. При отсутствии хемотаксиса зона уплотнения распространяется на всю область моделирования, но при увеличении влияния хемотаксиса на ткань образуется область деградации, в которой концентрация клеток становится ниже начальной.
Ключевые слова: математическое моделирование, биологическая ткань, обмен масс, фильтрация, пористость.
Numerical simulation of the dynamics of the density distribution of cellular tissue, taking into account the influence of chemotaxis and deformation of the extracellular matrix
Computer Research and Modeling, 2024, v. 16, no. 6, pp. 1433-1445In this paper, a mathematical model of cellular tissue dynamics is considered. The first part gives the conclusion of the model, the main provisions and the formulation of the problem. In the second part, the final system is investigated numerically and the simulation results are presented. It is postulated that cellular tissue is a three-phase medium that consists of a solid skeleton (which is an extracellular matrix), cells and extracellular fluid. In addition, the presence of nutrients in the tissue is taken into account. The model is based on the equations of conservation of mass, taking into account mass exchange, the equations of conservation of momentum for each phase, as well as the diffusion equation for nutrients. The equation describing the cellular phase also takes into account the term describing the chemical effect on the tissue, which is called chemotaxis — the movement of cells caused by a gradient in the concentration of chemicals. The initial system of equations is reduced to a system of three equations for finding porosity, cell saturation and nutrient concentration. These equations are supplemented by initial and boundary conditions. In the one-dimensional case, the distribution of porosity, concentration of the cell phase and nutrients is set at the initial moment of time. A constant concentration of nutrients is set on the left border, which corresponds, for example, to the supply of oxygen from the vessel, as well as the flow of cell concentration on it is zero. Two types of conditions are considered at the right boundary: the first is the condition of impermeability of the right boundary, the second is the condition of constant concentration of the cell phase and zero flow of nutrient concentration. In both cases, the conditions for the matrix and extracellular fluid are the same, it is assumed that there is a source of nutrients (blood vessel) on the left border of the modeling area. As a result of modeling, it was revealed that chemotaxis has a significant effect on tissue growth. In the absence of chemotaxis, the compaction zone extends to the entire modeling area, but with an increase in the effect of chemotaxis on the tissue, a degradation area is formed in which the concentration of cells becomes lower than the initial one.
-
Моделирование морфологии астроцитов с применением алгоритма колонизации пространства
Компьютерные исследования и моделирование, 2025, т. 17, № 3, с. 465-481В настоящей работе рассматривается феноменологический алгоритм генерации морфологии глиальных клеток мозга — астроцитов, основанный на морфометрических данных протоплазматических астроцитов и общих тенденциях развития данного типа клеток in vivo, описанных в литературе. Мы адаптировали алгоритм пространственной колонизации (Space Colonization Algorithm, SCA) для процедурной генерации полной астроцитарной морфологии. Используемые в генерации аттракторные точки распределялись в пространственном объеме в соответствии с плотностью распределения синапсов в ткани гиппокампа на первой неделе постнатального развития мозга крысы. Нами были проанализированы и сопоставлены данные реконструкций астроцитарных морфологий на разных этапах развития мозга с использованием таких методик и параметров, как анализ Шолля, число точек ветвления, число терминалей, общая длина дерева и максимальный порядок ветвления. Используя данные морфометрического анализа протоплазматических астроцитов животных разных возрастов, были подобраны необходимые параметры генерации для получения наиболее реалистичных трехмерных моделей морфологии клеток. Мы показали, что разработанный нами алгоритм позволяет не только получить геометрию отдельных клеток, например, для задач вычислительной биологии, но и воссоздать феномен доменной организации клеточной популяции. Доменная организация в ходе генерации морфологий возникает из-за конкуренции клеток за территорию и присвоения их отростками уникальных аттракторных точек, которые становятся недоступными для других клеток и их отростков. Кроме того, нами было разработано дополнение оригинального алгоритма, позволяющее производить генерацию морфологии в две фазы, имитируя двухстадийное развитие структуры астроцитов на первой и третьей-четвертой неделях постнатального развития мозга крыс. Для достижения этого результата мы прибегаем к введению двух типов аттракторов, чтобы разделить две различные стратегии роста во времени: быстрое исследование пространства слабоветвящимися отростками и созревание сложной морфологии за счет обильного ветвления. Мы предполагаем, что модификация алгоритма с введением динамической генерации аттракторов может объяснить процесс формирования тонких структур астроцитарной клетки.
Modelling of astrocyte morphology with space colonization algorithm
Computer Research and Modeling, 2025, v. 17, no. 3, pp. 465-481We examine a phenomenological algorithm for generating morphology of astrocytes, a major class of glial brain cells, based on morphometric data of rat brain protoplasmic astrocytes and observations of general cell development trends in vivo, based on current literature. We adapted the Space Colonization Algorithm (SCA) for procedural generation of astrocytic morphology from scratch. Attractor points used in generation were spatially distributed in the model volume according to the synapse distribution density in the rat hippocampus tissue during the first week of postnatal brain development. We analyzed and compared astrocytic morphology reconstructions at different brain development stages using morphometry estimation techniques such as Sholl analysis, number of bifurcations, number of terminals, total tree length, and maximum branching order. Using morphometric data from protoplasmic astrocytes of rats at different ages, we selected the necessary generation parameters to obtain the most realistic three-dimensional cell morphology models. We demonstrate that our proposed algorithm allows not only to obtain individual cell geometry but also recreate the phenomenon of tiling domain organization in the cell populations. In our algorithm tiling emerges due to the cell competition for territory and the assignment of unique attractor points to their processes, which then become unavailable to other cells and their processes. We further extend the original algorithm by splitting morphology generation in two phases, thereby simulating astrocyte tree structure development during the first and third-fourth weeks of rat postnatal brain development: rapid space exploration at the first stage and extensive branching at the second stage. To this end, we introduce two attractor types to separate two different growth strategies in time. We hypothesize that the extended algorithm with dynamic attractor generation can explain the formation process of fine astrocyte cell structures and maturation of astrocytic arborizations.
Журнал индексируется в Scopus
Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU
Журнал входит в систему Российского индекса научного цитирования.
Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science
Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"





