Все выпуски

В результате численного моделирования впервые определен механизм инициированного кавитацией подъема уровня жидкости в трубках и капиллярах, известного как лазерно-индуцированный светокапиллярный эффект, а также его аналоги — звукокапиллярный и плазмокапиллярный эффекты. Показано, что ключевым условием возникновения подъема жидкости является асимметричное схлопывание относительно крупного одиночного кавитационного пузырька внутри вертикально ориентированной трубки или капилляра. Близость границ (стенки трубки, торца оптоволокона и другие) нарушает сферическую симметрию пузырька при его коллапсе, что приводит к появлению потока жидкости, который замыкается в долгоживущее тороидальное вихревое кольцо (тороидальный вихрь). Вихрь за счет вязкого увлечения окружающей среды генерирует направленное течение жидкости вверх, а также обеспечивает всасывание новой порции жидкости через открытый нижний конец трубки. Результаты моделирования показывают, что характерное время жизни тороидального вихря значительно превышает время стадий роста и схлопывания кавитационного пузырька, который его породил. Показано, что подъем уровня жидкости в трубке начинается не в момент расширения пузырька, а после его полного исчезновения и за счет инерции вихревого движения продолжается на протяжении относительно длительного промежутка времени. Этот результат полностью согласуется с экспериментальными данными, что подтверждает достоверность предложенного механизма. В работе исследована практически значимая конфигурация лазерно-индуцированного светокапиллярного эффекта с использованием оптоволокна. Такая конфигурация открывает широкие перспективы для технических и медицинских приложений, в частности в лазерной хирургии. Исследованный механизм может быть использован для создания кавитационных насосов — эффективных инструментов очистки технических поверхностей и поверхностей ран, где процесс удаления поврежденных тканей и инородных тел в результате температурного воздействия будет сопровождаться удалением продуктов очистки через трубку, что существенно повышает эффективность и безопасность процедуры. Полученные результаты представляют собой первое непротиворечивое объяснение класса кавитационно-индуцированных капиллярных явлений и создают основу для их контролируемого применения в биомедицинских и микрофлюидных технологиях.

For the first time, numerical modeling has determined the mechanism of the initiated-by-cavitation rise of the liquid level in tubes and capillaries, known as the laser-induced optocapillary effect, as well as its analogues — the acoustocapillary and plasmocapillary effects. It is shown that the key condition for the occurrence of the liquid rise is the asymmetric collapse of a single relatively large cavitation bubble inside a vertically oriented tube or capillary. The proximity of boundaries (the tube wall, the fiber optic tip, and others) disrupts the spherical symmetry of the bubble during its collapse, leading to the appearance of a liquid flow that rolls up into a long-lived toroidal vortex ring. Due to viscous entrainment of the surrounding medium, the vortex generates a directed liquid flow upward and also ensures the suction of a new portion of liquid through the open lower end of the tube. The simulation results show that the characteristic lifetime of the toroidal vortex significantly exceeds the duration of the growth and collapse stages of the cavitation bubble that generated it. It is demonstrated that the rise of the liquid level in the tube does not begin at the moment of bubble expansion, but after its complete disappearance, and continues over a relatively long period due to the inertia of the vortex motion. This result is in complete agreement with experimental data, confirming the validity of the proposed mechanism.

The study investigated the practically significant configuration of the laser-induced optocapillary effect using an optical fiber. This configuration opens broad prospects for technical and medical applications, particularly in laser surgery. The investigated mechanism can be used to create cavitation pumps — effective tools for cleaning technical surfaces and wound surfaces, where the process of removing damaged tissue and foreign bodies due to thermal exposure will be accompanied by the removal of debris through the tube, significantly increasing the efficiency and safety of the procedure.

The obtained results represent the first consistent explanation for a class of cavitation-induced capillary phenomena and create a foundation for their controlled application in biomedical and microfluidic technologies.

Работа посвящена аэродинамическим свойствам системы тел, обтекаемой сверхзвуковым потоком. Рассматривается вопрос об уменьшении взаимного влияния с увеличением размера, характеризующего разлет элементов системы. Для моделирования течения применен метод построения сетки из набора сеток. Одна из сеток, регулярная с прямоугольными ячейками, отвечает за интерференцию между телами и служит для описания внешнего невязкого течения. Другие сетки связаны с поверхностями обтекаемых тел и позволяют описать вязкие слои около обтекаемых тел. Эти сетки накладываются на первую, без совмещения каких-либо узлов. Граничные условия реализуются через интерполяцию функций на границах с одной сетки на другую.

The given work is devoted aerodynamic properties of system of the bodies which are flowed round by a supersonic stream. The question on reduction of mutual influence with increase in the size characterising scattering of elements of system is considered. The method of construction of a grid is applied to current modeling from a set of grids. One of grids, regular with rectangular cells, is responsible for an interference between bodies
and serves for the description of an external nonviscous current. Other grids are  connected with surfaces of streamline bodies and allow to describe viscous layers about streamline bodies. These grids are imposed on the first, without combination of any knots. Boundary conditions are realized through interpolation of functions on borders from one grid on another.

В химической технологии для получения очищенного конечного продукта часто используется процесс десублимации. Для этого используются охлаждаемые жидким азотом или холодным воздухом емкости. Смесь газов протекает внутри емкости и охлаждается до температуры конденсации или десублимации некоторых компонентов газовой смеси. Конденсированные компоненты оседают на стенках емкости. В статье представлена математическая модель для расчета охлаждения емкостей для десублимации паров охлажденным воздухом. Математическая модель основана на уравнениях газовой динамики и описывает течение охлажденного воздуха в трубопроводе и воздушном теплообменнике с учетом теплообмена и трения. Теплота фазового перехода учитывается в граничном условии для уравнения теплопроводности путем задания потока тепла. Перенос тепла в теплоизолированных стенках трубопровода и в стенках емкости описывается нестационарными уравнениями теплопроводности. Решение системы уравнений проводится численно. Уравнения газовой динамики решаются методом С. К. Годунова. Уравнения теплопроводности решаются по неявной разностной схеме. В статье приведены результаты расчетов охлаждения двух последовательно установленных емкостей. Начальная температура емкостей равна 298 К. Холодный воздух течет по трубопроводу, через теплообменник первой емкости, затем по трубопроводу в теплообменник второй емкости. За 20 минут емкости остывают до рабочей температуры. Температура стенок емкостей отличается от температуры воздуха на величину не более чем 1 градус. Поток охлажденного воздуха позволяет поддерживать изотермичность стенок емкости в процессе десублимации компонентов из газовой смеси. Приведены результаты аналитической оценки времени охлаждения емкости и разности температуры между стенками емкости и воздухом в режиме десублимации паров. Аналитическая оценка основана на определении времени термической релаксации температуры стенок емкости. Результаты аналитических оценок удовлетворительно совпадают с результатами расчетов по представленной модели. Предложенный подход позволяет проводить расчет охлаждения емкостей потоком холодного воздуха, подаваемого по трубопроводной системе.

For the production of purified final product in chemical engineering used the process of desublimation. For this purpose, the tank is cooled by liquid nitrogen or cold air. The mixture of gases flows inside the tank and is cooled to the condensation or desublimation temperature some components of the gas mixture. The condensed components are deposited on the walls of the tank. The article presents a mathematical model to calculate the cooling air tanks for desublimation of vapours. A mathematical model based on equations of gas dynamics and describes the movement of cooled air in the duct and the heat exchanger with heat exchange and friction. The heat of the phase transition is taken into account in the boundary condition for the heat equation by setting the heat flux. Heat transfer in the walls of the pipe and in the tank wall is described by the nonstationary heat conduction equations. The solution of the system of equations is carried out numerically. The equations of gas dynamics are solved by the method of S. K. Godunov. The heat equation are solved by an implicit finite difference scheme. The article presents the results of calculations of the cooling of two successively installed tanks. The initial temperature of the tanks is equal to 298 K. Cold air flows through the tubing, through the heat exchanger of the first tank, then through conduit to the heat exchanger second tank. During the 20 minutes of tank cool down to operating temperature. The temperature of the walls of the tanks differs from the air temperature not more than 1 degree. The flow of cooling air allows to maintain constant temperature of the walls of the tank in the process of desublimation components from a gas mixture. The results of analytical evaluation of the time of cooling tank and temperature difference between the tank walls and air with the vapor desublimation. Analytical assessment is based on determining the time of heat relaxation temperature of the tank walls. The results of evaluations are satisfactorily coincide with the results of calculations by the present model. The proposed approach allows calculating the cooling tanks with a flow of cold air supplied via the pipeline system.

Модернизация методики аэродинамического эксперимента на современном уровне подразумевает создание математических моделей аэродинамических труб (электронных АДТ), предназначенных для вычислительного сопровождения экспериментальных исследований. Применение электронных АДТ в перспективе способно обеспечить получение достоверных аэродинамических характеристик летательных аппаратов по результатам исследования их моделей в аэродинамических трубах, согласования результатов, полученных на разных экспериментальных установках, сравнения расчетов моделей в безграничном потоке с учетом влияния подвесных устройств и границ потока в рабочей части экспериментальной установки.

Решение данной задачи требует создания научного задела, что, в свою очередь, подразумевает выполнение экспериментальных методических исследований и обширного комплекса расчетных исследований на основе численного решения осредненных по Рейнольдсу уравнений Навье–Стокса с применением суперкомпьютерных технологий. При этом на различных этапах расчетных исследований необходимо моделировать не только летательный аппарат, но и комплексную геометрию рабочей части аэродинамической трубы и подвесных устройств, что требует дополнительных методических расчетов. Также определенные трудности может представлять моделирование ламинарно-турбулентного перехода на поверхности модели, который в большинстве случаев имеет место в условиях эксперимента.

В данной работе представлены результаты расчетов аэродинамических характеристик тематической модели летательного аппарата схемы «летающее крыло» в безграничном потоке при разных углах атаки, полученные в рамках первого этапа работы по созданию математической модели рабочей части аэродинамической трубы Т-102 ЦАГИ. Расчеты выполнялись с использованием двухпараметрической k–ε модели турбулентности со специальными пристеночными функциями, приспособленными для расчета отрывных течений. В рамках данной работы исследовались основные продольные аэродинамические характеристики, было выполнено сравнение с результатами экспериментальных исследований в аэродинамической трубе Т-102 ЦАГИ с учетом погрешностей.

Modern approach to modernization of the experimental techniques involves design of mathematical models of the wind-tunnel, which are also referred to as Electronic of Digital Wind-Tunnels. They are meant to supplement experimental data with computational analysis. Using Electronic Wind-Tunnels is supposed to provide accurate information on aerodynamic performance of an aircraft basing on a set of experimental data, to obtain agreement between data from different test facilities and perform comparison between computational results for flight conditions and data with the presence of support system and test section.

Completing this task requires some preliminary research, which involves extensive wind-tunnel testing as well as RANS-based computational research with the use of supercomputer technologies. At different stages of computational investigation one may have to model not only the aircraft itself but also the wind-tunnel test section and the model support system. Modelling such complex geometries will inevitably result in quite complex vertical and separated flows one will have to simulate. Another problem is that boundary layer transition is often present in wind-tunnel testing due to quite small model scales and therefore low Reynolds numbers.

In the current article the first stage of the Electronic Wind-Tunnel design program is covered. This stage involves computational investigation of aerodynamic characteristics of the generic flying-wing UAV model previously tested in TsAGI T-102 wind-tunnel. Since this stage is preliminary the model was simulated without taking test-section and support system geometry into account. The boundary layer was considered to be fully turbulent.

For the current research FlowVision computational code was used because of its automatic grid generation feature and stability of the solver when simulating complex flows. A two-equation k–ε turbulence model was used with special wall functions designed to properly capture flow separation. Computed lift force and drag force coefficients for different angles-of-attack were compared to the experimental data.

В работе представлена модель тепловых пристеночных функций FlowVision (WFFV), позволяющая моделировать неизотермические течения жидкости и газа около твердых поверхностей на относительно грубых сетках с использованием различных моделей турбулентности. Настоящая работа продолжает исследование по разработке модели пристеночных функций, применимой в широком диапазоне значений величины y+. Модель WFFV предполагает гладкие профили касательной составляющей скорости, турбулентной вязкости, температуры и турбулентной теплопроводности около твердой поверхности. В работе исследуется возможность использования простой алгебраической модели для вычисления переменного турбулентного числа Прандтля, входящего в модель WFFV в качестве параметра. Результаты удовлетворительные. Обсуждаются особенности реализации модели WFFV в программном комплексе FlowVision. В частности, обсуждается граничное условие для уравнения энергии, используемое в высокорейнольдсовых расчетах неизотермических течений. Граничное условие выводится для уравнения энергии, записанного через термодинамическую энтальпию, и для уравнения энергии, записанного через полную энтальпию. Возможности модели демонстрируются на двух тестовых задачах: течение несжимаемой жидкости около пластины и сверхзвуковое течение газа около пластины (M = 3).

Анализ литературы показывает, что в экспериментальных данных и, как следствие, в эмпирических корреляциях для числа Стэнтона (безразмерного теплового потока) присутствует существенная неопределенность. Результаты расчетов дают основание полагать, что значения параметров модели WFFV, автоматически задаваемые в программе по умолчанию, позволяют рассчитывать тепловые потоки на твердых протяженных поверхностях с инженерной погрешностью. В то же время очевидно, что невозможно изобрести универсальные пристеночные функции. По этой причине управляющие параметры модели WFFV выведены в интерфейс FlowVision. При необходимости пользователь может настраивать модель на нужный класс течений.

Предлагаемая модель пристеночных функций совместима со всеми реализованными в программном комплексе FlowVision моделями турбулентности: Смагоринского, Спаларта–Аллмараса, SST $k-\omega$, $k-\varepsilon$ стандартной, $k-\varepsilon$ Abe Kondoh Nagano, $k-\varepsilon$ квадратичной и $k-\varepsilon$ FlowVision.

This work presents the model of heat wall functions FlowVision (WFFV), which allows simulation of nonisothermal flows of fluid and gas near solid surfaces on relatively coarse grids with use of turbulence models. The work follows the research on the development of wall functions applicable in wide range of the values of quantity y+. Model WFFV assumes smooth profiles of the tangential component of velocity, turbulent viscosity, temperature, and turbulent heat conductivity near a solid surface. Possibility of using a simple algebraic model for calculation of variable turbulent Prandtl number is investigated in this study (the turbulent Prandtl number enters model WFFV as parameter). The results are satisfactory. The details of implementation of model WFFV in the FlowVision software are explained. In particular, the boundary condition for the energy equation used in high-Reynolds number calculations of non-isothermal flows is considered. The boundary condition is deduced for the energy equation written via thermodynamic enthalpy and via full enthalpy. The capability of the model is demonstrated on two test problems: flow of incompressible fluid past a plate and supersonic flow of gas past a plate (M = 3).

Analysis of literature shows that there exists essential ambiguity in experimental data and, as a consequence, in empirical correlations for the Stanton number (that being a dimensionless heat flux). The calculations suggest that the default values of the model parameters, automatically specified in the program, allow calculations of heat fluxes at extended solid surfaces with engineering accuracy. At the same time, it is obvious that one cannot invent universal wall functions. For this reason, the controls of model WFFV are made accessible from the FlowVision interface. When it is necessary, a user can tune the model for simulation of the required type of flow.

The proposed model of wall functions is compatible with all the turbulence models implemented in the FlowVision software: the algebraic model of Smagorinsky, the Spalart-Allmaras model, the SST $k-\omega$ model, the standard $k-\varepsilon$ model, the $k-\varepsilon$ model of Abe, Kondoh, Nagano, the quadratic $k-\varepsilon$ model, and $k-\varepsilon$ model FlowVision.

В работе рассматривается применение технологии Message Passing Interface (MPI) для распараллеливания программного алгоритма, основанного на сеточно-характеристическом методе, применительно к численному решению уравнения линейной теории упругости. Данный алгоритм позволяет численно моделировать распространение динамических волновых возмущений в твердых деформируемых телах. К такого рода задачам относится решение прямой задачи распространения сейсмических волн, что представляет интерес в сейсмике и геофизике. Во снове решателя лежит сеточно-характеристический метод. В работе предложен способ уменьшения времени взаимодействия между процессами MPI в течение расчета. Это необходимо для того, чтобы можно было производить моделирование в сложных постановках, при этом сохраняя высокую эффективность параллелизма даже при большом количестве процессов. Решение проблемы эффективного взаимодействия представляет большой интерес, когда в расчете используется несколько расчетных сеток с произвольной геометрией контактов между ними. Сложность данной задачи возрастает, если допускается независимое распределение узлов расчетных сеток между процессами. В работе сформулирован обобщенный подход для обработки контактных условий в терминах переинтерполяции узлов из заданного участка одной сетки в определенную область второй сетки. Предложен эффективный способ распараллеливания и установления эффективных межпроцессорных коммуникаций. Приведены результаты работы реализованного программного кода: получены волновые поля и сейсмограммы как для 2D-, так и для 3D-постановок. Показано, что данный алгоритм может быть реализован в том числе на криволинейных расчетных сетках. Рассмотренные постановки демонстрируют возможность проведения расчета с учетом топографии среды и криволинейных контактов между слоями. Это позволяет получать более точные результаты, чем при расчете только с использованием декартовых сеток. Полученная эффективность распараллеливания — практически 100% вплоть до 4096 процессов (за основу отсчета взята версия, запущенная на 128 процессах). Дале наблюдается ожидаемое постепенное снижение эффективности. Скорость спада не велика, на 16384 процессах удается сохранить 80%-ную эффективность.

We consider an application of the Message Passing Interface (MPI) technology for parallelization of the program code which solves equation of the linear elasticity theory. The solution of this equation describes the propagation of elastic waves in demormable rigid bodies. The solution of such direct problem of seismic wave propagation is of interest in seismics and geophysics. Our implementation of solver uses grid-characteristic method to make simulations. We consider technique to reduce time of communication between MPI processes during the simulation. This is important when it is necessary to conduct modeling in complex problem formulations, and still maintain the high level of parallelism effectiveness, even when thousands of processes are used. A solution of the problem of effective communication is extremely important when several computational grids with arbirtrary geometry of contacts between them are used in the calculation. The complexity of this task increases if an independent distribution of the grid nodes between processes is allowed. In this paper, a generalized approach is developed for processing contact conditions in terms of nodes reinterpolation from a given section of one grid to a certain area of the second grid. An efficient way of parallelization and establishing effective interprocess communications is proposed. For provided example problems we provide wave fileds and seismograms for both 2D and 3D formulations. It is shown that the algorithm can be realized both on Cartesian and on structured (curvilinear) computational grids. The considered statements demonstrate the possibility of carrying out calculations taking into account the surface topographies and curvilinear geometry of curvilinear contacts between the geological layers. Application of curvilinear grids allows to obtain more accurate results than when calculating only using Cartesian grids. The resulting parallelization efficiency is almost 100% up to 4096 processes (we used 128 processes as a basis to find efficiency). With number of processes larger than 4096, an expected gradual decrease in efficiency is observed. The rate of decline is not great, so at 16384 processes the parallelization efficiency remains at 80%.

В работе сформулирована математическая модель гидроупругих колебаний пластины на нелинейно-упрочняющемся основании, взаимодействующей с пульсирующим слоем вязкой жидкости. В предложенной модели, в отличие от известных, совместно учтены упругие свойства пластины, нелинейность ее основания, а также диссипативные свойства жидкости и инерция ее движения. Модель представлена системой уравнений двумерной задачи гидроупругости, включающей: уравнение динамики пластины Кирхгофа на упругом основании с жесткой кубической нелинейностью, уравнения Навье – Стокса, уравнение неразрывности, краевые условия для прогибов пластины, давления жидкости на торцах пластины, а также для скоростей движения жидкости на границах контакта жидкости и ограничивающих ее стенок. Исследование модели проведено методом возмущений с последующим использованием метода итерации для уравнений тонкого слоя вязкой жидкости. В результате определен закон распределения давления жидкости на поверхности пластины и осуществлен переход к интегро-дифференциальному уравнению изгибных гидроупругих колебаний пластины. Данное уравнение решено методом Бубнова – Галёркина с применением метода гармонического баланса для определения основного гидроупругого отклика пластины и фазового сдвига. Показано, что исходная задача может быть сведена к исследованию обобщенного уравнения Дуффинга, в котором коэффициенты при инерционных, диссипативных и жесткостных членах определяются физико-механическими параметрами исходной системы. Найдены основной гидроупругий отклик пластины и фазовый сдвиг, проведено их численное исследование при учете инерции движения жидкости и для ползущего движения жидкости при нелинейно- и линейно-упругом основании пластины. Результаты расчетов показали необходимостьу чета вязкости жидкости и инерции ее движения совместно с упругими свойствами пластины и ее основания как для нелинейных колебаний, так и для линейных колебаний пластины.

The paper formulates a mathematical model for hydroelastic oscillations of a plate resting on a nonlinear hardening elastic foundation and interacting with a pulsating fluid layer. The main feature of the proposed model, unlike the wellknown ones, is the joint consideration of the elastic properties of the plate, the nonlinearity of elastic foundation, as well as the dissipative properties of the fluid and the inertia of its motion. The model is represented by a system of equations for a twodimensional hydroelasticity problem including dynamics equation of Kirchhoff’s plate resting on the elastic foundation with hardening cubic nonlinearity, Navier – Stokes equations, and continuity equation. This system is supplemented by boundary conditions for plate deflections and fluid pressure at plate ends, as well as for fluid velocities at the bounding walls. The model was investigated by perturbation method with subsequent use of iteration method for the equations of thin layer of viscous fluid. As a result, the fluid pressure distribution at the plate surface was obtained and the transition to an integrodifferential equation describing bending hydroelastic oscillations of the plate is performed. This equation is solved by the Bubnov –Galerkin method using the harmonic balance method to determine the primary hydroelastic response of the plate and phase response due to the given harmonic law of fluid pressure pulsation at plate ends. It is shown that the original problem can be reduced to the study of the generalized Duffing equation, in which the coefficients at inertial, dissipative and stiffness terms are determined by the physical and mechanical parameters of the original system. The primary hydroelastic response and phases response for the plate are found. The numerical study of these responses is performed for the cases of considering the inertia of fluid motion and the creeping fluid motion for the nonlinear and linearly elastic foundation of the plate. The results of the calculations showed the need to jointly consider the viscosity and inertia of the fluid motion together with the elastic properties of the plate and its foundation, both for nonlinear and linear vibrations of the plate.

В настоящей работе рассматривается математическая модель динамики клеточной ткани. В первой части дается вывод модели, основные положения и постановка задачи. Во второй части итоговая система исследуется численно и приводятся результаты моделирования. Постулируется, что клеточная ткань есть трехфазная среда, которая состоит из твердого скелета (представляющего собой внеклеточный матрикс), клеток и внеклеточной жидкости. Ко всему прочему учитывается наличие питательных веществ в ткани. В основу модели положены уравнения сохранения массы с учетом обмена масс, уравнения сохранения импульса для каждой фазы, а также уравнение диффузии для питательных веществ. В уравнении, описывающем клеточную фазу, также учитывается слагаемое, описывающее химическое воздействие на ткань, которое называется хемотаксисом — движением клеток, вызванным градиентом концентрации химических веществ. Исходная система уравнений сводится к системе трех уравнений для нахождения пористости, насыщенности клеток и концентрации питательных веществ. Данные уравнения дополняются начальными и краевыми условиями. В одномерном случае в начальный момент времени задается распределение пористости, концентрации клеточной фазы и питательных веществ. На левой границе задана постоянная концентрация питательных веществ, что соответствует, например, поступлению кислорода из сосуда, а также поток концентрации клеток на ней равен нулю. На правой границе рассматриваются два типа условий: первое — условие непроницаемости правой границы, второе — условие постоянной концентрации клеточной фазы и нулевой поток концентрации питательных веществ. В обоих случаях условия для матрикса и внеклеточной жидкости одинаковы, предполагается наличие источника питательных веществ (кровеносного сосуда) на левой границе области моделирования. В результате моделирования было выявлено, что хемотаксис оказывает значительное влияние на рост ткани. При отсутствии хемотаксиса зона уплотнения распространяется на всю область моделирования, но при увеличении влияния хемотаксиса на ткань образуется область деградации, в которой концентрация клеток становится ниже начальной.

In this paper, a mathematical model of cellular tissue dynamics is considered. The first part gives the conclusion of the model, the main provisions and the formulation of the problem. In the second part, the final system is investigated numerically and the simulation results are presented. It is postulated that cellular tissue is a three-phase medium that consists of a solid skeleton (which is an extracellular matrix), cells and extracellular fluid. In addition, the presence of nutrients in the tissue is taken into account. The model is based on the equations of conservation of mass, taking into account mass exchange, the equations of conservation of momentum for each phase, as well as the diffusion equation for nutrients. The equation describing the cellular phase also takes into account the term describing the chemical effect on the tissue, which is called chemotaxis — the movement of cells caused by a gradient in the concentration of chemicals. The initial system of equations is reduced to a system of three equations for finding porosity, cell saturation and nutrient concentration. These equations are supplemented by initial and boundary conditions. In the one-dimensional case, the distribution of porosity, concentration of the cell phase and nutrients is set at the initial moment of time. A constant concentration of nutrients is set on the left border, which corresponds, for example, to the supply of oxygen from the vessel, as well as the flow of cell concentration on it is zero. Two types of conditions are considered at the right boundary: the first is the condition of impermeability of the right boundary, the second is the condition of constant concentration of the cell phase and zero flow of nutrient concentration. In both cases, the conditions for the matrix and extracellular fluid are the same, it is assumed that there is a source of nutrients (blood vessel) on the left border of the modeling area. As a result of modeling, it was revealed that chemotaxis has a significant effect on tissue growth. In the absence of chemotaxis, the compaction zone extends to the entire modeling area, but with an increase in the effect of chemotaxis on the tissue, a degradation area is formed in which the concentration of cells becomes lower than the initial one.

В работе проанализированы некоторые проблемы разработки численных методов решения задач с линейным кинетическим уравнением переноса больцмановского типа. Перечислены существующие приложения такого рода уравнения. Основное внимание уделяется задачам переноса излучения в плоском слое, имеющим важное значение для экспериментальной исследовательской практики. Даны основные определения и приведены традиционные ограничения, применяемые в задачах переноса излучения. Рассмотрены некоторые особенности постановки задач радиационного переноса для плоских слоев нерегулярных гетерогенных композиционных материалов, частично прозрачных для электромагнитного излучения. Указаны основные подходы к численному и численно-аналитическому решению линейного кинетического уравнения переноса.

Рассмотрены некоторые варианты наиболее простых сеточных численных методов установления для решения кинетических задач переноса в плоском слое среды с сильным ослаблением. Проанализированы проблемы одно- и двухшаговых вариантов таких итерационных методов, для некоторых из них исследованы и установлены причины отсутствия устойчивости и сходимости.

Показано, что в явном консервативном одношаговом методе для слоя однородной поглощающей, но не излучающей и не рассеивающей среды в спектре гармонических решений всегда существуют неустойчивые моды. Они возникают в области излучения, распространяющегося почти параллельно границам слоя, а их неустойчивость усиливается с ростом эффектов ослабления среды и обусловлена наличием в уравнении переноса малого коэффициента перед пространственной производной. Для ограничения нежелательного влияния этой компоненты рассмотрены различные варианты расщепления уравнения на два и три дробных шага. Показано, что наиболее предпочтительными являются варианты с явной организацией дробных шагов, для которых представлено доказательство устойчивости и сходимости, основанное на теореме Лакса об эквивалентности. Доказано, что правильное выстраивание последовательности дробных шагов в явных схемах численного решения линейных нестационарных кинетических задач переноса способно обеспечивать их дополнительную стабилизацию, причем важную роль стабилизирующего инструмента может играть интеграл рассеяния. Так, при решении кинетических задач переноса в средах с высоким альбедо рассеяния наиболее простым и эффективным оказался явный сеточный метод установления с расщеплением итераций на три дробных шага по физическим процессам. Метод реализован в виде кода на языке Matlab, который в процессе получения численного решения осуществляет контроль его качества.

Представлены наиболее существенные результаты моделирования, подтвердившие, что трехшаговый метод предъявляет сравнительно умеренные требования по ресурсам, точности численного интегрирования и обеспечивает условную сходимость итераций. Его математическая корректность подтверждена поведением невязок уравнения, прямым контролем сходимости численных решений, физическая — обеспечением для эргодических систем свойством сходимости к инвариантному стационарному состоянию, не зависящему от начальных условий. Перечислены некоторые обнаруженные и возможные ограничения метода.

Работа будет полезной специалистам в области математического моделирования, численных методов, кинетической теории, комбинированного тепло- и массообмена, занимающимся вопросами интерпретации экспериментальных данных, аспирантам и студентам старших курсов, специализирующимся в указанных направлениях.

This paper analyzes some issues in developing numerical methods for solving problems with a Boltzmann-type linear kinetic transport equation. Existing applications of this type of equation are listed. The focus is on the problem of radiative transfer in a flat layer, which are important for experimental research practice. Key definitions and traditional limitations applied to radiative transfer problems are presented. Some features of formulating radiative transfer problems for flat layers of irregular heterogeneous composite materials that are partially transparent to electromagnetic radiation are considered. The main approaches to the numerical and numerical-analytical solution of the linear kinetic transport equation are outlined.

Some variants of the simplest grid numerical methods for solving of nonstationary kinetic problems of transport a flat layer of a medium with strong attenuation are considered. Problems with one- and two-step variants of these iterative methods are analyzed, for some of them the causes of instability and convergence absence in some of them are investigated and established. It is shown that in the explicit conservative one-step method for a layer of a homogeneous absorbing, but neither radiating nor scattering, medium, unstable modes always exist in the spectrum of harmonic solutions. These modes arise in the region of radiation propagating almost parallel to the layer boundaries, and their instability increases with increasing attenuation effects and is caused by the presence of a small coefficient before the spatial derivative in the transport equation. To limit the undesirable influence of this component, various variants of splitting the equation into two and three fractional steps are considered.

It is shown that the most preferable options are those with explicitly organized fractional steps, for which a proof of their stability and convergence, that based on the Lax’s equivalence theorem is presented. It is demonstrated that the correct building of the fractional step sequence in explicit schemes for numerical solving of the nonstationary linear kinetic transport problems can provide additional stabilization, with the scattering integral plays an important role in stabilizing them. So, when solving kinetic transport problems in media with high scattering albedo, the explicit grid method of settling with splitting the iterations into three fractional steps, that were based on physical processes proved to be the simplest and most effective. The method is implemented as Matlab code, which performs quality control during the generation of the numerical solution process. The most significant modeling results are presented, confirming that the three-step method imposes relatively moderate requirements on resources and numerical integration accuracy, and ensures conditional convergence of iterations. Its mathematical correctness is confirmed by the behavior of the equation residuals and direct control of the convergence of numerical solutions. Its physical correctness is confirmed by ensuring, for ergodic systems, the property of convergence to an invariant steady state independent of the initial conditions. Some discovered and possible limitations of the method are listed.

The work will be useful to specialists in the field of mathematical modeling, numerical methods, kinetic theory, combined heat and mass transfer, dealing with issues of interpretation of experimental data, graduate students and senior students specializing in the indicated areas.

Рассматривается математическая модель движения жидкости в воротной вене. Фундаментальным обстоятельством, определяющим все многообразие портальных гемодинамических феноменов, является отсутствие клапанного аппарата. Направление потока есть исключительно функция градиента давления, и, следовательно, оно принципиально реверсибельно при изменении граничных условий системы.

Проводились расчеты в области, представляющей фрагмент КТ изображения воротной вены конкретного пациента, не содержащий сосудистых бифуркаций. В качестве граничных условий для потока использована интерполяция данных доплерографии пациентов, опубликованных в печати.

Расчеты проводились с использованием программного комплекса индустриальной гидродинамики FlowVision. Проведено сравнение расчетов при использовании модели идеальной жидкости и модели Куемады вязкопластического течения. Расчеты проводились для разных значений коэффициента сопротивления, соответствующих физиологической норме, и при повышенном значении коэффициента сопротивления.

При нормальном значении коэффициента сопротивления течение в воротной вене характеризуется сильным конвективным перемешиванием.

В результате расчетов получено, что при использовании модели Куемады течение в воротной вене стратифицировано. Характер стратификации зависит от гематокрита. При нормальном значении коэффициента сопротивления при уменьшении скорости формируется пластическое ядро течения. При повышенном значении коэффициента сопротивления при инверсии потока также формируется ядро течения. При инверсии потока пластическое ядро продолжает движение в прямом направлении, в то время как пристеночные слои жидкости начинают двигаться в обратном направлении.

Отмечается, что для получения корректных результатов моделирования необходимы уточнение состава крови воротной вены и, возможно, уточнение реологической модели. Такая информация может быть получена как из сопоставления данных моделирования с клиническими данными, так и путем лабораторного исследования крови воротной вены.

A mathematical model of fluid movement in the portal vein is considered. The fundamental circumstance determining the whole variety of portal hemodynamic phenomena is the absence of a valve apparatus. The flow direction is solely a function of the pressure gradient, and, therefore, it is fundamentally reversible when the boundary conditions of the system change.

Calculations were performed in the area representing a CT image fragment of the portal vein of a particular patient, which does not contain vascular bifurcations. The interpolation of patient Dopplerography data published in the press was used as boundary conditions for the flow. The calculations were carried out using the FlowVision industrial hydrodynamics software package. A comparison of calculations using the ideal fluid model and the Kuemada model of viscoplastic flow is carried out.

Calculations were performed for different values of the resistance coefficient corresponding to the physiological norm and with an increased value of the resistance coefficient.

At a normal value of the resistance coefficient, the flow in the portal vein is characterized by strong convective mixing.

As a result of calculations, it was found that when using the Kuemada model, the flow in the portal vein is stratified. The nature of the stratification depends on the hematocrit. At a normal value of the resistance coefficient, a plastic core of the flow is formed as the velocity decreases. With an increased value of the resistance coefficient during flow inversion, the flow core is also formed. When the flow is inverted, the plastic core continues to move in the forward direction, while the wall layers of the liquid begin to move in the opposite direction.

It is noted that in order to obtain correct modeling results, it is necessary to refine the blood composition of the portal vein and, possibly, refine the rheological model. Such information can be obtained both from comparing simulation data with clinical data, and by laboratory examination of portal vein blood.