Все выпуски

Работа посвящена использованию бикомпактных схем для численного решения эволюционных уравнений гиперболического типа. Основным преимуществом схем этого класса является сочетание двух положительных свойств: пространственной аппроксимации высокого четного порядка на шаблоне, всегда занимающем одну ячейку сетки, и спектрального разрешения, лучшего по сравнению с классическими компактными конечно-разностными схемами того же порядка пространственной аппроксимации. Рассматривается одна особенность бикомпактных схем — жесткая привязка их пространственной аппроксимации к декартовым сеткам (с ячейками-параллелепипедами в трехмерном случае). Она делает затруднительным применение бикомпактных схем к решению задач в сложных расчетных областях в рамках подхода неструктурированных сеток. Предлагается решать эту проблему путем применения известных методов аппроксимации границ сложной формы и соответствующих им краевых условий на декартовых сетках. Обобщение бикомпактных схем на задачи в геометрически сложных областях проводится на примере задач газовой динамики и уравнений Эйлера. В качестве конкретного метода, позволяющего учесть на декартовых сетках влияние твердых границ произвольной формы на течение газа, выбирается метод свободной границы. Приводится краткое описание этого метода, выписываются его уравнения. Для них строятся бикомпактные схемы четвертого порядка аппроксимации по пространству с локально-одномерным расщеплением. Компенсационный поток метода свободной границы дискретизируется со вторым порядком точности. Для интегрирования по времени в получаемых схемах применяются неявный метод Эйлера и $L$-устойчивый жестко-точный трехстадийный однократно диагонально-неявный метод Рунге–Кутты третьего порядка точности. Разработанные бикомпактные схемы тестируются на трех двумерных задачах: о стационарном сверхзвуковом обтекании с числом Маха, равным трем, одного круглого цилиндра и группы изт рех круглых цилиндров, а также о нестационарном взаимодействии плоской ударной волны и круглого цилиндра в канале с плоскопараллельными стенками. Полученные результаты хорошо согласуются с результатами других работ: твердые тела физически корректно влияют на поток газа, давление в контрольных точках на поверхностях тел рассчитывается с точностью, в целом отвечающей выбранному разрешению сетки и уровню численной диссипации.

This work is dedicated to application of bicompact schemes to numerical solution of evolutionary hyperbolic equations. The main advantage of this class of schemes lies in combination of two beneficial properties: the first one is spatial approximation of high even order on a stencil that always occupies only one mesh cell; the second one is spectral resolution which is better in comparison to classic compact finite-difference schemes of the same order of spatial approximation. One feature of bicompact schemes is considered: their spatial approximation is rigidly tied to Cartesian meshes (with parallelepiped-shaped cells in three-dimensional case). This feature makes rather challenging any application of bicompact schemes to problems with complex computational domains as treated in the framework of unstructured meshes. This problem is proposed to be solved using well-known methods for treating complex-shaped boundaries and their corresponding boundary conditions on Cartesian meshes. The generalization of bicompact schemes on problems in geometrically complex domains is made in case of gas dynamics problems and Euler equations. The free boundary method is chosen as a particular tool to introduce the influence of arbitrary-shaped solid boundaries on gas flows on Cartesian meshes. A brief description of this method is given, its governing equations are written down. Bicompact schemes of fourth order of approximation in space with locally one-dimensional splitting are constructed for equations of the free boundary method. Its compensation flux is discretized with second order of accuracy. Time stepping in the obtained schemes is done with the implicit Euler method and the third order accurate $L$-stable stiffly accurate three-stage singly diagonally implicit Runge–Kutta method. The designed bicompact schemes are tested on three two-dimensional problems: stationary supersonic flows with Mach number three past one circular cylinder and past three circular cylinders; the non-stationary interaction of planar shock wave with a circular cylinder in a channel with planar parallel walls. The obtained results are in a good agreement with other works: influence of solid bodies on gas flows is physically correct, pressure in control points on solid surfaces is calculated with the accuracy appropriate to the chosen mesh resolution and level of numerical dissipation.

Работа посвящена исследованию возможности повышения эффективности решения задач внешней аэродинамики. Изучаются методические аспекты применения локально-адаптивных неструктурированных расчетных сеток и пристеночных функций для численного моделирования турбулентных течений около летательных аппаратов. Интегрируются осредненные по Рейнольдсу уравнения Навье–Стокса, которые замыкаются стандартной моделью турбулентности $k–\varepsilon$. Рассматривается обтекание крылового профиля RAE 2822 турбулентным дозвуковым потоком вязкого сжимаемого газа. Расчеты проводятся в программном ВГД-комплексе FlowVision. Анализируется эффективность применения технологии сглаживания диффузионных потоков и формулы Брэдшоу для турбулентной вязкости в качестве мер, повышающих точность решения аэродинамических задач на локально-адаптивных сетках. Результаты исследования показывают, что использование технологии сглаживания диффузионных потоков приводит к существенному уменьшению расхождений в величине коэффициента лобового сопротивления между результатами расчетов и экспериментальными данными. Кроме того, обеспечивается регуляризация распределения коэффициента поверхностного трения на криволинейной поверхности профиля. Эти результаты позволяют сделать вывод о том, что данная технология является эффективным способом повышения точности расчетов на локально-адаптивных сетках. Формула Брэдшоу для динамического коэффициента турбулентной вязкости традиционно используется в модели SST $k–\omega$. В настоящей работе исследуется возможность ее применения в стандартной $k–\varepsilon$-модели турбулентности. Результаты расчетов показывают, что, с одной стороны, данная формула обеспечивает хорошее согласование суммарных аэродинамических характеристик и распределения коэффициента давления по поверхности профиля с экспериментом. Помимо этого, она значительно повышает точность моделирования течения в пограничном слое и в следе. С другой стороны, использование формулы Брэдшоу при моделировании обтекания профиля RAE 2822 приводит к занижению коэффициента поверхностного трения. Поэтому в работе делается вывод о том, что практическое применение формулы Брэдшоу требует ее предварительной валидации и калибровки на надежных экспериментальных данных для рассматриваемого класса задач. Результаты работы в целом показывают, что при использовании рассмотренных технологий численное решение задач внешнего обтекания на локально-адаптивных сетках с применением пристеночных функций обеспечивает точность, приемлемую для оперативной оценки аэродинамических характеристик, а ПК FlowVision является эффективным инструментом решения задач предварительного аэродинамического проектирования, концептуального проектирования и оптимизации аэродинамических форм.

The work is dedicated to investigation of possibility to increase the efficiency of solving external aerodynamic problems. Methodical questions of using locally-adaptive grids and wall functions for numerical simulation of turbulent flows past flying vehicles are studied. Reynolds-averaged Navier–Stokes equations are integrated. The equations are closed by standard $k–\varepsilon$ turbulence model. Subsonic turbulent flow of perfect compressible viscous gas past airfoil RAE 2822 is considered. Calculations are performed in CFD software FlowVision. The efficiency of using the technology of smoothing diffusion fluxes and the Bradshaw formula for turbulent viscosity is analyzed. These techniques are regarded as means of increasing the accuracy of solving aerodynamic problems on locally-adaptive grids. The obtained results show that using the technology of smoothing diffusion fluxes essentially decreases the discrepancy between computed and experimental values of the drag coefficient. In addition, the distribution of the skin friction coefficient over the curvilinear surface of the airfoil becomes more regular. These results indicate that the given technology is an effective way to increase the accuracy of calculations on locally-adaptive grids. The Bradshaw formula for the dynamic coefficient of turbulent viscosity is traditionally used in the SST $k–\omega$ turbulence model. The possibility to implement it in the standard $k–\varepsilon$ turbulence model is investigated in the present article. The calculations show that this formula provides good agreement of integral aerodynamic characteristics and the distribution of the pressure coefficient over the airfoil surface with experimental data. Besides that, it essentially augments the accuracy of simulation of the flow in the boundary layer and in the wake. On the other hand, using the Bradshaw formula in the simulation of the air flow past airfoil RAE 2822 leads to under-prediction of the skin friction coefficient. For this reason, the conclusion is made that practical use of the Bradshaw formula requires its preliminary validation and calibration on reliable experimental data available for the considered flows. The results of the work as a whole show that using the technologies discussed in numerical solution of external aerodynamic problems on locally-adaptive grids together with wall functions provides the computational accuracy acceptable for quick assessment of the aerodynamic characteristics of a flying vehicle. So, one can deduce that the FlowVision software is an effective tool for preliminary design studies, for conceptual design, and for aerodynamic shape optimization.

Численное решение системы уравнений высокотемпературной радиационной газовой динамики (ВРГД) является вычислительно трудоемкой задачей, так как взаимодействие излучения с веществом нелинейно и нелокально. Коэффициенты поглощения излучения зависят от температуры, а поле температур определяется как газодинамическими процессами, так и переносом излучения. Обычно для решения системы ВРГД используется метод расщепления по физическим процессам, выделяется блок решения уравнения переноса совместно с уравнением баланса энергии вещества при известных давлениях и температурах. Построенные ранее разностные схемы, используемые для решения этого блока, обладают порядками сходимости не выше второго. Так как даже на современном уровне развития вычислительной техники имеются ограничения по памяти, то для решения сложных технических задач приходится применять не слишком подробные сетки. Это повышает требования к порядку аппроксимации разностных схем. В данной работе впервые реализованы бикомпактные схемы высокого порядка аппроксимации для алгоритма совместного решения уравнения переноса излучения и уравнения баланса энергии. Предложенный метод может быть применен для решения широкого круга практических задач, так как обладает высокой точностью и подходит для решения задач с разрывами коэффициентов. Нелинейность задачи и использование неявной схемы приводит к итерационному процессу, который может медленно сходиться. В данной работе используется мультипликативный HOLO-алгоритм — метод квазидиффузии В.Я. Гольдина. Ключевая идея HOLO-алгоритмов состоит в совместном решении уравнений высокого порядка (high order, HO) и низкого порядка (low order, LO). Уравнением высокого порядка (HO) является уравнение переноса излучения, которое решается в многогрупповом приближении, далее уравнение осредняется по угловой переменной и получается система уравнений квазидиффузии в многогрупповом приближении (LO₁). Следующим этапом является осреднение по энергии, при этом получается эффективная одногрупповая система уравнений квазидиффузии (LO₂), которая решается совместно с уравнением энергии. Решения, получаемые на каждом этапе HOLO-алгоритма, оказываются тесно связанными, что в итоге приводит к ускорению сходимости итерационного процесса. Для каждого из этапов HOLO-алгоритма предложены разностные схемы, построенные методом прямых в рамках одной ячейки и обладающие четвертым порядком аппроксимации по пространству и третьим порядком по времени. Схемы для уравнения переноса были разработаны Б.В. Роговым и его коллегами, схемы для уравнений LO₁ и LO₂ разработаны авторами. Предложен аналитический тест, на котором демонстрируются заявленные порядки сходимости. Рассматриваются различные варианты постановки граничных условий и исследовано их влияние на порядок сходимости по времени и пространству.

The numerical solving of the system of high-temperature radiative gas dynamics (HTRGD) equations is a computationally laborious task, since the interaction of radiation with matter is nonlinear and non-local. The radiation absorption coefficients depend on temperature, and the temperature field is determined by both gas-dynamic processes and radiation transport. The method of splitting into physical processes is usually used to solve the HTRGD system, one of the blocks consists of a joint solving of the radiative transport equation and the energy balance equation of matter under known pressure and temperature fields. Usually difference schemes with orders of convergence no higher than the second are used to solve this block. Due to computer memory limitations it is necessary to use not too detailed grids to solve complex technical problems. This increases the requirements for the order of approximation of difference schemes. In this work, bicompact schemes of a high order of approximation for the algorithm for the joint solution of the radiative transport equation and the energy balance equation are implemented for the first time. The proposed method can be applied to solve a wide range of practical problems, as it has high accuracy and it is suitable for solving problems with coefficient discontinuities. The non-linearity of the problem and the use of an implicit scheme lead to an iterative process that may slowly converge. In this paper, we use a multiplicative HOLO algorithm named the quasi-diffusion method by V.Ya.Goldin. The key idea of HOLO algorithms is the joint solving of high order (HO) and low order (LO) equations. The high-order equation (HO) is the radiative transport equation solved in the energy multigroup approximation, the system of quasi-diffusion equations in the multigroup approximation (LO₁) is obtained by averaging HO equations over the angular variable. The next step is averaging over energy, resulting in an effective one-group system of quasi-diffusion equations (LO₂), which is solved jointly with the energy equation. The solutions obtained at each stage of the HOLO algorithm are closely related that ultimately leads to an acceleration of the convergence of the iterative process. Difference schemes constructed by the method of lines within one cell are proposed for each of the stages of the HOLO algorithm. The schemes have the fourth order of approximation in space and the third order of approximation in time. Schemes for the transport equation were developed by B.V. Rogov and his colleagues, the schemes for the LO₁ and LO₂ equations were developed by the authors. An analytical test is constructed to demonstrate the declared orders of convergence. Various options for setting boundary conditions are considered and their influence on the order of convergence in time and space is studied.

В настоящей работе приводится математическая модель и результаты численного исследования распространения фронта горения СВС состава, когда скорость химического реагирования в каждой точке по длине образца СВС определяется из решения задачи диффузии и химического реагирования в реакционных ячейках. Получены зависимости скорости фронта горения от размера усредненного элемента гетерогенной структуры при различных значениях интенсивности диффузии. Данные зависимости качественно согласуются с экспериментальными зависимостями. В работе проведено исследование влияния энергии активации диффузии на скорость распространения фронта горения. Выявлено, что при увеличении энергии активации диффузии распространение фронта горения переходит в колебательный режим. Определена граница перехода от стационарного режима распространения фронта горения к колебательному режиму.

In this paper we present a mathematical model and numerical results on a propagation of the combustion front of the SHS compound, where the rate of chemical reaction at each point of the SHS sample is determined by solving the problem of diffusion and chemical reaction in the reaction cell. We obtained the dependence of the combustion front on the size of the average element of a heterogeneous structure with different values of the diffusion intensity. These dependences agree qualitatively with the experimental data. We studied the effect of activation energy for diffusion on the propagation velocity of combustion front. It is revealed the propagation of the combustion front transforms to an oscillatory regime at increase in activation energy of diffusion. A transition boundary of the combustion front propagation from the steady-state regime to the oscillatory one is defined.

В работе построены сопряженные задачи для явной и неявной параболической квазилинейной сеточной пространственно-одномерной краевой задачи: коэффициенты задачи зависят от решения в текущий и предыдущие моменты времени. Зависимость от предыстории осуществляется через вектор состояния, эволюция которого описывается дифференциальным уравнением. К подобным задачам сводятся многие модели диффузионного массопереноса. Решения исходной и сопряженной краевых задач дают возможность получить точное значение градиента некоторого функционала в пространстве параметров, от которых также зависят коэффициенты задачи. Предложены алгоритмы решения задач, в том числе с использованием высокопроизводительных вычислительных систем.

In the paper we construct the adjoint problem for the explicit and implicit parabolic quazi-linear grid boundary-value problems with one spatial variable; the coefficients of the problems depend on the solution at the same time and earlier times. Dependence on the history of the solution is via the state vector; its evolution is described by the differential equation. Many models of diffusion mass transport are reduced to such boundary-value problems. Having solutions to the direct and adjoint problems, one can obtain the exact value of the gradient of a functional in the space of parameters the problem also depends on. We present solving algorithms, including the parallel one.

В работе рассмотрена проблема повышения порядка аппроксимации прозрачных граничных условий для волнового уравнения при использовании разностных схем вплоть до шестого порядка точности по пространству. В качестве примера формулируется задача распространения волн в полубесконечном волноводе прямоугольного сечения. Предложен подход, позволивший вывести экономные и высокоточные формулы при дискретизации оператора прозрачных граничных условий. Приведены примеры численных расчетов, подтверждающие точность и устойчивость полученных разностных алгоритмов.

The paper considers the problem of increasing the approximation order of transparent boundary conditions for the wave equation while using finite difference schemes up to the sixth order of accuracy in space. As an example, the problem of wave propagation in a semi-infinite rectangular waveguide is formulated. Computationally efficient and highly accurate formulas for discretizing operator of transparent boundary conditions are proposed. Numerical results confirm the accuracy and stability of the obtained difference algorithms.

Работа посвящена использованию программного пакета Turbulence Problem Solver (TPS) для численного моделирования широкого спектра лазерных задач. Возможности пакета продемонстрированы на примере численного моделирования взаимодействия фемтосекундных лазерных импульсов с металлическими пленками. Разработанный авторами программный пакет TPS предназначен для численного решения гиперболических систем дифференциальных уравнений на многопроцессорных вычислительных системах с распределенной памятью. Пакет представляет собой современный и расширяемый программный продукт. Архитектура пакета дает исследователю возможность моделировать различные физические процессы единообразно, с помощью различных численных методик и программных блоков, содержащих специфические для каждой задачи начальные условия, граничные условия и источниковые компоненты. Пакет предоставляет пользователю возможность самостоятельно расширять функциональность пакета, добавляя новые классы задач, вычислительных методов, начальных и граничных условий, а также уравнений состояния вещества. Реализованные в программном пакете численные методики тестировались на тестовых задачах в одномерной, двумерной и трехмерной геометрии, в состав которых вошли задачи Римана о распаде произвольного разрыва с различными конфигурациями точного решения.

Тонкие пленки на подложках — важный класс мишеней для наномодификации поверхностей в плазмонике или сенсорных приложениях. Этой тематике посвящено множество статей. Большинство из них, однако, концентрируются на динамике самой пленки, уделяя мало внимания подложке и рассматри- вая ее просто как объект, поглощающий первую волну сжатия и не влияющий на возникающие вследствие облучения поверхностные структуры. В работе подробно описан вычислительный эксперимент по численному моделированию взаимодействия единичного ультракороткого лазерного импульса с золотой пленкой, напыленной на толстую стеклянную подложку. Использовалась равномерная прямоугольная сетка и численный метод Годунова первого порядка точности. Представленные результаты расчетов позволили подтвердить теорию об ударно-волновом механизме образования отверстий в металле при фемтосекундной лазерной абляции для случая тонкой золотой пленки толщиной около 50 нм на толстой стеклянной подложке.

The work is dedicated to the use of the software package Turbulence Problem Solver (TPS) for numerical simulation of a wide range of laser problems. The capabilities of the package are demonstrated by the example of numerical simulation of the interaction of femtosecond laser pulses with thin metal bonds. The software package TPS developed by the authors is intended for numerical solution of hyperbolic systems of differential equations on multiprocessor computing systems with distributed memory. The package is a modern and expandable software product. The architecture of the package gives the researcher the opportunity to model different physical processes in a uniform way, using different numerical methods and program blocks containing specific initial conditions, boundary conditions and source terms for each problem. The package provides the the opportunity to expand the functionality of the package by adding new classes of problems, computational methods, initial and boundary conditions, as well as equations of state of matter. The numerical methods implemented in the software package were tested on test problems in one-dimensional, two-dimensional and three-dimensional geometry, which included Riemann's problems on the decay of an arbitrary discontinuity with different configurations of the exact solution.

Thin films on substrates are an important class of targets for nanomodification of surfaces in plasmonics or sensor applications. Many articles are devoted to this subject. Most of them, however, focus on the dynamics of the film itself, paying little attention to the substrate, considering it simply as an object that absorbs the first compression wave and does not affect the surface structures that arise as a result of irradiation. The paper describes in detail a computational experiment on the numerical simulation of the interaction of a single ultrashort laser pulse with a gold film deposited on a thick glass substrate. The uniform rectangular grid and the first-order Godunov numerical method were used. The presented results of calculations allowed to confirm the theory of the shock-wave mechanism of holes formation in the metal under femtosecond laser action for the case of a thin gold film with a thickness of about 50 nm on a thick glass substrate.

Математические модели многих естественных процессов описываются дифференциальными уравнениями с особенностями решения. Классические численные методы для нахождения приближенного решения таких задач оказываются неэффективными. В настоящей работе рассмотрена краевая задача для векторного волнового уравнения в двумерной L-образной области. Наличие входящего угла величиной  $3\pi/2$ на границе расчетной области обусловливает сильную сингулярность задачи, то есть ее решение не принадлежит пространству Соболева $H^1$, в результате чего классические и специализированные численные методы имеют скорость сходимости ниже чем $O(h)$. Поэтому в работе введено специальное весовое множество вектор-функций. В этом множестве решение рассматриваемой краевой задачи определено как $R_ν$-обобщенное.

Для численного нахождения $R_ν$-обобщенного решения построен весовой векторный метод конечных элементов. Основным отличием этого метода является введение в базисные функции в качестве сомножителя специальной весовой функции в степени, определяемой свойствами решения исходной краевой задачи. Это позволило существенно повысить скорость сходимости приближенного решения к точному при измельчении конечноэлементной сетки. Кроме того, введенные базисные функции соленоидальны, что обеспечило точный учет условия соленоидальности искомого решения и предотвратило появление ложных численных решений.

Представлены результаты численного эксперимента для серии модельных задач различных типов: для задач, решение которых содержит только сингулярную составляющую, и для задач, решение которых содержит как сингулярную, так и регулярную составляющие. Результаты численного анализа показали, что при измельчении конечноэлементной сетки скорость сходимости построенного весового векторного метода конечных элементов составляет $O(h)$, что по порядку степени в полтора раза выше, чем в разработанных к настоящему времени специализированных методах решения рассматриваемой задачи: методе сингулярных дополнений и методе регуляризации. Другие особенности построенного метода — его алгоритмическая простота и естественность определения решения, что является преимуществом при проведении численных расчетов.

Mathematical models of many natural processes are described by partial differential equations with singular solutions. Classical numerical methods for determination of approximate solution to such problems are inefficient. In the present paper a boundary value problem for vector wave equation in L-shaped domain is considered. The presence of reentrant corner of size $3\pi/2$ on the boundary of computational domain leads to the strong singularity of the solution, i.e. it does not belong to the Sobolev space $H^1$ so classical and special numerical methods have a convergence rate less than $O(h)$. Therefore in the present paper a special weighted set of vector-functions is introduced. In this set the solution of considered boundary value problem is defined as $R_ν$-generalized one.

For numerical determination of the $R_ν$-generalized solution a weighted vector finite element method is constructed. The basic difference of this method is that the basis functions contain as a factor a special weight function in a degree depending on the properties of the solution of initial problem. This allows to significantly raise a convergence speed of approximate solution to the exact one when the mesh is refined. Moreover, introduced basis functions are solenoidal, therefore the solenoidal condition for the solution is taken into account precisely, so the spurious numerical solutions are prevented.

Results of numerical experiments are presented for series of different type model problems: some of them have a solution containing only singular component and some of them have a solution containing a singular and regular components. Results of numerical experiment showed that when a finite element mesh is refined a convergence rate of the constructed weighted vector finite element method is $O(h)$, that is more than one and a half times better in comparison with special methods developed for described problem, namely singular complement method and regularization method. Another features of constructed method are algorithmic simplicity and naturalness of the solution determination that is beneficial for numerical computations.

В работе рассматриваются развитие и применение метода учета заполненности прямоугольных ячеек материальной средой, в частности жидкостью для повышения гладкости и точности конечно-разностного решения задач гидродинамики со сложной формой граничной поверхности. Для исследования возможностей предлагаемых разностных схем рассмотрены две задачи вычислительной гидродинамики — пространственно-двумерного течения вязкой жидкости между двумя соосными полуцилиндрами и переноса веществ между соосными полуцилиндрами. Аппроксимация задач по времени выполнена на основе схем расщепления по физическим процессам. Дискретизация операторов диффузии и конвекции выполнена на основе интегроинтерполяционного метода с учетом заполненности ячеек и без ее учета. Для решения задачи диффузии – конвекции при больших сеточных числах Пекле предложено использовать разностную схему, учитывающую функцию заполненности ячеек, и схему, построенную на основе линейной комбинации разностных схем «кабаре» и «крест» с весовыми коэффициентами, полученными в результате минимизации погрешности аппроксимации при малых числах Куранта. Для оценки точности численного решения в качестве эталона используется аналитическое решение, описывающее течение Куэтта – Тейлора. В случае непосредственного использования прямоугольных сеток (ступенчатой аппроксимации границ) относительная погрешность расчетов достигает 70 %, при тех же условиях использование предлагаемого метода позволяет уменьшить погрешность до 6%. Показано, что дробление прямоугольной сетки в 2–8 раз по каждому из пространственных направлений не приводит к такому же повышению точности, которой обладают численные решения, полученные с учетом заполненности ячеек. Предложенные разностные схемы, построенные на основе линейной комбинации разностных схем «кабаре» и «крест» с весовыми коэффициентами 2/3 и 1/3 соответственно, полученные в результате минимизации порядка погрешности аппроксимации, для задачи диффузии – конвекции обладают меньшей сеточной вязкостью и, как следствие, точнее описывают поведение решения в случае больших сеточных чисел Пекле.

The paper discusses the development and application of the accounting rectangular cell fullness method with material substance, in particular, a liquid, to increase the smoothness and accuracy of a finite-difference solution of hydrodynamic problems with a complex shape of the boundary surface. Two problems of computational hydrodynamics are considered to study the possibilities of the proposed difference schemes: the spatial-twodimensional flow of a viscous fluid between two coaxial semi-cylinders and the transfer of substances between coaxial semi-cylinders. Discretization of diffusion and convection operators was performed on the basis of the integro-interpolation method, taking into account taking into account the fullness of cells and without it. It is proposed to use a difference scheme, for solving the problem of diffusion – convection at large grid Peclet numbers, that takes into account the cell population function, and a scheme on the basis of linear combination of the Upwind and Standard Leapfrog difference schemes with weight coefficients obtained by minimizing the approximation error at small Courant numbers. As a reference, an analytical solution describing the Couette – Taylor flow is used to estimate the accuracy of the numerical solution. The relative error of calculations reaches 70% in the case of the direct use of rectangular grids (stepwise approximation of the boundaries), under the same conditions using the proposed method allows to reduce the error to 6%. It is shown that the fragmentation of a rectangular grid by 2–8 times in each of the spatial directions does not lead to the same increase in the accuracy that numerical solutions have, obtained taking into account the fullness of the cells. The proposed difference schemes on the basis of linear combination of the Upwind and Standard Leapfrog difference schemes with weighting factors of 2/3 and 1/3, respectively, obtained by minimizing the order of approximation error, for the diffusion – convection problem have a lower grid viscosity and, as a corollary, more precisely, describe the behavior of the solution in the case of large grid Peclet numbers.

The grid-characteristic method is a promising numerical method for solving hyperbolic systems of equations, e.g., equations describing elastic and acoustic waves. This method has high precision and allows physically correct simulations of wave processes in heterogeneous media. The grid-characteristic method makes it possible to correctly take into account boundary conditions and conditions on surfaces with different physical characteristics. The method offers the greatest advantages for one-dimensional equations, especially in combination with a fixed difference grid, as in conventional grid-based methods. However, in the multidimensional case using the algorithms of splitting with respect to spatial variables, the author has managed to preserve its positive qualities. The use of the method of Runge–Kutta type, or the integro-interpolation method for hyperbolic equations makes it possible to effectively carry out a generalization of methods developed for linear equations, in the nonlinear case, in particular, to enforce the difference analogs of the conservation laws, which is important for shock-capturing, for example, discontinuous solutions. Based on the author’s variant of the grid-characteristic method, several important problems of seismic prospecting, seismic resistance, global seismic studies on Earth and Mars, medical applications, nondestructive testing of railway lines, the simulation of the creation and characteristics of composite materials for the aerospace industry and other areas of practical application were numerically solved. A significant advantage of the constructed method is the preservation of its stability and precision at the strains of the environment. This article presents the results of a numerical solution based on the grid-characteristic method to the problem of modeling elastic-plastic deformation in traumatic brain injury.