Все выпуски

В работе численно исследовано влияние упругих и прочностных характеристик твердосплавных материалов с покрытиями из тугоплавких соединений, полученных электроискровым легированием, при воздействии температурных и силовых факторов при помощи метода конечных элементов.

In the work is numerically investigated the influence of elastic and strength characteristics of hard materials with coatings of refractory compounds, received electric-spark doping, at influence of temperature and power factors using the finite element method.

Представлен подход к уменьшению значения нормы поправки в ньютоновских методах оптимизации, основанных на факторизации Холесского, в основе которого лежит интеграция с техникой выбора ведущего элемента алгоритма линейного программирования как метода решения системы уравнений. Исследуются вопросы увеличения численной устойчивости разложения Холесского и метода исключения Гаусса.

An approach to the decrease of norm of the correction in Newton’s methods of optimization, based on the Cholesky’s factorization is presented, which is based on the integration with the technique of the choice of leading element of algorithm of linear programming as a method of solving the system of equations. We investigate the issues of increasing of the numerical stability of the Cholesky’s decomposition and the Gauss’ method of exception.

В работе представлена численная методика определения спектральных электромагнитных характеристик (эффективных электрической проводимости и относительной диэлектрической проницаемости) насыщенных пористых сред. Их определение находит применение при интерпретации данных петрофизических исследований скважин, а также при изучении кернового материала. Особенностью настоящей работы является использование трехмерных цифровых моделей насыщенных пористых сред, построенных на основе комбинированной информации о микроструктуре среды и капиллярном равновесии двухфазной смеси типа «нефть–вода» в поровом пространстве. Данные о микроструктуре модели получаются путем использования методов рентгеновской микротомографии. Многофазное многокомпонентное распределение флюидов в поровом пространстве модели находится с помощью метода функционала плотности. Для определения непосредственно электромагнитных характеристик модели выполняется фурье-преобразование по времени уравнения Максвелла, выражающего обобщенную теорему Ампера о циркуляции. В низкочастотном приближении задача сводится к решению уравнения эллиптического типа на комплексный потенциал. Для конечно- разностной аппроксимации используется дискретизация модели на изотропной равномерной ортогональной сетке. При этом считается, что в каждой расчетной ячейке сетки содержится либо вода, либо нефть, либо по- рода со своими электрическими параметрами. Для этого выполняется процедура сегментации, в результате которой в модели отсутствуют ячейки, содержащие несколько фаз (нефть–вода). Подобная модификация модели позволяет избежать использования сложноструктурированных расчетных сеток, а также дает возможность исключить влияние способа задания свойств ячеек, заполненных смесью различных фаз, на результаты расчета. Полученная система разностных уравнений решается с использованием стабилизированного метода бисопряженных градиентов с многосеточным предобуславливателем. На основе вычисленных распределений комплексного потенциала находятся средние значения электрической проводимости и относительной диэлектрической проницаемости. Для простоты в настоящей работе рассматривался случай отсутствия спектральной зависимости проводимости и проницаемости компонентов от частоты. Результаты расчетов частотных зависимостей эффективных характеристик неоднородно насыщенных пористых сред (электрической проводимости и относительной диэлектрической проницаемости) в широком диапазоне частот и водонасыщенностей представлены на графиках и в таблице. В заключение делается вывод об эффективности предложенного подхода для задачи определения дисперсионных электромагнитных характеристик насыщенных горных пород.

This article represents numerical simulation technique for determining effective spectral electromagnetic properties (effective electrical conductivity and relative dielectric permittivity) of saturated porous media. Information about these properties is vastly applied during the interpretation of petrophysical exploration data of boreholes and studying of rock core samples. The main feature of the present paper consists in the fact, that it involves three-dimensional saturated digital rock models, which were constructed based on the combined data considering microscopic structure of the porous media and the information about capillary equilibrium of oil-water mixture in pores. Data considering microscopic structure of the model are obtained by means of X-ray microscopic tomography. Information about distributions of saturating fluids is based on hydrodynamic simulations with density functional technique. In order to determine electromagnetic properties of the numerical model time-domain Fourier transform of Maxwell equations is considered. In low frequency approximation the problem can be reduced to solving elliptic equation for the distribution of complex electric potential. Finite difference approximation is based on discretization of the model with homogeneous isotropic orthogonal grid. This discretization implies that each computational cell contains exclusively one medium: water, oil or rock. In order to obtain suitable numerical model the distributions of saturating components is segmented. Such kind of modification enables avoiding usage of heterogeneous grids and disregards influence on the results of simulations of the additional techniques, required in order to determine properties of cells, filled with mixture of media. Corresponding system of differential equations is solved by means of biconjugate gradient stabilized method with multigrid preconditioner. Based on the results of complex electric potential computations average values of electrical conductivity and relative dielectric permittivity is calculated. For the sake of simplicity, this paper considers exclusively simulations with no spectral dependence of conductivities and permittivities of model components. The results of numerical simulations of spectral dependence of effective characteristics of heterogeneously saturated porous media (electrical conductivity and relative dielectric permittivity) in broad range of frequencies and multiple water saturations are represented in figures and table. Efficiency of the presented approach for determining spectral electrical properties of saturated rocks is discussed in conclusion.

В динамике тяжелого твердого тела с неподвижной точкой известны различные типы редуцированных уравнений. Поскольку уравнения Эйлера–Пуассона допускают три первых интеграла, то в первом подходе получение новых форм уравнений, как правило, основано на этих интегралах. С их помощью можно систему шести скалярных уравнений преобразовать к системе третьего порядка. Однако редуцированная система при указанном подходе будет иметь особенность в виде радикальных выражений относительно компонент вектора угловой скорости. Это обстоятельство препятствует эффективному применению численных и асимптотических методов исследования решения. Во втором подходе используют различные виды переменных задачи: углы Эйлера, переменные Гамильтона и другие. При таком подходе уравнения Эйлера–Пуассона редуцируются либо к системе дифференциальных уравнений второго порядка, либо к системе, для которой эффективны специальные методы. В статье применен метод нахождения приведенной системы, основанный на введении вспомогательной переменной. Эта переменная характеризует смешанное произведение вектора момента количества движения, вектора вертикали и единичного вектора барицентрической оси тела. Получена система четырех дифференциальных уравнений, два из которых являются линейными дифференциальными уравнениями. Данная система не имеет аналога и не содержит особенностей, что позволяет применять к ней аналитические и численные методы исследования. Указанная форма уравнений применена для анализа специального класса решений в случае, когда центр масс тела принадлежит барицентрической оси. Рассмотрен вариант, при котором сумма квадратов двух компонент вектора кинематического момента относительно небарицентрических осей постоянна. Доказано, что этот вариант имеет место только в решении В.А. Стеклова. Найденная форма уравнений Эйлера–Пуассона может быть применена к исследованию условий существования других классов решений. Определенная перспектива полученных уравнений состоит в записи всех решений, для которых центр масс лежит на барицентрической оси, в переменных данной статьи. Это позволяет провести классификацию решений уравнений Эйлера–Пуассона в зависимости от порядка инвариантных соотношений. Поскольку указанная в статье система уравнений не имеет особенностей, то она может рассматриваться при компьютерном моделировании с помощью численных методов.

The different types of the reduced equations are known in the dynamics a heavy rigid body with a fixed point. Since the Euler−Poisson’s equations admit the three first integrals, then for the first approach the obtaining new forms of equations are usually based on these integrals. The system of six scalar equations can be transformed to a third-order system with them. However, in indicated approach the reduced system will have a feature as in the form of radical expressions a relatively the components of the angular velocity vector. This fact prevents the effective the effective application of numerical and asymptotic methods of solutions research. In the second approach the different types of variables in a problem are used: Euler’s angles, Hamilton’s variables and other variables. In this approach the Euler−Poisson’s equations are reduced to either the system of second-order differential equations, or the system for which the special methods are effective. In the article the method of finding the reduced system based on the introduction of an auxiliary variable is applied. This variable characterizes the mixed product of the angular momentum vector, the vector of vertical and the unit vector barycentric axis of the body. The system of four differential equations, two of which are linear differential equations was obtained. This system has no analog and does not contain the features that allows to apply to it the analytical and numerical methods. Received form of equations is applied for the analysis of a special class of solutions in the case when the center of mass of the body belongs to the barycentric axis. The variant in which the sum of the squares of the two components of the angular momentum vector with respect to not barycentric axes is constant. It is proved that this variant exists only in the Steklov’s solution. The obtained form of Euler−Poisson’s equations can be used to the investigation of the conditions of existence of other classes of solutions. Certain perspectives obtained equations consists a record of all solutions for which the center of mass is on barycentric axis in the variables of this article. It allows to carry out a classification solutions of Euler−Poisson’s equations depending on the order of invariant relations. Since the equations system specified in the article has no singularities, it can be considered in computer modeling using numerical methods.

В работе представлены результаты моделирования расчетных случаев приводнения возвращаемого аппарата (ВА) пилотируемого транспортного корабля нового поколения в условиях штиля. Рассмотрены случаи посадки ВА с работающими и с выключенными двигательными установками.

Задача приводнения ВА моделировалась в рамках двухфазной постановки с наличием двух несмешивающихся фаз: воды и газа, состоящего из воздуха и продуктов сгорания, поступающих из двигательной установки. Параметры течения в каждой фазе резко отличаются друг от друга по величине плотности и скорости распространения звука. Истечение продуктов сгорания из сопловых установок характеризуется высокими скоростями и давлениями, что усложняет задачу, по сравнению со свободным падением ВА в воду. В расчетах используется упрощение постановки задачи, в котором при взаимодействии горячих струй с водой кипение, испарение и образование водяного пара не учитываются. Газовые струи только нагревают и вытесняют воду.

Для моделирования переноса межфазных границ применяется метод VOF (Volume of fluid), где перенос контактной поверхности описывается конвективным уравнением, а поверхностное натяжение на межфазной границе учитывается давлением Лапласа. Ключевой особенностью метода является расщепление поверхностных ячеек, куда заносятся данные соответствующей фазы. Уравнения для обеих фаз (уравнения неразрывности, импульса, энергии и другие) в поверхностных ячейках решаются совместно.

Моделирование приводнения ВА занимает длительное время, что связанно с особенностями явного расчета уровня границы раздела фаз (свободной поверхности). Для получения качественных результатов свободная поверхность должна быть разрешена большим количеством расчетных ячеек, но при этом за один шаг интегрирования перемещаться не более чем на одну ячейку.

В процессе приземления исследовались гидродинамическое воздействие на ВА, динамика его движения и остойчивость ВА после приводнения, оценивались продольные перегрузки. Полученные данные использовались для анализа нагружения и прочности конструкции корпуса ВА, а также его отдельных элементов.

The reentry vehicle of the transportation spacecraft that is being created by RSC Energia in regular mode makes soft landing on land surface using a parachute system and thruster devices. But in not standard situations the reentry vehicle also is capable of executing a splashdown. In that case, it becomes important to define the hydrodynamics impact on the reentry vehicle at the moment of the first contact with the surface of water and during submersion into water medium, and to study the dynamics of the vehicle behavior at more recent moments of time.

This article presents results of numerical studies of hydrodynamics forces on the conical vehicle during splashdown, done with the FlowVision software. The paper reviews the cases of the splashdown with inactive solid rocket motors on calm sea and the cases with interactions between rocket jets and the water surface. It presents data on the allocation of pressure on the vehicle in the process of the vehicle immersion into water medium and dynamics of the vehicle behavior after splashdown. The paper also shows flow structures in the area of the reentry vehicle at the different moments of time, and integral forces and moments acting on the vehicle.

For simulation process with moving interphases in the FlowVision software realized the model VOF (volume of fluid). Transfer of the phase boundary is described by the equation of volume fraction of this continuous phase in a computational cell. Transfer contact surface is described by the convection equation, and at the surface tension is taken into account by the Laplace pressure. Key features of the method is the splitting surface cells where data is entered the corresponding phase. Equations for both phases (like the equations of continuity, momentum, energy and others) in the surface cells are accounted jointly.

Оптические системы с двумерной обратной связью демонстрируют широкие возможности по исследованию процессов зарождения и развития диссипативных структур. Обратная связь позволяет воздействовать на динамику оптической системы посредством управляемого преобразования пространственных переменных, выполняемых призмами, линзами, динамическими голограммами и другими устройствами. Нелинейный интерферометр с зеркальным отражением поля в двумерной обратной связи является одной из наиболее простых оптических систем, в которых реализуется нелокальный характер взаимодействия световых полей.

Математической моделью оптических систем с двумерной обратной связью является нелинейное параболическое уравнение с преобразованием поворота пространственной переменной и условиями периодичности на окружности.

Исследуются вопросы бифуркации рождения стационарных структур типа бегущей волны, эволюции их форм при уменьшении бифуркационного параметра (коэффициента диффузии) и динамики их устойчивости при отходе от критического значения параметра бифуркации и дальнейшем его уменьшении. Впервые в качестве бифуркационного параметра был взят коэффициент диффузии.

В работе используются метод центральных многообразий и метод Галёркина. На основе метода центральных многообразий доказана теорема о существовании, форме и устойчивости решения типа бегущей волны в окрестности бифуркационного значения коэффициента диффузии. Получено представление первой бегущей волны, рождающейся в результате бифуркации Андронова–Хопфа при переходе бифуркационного параметра через критическое значение. Согласно теореме о центральном многообразии первая бегущая волна рождается орбитально устойчивой.

Поскольку доказанная теорема дает возможность исследовать рожденные решения только в окрестности критического значения бифуркационного параметра, то для изучения динамики изменений решения типа бегущей волны при отходе бифуркационного параметра в область надкритичности был использован формализм метода Галёркина. В соответствии с методом центральных многообразий составлена галёркинская аппроксимация приближенных решений поставленной задачи. При уменьшении параметра бифуркации и его переходе через критическое значение нулевое решение задачи теряет устойчивость колебательным образом. В результате от нулевого решения ответвляется периодическое решение типа бегущей волны. Эта волна рождается орбитально устойчивой. При дальнейшем уменьшении параметра и его прохождении через следующее критическое значение от нулевого решения в результате бифуркации Андронова–Хопфа рождается второе решение типа бегущей волны. Данная волна рождается неустойчивой, с индексом неустойчивости два.

Численные расчеты с помощью пакета Mathematica показали, что применение метода Галёркина приводит к качественно и количественно правильным результатам. Полученные результаты хорошо согласуются с результатами, полученными другими авторами, и могут быть использованы для постановки экспериментов по изучению явлений в оптических системах с обратной связью.

Optical systems with two-dimensional feedback demonstrate wide possibilities for studying the nucleation and development processes of dissipative structures. Feedback allows to influence the dynamics of the optical system by controlling the transformation of spatial variables performed by prisms, lenses, dynamic holograms and other devices. A nonlinear interferometer with a mirror image of a field in two-dimensional feedback is one of the simplest optical systems in which is realized the nonlocal nature of light fields.

A mathematical model of optical systems with two-dimensional feedback is a nonlinear parabolic equation with rotation transformation of a spatial variable and periodicity conditions on a circle. Such problems are investigated: bifurcation of the traveling wave type stationary structures, how the form of the solution changes as the diffusion coefficient decreases, dynamics of the solution’s stability when the bifurcation parameter leaves the critical value. For the first time as a parameter bifurcation was taken of diffusion coefficient.

The method of central manifolds and the Galerkin’s method are used in this paper. The method of central manifolds and the Galerkin’s method are used in this paper. The method of central manifolds allows to prove a theorem on the existence and form of the traveling wave type solution neighborhood of the bifurcation value. The first traveling wave born as a result of the Andronov –Hopf bifurcation in the transition of the bifurcation parameter through the сritical value. According to the central manifold theorem, the first traveling wave is born orbitally stable.

Since the above theorem gives the opportunity to explore solutions are born only in the vicinity of the critical values of the bifurcation parameter, the decision to study the dynamics of traveling waves of change during the withdrawal of the bifurcation parameter in the supercritical region, the formalism of the Galerkin method was used. In accordance with the method of the central manifold is made Galerkin’s approximation of the problem solution. As the bifurcation parameter decreases and its transition through the critical value, the zero solution of the problem loses stability in an oscillatory manner. As a result, a periodic solution of the traveling wave type branches off from the zero solution. This wave is born orbitally stable. With further reduction of the parameter and its passage through the next critical value from the zero solution, the second solution of the traveling wave type is produced as a result of the Andronov –Hopf bifurcation. This wave is born unstable with an instability index of two.

Numerical calculations have shown that the application of the Galerkin’s method leads to correct results. The results obtained are in good agreement with the results obtained by other authors and can be used to establish experiments on the study of phenomena in optical systems with feedback.

Проведено математическое моделирование нестационарных режимов естественной конвекции и поверхностного излучения в замкнутой вращающейся квадратной полости. Рассматриваемая область решения имела две противоположные изотермические стенки, поддерживаемые при постоянных низкой и высокой температурах, остальные стенки являлись адиабатическими. Стенки считались диффузно-серыми. Анализируемая полость вращалась с постоянной угловой скоростью относительно оси, проходящей через центр полости и ориентированной ортогонально области решения. Математическая модель, сформулированная в безразмерных преобразованных переменных «функция тока – завихренность скорости» на основе приближений Буссинеска и диатермичности рабочей среды, была реализована численно методом конечных разностей. Уравнения дисперсии завихренности и энергии решались на основе локально-одномерной схемы А. А. Самарского. Диффузионные слагаемые аппроксимировались центральными разностями, конвективные — с использованием монотонной аппроксимации А. А. Самарского. Разностные уравнения решались методом прогонки. Разностное уравнение Пуассона для функции тока решалось отдельно с применением метода последовательной верхней релаксации. Оптимальное значение параметра релаксации подбиралось на основе вычислительных экспериментов. Анализ радиационного теплообмена проведен с использованием метода сальдо в варианте Поляка. Разработанный вычислительный код был протестирован на множестве сеток, а также верифицирован путем сопоставления полученных результатов при решении модельной задачи с экспериментальными и численными данными других авторов.

Численные исследования нестационарных режимов естественной конвекции и поверхностного теплового излучения в замкнутой вращающейся полости проведены при следующих значениях безразмерных параметров: Ra = 10³–10⁶, Ta = 0–10⁵, Pr = 0.7, ε = 0–0.9. Все распределения были получены для двадцатого полного оборота полости, когда наблюдается установление периодической картины течения и теплопереноса. В результате анализа установлено, что при малой угловой скорости вращения полости возможна интенсификация течения, а дальнейший рост скорости вращения приводит к ослаблению конвективного течения. Радиационное число Нуссельта незначительно изменяется при варьировании числа Тейлора.

Mathematical simulation of unsteady natural convection and thermal surface radiation within a rotating square enclosure was performed. The considered domain of interest had two isothermal opposite walls subjected to constant low and high temperatures, while other walls are adiabatic. The walls were diffuse and gray. The considered cavity rotated with constant angular velocity relative to the axis that was perpendicular to the cavity and crossed the cavity in the center. Mathematical model, formulated in dimensionless transformed variables “stream function – vorticity” using the Boussinesq approximation and diathermic approach for the medium, was performed numerically using the finite difference method. The vorticity dispersion equation and energy equation were solved using locally one-dimensional Samarskii scheme. The diffusive terms were approximated by central differences, while the convective terms were approximated using monotonic Samarskii scheme. The difference equations were solved by the Thomas algorithm. The approximated Poisson equation for the stream function was solved by successive over-relaxation method. Optimal value of the relaxation parameter was found on the basis of computational experiments. Radiative heat transfer was analyzed using the net-radiation method in Poljak approach. The developed computational code was tested using the grid independence analysis and experimental and numerical results for the model problem.

Numerical analysis of unsteady natural convection and thermal surface radiation within the rotating enclosure was performed for the following parameters: Ra = 10³–10⁶, Ta = 0–10⁵, Pr = 0.7, ε = 0–0.9. All distributions were obtained for the twentieth complete revolution when one can find the periodic behavior of flow and heat transfer. As a result we revealed that at low angular velocity the convective flow can intensify but the following growth of angular velocity leads to suppression of the convective flow. The radiative Nusselt number changes weakly with the Taylor number.

Работа посвящена использованию программного пакета Turbulence Problem Solver (TPS) для численного моделирования широкого спектра лазерных задач. Возможности пакета продемонстрированы на примере численного моделирования взаимодействия фемтосекундных лазерных импульсов с металлическими пленками. Разработанный авторами программный пакет TPS предназначен для численного решения гиперболических систем дифференциальных уравнений на многопроцессорных вычислительных системах с распределенной памятью. Пакет представляет собой современный и расширяемый программный продукт. Архитектура пакета дает исследователю возможность моделировать различные физические процессы единообразно, с помощью различных численных методик и программных блоков, содержащих специфические для каждой задачи начальные условия, граничные условия и источниковые компоненты. Пакет предоставляет пользователю возможность самостоятельно расширять функциональность пакета, добавляя новые классы задач, вычислительных методов, начальных и граничных условий, а также уравнений состояния вещества. Реализованные в программном пакете численные методики тестировались на тестовых задачах в одномерной, двумерной и трехмерной геометрии, в состав которых вошли задачи Римана о распаде произвольного разрыва с различными конфигурациями точного решения.

Тонкие пленки на подложках — важный класс мишеней для наномодификации поверхностей в плазмонике или сенсорных приложениях. Этой тематике посвящено множество статей. Большинство из них, однако, концентрируются на динамике самой пленки, уделяя мало внимания подложке и рассматри- вая ее просто как объект, поглощающий первую волну сжатия и не влияющий на возникающие вследствие облучения поверхностные структуры. В работе подробно описан вычислительный эксперимент по численному моделированию взаимодействия единичного ультракороткого лазерного импульса с золотой пленкой, напыленной на толстую стеклянную подложку. Использовалась равномерная прямоугольная сетка и численный метод Годунова первого порядка точности. Представленные результаты расчетов позволили подтвердить теорию об ударно-волновом механизме образования отверстий в металле при фемтосекундной лазерной абляции для случая тонкой золотой пленки толщиной около 50 нм на толстой стеклянной подложке.

The work is dedicated to the use of the software package Turbulence Problem Solver (TPS) for numerical simulation of a wide range of laser problems. The capabilities of the package are demonstrated by the example of numerical simulation of the interaction of femtosecond laser pulses with thin metal bonds. The software package TPS developed by the authors is intended for numerical solution of hyperbolic systems of differential equations on multiprocessor computing systems with distributed memory. The package is a modern and expandable software product. The architecture of the package gives the researcher the opportunity to model different physical processes in a uniform way, using different numerical methods and program blocks containing specific initial conditions, boundary conditions and source terms for each problem. The package provides the the opportunity to expand the functionality of the package by adding new classes of problems, computational methods, initial and boundary conditions, as well as equations of state of matter. The numerical methods implemented in the software package were tested on test problems in one-dimensional, two-dimensional and three-dimensional geometry, which included Riemann's problems on the decay of an arbitrary discontinuity with different configurations of the exact solution.

Thin films on substrates are an important class of targets for nanomodification of surfaces in plasmonics or sensor applications. Many articles are devoted to this subject. Most of them, however, focus on the dynamics of the film itself, paying little attention to the substrate, considering it simply as an object that absorbs the first compression wave and does not affect the surface structures that arise as a result of irradiation. The paper describes in detail a computational experiment on the numerical simulation of the interaction of a single ultrashort laser pulse with a gold film deposited on a thick glass substrate. The uniform rectangular grid and the first-order Godunov numerical method were used. The presented results of calculations allowed to confirm the theory of the shock-wave mechanism of holes formation in the metal under femtosecond laser action for the case of a thin gold film with a thickness of about 50 nm on a thick glass substrate.

Математические модели многих естественных процессов описываются дифференциальными уравнениями с особенностями решения. Классические численные методы для нахождения приближенного решения таких задач оказываются неэффективными. В настоящей работе рассмотрена краевая задача для векторного волнового уравнения в двумерной L-образной области. Наличие входящего угла величиной  $3\pi/2$ на границе расчетной области обусловливает сильную сингулярность задачи, то есть ее решение не принадлежит пространству Соболева $H^1$, в результате чего классические и специализированные численные методы имеют скорость сходимости ниже чем $O(h)$. Поэтому в работе введено специальное весовое множество вектор-функций. В этом множестве решение рассматриваемой краевой задачи определено как $R_ν$-обобщенное.

Для численного нахождения $R_ν$-обобщенного решения построен весовой векторный метод конечных элементов. Основным отличием этого метода является введение в базисные функции в качестве сомножителя специальной весовой функции в степени, определяемой свойствами решения исходной краевой задачи. Это позволило существенно повысить скорость сходимости приближенного решения к точному при измельчении конечноэлементной сетки. Кроме того, введенные базисные функции соленоидальны, что обеспечило точный учет условия соленоидальности искомого решения и предотвратило появление ложных численных решений.

Представлены результаты численного эксперимента для серии модельных задач различных типов: для задач, решение которых содержит только сингулярную составляющую, и для задач, решение которых содержит как сингулярную, так и регулярную составляющие. Результаты численного анализа показали, что при измельчении конечноэлементной сетки скорость сходимости построенного весового векторного метода конечных элементов составляет $O(h)$, что по порядку степени в полтора раза выше, чем в разработанных к настоящему времени специализированных методах решения рассматриваемой задачи: методе сингулярных дополнений и методе регуляризации. Другие особенности построенного метода — его алгоритмическая простота и естественность определения решения, что является преимуществом при проведении численных расчетов.

Mathematical models of many natural processes are described by partial differential equations with singular solutions. Classical numerical methods for determination of approximate solution to such problems are inefficient. In the present paper a boundary value problem for vector wave equation in L-shaped domain is considered. The presence of reentrant corner of size $3\pi/2$ on the boundary of computational domain leads to the strong singularity of the solution, i.e. it does not belong to the Sobolev space $H^1$ so classical and special numerical methods have a convergence rate less than $O(h)$. Therefore in the present paper a special weighted set of vector-functions is introduced. In this set the solution of considered boundary value problem is defined as $R_ν$-generalized one.

For numerical determination of the $R_ν$-generalized solution a weighted vector finite element method is constructed. The basic difference of this method is that the basis functions contain as a factor a special weight function in a degree depending on the properties of the solution of initial problem. This allows to significantly raise a convergence speed of approximate solution to the exact one when the mesh is refined. Moreover, introduced basis functions are solenoidal, therefore the solenoidal condition for the solution is taken into account precisely, so the spurious numerical solutions are prevented.

Results of numerical experiments are presented for series of different type model problems: some of them have a solution containing only singular component and some of them have a solution containing a singular and regular components. Results of numerical experiment showed that when a finite element mesh is refined a convergence rate of the constructed weighted vector finite element method is $O(h)$, that is more than one and a half times better in comparison with special methods developed for described problem, namely singular complement method and regularization method. Another features of constructed method are algorithmic simplicity and naturalness of the solution determination that is beneficial for numerical computations.

В статье рассматривается разработка алгоритма шумоподавления на основе анизотропной нелинейной фильтрации данных. Анализ отечественной и зарубежной литературы показал, что наиболее эффективные алгоритмы шумоподавления данных рентгеновской компьютерной томографии применяют комплекс нелинейных методик анализа и обработки данных, таких как билатеральная, адаптивная, трехмерная фильтрации. Однако комбинация таких методик редко применяется на практике ввиду большого времени обработки данных. В связи с этим было принято решение разработать эффективный и быстродейственный алгоритм шумоподавления на основе упрощенных билатеральных фильтров с трехмерным накоплением данных. Алгоритм был разработан на языке C++11 в программной среде Microsoft Visual Studio 2015. Основным отличием разработанного алгоритма шумоподавления является применение в нем улучшенной математической модели шума на основе распределения Пуассона и Гаусса от логарифмической величины, разработанной ранее. Это позволило точнее определить уровень шума и тем самым порог обработки данных. В результате работы алгоритма шумоподавления были получены обработанные данные компьютерной томографии с пониженным уровнем шума. При визуальной оценке работы алгоритма были отмечены повышенная информативность обработанных данных по сравнению с оригиналом, четкость отображения гомогенных областей и значительное сокращение шума в областях обработки. При оценке численных результатов обработки было выявлено снижение уровня среднеквадратичного отклонения более чем в 6 раз в областях, подвергшихся шумоподавлению, а высокие показатели коэффициента детерминации показали, что данные не подверглись искажению и изменились только из-за удаления шумов. Применение разработанного универсального динамического порога, принцип работы которого основан на пороговых критериях, позволил снизить уровень шума во всем массиве данных более чем в 6 раз. Динамический порог хорошо вписывается как в разработанный алгоритм шумоподавления на основе анизотропной нелинейной фильтрации, так и другой алгоритм шумоподавления. Алгоритм успешно функционирует в составе рабочей станции MultiVox, получил высокую оценку своей работы от специалистов-рентгенологов, а также готовится к внедрению в единую радиологическую сеть города Москвы в качестве модуля.

The article deals with the development of the noise-reduction algorithm based on anisotropic nonlinear data filtering of computed tomography (CT). Analysis of domestic and foreign literature has shown that the most effective algorithms for noise reduction of CT data use complex methods for analyzing and processing data, such as bilateral, adaptive, three-dimensional and other types of filtrations. However, a combination of such techniques is rarely used in practice due to long processing time per slice. In this regard, it was decided to develop an efficient and fast algorithm for noise-reduction based on simplified bilateral filtration method with three-dimensional data accumulation. The algorithm was developed on C ++11 programming language in Microsoft Visual Studio 2015. The main difference of the developed noise reduction algorithm is the use an improved mathematical model of CT noise, based on the distribution of Poisson and Gauss from the logarithmic value, developed earlier by our team. This allows a more accurate determination of the noise level and, thus, the threshold of data processing. As the result of the noise reduction algorithm, processed CT data with lower noise level were obtained. Visual evaluation of the data showed the increased information content of the processed data, compared to original data, the clarity of the mapping of homogeneous regions, and a significant reduction in noise in processing areas. Assessing the numerical results of the algorithm showed a decrease in the standard deviation (SD) level by more than 6 times in the processed areas, and high rates of the determination coefficient showed that the data were not distorted and changed only due to the removal of noise. Usage of newly developed context dynamic threshold made it possible to decrease SD level on every area of data. The main difference of the developed threshold is its simplicity and speed, achieved by preliminary estimation of the data array and derivation of the threshold values that are put in correspondence with each pixel of the CT. The principle of its work is based on threshold criteria, which fits well both into the developed noise reduction algorithm based on anisotropic nonlinear filtration, and another algorithm of noise-reduction. The algorithm successfully functions as part of the MultiVox workstation and is being prepared for implementation in a single radiological network of the city of Moscow.