Все выпуски

Статья посвящена выпукло-вогнутым седловым задачам, в которых целевая функция является суммой большого числа слагаемых. Такие задачи привлекают значительное внимание математического сообщества в связи с множеством приложений в машинном обучении, включая adversarial learning, adversarial attacks и robust reinforcement learning, и это лишь некоторые из них. Отдельные функции в сумме обычно представляют собой ошибку, связанную с объектом из выборки. Кроме того, формулировка допускает (возможно, негладкий) композитный член. Такие слагаемые часто отражают регуляризацию в задачах машинного обучения. Предполагается, что размерность одной из групп переменных относительно мала (около сотни или меньше), а другой — велика. Такой случай возникает, например, при рассмотрении двойственной формулировки задачи минимизации с умеренным числом ограничений. Предлагаемый подход основан на использовании метода секущей плоскости Вайды для минимизации относительно внешнего блока переменных. Этот алгоритм оптимизации особенно эффективен, когда размерность задачи не очень велика. Неточный оракул для метода Вайды вычисляется через приближенное решение внутренней задачи максимизации, которая решается ускоренным алгоритмом с редукцией дисперсии Katyusha. Таким образом, мы используем структуру задачи для достижения быстрой сходимости. В исследовании получены отдельные оценки сложности для градиентов различных компонент относительно различных переменных. Предложенный подход накладывает слабые предположения о целевой функции. В частности, не требуется ни сильной выпуклости, ни гладкости относительно низкоразмерной группы переменных. Количество шагов предложенного алгоритма, а также арифметическая сложность каждого шага явно зависят от размерности внешней переменной, отсюда предположение, что она относительно мала.

The paper is devoted to convex-concave saddle point problems where the objective is a sum of a large number of functions. Such problems attract considerable attention of the mathematical community due to the variety of applications in machine learning, including adversarial learning, adversarial attacks and robust reinforcement learning, to name a few. The individual functions in the sum usually represent losses related to examples from a data set. Additionally, the formulation admits a possibly nonsmooth composite term. Such terms often reflect regularization in machine learning problems. We assume that the dimension of one of the variable groups is relatively small (about a hundred or less), and the other one is large. This case arises, for example, when one considers the dual formulation for a minimization problem with a moderate number of constraints. The proposed approach is based on using Vaidya’s cutting plane method to minimize with respect to the outer block of variables. This optimization algorithm is especially effective when the dimension of the problem is not very large. An inexact oracle for Vaidya’s method is calculated via an approximate solution of the inner maximization problem, which is solved by the accelerated variance reduced algorithm Katyusha. Thus, we leverage the structure of the problem to achieve fast convergence. Separate complexity bounds for gradients of different components with respect to different variables are obtained in the study. The proposed approach is imposing very mild assumptions about the objective. In particular, neither strong convexity nor smoothness is required with respect to the low-dimensional variable group. The number of steps of the proposed algorithm as well as the arithmetic complexity of each step explicitly depend on the dimensionality of the outer variable, hence the assumption that it is relatively small.

Сформулирована математическая модель эрозии берегового склона песчаного канала, происходящей под действием проходящей паводковой волны. Модель включает в себя уравнение движения квазиустановившегося гидродинамического потока в створе канала. Движение донной и береговой поверхности русла определяется из решения уравнения Экснера, которое замыкается оригинальной аналитической моделью движения влекомых наносов. Модель учитывает транзитные, гравитационные и напорные механизмы движения донного материала и не содержит в себе феноменологических параметров. Движение свободной поверхности гидродинамического потока определяется из решения дифференциальных уравнений баланса. Модель учитывает изменения средней по створу турбулентной вязкости при изменении створа канала.

На основе метода конечных элементов получен дискретный аналог сформулированной задачи и предложен алгоритм ее решения. Особенностью алгоритма является контроль влияния движения свободной поверхности потока и расхода потока на процесс определения турбулентной вязкости потока в процессе эрозии берегового склона. Проведены численные расчеты, демонстрирующие качественное и количественное влияние данных особенностей на процесс определения турбулентной вязкости потока и эрозию берегового склона русла.

Сравнение данных по береговым деформациям, полученных в результате численных расчетов, с известными лотковыми экспериментальными данными показали их согласование.

A mathematical model is formulated for the coastal slope erosion of sandy channel, which occurs under the action of a passing flood wave. The moving boundaries of the computational domain — the bottom surface and the free surface of the hydrodynamic flow — are determined from the solution of auxiliary differential equations. A change in the hydrodynamic flow section area for a given law of change in the flow rate requires a change in time of the turbulent viscosity averaged over the section. The bottom surface movement is determined from the Exner equation solution together with the equation of the bottom material avalanche movement. The Exner equation is closed by the original analytical model of traction loads movement. The model takes into account transit, gravitational and pressure mechanisms of bottom material movement and does not contain phenomenological parameters.

Based on the finite element method, a discrete analogue of the formulated problem is obtained and an algorithm for its solution is proposed. An algorithm feature is control of the free surface movement influence of the flow and the flow rate on the process of determining the flow turbulent viscosity. Numerical calculations have been carried out, demonstrating qualitative and quantitative influence of these features on the determining process of the flow turbulent viscosity and the channel bank slope erosion.

Data comparison on bank deformations obtained as a result of numerical calculations with known flume experimental data showed their agreement.

Рассмотрена модель горения предварительно перемешанной смеси газов с одной глобальной химической реакцией, включающая в себя уравнения второго порядка относительно температуры смеси и концентраций топлива и окислителя, в правые части которых входит функция скорости реакции. Эта функция зависит от пяти неизвестных параметров глобальной реакции и служит приближением для многоступенчатого механизма реакций. Модель сводится к одному уравнению второго порядка относительно температуры смеси, которое после замены переменных преобразуется к уравнению первого порядка относительно производной температуры, зависящей от температуры, в которое входит параметр скорости распространения пламени. Таким образом, для вычисления параметра скорости распространения пламени необходимо решить задачу Дирихле для уравнения первого порядка, в результате чего получится модельная зависимость скорости распространения пламени от эквивалентного отношения смеси при заданных параметрах скорости реакции. При наличии экспериментальных данных зависимости скорости распространения пламени от эквивалентного отношения смеси ставится задача оптимального подбора параметров скорости реакции, исходя из минимизации среднеквадратичного отклонения модельных значений скорости распространения пламени от эксперимента. Целью работы является исследование однозначности решения этой задачи. Для этого применяется вычислительный эксперимент, в ходе которого решается задача глобального поиска оптимумов с помощью мультистарта градиентного спуска. В ходе вычислительного эксперимента выяснено, что обратная задача в такой постановке является недоопределенной, и всякий раз при запуске градиентного метода из новой точки получается новая предельная точка. Исследована структура множества предельных точек в пятимерном пространстве параметров и показано, что это множество может быть описано тремя линейными уравнениями. Таким образом, будет некорректным табулировать все пять параметров скорости реакции исходя из одного лишь критерия соответствия модели данным скорости распространения пламени. Вывод исследования заключается в том, что для корректного табулирования параметров необходимо указать значения двух из них исходя из дополнительных критериев оптимальности.

A model of combustion of premixed mixture of gases with one global chemical reaction is considered, the model includes equations of the second order for temperature of mixture and concentrations of fuel and oxidizer, and the right-hand sides of these equations contain the reaction rate function. This function depends on five unknown parameters of the global reaction and serves as approximation to multistep reaction mechanism. The model is reduced, after replacement of variables, to one equation of the second order for temperature of mixture that transforms to a first-order equation for temperature derivative depending on temperature that contains a parameter of flame propagation velocity. Thus, for computing the parameter of burning velocity, one has to solve Dirichlet problem for first-order equation, and after that a model dependence of burning velocity on mixture equivalence ratio at specified reaction rate parameters will be obtained. Given the experimental data of dependence of burning velocity on mixture equivalence ratio, the problem of optimal selection of reaction rate parameters is stated, based on minimization of the mean square deviation of model values of burning velocity on experimental ones. The aim of our study is analysis of uniqueness of this problem solution. To this end, we apply computational experiment during which the problem of global search of optima is solved using multistart of gradient descent. The computational experiment clarifies that the inverse problem in this statement is underdetermined, and every time, when running gradient descent from a selected starting point, it converges to a new limit point. The structure of the set of limit points in the five-dimensional space is analyzed, and it is shown that this set can be described with three linear equations. Therefore, it might be incorrect to tabulate all five parameters of reaction rate based on just one match criterion between model and experimental data of flame propagation velocity. The conclusion of our study is that in order to tabulate reaction rate parameters correctly, it is necessary to specify the values of two of them, based on additional optimality criteria.

В работе проведено исследование структуры ударной волны в бинарной газовой смеси на основе прямого решения кинетического уравнения Больцмана. Для вычисления интеграла столкновений в кинетическом уравнении используется консервативный проекционный метод. Детально описаны применяемые расчетные формулы и методика вычислений. В качестве потенциала взаимодействия молекул используется модель твердых сфер. Численное моделирование проводится с использованием разработанной программно-моделирующей среды, которая позволяет исследовать стационарные и нестационарные течения газовых смесей в различных режимах и для произвольной геометрии задачи. Моделирование выполняется на системе кластерной архитектуры. За счет использования технологий распараллеливания кода достигается значительное ускорение вычислений. С фиксированной точностью, контролируемой параметрами моделирования, получены распределения макроскопических величин компонентов смеси по фронту ударной волны. Расчеты выполнены для различных соотношений молекулярных масс и чисел Маха. Достигнута общая точность моделирования не менее 1% по локальным значениям концентрации и температуры и 3% по ширине фронта ударной волны. Проведено сравнение полученных результатов с существующими расчетными данными. Представленные в данной работе результаты имеют теоретическое значение, а также могут служить в качестве тестового расчета, поскольку они получены с использованием точного уравнения Больцмана.

In this paper, the structure of a shock wave in a binary gas mixture is studied on the basis of direct solution of the Boltzmann kinetic equation. The conservative projection method is used to evaluate the collision integral in the kinetic equation. The applied evaluation formulas and numerical methods are described in detail. The model of hard spheres is used as an interaction potential of molecules. Numerical simulation is performed using the developed simulation environment software, which makes it possible to study both steady and non-steady flows of gas mixtures in various flow regimes and for an arbitrary geometry of the problem. Modeling is performed on a cluster architecture. Due to the use of code parallelization technologies, a significant acceleration of computations is achieved. With a fixed accuracy controlled by the simulation parameters, the distributions of macroscopic characteristics of the mixture components through the shock wave front were obtained. Computations were conducted for various ratios of molecular masses and Mach numbers. The total accuracy of at least 1% for the local values of molecular density and temperature and 3% for the shock front width was achieved. The obtained results were compared with existing computation data. The results presented in this paper are of theoretical significance, and can serve as a test computation, since they are obtained using the exact Boltzmann equation.

В статье исследуется одно из возможных решений задачи компенсации собственных помех (SIC, Self-Interference Cancellation), возникающей при проектировании полнодуплексных (IBFD, In-band Full-Duplex) систем связи. Подавление собственных помех осуществляется в цифровой области с помощью многослойных нелинейных моделей, которые адаптируются на основе метода градиентного спуска. Наличие локальных оптимумов и седловых точек при адаптации многослойных моделей делает невозможным использование методов второго порядка ввиду знаконеопределенности матрицы Гессе.

В данной работе предложено использовать смешанный метод Ньютона (MNM, mixed Newton method), который учитывает информацию о смешанных производных второго порядка функции потерь и, как следствие, обеспечивает высокую скорость сходимости по сравнению с традиционными методами первого порядка. Использование лишь только смешанных частных производных второго порядка при построении матрицы Гессе позволяет избежать проблемы «застревания» в седловых точках при использовании смешанного метода Ньютона для адаптации многослойных нелинейных компенсаторов собственных помех при проектировании полнодуплексных систем связи.

В качестве модели собственных нелинейных помех выбрана модель Гаммерштейна с комплексными параметрами. Данный выбор обусловлен тем, что модель эффективно описывает физические свойства, лежащие в основе формирования собственных помех. Благодаря свойству голоморфности выхода модели смешанный метод Ньютона обеспечивает свойство «отталкивания» от седловых точек в ландшафте функции потерь.

В работе приводятся кривые сходимости при адаптации модели Гаммерштейна смешанным методом Ньютона, а также при помощи классических подходов на основе метода градиентного спуска. Кроме того, приводится вывод предложенного метода, а также оценка вычислительной сложности.

The paper investigates a potential solution to the problem of Self-Interference Cancellation (SIC) encountered in the design of In-Band Full-Duplex (IBFD) communication systems. The suppression of selfinterference is implemented in the digital domain using multilayer nonlinear models adapted via the gradient descent method. The presence of local optima and saddle points in the adaptation of multilayer models prevents the use of second-order methods due to the indefinite nature of the Hessian matrix.

This work proposes the use of the Mixed Newton Method (MNM), which incorporates information about the second-order mixed partial derivatives of the loss function, thereby enabling a faster convergence rate compared to traditional first-order methods. By constructing the Hessian matrix solely with mixed second-order partial derivatives, this approach mitigates the issue of “getting stuck” at saddle points when applying the Mixed Newton Method for adapting multilayer nonlinear self-interference compensators in full-duplex system design.

The Hammerstein model with complex parameters has been selected to represent nonlinear selfinterference. This choice is motivated by the model’s ability to accurately describe the underlying physical properties of self-interference formation. Due to the holomorphic property of the model output, the Mixed Newton Method provides a “repulsion” effect from saddle points in the loss landscape.

The paper presents convergence curves for the adaptation of the Hammerstein model using both the Mixed Newton Method and conventional gradient descent-based approaches. Additionally, it provides a derivation of the proposed method along with an assessment of its computational complexity.

На основе гидродинамического 3D-моделирования с использованием уравнения состояния газа твердых сфер Карнахана – Старлинга выполнено исследование развития периодических возмущений сходящейся сферической ударной волны, приводящих к ограничению кумуляции. Метод решения системы уравнений Эйлера на подвижных (сжимающихся) сетках позволяет с высокой точностью проследить эволюцию фронта сходящейся ударной волны в широком диапазоне изменения ее радиуса. Скорость сжатия расчетной сетки адаптируется к движению фронта ударной волны, при этом движение границ расчетной области выбирается из условия сверхзвуковой скорости ее движения относительно среды. Это приводит к тому, что решение на этапе сжатия определяется только начальными данными. Применена схема TVD второго порядка аппроксимации для реконструкции вектора консервативных переменных на границах расчетных ячеек в сочетании со схемой Русанова для расчета численного вектора потоков. Выбор обусловлен сильной тенденцией к проявлению в расчетах численной неустойчивости типа «карбункул», известной для других классов течений. Использование сжимающихся сеток позволило исследовать детальную картину течения на масштабе прекращения кумуляции, что невозможно в рамках метода геометрической динамики ударных волн Уизема (Whitham), применявшегося ранее другими авторами для расчета сходящихся ударных волн. Исследование показало, что ограничение кумуляции связанно с переходом от маховского взаимодействия сегментов сходящейся ударной волны к регулярному вследствие прогрессирующего роста отношения азимутальной скорости на фронте ударной волны к радиальной при уменьшении ее радиуса. Установлено, что это отношение представляется в виде произведения ограниченной осциллирующей функции радиуса и степенной функции радиуса с показателем степени, зависящим от начальной плотности упаковки в модели твердых сфер. Показано, что увеличение параметра плотности упаковки в модели твердых сфер приводит к значительному увеличению давлений, достигаемых в ударной волне с нарушенной симметрией. Впервые в расчете показано, что на масштабе прекращения кумуляции течение сопровождается формированием высокоэнергетичных вихрей, в которые вовлечено вещество, подвергшееся наибольшему ударно-волновому сжатию. Оказывая влияние на процессы тепло- и массопереноса в области наибольшего сжатия, это обстоятельство является важным для актуальных практических применений сходящихся ударных волн в целях инициирования реакций (детонации, фазовых переходов, управляемого термоядерного синтеза).

The study of the development of π-periodic perturbations of a converging spherical shock wave leading to cumulation limitation is performed. The study is based on 3D hydrodynamic calculations with the Carnahan – Starling equation of state for hard sphere fluid. The method of solving the Euler equations on moving (compressing) grids allows one to trace the evolution of the converging shock wave front with high accuracy in a wide range of its radius. The compression rate of the computational grid is adapted to the motion of the shock wave front, while the motion of the boundaries of the computational domain satisfy the condition of its supersonic velocity relative to the medium. This leads to the fact that the solution is determined only by the initial data at the grid compression stage. The second order TVD scheme is used to reconstruct the vector of conservative variables at the boundaries of the computational cells in combination with the Rusanov scheme for calculating the numerical vector of flows. The choice is due to a strong tendency for the manifestation of carbuncle-type numerical instability in the calculations, which is known for other classes of flows. In the three-dimensional case of the observed force, the carbuncle effect was obtained for the first time, which is explained by the specific nature of the flow: the concavity of the shock wave front in the direction of motion, the unlimited (in the symmetric case) growth of the Mach number, and the stationarity of the front on the computational grid. The applied numerical method made it possible to study the detailed flow pattern on the scale of cumulation termination, which is impossible within the framework of the Whitham method of geometric shock wave dynamics, which was previously used to calculate converging shock waves. The study showed that the limitation of cumulation is associated with the transition from the Mach interaction of converging shock wave segments to a regular one due to the progressive increase in the ratio of the azimuthal velocity at the shock wave front to the radial velocity with a decrease in its radius. It was found that this ratio is represented as a product of a limited oscillating function of the radius and a power function of the radius with an exponent depending on the initial packing density in the hard sphere model. It is shown that increasing the packing density parameter in the hard sphere model leads to a significant increase in the pressures achieved in a shock wave with broken symmetry. For the first time in the calculation, it is shown that at the scale of cumulation termination, the flow is accompanied by the formation of high-energy vortices, which involve the substance that has undergone the greatest shock-wave compression. Influencing heat and mass transfer in the region of greatest compression, this circumstance is important for current practical applications of converging shock waves for the purpose of initiating reactions (detonation, phase transitions, controlled thermonuclear fusion).

В данной работе рассматривается взаимодействие кинка уравнения $\varphi^4$ с двумя протяженными одинаковыми примесями. Протяженная примесь описывается с помощью функции прямоугольного вида. Анализируется случай притягивающей примеси. С помощью аналитических методов рассматривается случай малых амплитуд локализованных волн, когда возможно провести линеаризацию уравнений движения. Для численного решения использовался метод прямых для уравнений в частных производных. Для нахождения частот колебаний, локализованных на примесях волн, используется дискретное преобразование Фурье. Кинк запускался в направлении примесей с разными начальными скоростями. Изменялось также расстояние между двумя примесями. Показано, что при взаимодействии кинка с примесями на них возбуждаются долгоживущие локализованные волны бризерного типа. Исследована их структура и связанная динамика. Определено, как, изменяя параметры примесей и расстояние между ними, можно управлять типом и динамическими параметрами связанных колебаний, локализованных на примесях волн. Найдены возможные решения в виде синфазных, антифазных колебаний, в виде биений. Колебания локализованных волн происходят с излучением волн малой амплитуды. Спектр этих излучений состоит из двух частот. Первая приближенно равна $\sqrt{2}$, что соответствует величине частоты для хвоста воблингбризера уравнения $\varphi^4$. Вторая приближенно равна удвоенной частоте колебаний примесных мод. Найдено (как аналитически, так и численно) наличие двух возможных частот для связанных локализованных колебаний. Показано, что частоты сильно зависят от расстояния между примесями. С увеличением расстояния между примесями частоты сливаются в одну — частоту, полученную для случая одиночной примеси. Найденные численно и аналитически зависимости частот от расстояния между примесями хорошо совпадают для больших расстояний, когда взаимодействие между примесями слабое, и начинают заметно отличаться при малых расстояниях, когда взаимодействие между примесями сильное. Аналитическое значение величин полученных частот всегда больше численных. Показано, что зависимость амплитуды локализованных волн от начальной скорости кинка имеет несколько минимумов и максимумов.

In this paper, we consider the interaction of a kink of the $\varphi^4$ equation with two identical extended impurities. An extended impurity is described using a rectangular function. The case of an attractive impurity is analyzed. Using analytical methods, we consider the case of small amplitudes of localized waves, when it is possible to linearize the equations of motion. For the numerical solution, the method of lines for partial differential equations was used. To find the oscillation frequencies of waves localized on impurities, the discrete Fourier transform is used. The kink was launched in the direction of the impurities with different initial velocities. The distance between the two impurities was also varied. It is shown that when a kink interacts with impurities, long-lived localized breather-type waves are excited on them. Their structure and coupled dynamics are investigated. It is determined how, by changing the parameters of the impurities and the distance between them, it is possible to control the type and dynamic parameters of the coupled oscillations of the waves localized on the impurities. Possible solutions in the form of in-phase, antiphase oscillations, in the form of beats are found. The oscillations of localized waves occur with the emission of small-amplitude waves. The spectrum of these emissions consists of two frequencies. The first is approximately equal to $\sqrt{2}$, which corresponds to the frequency value for the wobbling breather tail of the $\varphi^4$ equation. The second is approximately equal to the doubled frequency of impurity mode oscillations. The presence of two possible frequencies for coupled localized oscillations is found both analytically and numerically. It is shown that the frequencies strongly depend on the distance between impurities. With increasing distance between impurities, the frequencies merge into one — frequency obtained for the case of a single impurity. The dependences of the frequencies on the distance between impurities found numerically and analytically coincide well for large distances, when the interaction between impurities is weak, and begin to differ noticeably at small distances, when the interaction between impurities is strong. The analytical value of the obtained frequencies is always greater than the numerical ones. It is shown that the dependence of the amplitude of localized waves on the initial kink velocity has several minima and maxima.

Целью исследований является разработка программного комплекса для решения задач газовой динамики в многосвязных областях правильной геометрии на высокопроизводительной вычислительной системе. Сравниваются различные технологии реализации параллельных вычислений. Программный комплекс реализован на многопоточных параллельных системах, использующих для организации расчета как многоядерную архитектуру, так и массивно-параллельную. Проведено сравнение численных результатов на основе программного комплекса с известными решениями модельных задач. Проведено исследование производительности различных вычислительных платформ.

The aim of research is to develop software system for solving gas dynamic problem in multiply connected integration domains of regular shape by high-performance computing system. Comparison of the various technologies of parallel computing has been done. The program complex is implemented using multithreaded parallel systems to organize both multi-core and massively parallel calculation. The comparison of numerical results with known model problems solutions has been done. Research of performance of different computing platforms has been done.

Методом математического моделирования на основе метода крупных частиц исследуется динамика распространения пожара в однородном степном массиве.

We consider the two-dimensional mathematical model of wildfire. Numerical solution algorithm based on the method of large particles was developed for this model.

В статье рассматриваются локальная и двойная локальная оценка метода Монте-Карло при решении уравнения глобального освещения. Локальная оценка позволяет в диффузном приближении рассчитывать освещенность в произвольной точке, тогда как двойная локальная оценка позволяется вычислять непосредственно яркость в заданной точке по заданному направлению. В статье дается математическое обоснование локальных оценок и рассмотрены основные этапы реализации программного обеспечения. Также рассматривается представление трехмерных объектов в базисе сферических функций и возможность использования их в локальных оценках.

The article deals with the local and double local estimation of the Monte Carlo method for solving the equation of global illumination. The local estimation allows calculating the illumination at any point at the approximation of diffuse reflection, whereas the double local estimation allows calculating directly the luminance at a given point in a given direction. The article presents the mathematical basis of local estimations and the basic stages of the software implementation. The representation of three-dimensional objects in the basis of spherical functions and the possibility of using them in the local estimations are also considered.