Все выпуски
- 2026 Том 18
- 2025 Том 17
- 2024 Том 16
- 2023 Том 15
- 2022 Том 14
- 2021 Том 13
- 2020 Том 12
- 2019 Том 11
- 2018 Том 10
- 2017 Том 9
- 2016 Том 8
- 2015 Том 7
- 2014 Том 6
- 2013 Том 5
- 2012 Том 4
- 2011 Том 3
- 2010 Том 2
- 2009 Том 1
-
Численное исследование взаимодействия ударной волны с подвижными вращающимися телами сложной формы
Компьютерные исследования и моделирование, 2021, т. 13, № 3, с. 513-540Статья посвящена разработке вычислительного алгоритма метода декартовых сеток для исследования взаимодействия ударной волны с подвижными телами с кусочно-линейной границей. Интерес к подобным задачам связан с прямым численным моделированием течений двухфазных сред. Эффект формы частицы может иметь значение в задаче о диспергировании пылевого слоя за проходящей ударной волной. Экспериментальные данные по коэффициенту аэродинамического сопротивления несферических частиц практически отсутствуют.
Математическая модель основана на двумерных уравнениях Эйлера, которые решаются в области с подвижными границами. Определяющая система уравнений численно интегрируется по явной схеме с использованием метода декартовых сеток. Вычислительный алгоритм на шаге интегрирования по времени включает: определение величины шага, расчет динамики движения тела (определение силы и момента, действующих на тело; определение линейной и угловой скоростей тела; расчет новых координат тела), расчет параметров газа. На каждом шаге интегрирования по времени все ячейки делятся на два класса — внешние (внутри тела или пересекаются его границами) и внутренние (целиком заполнены газом). Решение уравнений Эйлера строится только во внутренних. Основная сложность заключается в расчете численного потока через ребра, общие для внутренних и внешних ячеек, пересекаемых подвижными границами тел. Для расчета этого потока используются двухволновое приближение при решении задачи Римана и схема Стигера–Уорминга. Представлено подробное описание вычислительного алгоритма.
Работоспособность алгоритма продемонстрирована на задаче о подъеме цилиндра с основанием в форме круга, эллипса и прямоугольника за проходящей ударной волной. Тест с круговым цилиндром рассмотрен во множестве статей, посвященных методам погруженной границы. Проведен качественный и количественный анализ траектории движения центра масс цилиндра на основании сравнения с результатами расчетов, представленными в восьми других работах. Для цилиндра с основанием в форме эллипса и прямоугольника получено удовлетворительное согласие по динамике его движения и вращения в сравнении с имеющимися немногочисленными литературными источниками. Для прямоугольника исследована сеточная сходимость результатов. Показано, что относительная погрешность выполнения закона сохранения суммарной массы газа в расчетной области убывает линейно при измельчении расчетной сетки.
Ключевые слова: ударная волна, метод декартовых сеток, уравнения Эйлера, подъем частицы, вращение частицы.
Numerical study of the interaction of a shock wave with moving rotating bodies with a complex shape
Computer Research and Modeling, 2021, v. 13, no. 3, pp. 513-540The work is devoted to the development of a computational algorithm of the Cartesian grid method for studying the interaction of a shock wave with moving bodies with a piecewise linear boundary. The interest in such problems is connected with direct numerical simulation of two-phase media flows. The effect of the particle shape can be important in the problem of dust layer dispersion behind a passing shock wave. Experimental data on the coefficient of aerodynamic drag of non-spherical particles are practically absent.
Mathematical model is based on the two-dimensional Euler equations, which are solved in a region with varying boundaries. The defining system of equations is integrated using an explicit scheme and the Cartesian grid method. The computational algorithm at the time integration step includes: determining the step value, calculating the dynamics of the body movement (determining the force and moment acting on the body; determining the linear and angular velocities of the body; calculating the new coordinates of the body), calculating the gas parameters. At each time step, all cells are divided into two classes – external (inside the body or intersected by its boundaries) and internal (completely filled with gas). The solution of the Euler equations is constructed only in the internal ones. The main difficulty is the calculation of the numerical flux through the edges common to the internal and external cells intersected by the moving boundaries of the bodies. To calculate this flux, we use a two-wave approximation for solving the Riemann problem and the Steger-Warming scheme. A detailed description of the numerical algorithm is presented.
The efficiency of the algorithm is demonstrated on the problem of lifting a cylinder with a base in the form of a circle, ellipse and rectangle behind a passing shock wave. A circular cylinder test was considered in many papers devoted to the immersed boundary methods development. A qualitative and quantitative analysis of the trajectory of the cylinder center mass is carried out on the basis of comparison with the results of simulations presented in eight other works. For a cylinder with a base in the form of an ellipse and a rectangle, a satisfactory agreement was obtained on the dynamics of its movement and rotation in comparison with the available few literary sources. Grid convergence of the results is investigated for the rectangle. It is shown that the relative error of mass conservation law fulfillment decreases with a linear rate.
-
Модифицированный метод Гаусса–Ньютона для решения гладкой системы нелинейных уравнений
Компьютерные исследования и моделирование, 2021, т. 13, № 4, с. 697-723В работе предлагается новая версия метода Гаусса–Ньютона для решения системы нелинейных уравнений, основанная на идеях использования верхней оценки нормы невязки системы уравнений и квадратичной регуляризации. Предложенная версия метода Гаусса–Ньютона на практике фактически задает целое параметризованное семейство методов решения систем нелинейных уравнений и задач восстановления регрессионной зависимости. Разработанное семейство методов Гаусса–Ньютона состоит целиком из итеративных методов, включающих в себя также специальные формы алгоритмов Левенберга–Марквардта, с обобщением на случаи применения в неевклидовых нормированных пространствах. В разработанных методах используется локальная модель, осуществляющая параметризованное проксимальное отображение и допускающая на практике применение неточного оракула в формате «черного ящика» с ограничением на точность вычисления и на сложность вычисления. Для разработанного семейства методов приведен анализ эффективности в терминах количества итераций алгоритма, точности и сложности представления локальной модели и вычисления оракула, параметров размерности решаемой задачи с выводом локальной и глобальной сходимости при использовании произвольного оракула. В работе представлены условия глобальной сублинейной сходимости для предложенного семейства методов решения системы нелинейных уравнений, состоящих из гладких по Липшицу функций. В рамках дополнительных естественных предположений о невырожденности системы нелинейных функций установлена локальная суперлинейная сходимость для рассмотренного семейства методов. При выполнении условия Поляка–Лоясиевича для системы нелинейных уравнений доказана локальная и глобальная линейная сходимость рассмотренных методов Гаусса–Ньютона. Помимо теоретического обоснования методов, в работе рассматриваются вопросы их практической реализации. В частности, в проведенных экспериментах для точного оракула приводятся схемы эффективного вычисления в зависимости от параметров размерности решаемой задачи. Предложенное семейство методов объединяет в себе несколько существующих и часто используемых на практике модификаций метода Гаусса–Ньютона, позволяя получить гибкий и удобный в использовании метод, реализуемый на практике с помощью стандартных техник выпуклой оптимизации и вычислительной линейной алгебры.
Ключевые слова: системы нелинейных уравнений, нелинейная регрессия, метод Гаусса–Ньютона, алгоритм Левенберга–Марквардта, методы доверительной области, невыпуклая оптимизация, неточное проксимальное отображение, неточный оракул, условие Поляка–Лоясиевича, оценка сложности.
Modified Gauss–Newton method for solving a smooth system of nonlinear equations
Computer Research and Modeling, 2021, v. 13, no. 4, pp. 697-723In this paper, we introduce a new version of Gauss–Newton method for solving a system of nonlinear equations based on ideas of the residual upper bound for a system of nonlinear equations and a quadratic regularization term. The introduced Gauss–Newton method in practice virtually forms the whole parameterized family of the methods solving systems of nonlinear equations and regression problems. The developed family of Gauss–Newton methods completely consists of iterative methods with generalization for cases of non-euclidean normed spaces, including special forms of Levenberg–Marquardt algorithms. The developed methods use the local model based on a parameterized proximal mapping allowing us to use an inexact oracle of «black–box» form with restrictions for the computational precision and computational complexity. We perform an efficiency analysis including global and local convergence for the developed family of methods with an arbitrary oracle in terms of iteration complexity, precision and complexity of both local model and oracle, problem dimensionality. We present global sublinear convergence rates for methods of the proposed family for solving a system of nonlinear equations, consisting of Lipschitz smooth functions. We prove local superlinear convergence under extra natural non-degeneracy assumptions for system of nonlinear functions. We prove both local and global linear convergence for a system of nonlinear equations under Polyak–Lojasiewicz condition for proposed Gauss– Newton methods. Besides theoretical justifications of methods we also consider practical implementation issues. In particular, for conducted experiments we present effective computational schemes for the exact oracle regarding to the dimensionality of a problem. The proposed family of methods unites several existing and frequent in practice Gauss–Newton method modifications, allowing us to construct a flexible and convenient method implementable using standard convex optimization and computational linear algebra techniques.
-
Оптимизация планирования выполнения пакетов заданий в многостадийных системах при ограничениях и формировании комплектов
Компьютерные исследования и моделирование, 2021, т. 13, № 5, с. 917-946Современные методы комплексного планирования выполнения пакетов заданий в многостадийных системах характеризуются наличием ограничений на размерность решаемой задачи, невозможностью гарантированного получения эффективных решений при различных значениях ее входных параметров, а также невозможностью учета условия формирования комплектов из результатов и ограничения на длительности интервалов времени функционирования системы. Для решения задачи планирования выполнения пакетов заданий при формировании комплектов результатов и ограничении на длительности интервалов времени функционирования системы реализована декомпозиция обобщенной функции системы на совокупность иерархически взаимосвязанных подфункций. Применение декомпозиции позволило использовать иерархический подход для планирования выполнения пакетов заданий в многостадийных системах, предусматривающий определение решений по составам пакетов заданий на первом уровне иерархии, решений по составам групп пакетов заданий, выполняемых в течение временных интервалов ограниченной длительности, на втором уровне и расписаний выполнения пакетов на третьем уровне иерархии. С целью оценки оптимальности решений по составам пакетов результаты их выполнения, полученные в течение заданных временных интервалов, распределяются по комплектам. Для определения комплексных решений применен аппарат теории иерархических игр. Построена модель иерархической игры для принятия решений по составам пакетов, групп пакетов и расписаниям выполнения пакетов, представляющая собой систему иерархически взаимосвязанных критериев оптимизации решений. В модели учтены условие формирования комплектов из результатов выполнения пакетов заданий и ограничение на длительность интервалов времени ее функционирования. Задача определения составов пакетов заданий и групп пакетов заданий является NP-трудной, поэтому для ее решения требуется применение приближенных методов оптимизации. С целью оптимизации групп пакетов заданий реализовано построение метода формирования начальных решений по их составам, которые в дальнейшем оптимизируются. Также сформулирован алгоритм распределения по комплектам результатов выполнения пакетов заданий, полученных в течение временных интервалов ограниченной длительности. Предложен метод локальной оптимизации решений по составам групп пакетов, в соответствии с которым из групп исключаются пакеты, результаты выполнения которых не входят в комплекты, и добавляются пакеты, не включенные ни в одну из групп. Выполнена программная реализация рассмотренного метода комплексной оптимизации составов пакетов заданий, групп пакетов заданий и расписаний выполнения пакетов заданий из групп (в том числе реализация метода оптимизации составов групп пакетов заданий). С ее использованием проведены исследования особенностей рассматриваемой задачи планирования. Сформулированы выводы, касающиеся зависимости эффективности планирования выполнения пакетов заданий в многостадийных системах при введенных условиях от входных параметров задачи. Использование метода локальной оптимизации составов групп пакетов заданий позволяет в среднем на 60% увеличить количество формируемых комплектов из результатов выполнения заданий в пакетах из групп по сравнению с фиксированными группами (не предполагающими оптимизацию).
Ключевые слова: пакеты заданий, многостадийная система, комплекты результатов, расписание, ограничение длительности временных интервалов работы системы.
Optimization of task package execution planning in multi-stage systems under restrictions and the formation of sets
Computer Research and Modeling, 2021, v. 13, no. 5, pp. 917-946Modern methods of complex planning the execution of task packages in multistage systems are characterized by the presence of restrictions on the dimension of the problem being solved, the impossibility of guaranteed obtaining effective solutions for various values of its input parameters, as well as the impossibility of registration the conditions for the formation of sets from the result and the restriction on the interval duration of time of the system operating. The decomposition of the generalized function of the system into a set of hierarchically interconnected subfunctions is implemented to solve the problem of scheduling the execution of task packages with generating sets of results and the restriction on the interval duration of time for the functioning of the system. The use of decomposition made it possible to employ the hierarchical approach for planning the execution of task packages in multistage systems, which provides the determination of decisions by the composition of task groups at the first level of the hierarchy decisions by the composition of task packages groups executed during time intervals of limited duration at the second level and schedules for executing packages at the third level the hierarchy. In order to evaluate decisions on the composition of packages, the results of their execution, obtained during the specified time intervals, are distributed among the packages. The apparatus of the theory of hierarchical games is used to determine complex solutions. A model of a hierarchical game for making decisions by the compositions of packages, groups of packages and schedules of executing packages is built, which is a system of hierarchically interconnected criteria for optimizing decisions. The model registers the condition for the formation of sets from the results of the execution of task packages and restriction on duration of time intervals of its operating. The problem of determining the compositions of task packages and groups of task packages is NP-hard; therefore, its solution requires the use of approximate optimization methods. In order to optimize groups of task packages, the construction of a method for formulating initial solutions by their compositions has been implemented, which are further optimized. Moreover, a algorithm for distributing the results of executing task packages obtained during time intervals of limited duration by sets is formulated. The method of local solutions optimization by composition of packages groups, in accordance with which packages are excluded from groups, the results of which are not included in sets, and packages, that aren’t included in any group, is proposed. The software implementation of the considered method of complex optimization of the compositions of task packages, groups of task packages, and schedules for executing task packages from groups (including the implementation of the method for optimizing the compositions of groups of task packages) has been performed. With its use, studies of the features of the considered planning task are carried out. Conclusion are formulated concerning the dependence of the efficiency of scheduling the execution of task packages in multistage system under the introduced conditions from the input parameters of the problem. The use of the method of local optimization of the compositions of groups of task packages allows to increase the number of formed sets from the results of task execution in packages from groups by 60% in comparison with fixed groups (which do not imply optimization).
-
Метод гибридных сеток в задачах внешней и внутренней газовой динамики
Компьютерные исследования и моделирование, 2023, т. 15, № 3, с. 543-565На основе метода моделирования задач газовой динамики с помощью системы сеток реализован алгоритм для решения нестационарной задачи с движущими телами. Алгоритм учитывает перемещение и вращение тел по заданному закону движения. Алгоритм применен для исследования обтекания бесконечной решетки, составленной из цилиндров с эллиптическим сечением, которые либо перемещаются поперек потока, либо вращаются с изменением угла атаки. Для моделирования обтекания тел с острой кромкой, характерных для профилей турбомашин, реализован алгоритм построения сетки типа С с включением некоторой области за профилем. Программа моделирования течения около профиля реализована в рамках моделей уравнений Эйлера, уравнений Навье – Стокса в приближении тонкого слоя с ламинарной вязкостью и турбулентной вязкостью в рамках алгебраической модели вязкости. Также программа была адаптирована для решения задач внутренней газодинамики турбомашин. Для этого была изменена методика задания граничных условий на входе и выходе из расчетной области со скорости на перепад давления, а также на боковых границах со свободного потока на периодичность. Это позволило моделировать течение газа в межлопаточных каналах компрессоров и турбин газотурбинных двигателей. Для отработки алгоритма были проведены серии расчетов аэродинамических параметров нескольких турбинных решеток на различных дозвуковых и сверхзвуковых режимах и их сравнение с экспериментом. Расчеты параметров турбинных решеток были проведены в рамках модели невязкого и вязкого газа. Сравнение расчета и эксперимента проводилось по распределению параметров газа около профиля, а также по потерям энергии потока в решетке. Расчеты показали применимость и корректность работы программы для решения данного класса задач. Для тестирования программы на задачах внешней дозвуковой аэродинамики были выполнены расчеты аэродинамических характеристик изолированного аэродинамического профиля в невозмущенном потоке. Полученные результаты позволяют утверждать о применимости метода гибридных сеток к различным классам задач прикладной газовой динамики.
Ключевые слова: моделирование, аэродинамические характеристики, внутренняя аэродинамика, обтекание, турбомашины, лопатки, газовые турбины, газотурбинные двигатели, ударные волны, интерференция.
Hybrid grid method for external and internal gas dynamics
Computer Research and Modeling, 2023, v. 15, no. 3, pp. 543-565Based on the modeling method using a mesh system, an algorithm is implemented for solving a unsteady problem with moving bodies The algorithm takes into account the movement and rotation of bodies according to a given law of motion. The algorithm is applied to analysis the flow around an infinite composed of cylinders with an elliptical cross-section, which either move across the flow or rotate with a change in the angle of attack. To simulate the flow of bodies with a sharp edge, characteristic of the profiles of gas turbine machines, an algorithm for constructing a mesh of type C with the inclusion of a certain area behind the profile is implemented. The program for modeling the flow near the profile is implemented within the framework of models of Euler equations, Navier – Stokes equations in the approximation of a thin layer with laminar viscosity and turbulent viscosity in the framework of an algebraic viscosity model. The program has also been adapted to solve the problems of internal gas dynamics of turbomachines. For this purpose, the method of setting the boundary conditions at the entrance and exit from the calculated area from the velocity to the pressure drop, as well as at the lateral boundaries from the free flow to the periodicity, was changed. This made it possible to simulate the flow of gas in the inter-blade channels of compressors and turbines of gas turbine engines. To refine the algorithm, a series of calculations of the aerodynamic parameters of several turbine cascades in various subsonic and supersonic modes and their comparison with the experiment were carried out. Calculations of turbine grating parameters were carried out within the framework of the inviscid and viscous gas model. The calculation and experiment were compared by the distribution of gas parameters near the profile, as well as by the energy losses of the flow in the cascade. Calculations have shown the applicability and correctness of the program to solve this class of problems. To test the program on the problems of external subsonic aerodynamics, calculations of the aerodynamic characteristics of an isolated airfoil in an undisturbed flow were performed. The results obtained allow us to assert the applicability of the hybrid grid method to various classes of problems of applied gas dynamics.
-
Подходы к созданию точных геометрических моделей стальных канатов в среде Gmsh с использованием ядра OpenCascade Core Technology
Компьютерные исследования и моделирование, 2024, т. 16, № 6, с. 1399-1415В статье рассмотрены проблемы подготовки точных геометрических моделей стальных канатов, то есть геометрических моделей, основанных на математических моделях, позволяющих повторять геометрию моделируемого каната в трехмерном пространстве без существенных упрощений или условностей, с учетом целевого назначения модели. Предложены подходы к созданию точных геометрических моделей стальных канатов, не имеющих принципиальных ограничений по внедрению в расчетные области и дальнейшему построению конечно-элементных моделей на их основе. Рассмотрены обобщенная параметризованная геометрическая модель канатов одинарной и двойной свивки и ее алгоритмическая реализация с помощью ядра геометрического моделирования ОpenCASCADE Core Technology в среде Gmsh (свободно распространяемое программное обеспечение с открытым исходным кодом). Обозначена проблематика использования табличных данных из государственных и отраслевых стандартов сортамента стальных канатов как исходных данных для построения геометрических моделей стальных канатов. Разработаны методы априорной проверки коллизий геометрической модели на основе исходных данных геометрической модели и методы апостериорной проверки на основе булевых операций над телами проволок каната для выявления некорректных результатов генерации моделей тел проволок с криволинейными боковыми поверхностями на основе алгоритма последовательного иерархического построения отдельных проволок пряди и последовательного копирования прядей. Показаны особенности процесса построения геометрических моделей проволок каната различными методами экструзии: через последовательность образующих с формированием тела, ограниченного криволинейными поверхностями, через последовательность образующих с формированием тела, ограниченного линейно-аппроксимированными поверхностями, и экструзией одной образующей вдоль направляющей. Выполнена оценка вычислительной сложности процесса построения геометрических моделей и необходимого объема оперативной памяти ЭВМ для двух наиболее универсальных методов экструзии тел проволок. Разработан метод оценки значения шага расстановки образующих и исследовано влияние его значения на вычислительную сложность процедуры построения отдельных проволок каната. Даны рекомендации по выбору значения радиального зазора между проволоками. Показана алгоритмическая реализация метода поиска коллизий геометрической модели стального каната в неинтерактивном режиме и предложены подходы к формированию процедур обработки коллизий. Предложенные методы и подходы могут быть представлены в виде программных модулей как для исполнения в среде Gmsh, так и для иной среды, использующей ядро геометрического моделирования OpenCascade Core Technology, и позволяют автоматизировать построение точных геометрических моделей стальных канатов в любой конфигурации без принципиальных ограничений по последующему применению, как обособленному, так и в виде объектов (примитивов), пригодных для внедрения в стороннюю модель.
Ключевые слова: стальной канат, геометрическаямо дель, экструзия, булевы операции, метод конечных элементов.
Approaches to creating precise geometric models of steel wire ropes in the Gmsh environment using the OpenCascade Core Technology engine
Computer Research and Modeling, 2024, v. 16, no. 6, pp. 1399-1415A review of the problems of preparing accurate geometric models of steel ropes based on mathematical models without significant simplifications, taking into account the intended purpose of the model, is carried out. Possible approaches to the generation of precise geometric models of steel ropes that have no fundamental limitations on their integration in computational domains and the subsequent construction of finite element models based on them are shown. A generalized parameterized geometric model of single and double twist ropes and its algorithmic implementation using the OpenCASCADE Core Technology geometric modeling kernel in the Gmsh environment (open source software) is considered. The problems of using generic tabular data from steel rope assortment standards as initial data for constructing geometric models are considered. Methods of preliminary verification of collisions of a geometric model based on the initial data of a geometric model are given. Post-verification methods based on Boolean operations over rope wire bodies are given to identify incorrect results of generating models of wire bodies with curvilinear side surfaces based on the algorithm of sequential hierarchical construction of individual wires of single strand and sequential copying of it. Various methods of the process of constructing geometric models of rope wires by extrusion are shown: through a sequence of generatrix with the formation of a body limited by curvilinear surfaces, through a sequence of generatrix with the formation of a body limited by linearly approximated surfaces, and extrusion of one generatrix along a single guideline. The computational complexity of the geometric model generation and the required volume of RAM for the two most universal methods of creating a body of wire are investigated. A method for estimating the value of the step of the arrangement of the generatrix of a single wire is shown, and the influence of its value on the computational complexity of the procedure of wire construction is investigated. Recommendations are given for choosing the value of the radial gap between the layers of wires. An algorithmic implementation of the method for searching for collisions of a geometric model of a steel rope in a non-interactive mode is shown. Approaches to the formation of procedures for processing collisions are proposed. Approaches presented in the article can be implemented in the form of software modules for execution in the Gmsh environment, as well as for another environment using the OpenCascade Core Technology geometric modeling kernel. Such modules allow automation of the construction of accurate geometric models of steel ropes in any configuration without fundamental restrictions on subsequent use, both stand-alone and in the form of objects (primitives) suitable for integration in a third-party model.
-
Компенсация собственных нелинейных помех на основе смешанного метода Ньютона
Компьютерные исследования и моделирование, 2024, т. 16, № 7, с. 1579-1592В статье исследуется одно из возможных решений задачи компенсации собственных помех (SIC, Self-Interference Cancellation), возникающей при проектировании полнодуплексных (IBFD, In-band Full-Duplex) систем связи. Подавление собственных помех осуществляется в цифровой области с помощью многослойных нелинейных моделей, которые адаптируются на основе метода градиентного спуска. Наличие локальных оптимумов и седловых точек при адаптации многослойных моделей делает невозможным использование методов второго порядка ввиду знаконеопределенности матрицы Гессе.
В данной работе предложено использовать смешанный метод Ньютона (MNM, mixed Newton method), который учитывает информацию о смешанных производных второго порядка функции потерь и, как следствие, обеспечивает высокую скорость сходимости по сравнению с традиционными методами первого порядка. Использование лишь только смешанных частных производных второго порядка при построении матрицы Гессе позволяет избежать проблемы «застревания» в седловых точках при использовании смешанного метода Ньютона для адаптации многослойных нелинейных компенсаторов собственных помех при проектировании полнодуплексных систем связи.
В качестве модели собственных нелинейных помех выбрана модель Гаммерштейна с комплексными параметрами. Данный выбор обусловлен тем, что модель эффективно описывает физические свойства, лежащие в основе формирования собственных помех. Благодаря свойству голоморфности выхода модели смешанный метод Ньютона обеспечивает свойство «отталкивания» от седловых точек в ландшафте функции потерь.
В работе приводятся кривые сходимости при адаптации модели Гаммерштейна смешанным методом Ньютона, а также при помощи классических подходов на основе метода градиентного спуска. Кроме того, приводится вывод предложенного метода, а также оценка вычислительной сложности.
Ключевые слова: метод второго порядка, комплекснозначный гессиан, полнодуплексные системы связи, компенсация собственных помех.
Non-linear self-interference cancellation on base of mixed Newton method
Computer Research and Modeling, 2024, v. 16, no. 7, pp. 1579-1592The paper investigates a potential solution to the problem of Self-Interference Cancellation (SIC) encountered in the design of In-Band Full-Duplex (IBFD) communication systems. The suppression of selfinterference is implemented in the digital domain using multilayer nonlinear models adapted via the gradient descent method. The presence of local optima and saddle points in the adaptation of multilayer models prevents the use of second-order methods due to the indefinite nature of the Hessian matrix.
This work proposes the use of the Mixed Newton Method (MNM), which incorporates information about the second-order mixed partial derivatives of the loss function, thereby enabling a faster convergence rate compared to traditional first-order methods. By constructing the Hessian matrix solely with mixed second-order partial derivatives, this approach mitigates the issue of “getting stuck” at saddle points when applying the Mixed Newton Method for adapting multilayer nonlinear self-interference compensators in full-duplex system design.
The Hammerstein model with complex parameters has been selected to represent nonlinear selfinterference. This choice is motivated by the model’s ability to accurately describe the underlying physical properties of self-interference formation. Due to the holomorphic property of the model output, the Mixed Newton Method provides a “repulsion” effect from saddle points in the loss landscape.
The paper presents convergence curves for the adaptation of the Hammerstein model using both the Mixed Newton Method and conventional gradient descent-based approaches. Additionally, it provides a derivation of the proposed method along with an assessment of its computational complexity.
-
Применение метода компьютерной аналогии для решения сложных нелинейных систем дифференциальных уравнений
Компьютерные исследования и моделирование, 2025, т. 17, № 6, с. 1083-1104В работе развивается предложенный ранее метод компьютерной аналогии (МКА), основанный на формализации операций цифрового компьютера. Обсуждается место предлагаемого подхода среди известных методов. Подчеркивается, что целью является получение именно аналитических представлений решений, хотя пока в ряде случаев приходится ограничиться полуаналитическими аппроксимациями. Подробно изучается способ построения решений для уравнения Ван дер Поля (сводящегося к нелинейной системе дифференциальных уравнений), для систем Лоренца, Мариока – Шимицу и Рёсслера. Для трех последних нелинейных систем рассматриваются параметры, при которых решения демонстрируют черты детерминистического хаоса. Строятся полуаналитические решения, основанные на представлении решения в виде отрезка сходящегося степенного ряда по шагу независимой переменной при использовании аппроксимирующих разностных схем. Для предотвращения переполнения применяется формализованная операция переноса разрядов. Для перехода на следующий шаг по независимой переменной используется сходящаяся к решению разностная схема, называемая руководящей. Таким образом, получаемая аппроксимация суммой всего с несколькими членами обеспечивает приближение к решению с любой точностью в соответствии с точностью руководящей разностной схемы. Старшие разряды в получаемом приближении обнаруживают вероятностные свойства, которые удается моделировать известными распределениями, что приводит к получению аналитических и полуаналитических аппроксимаций. В работе представлены линейные приближения, являющиеся основой для полных приближений решений и дающие важные качественные, а также некоторые количественные свойства решений. Описываются аппроксимации различного порядка, в том числе и не гарантирующие сходимости к точному решению, но упрощающие анализ определенных свойств решения нелинейных уравнений и систем. В частности, для уравнения Ван дер Поля показывается, что соответствующая ему система уравнений имеет циклическое решение, а также оценивается его масштаб. С помощью модификаций МКА (с некоторыми чертами метода Монте-Карло), в которых удается свернуть рекуррентные последовательности, построены полные решения в простых ситуациях. Упоминается перспективный подход, позволяющий представлять решение с помощью ветвящихся цепных дробей.
Ключевые слова: метод компьютерной аналогии, решение дифференциальных уравнений, задача Коши, решение систем дифференциальных уравнений, уравнение Ван дер Поля, система Лоренца, система Мариока – Шимицу, система Рёсслера.
Application of the computer analogy method for solving complex nonlinear systems of differential equations
Computer Research and Modeling, 2025, v. 17, no. 6, pp. 1083-1104This study develops a previously proposed Method of Computer Analogy (MCA) based on formalization of digital computer operations. The paper discusses the position of the proposed approach among other well-known methods. It is emphasized that the primary objective is to derive analytical solutions, although in some cases they have to resort to semianalytical approximations. The paper focuses on constructing solutions for systems which, for certain parameter values, demonstrate the deterministic chaos behavior, namely Lorenz, Marioka – Shimitsu and R¨ossler systems. The paper also considers obtaining solution for Van der Pol equation (reduced to a nonlinear system). The aim of the study is to construct semi-analytical solutions represented as a segment of a power series in a step size of approximating difference scheme. To prevent overflow, authors formalize rank transfer operation. The authors apply a convergent difference scheme, referred to as the “guiding” scheme, to advance to the next step of the independent variable. The resulting approximation by a sum with only a few terms provides an approximation to the solution with any accuracy in accordance with the accuracy of the governing difference scheme. The senior digits in the resulting approximation exhibit probabilistic properties that can be modeled by known distributions, thereby enabling the derivation of analytical and semi-analytical approximations. The paper presents linear approximations that are the base for a complete approximations of solutions and provide important qualitative as well as some quantitative properties of solutions of considered systems. This work describes approximations of various orders, including those that do not guarantee convergence to the exact solution, but simplify the analysis of certain properties of nonlinear equations and systems. In particular, for the Van der Pol equation, authors demonstrate that its corresponding system has a cyclic solution and provide an estimate of its scale. A modification of the MCA that has features of the Monte Carlo method makes it possible to remove recurrent sequences and construct complete solutions in simple situations. The authors mention a promising approach for representing the solution using branched continued fractions.
-
Математическая модель сообщества хищник – жертва с нижним порогом численности жертвы
Компьютерные исследования и моделирование, 2009, т. 1, № 1, с. 51-56Рассматривается математическая модель малой экосистемы типа хищник – жертва с нижним порогом численности жертвы. Предполагается, что экосистема находится под воздействием промысла. Изменение интенсивности промысла ведет к изменению двух параметров модели, которые рассматриваются как управляемые. Построена бифуркационная диаграмма в плоскости управ-ляемых параметров и приведены соответствующие фазовые портреты.
Mathematical model of predator – prey system with lower critical prey density
Computer Research and Modeling, 2009, v. 1, no. 1, pp. 51-56Просмотров за год: 23. Цитирований: 5 (РИНЦ).A mathematical model of predator – prey microecosystem with lower critical population number of prey is considered. The predator – prey system is assumed to be under harvesting. Harvesting intensity variations generate changes in two model parameters which are considered as controllable. Bifurcation diagram in control-lable parameters plane is constructed and corresponding phase portraits are represented.
-
Численное исследование транспортных потоков на основе гидродинамических моделей
Компьютерные исследования и моделирование, 2011, т. 3, № 4, с. 389-412Целью данной работы является обобщение макроскопических гидродинамических моделей, описывающих автомобильное движение, с помощью алгоритма построения адекватного реальным наблюдаемым условиям уравнения состояния — зависимости давления от плотности транспортного потока, определяемого по экспериментальным данным (возможно, с использованием параметрических решений модельных уравнений). Доказано, что именно вид уравнения состояния, замыкающего систему модельных уравнений и полученного из экспериментально наблюдаемого вида фундаментальной диаграммы — зависимости интенсивности транспортного потока от его плотности, полностью определяет все свойства исследуемой феноменологической
модели.Ключевые слова: автомобильное движение, уравнение состояния, гиперболические системы уравнений, транспортные потоки, феноменологические модели.
Numerical study of traffic flows by the hydrodynamic models
Computer Research and Modeling, 2011, v. 3, no. 4, pp. 389-412Просмотров за год: 7. Цитирований: 7 (РИНЦ).The purpose of this paper is to generalize the macroscopic hydrodynamic vehicular traffic models by using the algorithm for constructing the adequate state equation — dependence the pressure from traffic density by taking into account the real experimental data (possibly using the parametric solutions for model equations). It is proved that this kind of state equation which closed model equations system and obtained from the experimentally observed form of the fundamental diagram — dependence the traffic intensity from its density, completely determines the all properties of the used phenomenological model.
-
Параллельная реализация конечно-элементных алгоритмов на графических ускорителях в программном комплексе FEStudio
Компьютерные исследования и моделирование, 2014, т. 6, № 1, с. 79-97Рассматриваются новые подходы и алгоритмы распараллеливания вычислений метода конечных элементов, реализованные в программном комплексе FEStudio. Представлена программная модель комплекса, позволяющая расширять возможности распараллеливания на различных уровнях вычислений. Разработаны параллельные алгоритмы численного интегрирования динамических задач и локальных матриц жесткости, формирования и решения систем уравнений с использованием модели параллелизма данных CUDA.
Ключевые слова: метод конечных элементов, параллельные алгоритмы, гибридные вычислительные системы, объектно ориентированное программирование.
Parallel implementation of a finite-element algorithms on a graphics accelerator in the software package FEStudio
Computer Research and Modeling, 2014, v. 6, no. 1, pp. 79-97Просмотров за год: 4. Цитирований: 24 (РИНЦ).In this paper, we present new parallel algorithms for finite element analysis implemented in the FEStudio software framework. We describe the programming model of finite element method, which supports parallelism on different stages of numerical simulations. Using this model, we develop parallel algorithms of numerical integration for dynamic problems and local stiffness matrices. For constructing and solving the systems of equations, we use the CUDA programming platform.
Журнал индексируется в Scopus
Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU
Журнал входит в систему Российского индекса научного цитирования.
Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science
Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"





