Все выпуски
- 2025 Том 17
- 2024 Том 16
- 2023 Том 15
- 2022 Том 14
- 2021 Том 13
- 2020 Том 12
- 2019 Том 11
- 2018 Том 10
- 2017 Том 9
- 2016 Том 8
- 2015 Том 7
- 2014 Том 6
- 2013 Том 5
- 2012 Том 4
- 2011 Том 3
- 2010 Том 2
- 2009 Том 1
-
Численное моделирование естественной конвекции неньютоновской жидкости в замкнутой полости
Компьютерные исследования и моделирование, 2020, т. 12, № 1, с. 59-72В настоящей работе рассматривался нестационарный процесс естественно-конвективного теплопереноса в замкнутой квадратной полости, заполненной неньютоновской жидкостью, при наличии локального изотермического источника энергии, который располагался на нижней стенке рассматриваемой области. Вертикальные границы считались изотермически охлаждающими, горизонтальные — полностью теплоизолированными. Характер поведения неньютоновской жидкости соответствовал степенному закону Оствальда–де-Вилла. Исследуемый процесс описывался нестационарными дифференциальными уравнениями в безразмерных преобразованных переменных «функция тока – завихренность – температура». Данная методика позволяет исключить поле давления из числа неизвестных параметров, а обезразмеривание позволяет обобщить полученные результаты на множество физических постановок. Сформулированная математическая модель с соответствующими граничными условиями решалась на основе метода конечных разностей. Алгебраическое уравнение для функции тока решалось методом последовательной нижней релаксации. Дискретные аналоги уравнений дисперсии завихренности и энергии решались методом прогонки. Разработанный численный алгоритм был детально протестирован на классе модельных задач и получил хорошее согласование с другими авторами. Также в ходе исследования был проведен анализ влияния сеточных параметров на структуру течения в полости, на основе которого была выбрана оптимальная размерность сетки.
В результате численного моделирования нестационарных режимов естественной конвекции неньютоновской степенной жидкости в замкнутой квадратной полости с локальным изотермическим источником энергии был проведен анализ влияния характеризующих параметров: числа Рэлея в диапазоне 104–106, индекса степенного закона $n = 0.6–1.4$, а также положения нагревающего элемента на структуру течения и теплоперенос внутри полости. Анализ проводился на основе полученных распределений линий тока и изотерм в полости, а также на основе зависимостей среднего числа Нуссельта. В ходе работы установлено, что псевдопластические жидкости $(n < 1)$ интенсифицируют теплосъем с поверхности нагревателя. Увеличение числа Рэлея и центральное расположение нагревающего элемента также соответствуют охлаждению источника тепла.
Numerical modeling of the natural convection of a non-Newtonian fluid in a closed cavity
Computer Research and Modeling, 2020, v. 12, no. 1, pp. 59-72In this paper, a time-dependent natural convective heat transfer in a closed square cavity filled with non- Newtonian fluid was considered in the presence of an isothermal energy source located on the lower wall of the region under consideration. The vertical boundaries were kept at constant low temperature, while the horizontal walls were completely insulated. The behavior of a non-Newtonian fluid was described by the Ostwald de Ville power law. The process under study was described by transient partial differential equations using dimensionless non-primitive variables “stream function – vorticity – temperature”. This method allows excluding the pressure field from the number of unknown parameters, while the non-dimensionalization allows generalizing the obtained results to a variety of physical formulations. The considered mathematical model with the corresponding boundary conditions was solved on the basis of the finite difference method. The algebraic equation for the stream function was solved by the method of successive lower relaxation. Discrete analogs of the vorticity equation and energy equation were solved by the Thomas algorithm. The developed numerical algorithm was tested in detail on a class of model problems and good agreement with other authors was achieved. Also during the study, the mesh sensitivity analysis was performed that allows choosing the optimal mesh.
As a result of numerical simulation of unsteady natural convection of a non-Newtonian power-law fluid in a closed square cavity with a local isothermal energy source, the influence of governing parameters was analyzed including the impact of the Rayleigh number in the range 104–106, power-law index $n = 0.6–1.4$, and also the position of the heating element on the flow structure and heat transfer performance inside the cavity. The analysis was carried out on the basis of the obtained distributions of streamlines and isotherms in the cavity, as well as on the basis of the dependences of the average Nusselt number. As a result, it was established that pseudoplastic fluids $(n < 1)$ intensify heat removal from the heater surface. The increase in the Rayleigh number and the central location of the heating element also correspond to the effective cooling of the heat source.
-
Численное моделирование когерентных и турбулентных структур излучения методом нелинейных интегральных отображений
Компьютерные исследования и моделирование, 2020, т. 12, № 5, с. 979-992Распространение устойчивых когерентных образований электромагнитного поля в нелинейных средах с меняющимися в пространстве параметрами может быть описано в рамках итераций нелинейных интегральных преобразований. Показано что для ряда актуальных геометрий задач нелинейной оптики численное моделирование путем сведения к динамическим системам с дискретным временем и непрерывными пространственными переменными, основанное на итерациях локальных нелинейных отображений Фейгенбаума и Икеды, а также нелокальных диффузионно-дисперсионных линейных интегральных преобразований, эквивалентно в довольно широком диапазоне параметров дифференциальным уравнениям в частных производных типа Гинзбурга–Ландау. Такие нелокальные отображения, представляющие собой при численной реализации произведения матричных операторов, оказываются устойчивыми численно-разностными схемами, обеспечивают быструю сходимость и адекватную аппроксимацию решений. Реалистичность данного подхода позволяет учитывать влияние шумов на нелинейную динамику путем наложения на расчетный массив чисел при каждой итерации пространственного шума, задаваемого в виде многомодового случайного процесса, и производить отбор устойчивых волновых конфигураций. Нелинейные волновые образования, описываемые данным методом, включают оптические фазовые сингулярности, пространственные солитоны и турбулентные состояния с быстрым затуханием корреляций. Определенный интерес представляют полученные данным численным методом периодические конфигурации электромагнитного поля, возникающие в результате фазовой синхронизации, такие как оптические решетки и самоорганизованные вихревые кластеры.
Ключевые слова: дискретные отображения, интегральные преобразования, солитоны, вихри, фронты переключения, вихревые решетки, хаос, турбулентность.
Numerical investigation of coherent and turbulent structures of light via nonlinear integral mappings
Computer Research and Modeling, 2020, v. 12, no. 5, pp. 979-992The propagation of stable coherent entities of an electromagnetic field in nonlinear media with parameters varying in space can be described in the framework of iterations of nonlinear integral transformations. It is shown that for a set of geometries relevant to typical problems of nonlinear optics, numerical modeling by reducing to dynamical systems with discrete time and continuous spatial variables to iterates of local nonlinear Feigenbaum and Ikeda mappings and nonlocal diffusion-dispersion linear integral transforms is equivalent to partial differential equations of the Ginzburg–Landau type in a fairly wide range of parameters. Such nonlocal mappings, which are the products of matrix operators in the numerical implementation, turn out to be stable numerical- difference schemes, provide fast convergence and an adequate approximation of solutions. The realism of this approach allows one to take into account the effect of noise on nonlinear dynamics by superimposing a spatial noise specified in the form of a multimode random process at each iteration and selecting the stable wave configurations. The nonlinear wave formations described by this method include optical phase singularities, spatial solitons, and turbulent states with fast decay of correlations. The particular interest is in the periodic configurations of the electromagnetic field obtained by this numerical method that arise as a result of phase synchronization, such as optical lattices and self-organized vortex clusters.
Keywords: discrete maps, integral transforms, solitons, vortices, switching waves, vortex lattices, chaos, turbulence. -
Модифицированный метод Гаусса–Ньютона для решения гладкой системы нелинейных уравнений
Компьютерные исследования и моделирование, 2021, т. 13, № 4, с. 697-723В работе предлагается новая версия метода Гаусса–Ньютона для решения системы нелинейных уравнений, основанная на идеях использования верхней оценки нормы невязки системы уравнений и квадратичной регуляризации. Предложенная версия метода Гаусса–Ньютона на практике фактически задает целое параметризованное семейство методов решения систем нелинейных уравнений и задач восстановления регрессионной зависимости. Разработанное семейство методов Гаусса–Ньютона состоит целиком из итеративных методов, включающих в себя также специальные формы алгоритмов Левенберга–Марквардта, с обобщением на случаи применения в неевклидовых нормированных пространствах. В разработанных методах используется локальная модель, осуществляющая параметризованное проксимальное отображение и допускающая на практике применение неточного оракула в формате «черного ящика» с ограничением на точность вычисления и на сложность вычисления. Для разработанного семейства методов приведен анализ эффективности в терминах количества итераций алгоритма, точности и сложности представления локальной модели и вычисления оракула, параметров размерности решаемой задачи с выводом локальной и глобальной сходимости при использовании произвольного оракула. В работе представлены условия глобальной сублинейной сходимости для предложенного семейства методов решения системы нелинейных уравнений, состоящих из гладких по Липшицу функций. В рамках дополнительных естественных предположений о невырожденности системы нелинейных функций установлена локальная суперлинейная сходимость для рассмотренного семейства методов. При выполнении условия Поляка–Лоясиевича для системы нелинейных уравнений доказана локальная и глобальная линейная сходимость рассмотренных методов Гаусса–Ньютона. Помимо теоретического обоснования методов, в работе рассматриваются вопросы их практической реализации. В частности, в проведенных экспериментах для точного оракула приводятся схемы эффективного вычисления в зависимости от параметров размерности решаемой задачи. Предложенное семейство методов объединяет в себе несколько существующих и часто используемых на практике модификаций метода Гаусса–Ньютона, позволяя получить гибкий и удобный в использовании метод, реализуемый на практике с помощью стандартных техник выпуклой оптимизации и вычислительной линейной алгебры.
Ключевые слова: системы нелинейных уравнений, нелинейная регрессия, метод Гаусса–Ньютона, алгоритм Левенберга–Марквардта, методы доверительной области, невыпуклая оптимизация, неточное проксимальное отображение, неточный оракул, условие Поляка–Лоясиевича, оценка сложности.
Modified Gauss–Newton method for solving a smooth system of nonlinear equations
Computer Research and Modeling, 2021, v. 13, no. 4, pp. 697-723In this paper, we introduce a new version of Gauss–Newton method for solving a system of nonlinear equations based on ideas of the residual upper bound for a system of nonlinear equations and a quadratic regularization term. The introduced Gauss–Newton method in practice virtually forms the whole parameterized family of the methods solving systems of nonlinear equations and regression problems. The developed family of Gauss–Newton methods completely consists of iterative methods with generalization for cases of non-euclidean normed spaces, including special forms of Levenberg–Marquardt algorithms. The developed methods use the local model based on a parameterized proximal mapping allowing us to use an inexact oracle of «black–box» form with restrictions for the computational precision and computational complexity. We perform an efficiency analysis including global and local convergence for the developed family of methods with an arbitrary oracle in terms of iteration complexity, precision and complexity of both local model and oracle, problem dimensionality. We present global sublinear convergence rates for methods of the proposed family for solving a system of nonlinear equations, consisting of Lipschitz smooth functions. We prove local superlinear convergence under extra natural non-degeneracy assumptions for system of nonlinear functions. We prove both local and global linear convergence for a system of nonlinear equations under Polyak–Lojasiewicz condition for proposed Gauss– Newton methods. Besides theoretical justifications of methods we also consider practical implementation issues. In particular, for conducted experiments we present effective computational schemes for the exact oracle regarding to the dimensionality of a problem. The proposed family of methods unites several existing and frequent in practice Gauss–Newton method modifications, allowing us to construct a flexible and convenient method implementable using standard convex optimization and computational linear algebra techniques.
-
Оптимизация планирования выполнения пакетов заданий в многостадийных системах при ограничениях и формировании комплектов
Компьютерные исследования и моделирование, 2021, т. 13, № 5, с. 917-946Современные методы комплексного планирования выполнения пакетов заданий в многостадийных системах характеризуются наличием ограничений на размерность решаемой задачи, невозможностью гарантированного получения эффективных решений при различных значениях ее входных параметров, а также невозможностью учета условия формирования комплектов из результатов и ограничения на длительности интервалов времени функционирования системы. Для решения задачи планирования выполнения пакетов заданий при формировании комплектов результатов и ограничении на длительности интервалов времени функционирования системы реализована декомпозиция обобщенной функции системы на совокупность иерархически взаимосвязанных подфункций. Применение декомпозиции позволило использовать иерархический подход для планирования выполнения пакетов заданий в многостадийных системах, предусматривающий определение решений по составам пакетов заданий на первом уровне иерархии, решений по составам групп пакетов заданий, выполняемых в течение временных интервалов ограниченной длительности, на втором уровне и расписаний выполнения пакетов на третьем уровне иерархии. С целью оценки оптимальности решений по составам пакетов результаты их выполнения, полученные в течение заданных временных интервалов, распределяются по комплектам. Для определения комплексных решений применен аппарат теории иерархических игр. Построена модель иерархической игры для принятия решений по составам пакетов, групп пакетов и расписаниям выполнения пакетов, представляющая собой систему иерархически взаимосвязанных критериев оптимизации решений. В модели учтены условие формирования комплектов из результатов выполнения пакетов заданий и ограничение на длительность интервалов времени ее функционирования. Задача определения составов пакетов заданий и групп пакетов заданий является NP-трудной, поэтому для ее решения требуется применение приближенных методов оптимизации. С целью оптимизации групп пакетов заданий реализовано построение метода формирования начальных решений по их составам, которые в дальнейшем оптимизируются. Также сформулирован алгоритм распределения по комплектам результатов выполнения пакетов заданий, полученных в течение временных интервалов ограниченной длительности. Предложен метод локальной оптимизации решений по составам групп пакетов, в соответствии с которым из групп исключаются пакеты, результаты выполнения которых не входят в комплекты, и добавляются пакеты, не включенные ни в одну из групп. Выполнена программная реализация рассмотренного метода комплексной оптимизации составов пакетов заданий, групп пакетов заданий и расписаний выполнения пакетов заданий из групп (в том числе реализация метода оптимизации составов групп пакетов заданий). С ее использованием проведены исследования особенностей рассматриваемой задачи планирования. Сформулированы выводы, касающиеся зависимости эффективности планирования выполнения пакетов заданий в многостадийных системах при введенных условиях от входных параметров задачи. Использование метода локальной оптимизации составов групп пакетов заданий позволяет в среднем на 60% увеличить количество формируемых комплектов из результатов выполнения заданий в пакетах из групп по сравнению с фиксированными группами (не предполагающими оптимизацию).
Ключевые слова: пакеты заданий, многостадийная система, комплекты результатов, расписание, ограничение длительности временных интервалов работы системы.
Optimization of task package execution planning in multi-stage systems under restrictions and the formation of sets
Computer Research and Modeling, 2021, v. 13, no. 5, pp. 917-946Modern methods of complex planning the execution of task packages in multistage systems are characterized by the presence of restrictions on the dimension of the problem being solved, the impossibility of guaranteed obtaining effective solutions for various values of its input parameters, as well as the impossibility of registration the conditions for the formation of sets from the result and the restriction on the interval duration of time of the system operating. The decomposition of the generalized function of the system into a set of hierarchically interconnected subfunctions is implemented to solve the problem of scheduling the execution of task packages with generating sets of results and the restriction on the interval duration of time for the functioning of the system. The use of decomposition made it possible to employ the hierarchical approach for planning the execution of task packages in multistage systems, which provides the determination of decisions by the composition of task groups at the first level of the hierarchy decisions by the composition of task packages groups executed during time intervals of limited duration at the second level and schedules for executing packages at the third level the hierarchy. In order to evaluate decisions on the composition of packages, the results of their execution, obtained during the specified time intervals, are distributed among the packages. The apparatus of the theory of hierarchical games is used to determine complex solutions. A model of a hierarchical game for making decisions by the compositions of packages, groups of packages and schedules of executing packages is built, which is a system of hierarchically interconnected criteria for optimizing decisions. The model registers the condition for the formation of sets from the results of the execution of task packages and restriction on duration of time intervals of its operating. The problem of determining the compositions of task packages and groups of task packages is NP-hard; therefore, its solution requires the use of approximate optimization methods. In order to optimize groups of task packages, the construction of a method for formulating initial solutions by their compositions has been implemented, which are further optimized. Moreover, a algorithm for distributing the results of executing task packages obtained during time intervals of limited duration by sets is formulated. The method of local solutions optimization by composition of packages groups, in accordance with which packages are excluded from groups, the results of which are not included in sets, and packages, that aren’t included in any group, is proposed. The software implementation of the considered method of complex optimization of the compositions of task packages, groups of task packages, and schedules for executing task packages from groups (including the implementation of the method for optimizing the compositions of groups of task packages) has been performed. With its use, studies of the features of the considered planning task are carried out. Conclusion are formulated concerning the dependence of the efficiency of scheduling the execution of task packages in multistage system under the introduced conditions from the input parameters of the problem. The use of the method of local optimization of the compositions of groups of task packages allows to increase the number of formed sets from the results of task execution in packages from groups by 60% in comparison with fixed groups (which do not imply optimization).
-
Моделирование кластерного движения беспилотных транспортных средств в гетерогенном транспортном потоке
Компьютерные исследования и моделирование, 2022, т. 14, № 5, с. 1041-1058Одной из особенностей беспилотных автомобильных транспортных средств является их способность к организованному движению в форме кластеров: последовательности движущихся с единой скоростью транспортных средств. Влияние образования и движения этих кластеров на динамику транспортных потоков представляет большой интерес. В настоящей работе предложена качественная имитационная модель кластерного движения беспилотных транспортных средств в гетерогенной транспортной системе, состоящей из двух типов агентов (транспортных средств): управляемых человеком и беспилотных. В основу описания временной эволюции системы положены правила 184 и 240 для элементарных клеточных автоматов. Управляемые человеком транспортные средства перемещаются по правилу 184 с добавлением случайного торможения, вероятность которого зависит от расстояния до находящегося впереди транспортного средства. Для беспилотных транспортных средств используется комбинация правил, в том числе в зависимости от типа ближайших соседей, в некоторых случаях независимо от расстояния до них, что привносит в модель нелокальное взаимодействие. При этом учтено, что группа последовательно движущихся беспилотных транспортных средств может сформировать организованный кластер. Исследовано влияние соотношения типов транспортных средств в системе на характеристики транспортного потока при свободномд вижении на круговой однополосной и двухполосной дорогах, а также при наличии светофора. Результаты моделирования показали, что эффект образования кластеров имеет существенное влияние при свободномдвиж ении, а наличие светофора снижает положительный эффект приблизительно вдвое. Также исследовано движение кластеров из беспилотных автомобилей на двухполосных дорогах с возможностью перестроения. Показано, что учет при перестроении беспилотными транспортными средствами типов соседних транспортных средств (беспилотное или управляемое человеком) положительно влияет на характеристики транспортного потока.
Ключевые слова: клеточные автоматы, транспортные потоки, беспилотные автомобили, мультиагентные системы, компьютерное моделирование, гетерогенный трафик, интеллектуальные транспортные системы, кластерное движение.
A simulation model of connected automated vehicles platoon dynamics in a heterogeneous traffic flow
Computer Research and Modeling, 2022, v. 14, no. 5, pp. 1041-1058The gradual incorporation of automated vehicles into the global transport networks leads to the need to develop tools to assess the impact of this process on various aspects of traffic. This implies a more organized movement of automated vehicles which can form uniformly moving platoons. The influence of the formation and movement of these platoons on the dynamics of traffic flow is of great interest. The currently most developed traffic flow models are based on the cellular automaton approach. They are mainly developed in the direction of increasing accuracy. This inevitably leads to the complication of models, which in their modern form have significantly moved away from the original philosophy of cellular automata, which implies simplicity and schematicity of models at the level of evolution rules, leading, however, to a complex organized behavior of the system. In the present paper, a simulation model of connected automated vehicles platoon dynamics in a heterogeneous transport system is proposed, consisting of two types of agents (vehicles): human-driven and automated. The description of the temporal evolution of the system is based on modified rules 184 and 240 for elementary cellular automata. Human-driven vehicles move according to rule 184 with the addition of accidental braking, the probability of which depends on the distance to the vehicle in front. For automated vehicles, a combination of rules is used depending on the type of nearest neighbors, regardless of the distance to them, which brings non-local interaction to the model. At the same time, it is considered that a group of sequentially moving connected automated vehicles can form an organized platoon. The influence of the ratio of types of vehicles in the system on the characteristics of the traffic flow during free movement on a circular one-lane and two-lane roads, as well as in the presence of a traffic light, is studied. The simulation results show that the effect of platoon formation is significant for a freeway traffic flow; the presence of a traffic light reduces the positive effect by about half. The movement of platoons of connected automated vehicles on two-lane roads with the possibility of lane changing was also studied. It is shown that considering the types of neighboring vehicles (automated or human-driven) when changing lanes for automated vehicles has a positive effect on the characteristics of the traffic flow.
-
Расчет структуры ударной волны в газовой смеси на основе уравнения Больцмана с контролем точности
Компьютерные исследования и моделирование, 2024, т. 16, № 5, с. 1107-1123В работе проведено исследование структуры ударной волны в бинарной газовой смеси на основе прямого решения кинетического уравнения Больцмана. Для вычисления интеграла столкновений в кинетическом уравнении используется консервативный проекционный метод. Детально описаны применяемые расчетные формулы и методика вычислений. В качестве потенциала взаимодействия молекул используется модель твердых сфер. Численное моделирование проводится с использованием разработанной программно-моделирующей среды, которая позволяет исследовать стационарные и нестационарные течения газовых смесей в различных режимах и для произвольной геометрии задачи. Моделирование выполняется на системе кластерной архитектуры. За счет использования технологий распараллеливания кода достигается значительное ускорение вычислений. С фиксированной точностью, контролируемой параметрами моделирования, получены распределения макроскопических величин компонентов смеси по фронту ударной волны. Расчеты выполнены для различных соотношений молекулярных масс и чисел Маха. Достигнута общая точность моделирования не менее 1% по локальным значениям концентрации и температуры и 3% по ширине фронта ударной волны. Проведено сравнение полученных результатов с существующими расчетными данными. Представленные в данной работе результаты имеют теоретическое значение, а также могут служить в качестве тестового расчета, поскольку они получены с использованием точного уравнения Больцмана.
Ключевые слова: динамика разреженных газов, бинарные газовые смеси, кинетическое уравнение Больцмана, проекционный метод, численное моделирование, структура ударной волны.
Computation of a shock wave structure in a gas mixture based on the Boltzmann equation with accuracy control
Computer Research and Modeling, 2024, v. 16, no. 5, pp. 1107-1123In this paper, the structure of a shock wave in a binary gas mixture is studied on the basis of direct solution of the Boltzmann kinetic equation. The conservative projection method is used to evaluate the collision integral in the kinetic equation. The applied evaluation formulas and numerical methods are described in detail. The model of hard spheres is used as an interaction potential of molecules. Numerical simulation is performed using the developed simulation environment software, which makes it possible to study both steady and non-steady flows of gas mixtures in various flow regimes and for an arbitrary geometry of the problem. Modeling is performed on a cluster architecture. Due to the use of code parallelization technologies, a significant acceleration of computations is achieved. With a fixed accuracy controlled by the simulation parameters, the distributions of macroscopic characteristics of the mixture components through the shock wave front were obtained. Computations were conducted for various ratios of molecular masses and Mach numbers. The total accuracy of at least 1% for the local values of molecular density and temperature and 3% for the shock front width was achieved. The obtained results were compared with existing computation data. The results presented in this paper are of theoretical significance, and can serve as a test computation, since they are obtained using the exact Boltzmann equation.
-
Компенсация собственных нелинейных помех на основе смешанного метода Ньютона
Компьютерные исследования и моделирование, 2024, т. 16, № 7, с. 1579-1592В статье исследуется одно из возможных решений задачи компенсации собственных помех (SIC, Self-Interference Cancellation), возникающей при проектировании полнодуплексных (IBFD, In-band Full-Duplex) систем связи. Подавление собственных помех осуществляется в цифровой области с помощью многослойных нелинейных моделей, которые адаптируются на основе метода градиентного спуска. Наличие локальных оптимумов и седловых точек при адаптации многослойных моделей делает невозможным использование методов второго порядка ввиду знаконеопределенности матрицы Гессе.
В данной работе предложено использовать смешанный метод Ньютона (MNM, mixed Newton method), который учитывает информацию о смешанных производных второго порядка функции потерь и, как следствие, обеспечивает высокую скорость сходимости по сравнению с традиционными методами первого порядка. Использование лишь только смешанных частных производных второго порядка при построении матрицы Гессе позволяет избежать проблемы «застревания» в седловых точках при использовании смешанного метода Ньютона для адаптации многослойных нелинейных компенсаторов собственных помех при проектировании полнодуплексных систем связи.
В качестве модели собственных нелинейных помех выбрана модель Гаммерштейна с комплексными параметрами. Данный выбор обусловлен тем, что модель эффективно описывает физические свойства, лежащие в основе формирования собственных помех. Благодаря свойству голоморфности выхода модели смешанный метод Ньютона обеспечивает свойство «отталкивания» от седловых точек в ландшафте функции потерь.
В работе приводятся кривые сходимости при адаптации модели Гаммерштейна смешанным методом Ньютона, а также при помощи классических подходов на основе метода градиентного спуска. Кроме того, приводится вывод предложенного метода, а также оценка вычислительной сложности.
Ключевые слова: метод второго порядка, комплекснозначный гессиан, полнодуплексные системы связи, компенсация собственных помех.
Non-linear self-interference cancellation on base of mixed Newton method
Computer Research and Modeling, 2024, v. 16, no. 7, pp. 1579-1592The paper investigates a potential solution to the problem of Self-Interference Cancellation (SIC) encountered in the design of In-Band Full-Duplex (IBFD) communication systems. The suppression of selfinterference is implemented in the digital domain using multilayer nonlinear models adapted via the gradient descent method. The presence of local optima and saddle points in the adaptation of multilayer models prevents the use of second-order methods due to the indefinite nature of the Hessian matrix.
This work proposes the use of the Mixed Newton Method (MNM), which incorporates information about the second-order mixed partial derivatives of the loss function, thereby enabling a faster convergence rate compared to traditional first-order methods. By constructing the Hessian matrix solely with mixed second-order partial derivatives, this approach mitigates the issue of “getting stuck” at saddle points when applying the Mixed Newton Method for adapting multilayer nonlinear self-interference compensators in full-duplex system design.
The Hammerstein model with complex parameters has been selected to represent nonlinear selfinterference. This choice is motivated by the model’s ability to accurately describe the underlying physical properties of self-interference formation. Due to the holomorphic property of the model output, the Mixed Newton Method provides a “repulsion” effect from saddle points in the loss landscape.
The paper presents convergence curves for the adaptation of the Hammerstein model using both the Mixed Newton Method and conventional gradient descent-based approaches. Additionally, it provides a derivation of the proposed method along with an assessment of its computational complexity.
-
Локальные оценки метода Монте-Карло в решении уравнения глобального освещения с учетом спектрального представления объектов
Компьютерные исследования и моделирование, 2012, т. 4, № 1, с. 75-84В статье рассматриваются локальная и двойная локальная оценка метода Монте-Карло при решении уравнения глобального освещения. Локальная оценка позволяет в диффузном приближении рассчитывать освещенность в произвольной точке, тогда как двойная локальная оценка позволяется вычислять непосредственно яркость в заданной точке по заданному направлению. В статье дается математическое обоснование локальных оценок и рассмотрены основные этапы реализации программного обеспечения. Также рассматривается представление трехмерных объектов в базисе сферических функций и возможность использования их в локальных оценках.
Local estimations of Monte Carlo method with the object spectral representation in the solution of global illumination
Computer Research and Modeling, 2012, v. 4, no. 1, pp. 75-84Цитирований: 2 (РИНЦ).The article deals with the local and double local estimation of the Monte Carlo method for solving the equation of global illumination. The local estimation allows calculating the illumination at any point at the approximation of diffuse reflection, whereas the double local estimation allows calculating directly the luminance at a given point in a given direction. The article presents the mathematical basis of local estimations and the basic stages of the software implementation. The representation of three-dimensional objects in the basis of spherical functions and the possibility of using them in the local estimations are also considered.
-
Численные исследования нестационарных режимов сопряженной естественной конвекции в пористой цилиндрической области (модель Дарси–Буссинеска)
Компьютерные исследования и моделирование, 2013, т. 5, № 2, с. 179-191Проведено математическое моделирование нестационарных режимов естественной конвекции в замкнутой пористой цилиндрической полости с теплопроводной оболочкой конечной толщины в условиях конвективного теплообмена с внешней средой. Краевая задача математической физики, сформулированная на основе модели Дарси–Буссинеска в безразмерных переменных «функция тока – температура», реализована численно методом конечных разностей. Детально проанализировано влияние проницаемости пористой среды 10–5≤Da<∞, отношения толщины твердой оболочки к внутреннему радиусу цилиндра 0.1≤h/L≤0.3, относительного коэффициента теплопроводности 1≤λ1,2≤20 и безразмерного времени 0≤τ≤1000 как на локальные распределения изолиний функции тока и температуры, так и на интегральные комплексы, отражающие интенсивность конвективного течения и теплопереноса.
Ключевые слова: сопряженный теплоперенос, естественная конвекция, приближение Дарси–Буссинеска, пористая цилиндрическая полость, нестационарный режим, численное моделирование.
Numerical simulation of unsteady conjugate natural convection in a cylindrical porous domain (Darcy–Boussinesq model)
Computer Research and Modeling, 2013, v. 5, no. 2, pp. 179-191Просмотров за год: 4. Цитирований: 3 (РИНЦ).Mathematical simulation on unsteady natural convection in a closed porous cylindrical cavity having finite thickness heat-conducting solid walls in conditions of convective heat exchange with an environment has been carried out. A boundary-value problem of mathematical physics formulated in dimensionless variables such as stream function and temperature on the basis of Darcy–Boussinesq model has been solved by finite difference method. Effect of a porous medium permeability 10–5≤Da<∞, ratio between a solid wall thickness and the inner radius of a cylinder 0.1≤h/L≤0.3, a thermal conductivity ratio 1≤λ1,2≤20 and a dimensionless time on both local distributions of isolines and isotherms and integral complexes reflecting an intensity of convective flow and heat transfer has been analyzed in detail.
-
Параллельная реализация конечно-элементных алгоритмов на графических ускорителях в программном комплексе FEStudio
Компьютерные исследования и моделирование, 2014, т. 6, № 1, с. 79-97Рассматриваются новые подходы и алгоритмы распараллеливания вычислений метода конечных элементов, реализованные в программном комплексе FEStudio. Представлена программная модель комплекса, позволяющая расширять возможности распараллеливания на различных уровнях вычислений. Разработаны параллельные алгоритмы численного интегрирования динамических задач и локальных матриц жесткости, формирования и решения систем уравнений с использованием модели параллелизма данных CUDA.
Ключевые слова: метод конечных элементов, параллельные алгоритмы, гибридные вычислительные системы, объектно ориентированное программирование.
Parallel implementation of a finite-element algorithms on a graphics accelerator in the software package FEStudio
Computer Research and Modeling, 2014, v. 6, no. 1, pp. 79-97Просмотров за год: 4. Цитирований: 24 (РИНЦ).In this paper, we present new parallel algorithms for finite element analysis implemented in the FEStudio software framework. We describe the programming model of finite element method, which supports parallelism on different stages of numerical simulations. Using this model, we develop parallel algorithms of numerical integration for dynamic problems and local stiffness matrices. For constructing and solving the systems of equations, we use the CUDA programming platform.
Журнал индексируется в Scopus
Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU
Журнал входит в систему Российского индекса научного цитирования.
Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science
Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"