Все выпуски

В работе представлен подход к реконструкции и количественному фенотипированию морфологических признаков растений в раннем онтогенезе на основе анализа цифровых изображений. Разработанный алгоритм сочетает глубокое обучение и графовые представления с учетом биологических закономерностей морфогенеза. Такой синтез позволяет перейти от бинарной сегментации к реконструкции топологически целостной структуры растения с корректным разделением пересекающихся корневых систем на снимках с несколькими растениями. На первом этапе с использованием сверточной нейронной сети архитектуры U-Net формируются бинарные маски семян, ростков и корневых систем. Полученное изображение преобразуется в графовую модель, в которой ребрам соответствуют сегменты корней и побегов, а вершинам — ключевые морфологические точки, включая ветвления и пересечения. Алгоритм направленного обхода от семенной точки с водораздельным разделением графа и композитной оценочной функцией выбора главной оси выделяет индивидуальные растения в виде изолированных подграфов и корректно различает главный корень, боковые корни и росток.

Корректность алгоритма подтверждена многоуровневой валидацией, включающей сравнение результатов графовой реконструкции на сегментированных изображениях, а также сквозную проверку полного вычислительного конвейера на исходных изображениях с результатами существующих программных решений и экспертной ручной разметки. Разработанный подход устойчив к вариативности формы корневых систем и шумам изображений, обеспечивает высокую точность извлечения морфологических признаков. Результаты исследования могут быть использованы в селекционных программах.

We propose an approach for the reconstruction and quantitative phenotyping of plant morphological traits at early ontogenetic stages based on digital image analysis. The proposed algorithm combines deep learning and graph-based representations while incorporating biological principles of morphogenesis. This integration enables the transition from binary segmentation to the reconstruction of a topologically consistent plant structure with accurate separation of intersecting root systems in images containing multiple plants. At the first stage, binary masks of seeds, shoots, and root systems are generated using a U-Net convolutional neural network architecture. The resulting image is transformed into a graph model in which edges correspond to root and shoot segments, while vertices represent key morphological points, including branching and intersection nodes. A directed traversal algorithm initialized from the seed point, combined with watershed-based graph partitioning and a composite scoring function for primary axis selection, identifies individual plants as isolated subgraphs and accurately distinguishes the primary root, lateral roots, and shoot. The validity of the algorithm was confirmed through a multi-level validation procedure, including comparison of graph reconstruction results on segmented images and end-to-end evaluation of the complete computational pipeline on original images against existing software solutions and expert manual annotations. The proposed approach is robust to variability in root system morphology and image noise and provides high accuracy in morphological trait extraction. The results of this study can be applied in plant breeding programs.

На основе математическоймо дели динамики биомасс фитопланктона построен способ оценки содержания хлорофилла в районе моря с учетом его распределения по глубине. Модель построена на основе уравнения «реакция-диффузия», учитывает основные влияющие факторы: минеральное питание, освещенность и температуру. Используется спутниковая информация о поверхностном слое моря. Приведен пример расчетов для залива Петра Великого (Японское море).

A model, describing the influence of external factors on temporal evolution of phytoplankton distribution in a horizontally-homogenous water layer, is presented. This model is based upon the reactiondiffusion equation and takes into account the main factors of influence: mineral nutrients, insolation and temperature. The mineral nutrients and insolation act oppositely on spatial phytoplankton distribution. The results of numerical modeling are presented and the prospect of applying this model to reconstruction of phytoplankton distribution from sea-surface satellite data is discussed. The model was used to estimate the chlorophyll content of the Peter the Great Bay (Sea of Japan).

В данной статье предлагаются методы оптимизации высокого порядка (тензорные методы) для решения двух типов седловых задач. Первый тип — это классическая мин-макс-постановка для поиска седловой точки функционала. Второй тип — это поиск стационарной точки функционала седловой задачи путем минимизации нормы градиента этого функционала. Очевидно, что стационарная точка не всегда совпадает с точкой оптимума функции. Однако необходимость в решении подобного типа задач может возникать в случае, если присутствуют линейные ограничения. В данном случае из решения задачи поиска стационарной точки двойственного функционала можно восстановить решение задачи поиска оптимума прямого функционала. В обоих типах задач какие-либо ограничения на область определения целевого функционала отсутствуют. Также мы предполагаем, что целевой функционал является $\mu$-сильно выпуклыми $\mu$-сильно вогнутым, а также что выполняется условие Липшица для его $p$-й производной.

Для задач типа «мин-макс» мы предлагаем два алгоритма. Так как мы рассматриваем сильно выпуклую и сильно вогнутую задачу, первый алгоритмиспо льзует существующий тензорный метод для решения выпуклых вогнутых седловых задач и ускоряет его с помощью техники рестартов. Таким образом удается добиться линейной скорости сходимости. Используя дополнительные предположения о выполнении условий Липшица для первой и второй производных целевого функционала, можно дополнительно ускорить полученный метод. Для этого можно «переключиться» на другой существующий метод для решения подобных задач в зоне его квадратичной локальной сходимости. Так мы получаем второй алгоритм, обладающий глобальной линейной сходимостью и локальной квадратичной сходимостью. Наконец, для решения задач второго типа существует определенная методология для тензорных методов в выпуклой оптимизации. Суть ее заключается в применении специальной «обертки» вокруг оптимального метода высокого порядка. Причем для этого условие сильной выпуклости не является необходимым. Достаточно лишь правильным образом регуляризовать целевой функционал, сделав его таким образом сильно выпуклым и сильно вогнутым. В нашей работе мы переносим эту методологию на выпукло-вогнутые функционалы и используем данную «обертку» на предлагаемом выше алгоритме с глобальной линейной сходимостью и локальной квадратичной сходимостью. Так как седловая задача является частным случаем монотонного вариационного неравенства, предлагаемые методы также подойдут для поиска решения сильно монотонных вариационных неравенств.

In this paper we propose high-order (tensor) methods for two types of saddle point problems. Firstly, we consider the classic min-max saddle point problem. Secondly, we consider the search for a stationary point of the saddle point problem objective by its gradient norm minimization. Obviously, the stationary point does not always coincide with the optimal point. However, if we have a linear optimization problem with linear constraints, the algorithm for gradient norm minimization becomes useful. In this case we can reconstruct the solution of the optimization problem of a primal function from the solution of gradient norm minimization of dual function. In this paper we consider both types of problems with no constraints. Additionally, we assume that the objective function is $\mu$-strongly convex by the first argument, $\mu$-strongly concave by the second argument, and that the $p$-th derivative of the objective is Lipschitz-continous.

For min-max problems we propose two algorithms. Since we consider strongly convex a strongly concave problem, the first algorithm uses the existing tensor method for regular convex concave saddle point problems and accelerates it with the restarts technique. The complexity of such an algorithm is linear. If we additionally assume that our objective is first and second order Lipschitz, we can improve its performance even more. To do this, we can switch to another existing algorithm in its area of quadratic convergence. Thus, we get the second algorithm, which has a global linear convergence rate and a local quadratic convergence rate.

Finally, in convex optimization there exists a special methodology to solve gradient norm minimization problems by tensor methods. Its main idea is to use existing (near-)optimal algorithms inside a special framework. I want to emphasize that inside this framework we do not necessarily need the assumptions of strong convexity, because we can regularize the convex objective in a special way to make it strongly convex. In our article we transfer this framework on convex-concave objective functions and use it with our aforementioned algorithm with a global linear convergence and a local quadratic convergence rate.

Since the saddle point problem is a particular case of the monotone variation inequality problem, the proposed methods will also work in solving strongly monotone variational inequality problems.

Создание компьютерного лабораторного стенда, позволяющего получать достоверные характеристики, которые могут быть приняты за действительные, с учетом погрешностей и шумов (в чем заключается главная отличительная черта вычислительного эксперимента от модельных исследований), является одной из основных проблем настоящей работы. В ней рассматривается следующая задача: имеется прямоугольный волновод в одномодовом режиме, на широкой стенке которого прорезано сквозное технологическое отверстие, через которое в полость линии передачи помещается образец для исследования. Алгоритм восстановления следующий: в лаборатории производится измерение параметров цепи (S₁₁ и/или S₂₁) в линии передачи с образцом. В компьютерной модели лабораторного стенда воссоздается геометрия образца и запускается итерационный процесс оптимизации (или свипирования) электрофи- зических параметров образца, маской которого являются экспериментальные данные, а критерием остановки — интерпретационная оценка близости к ним. Важно отметить, что разрабатываемая компьютерная модель, одновременно с кажущейся простотой, изначально является плохо обусловленной. Для постановки вычислительного эксперимента используется среда моделирования Comsol. Результаты проведенного вычислительного эксперимента с хорошей степенью точности совпали с результатами лабораторных исследований. Таким образом, экспериментальная верификация проведена для целого ряда значимых компонент, как компьютерной модели в частности, так и алгоритма восстановления параметров объекта в общем. Важно отметить, что разработанная и описанная в настоящей работе компьютерная модель может быть эффективно использована для вычислительного эксперимента по восстановлению полных диэлектрических параметров образца сложной геометрии. Обнаруженными могут также являться эффекты слабой бианизотропии, включая киральность, гиротропность и невзаимность материала. Полученная модель по определению является неполной, однако ее полнота является наивысшей из рассматриваемых вариантов, одновременно с этим результирующая модель оказывается хорошо обусловлена. Особое внимание в данной работе уделено моделированию коаксиально-волноводного перехода, показано, что применение дискретно-элементного подхода предпочтительнее, чем непосредственное моделирование геометрии СВЧ-узла.

The creation of a virtual laboratory stand that allows one to obtain reliable characteristics that can be proven as actual, taking into account errors and noises (which is the main distinguishing feature of a computational experiment from model studies) is one of the main problems of this work. It considers the following task: there is a rectangular waveguide in the single operating mode, on the wide wall of which a technological hole is cut, through which a sample for research is placed into the cavity of the transmission line. The recovery algorithm is as follows: the laboratory measures the network parameters (S₁₁ and/or S₂₁) in the transmission line with the sample. In the computer model of the laboratory stand, the sample geometry is reconstructed and an iterative process of optimization (or sweeping) of the electrophysical parameters is started, the mask of this process is the experimental data, and the stop criterion is the interpretive estimate of proximity (or residual). It is important to note that the developed computer model, along with its apparent simplicity, is initially ill-conditioned. To set up a computational experiment, the Comsol modeling environment is used. The results of the computational experiment with a good degree of accuracy coincided with the results of laboratory studies. Thus, experimental verification was carried out for several significant components, both the computer model in particular and the algorithm for restoring the target parameters in general. It is important to note that the computer model developed and described in this work may be effectively used for a computational experiment to restore the full dielectric parameters of a complex geometry target. Weak bianisotropy effects can also be detected, including chirality, gyrotropy, and material nonreciprocity. The resulting model is, by definition, incomplete, but its completeness is the highest of the considered options, while at the same time, the resulting model is well conditioned. Particular attention in this work is paid to the modeling of a coaxial-waveguide transition, it is shown that the use of a discrete-element approach is preferable to the direct modeling of the geometry of a microwave device.

В статье рассматривается применение метода физически информированных нейронных сетей для моделирования процесса нитрификации при очистке сточных вод. Актуальность работы обусловлена необходимостью повышения эффективности очистки и оперативного контроля за изменениями параметров в реальном времени, что затруднительно при использовании традиционных подходов, таких как модели активного ила (ASM). Авторы предлагают подход, объединяющий решение прямой задачи и идентификацию параметров системы дифференциальных уравнений, описывающих окисление азота. В ходе исследования проведен сравнительный анализ трех архитектур нейронных сетей: с фиксированным одинаковым числом нейронов, с фиксированным различным числом нейронов и с растущим в процессе обучения числом нейронов. Для нахождения оптимальных параметров (числа нейронов и весового коэффициента функции потерь) использована многокритериальная оптимизация на основе построения фронта Парето. Результаты показали, что предложенный подход позволяет эффективно восстанавливать динамику концентраций азотистых соединений с высокой точностью. Наилучшее соответствие экспериментальным данным при допустимом уровне невязки уравнений обеспечила архитектура с различным постоянным числом нейронов при оптимально подобранных весовых коэффициентах.

This paper explores the application of Physics-Informed Neural Networks for modeling the nitrification process in wastewater treatment. The relevance of this work stems from the need to improve treatment efficiency and enable real-time monitoring of parameter changes, which is challenging with traditional approaches such as Activated Sludge Models (ASM). The authors propose a method that combines solving the forward problem and identifying parameters of a system of differential equations describing nitrogen oxidation. The study conducts a comparative analysis of three neural network architectures: with a fixed identical number of neurons, with a fixed different number of neurons, and with a progressively growing number of neurons during training. Multicriteria optimization based on the Pareto front construction was employed to find optimal parameters (number of neurons and the loss function weight coefficient). The results demonstrate that the proposed approach effectively reconstructs the dynamics of nitrogen compound concentrations with high accuracy. The architecture with a fixed different number of neurons, combined with optimally selected weight coefficients, provided the best agreement with experimental data while maintaining an acceptable residual of the equations.

Работа посвящена исследованию субградиентных методов с различными вариациями шага Б.Т. Поляка на классах задач минимизации слабо выпуклых и относительно слабо выпуклых функций, обладающих соответствующим аналогом острого минимума. Оказывается, что при некоторых предположениях о начальной точке такой подход может давать возможность обосновать сходимость сyбградиентного метода со скоростью геометрической прогрессии. Для субградиентного метода с шагом Б.Т. Поляка доказана уточненная оценка скорости сходимости для задач минимизации слабо выпуклых функций с острым минимумом. Особенность этой оценки — дополнительный учет сокращения расстояния от текущей точки метода до множества решений по мере роста количества итераций. Представлены результаты численных экспериментов для задачи восстановления фазы (которая слабо выпyкла и имеет острый минимyм), демонстрирующие эффективность предложенного подхода к оценке скорости сходимости по сравнению с известным ранее результатом. Далее, предложена вариация субградиентного метода с переключениями по продуктивным и непродуктивным шагам для слабо выпуклых задач с ограничениями-неравенствами и получен некоторый аналог результата о сходимости со скоростью геометрической прогрессии. Для субградиентного метода с соответствующей вариацией шага Б.Т. Поляка на классе относительно липшицевых и относительно слабо выпуклых функций с относительным аналогом острого минимума получены условия, которые гарантируют сходимость такого субградиентного метода со скоростью геометрической прогрессии. Наконец, получен теоретический результат, описывающий влияние погрешности доступной сyбградиентномy методу информации о (сyб)градиенте и целевой функции на оценку качества выдаваемого приближенного решения. Доказано, что при достаточно малой погрешности $\delta > 0$ можно гарантировать достижение точности решения, сопоставимой c $\delta$.

The work is devoted to the study of subgradient methods with different variations of the Polyak stepsize for minimization functions from the class of weakly convex and relatively weakly convex functions that have the corresponding analogue of a sharp minimum. It turns out that, under certain assumptions about the starting point, such an approach can make it possible to justify the convergence of the subgradient method with the speed of a geometric progression. For the subgradient method with the Polyak stepsize, a refined estimate for the rate of convergence is proved for minimization problems for weakly convex functions with a sharp minimum. The feature of this estimate is an additional consideration of the decrease of the distance from the current point of the method to the set of solutions with the increase in the number of iterations. The results of numerical experiments for the phase reconstruction problem (which is weakly convex and has a sharp minimum) are presented, demonstrating the effectiveness of the proposed approach to estimating the rate of convergence compared to the known one. Next, we propose a variation of the subgradient method with switching over productive and non-productive steps for weakly convex problems with inequality constraints and obtain the corresponding analog of the result on convergence with the rate of geometric progression. For the subgradient method with the corresponding variation of the Polyak stepsize on the class of relatively Lipschitz and relatively weakly convex functions with a relative analogue of a sharp minimum, it was obtained conditions that guarantee the convergence of such a subgradient method at the rate of a geometric progression. Finally, a theoretical result is obtained that describes the influence of the error of the information about the (sub)gradient available by the subgradient method and the objective function on the estimation of the quality of the obtained approximate solution. It is proved that for a sufficiently small error $\delta > 0$, one can guarantee that the accuracy of the solution is comparable to $\delta$.

Разработанные автором недавно численные методики расчета молекулярной системы на базе прямого решения уравнения Шрёдингера методом Монте-Карло показали огромную неопределенностьв выборе решений. С одной стороны, оказалось возможным построить множество новых решений, с другой стороны, резко обостриласьпроб лема их связывания с реальностью. В квантовомеханических расчетах ab initio проблема выбора решений стоит не так остро после перехода к классическому формату описания молекулярной системы в терминах потенциальной энергии, метода молекулярной динамики и пр. В данной работе исследуется проблема выбора решений при классическом формате описания молекулярной системы без учета квантовомеханических предпосылок. Как оказалось, проблема выбора решений при классическом формате описания молекулярной системы сводится к конкретной разметке конфигурационного пространства в виде набора стационарных точек и реконструкции соответствующей функции потенциальной энергии. В такой постановке решение проблемы выбора сводится к двум возможным физико-математическим задачам: по заданной функции потенциальной энергии найти все ее стационарные точки (прямая задача проблемы выбора), по заданному набору стационарных точек реконструироватьф ункцию потенциальной энергии (обратная задача проблемы выбора). В работе с помощью вычислительного эксперимента обсуждается прямая задача проблемы выбора на примере описания моноатомного кластера. Численно оцениваются число и форма локально равновесных (седловых) конфигураций бинарного потенциала. Вводится соответствующая мера по различению конфигураций в пространстве. Предлагается формат построения всей цепочки многочастичных вкладов в функцию потенциальной энергии: бинарный, трехчастичный и т.д., многочастичный потенциал максимальной частичности. Обсуждается и иллюстрируется бесконечное количество локально равновесных (седловых) конфигураций для максимально многочастичного потенциала. Предлагается методика вариации числа стационарных точек путем комбинирования многочастичных вкладов в функцию потенциальной энергии. Перечисленные выше результаты работы направлены на то, чтобы уменьшить тот огромный произвол выбора формы потенциала, который имеет место в настоящее время. Уменьшение произвола выбора выражается в том, что имеющиеся знания о вполне конкретном наборе стационарных точек согласуются с соответствующей формой функции потенциальной энергии.

The numerical methods developed by the author recently for calculating the molecular system based on the direct solution of the Schrodinger equation by the Monte Carlo method have shown a huge uncertainty in the choice of solutions. On the one hand, it turned out to be possible to build many new solutions; on the other hand, the problem of their connection with reality has become sharply aggravated. In ab initio quantum mechanical calculations, the problem of choosing solutions is not so acute after the transition to the classical format of describing a molecular system in terms of potential energy, the method of molecular dynamics, etc. In this paper, we investigate the problem of choosing solutions in the classical format of describing a molecular system without taking into account quantum mechanical prerequisites. As it turned out, the problem of choosing solutions in the classical format of describing a molecular system is reduced to a specific marking of the configuration space in the form of a set of stationary points and reconstruction of the corresponding potential energy function. In this formulation, the solution of the choice problem is reduced to two possible physical and mathematical problems: to find all its stationary points for a given potential energy function (the direct problem of the choice problem), to reconstruct the potential energy function for a given set of stationary points (the inverse problem of the choice problem). In this paper, using a computational experiment, the direct problem of the choice problem is discussed using the example of a description of a monoatomic cluster. The number and shape of the locally equilibrium (saddle) configurations of the binary potential are numerically estimated. An appropriate measure is introduced to distinguish configurations in space. The format of constructing the entire chain of multiparticle contributions to the potential energy function is proposed: binary, threeparticle, etc., multiparticle potential of maximum partiality. An infinite number of locally equilibrium (saddle) configurations for the maximum multiparticle potential is discussed and illustrated. A method of variation of the number of stationary points by combining multiparticle contributions to the potential energy function is proposed. The results of the work listed above are aimed at reducing the huge arbitrariness of the choice of the form of potential that is currently taking place. Reducing the arbitrariness of choice is expressed in the fact that the available knowledge about the set of a very specific set of stationary points is consistent with the corresponding form of the potential energy function.

В работе рассмотрена модель национальной безопасности, отражающая дихотомию ценностей развития и сохранения, оценены ее параметры на примере России (СССР), США, ФРГ и Украины. Выполнены расчеты по оценке безопасности Римской империи. Показано, что к 160 г. н. э. значение функции сохранения достигло критически низкого значения, что послужило толчком к проведению модернизации и реформ.

The paper considers the model of national security, which reflects the dichotomy of values development and conservation, to evaluate its options on the example of Russia (USSR), the United States, Germany and Ukraine. The calculations to assess the safety of the Roman Empire. It is shown that in 160 AD the conservation value of the function has reached a critically low values, which served as the impetus for modernization and reform.

В статье дается детальное описание численной методики моделирования турбулентного обтекания вращающихся винтов вертолета и расчета аэродинамических характеристик винта. В качестве базовой математической модели используется система осредненных по Рейнольдсу уравнений Навье – Стокса для вязкого сжимаемого газа, замкнутая моделью турбулентности Спаларта – Аллмараса. Итоговая модель формулируется в неинерциальной вращающейся системе координат, связанной с винтом. Для задания граничных условий на поверхности винта используются пристеночные функции.

Численное решение полученной системы дифференциальных уравнений проводится на гибридных неструктурированных сетках, включающих призматические слои вблизи поверхности обтекаемого тела. Численный метод строится на основе оригинальных вершинно-центрированных конечно-объемных EBR-схем. Особенностью этих схем является их повышенная точность, которая достигается за счет использования реберно-ориентированной реконструкции переменных на расширенных квазиодномерных шаблонах, и умеренная вычислительная стоимость, позволяющая проводить серийные расчеты. Для приближенного решения задачи о распаде разрыва используются методы Роу и Лакса – Фридрихса. Метод Роу корректируется в случае низкоскоростных течений. При моделировании разрывов или решений с большими градиентами используется квазиодномерная WENO-схема или локальное переключение на квазиодномерную TVD-реконструкцию. Интегрирование по времени проводится по неявной трехслойной схеме второго порядка аппроксимации с линеаризацией по Ньютону системы разностных уравнений. Для решения системы линейных уравнений используется стабилизированный метод сопряженных градиентов.

Численная методика реализована в составе исследовательского программного комплекса NOISEtte согласно двухуровневой MPI–OpenMP-модели, позволяющей с высокой эффективностью проводить расчеты на сетках, состоящих из сотен миллионов узлов, при одновременном задействовании сотен тысячп роцессорных ядер современных суперкомпьютеров.

На основе результатов численного моделирования вычисляются аэродинамические характеристики винта вертолета, а именно сила тяги, крутящий момент и их безразмерные коэффициенты.

Валидация разработанной методики проводится путем моделирования турбулентного обтекания двухлопастного винта Caradonna – Tung и четырехлопастного модельного винта КНИТУ-КАИ на режиме висения, рулевого винта в кольце, а также жесткого несущего винта в косом потоке. численные результаты сравниваются с имеющими экспериментальными данными.

The paper gives a detailed description of the developed methods for simulating the turbulent flow around a helicopter rotor and calculating its aerodynamic characteristics. The system of Reynolds-averaged Navier – Stokes equations for a viscous compressible gas closed by the Spalart –Allmaras turbulence model is used as the basic mathematical model. The model is formulated in a non-inertial rotating coordinate system associated with a rotor. To set the boundary conditions on the surface of the rotor, wall functions are used.

The numerical solution of the resulting system of differential equations is carried out on mixed-element unstructured grids including prismatic layers near the surface of a streamlined body.The numerical method is based on the original vertex-centered finite-volume EBR schemes. A feature of these schemes is their higher accuracy which is achieved through the use of edge-based reconstruction of variables on extended quasi-onedimensional stencils, and a moderate computational cost which allows for serial computations. The methods of Roe and Lax – Friedrichs are used as approximate Riemann solvers. The Roe method is corrected in the case of low Mach flows. When dealing with discontinuities or solutions with large gradients, a quasi-one-dimensional WENO scheme or local switching to a quasi-one-dimensional TVD-type reconstruction is used. The time integration is carried out according to the implicit three-layer second-order scheme with Newton linearization of the system of difference equations. To solve the system of linear equations, the stabilized conjugate gradient method is used.

The numerical methods are implemented as a part of the in-house code NOISEtte according to the two-level MPI–OpenMP parallel model, which allows high-performance computations on meshes consisting of hundreds of millions of nodes, while involving hundreds of thousands of CPU cores of modern supercomputers.

Based on the results of numerical simulation, the aerodynamic characteristics of the helicopter rotor are calculated, namely, trust, torque and their dimensionless coefficients.

Validation of the developed technique is carried out by simulating the turbulent flow around the Caradonna – Tung two-blade rotor and the KNRTU-KAI four-blade model rotor in hover mode mode, tail rotor in duct, and rigid main rotor in oblique flow. The numerical results are compared with the available experimental data.

В данной статье представлены разработка и верификация алгоритма конечных элементов для моделирования нелинейной деформации в позвоночно-двигательном сегменте (ПДС) поясничного отдела позвоночника человека. Исследование мотивировано растущей распространенностью заболеваний опорно-двигательного аппарата и необходимостью улучшения методов прогнозирования поведения сегментов позвоночника при различных условиях нагрузки и патологиях.

Современные подходы к моделированию часто используют упрощенную геометрию и линейные законы деформации (закон Гука) для всех элементов позвоночника, включая межпозвоночный диск. Однако эти модели неадекватно представляют анатомию человека и физические свойства межпозвоночного диска, который состоит из фиброзного кольца и пульпозного ядра, демонстрирующих выраженные нелинейные и вязкоупругие характеристики.

Для решения этих проблем авторы предлагают математическую модель, в которой позвонки рассматриваются как линейно упругие, неоднородные тела, а межпозвоночный диск моделируется в соответствии с теорией нелинейной деформации. Анатомически точная 3D-реконструкция поясничного отдела позвоночника была создана на основе изображений компьютерной томографии (КТ). Для дискретизации использовались объемные тетраэдрические конечные элементы. Поведение межпозвоночного диска описывается с помощью теории изгиба тонких пластин, основанной на предположениях Кирхгофа – Лава.

Ключевой особенностью алгоритма является двухэтапная процедура решения: сначала получается линейно-упругое решение, а затем вычисляются дополнительные узловые силы для элементов диска, что позволяет проводить эффективный нелинейный анализ без модификации матрицы жесткости.

Проверка модели проводилась с использованием двух геометрических представлений поясничного отдела позвоночника: упрощенной версии, включающей параллелепипеды и цилиндры, и персонализированной модели, полученной из КТ изображений конкретного пациента. Результаты численного моделирования показывают, что учет нелинейных свойств межпозвоночного диска существенно изменяет как характер, так и величину деформаций по сравнению с чисто упругими моделями, создавая нелинейные сегменты на кривых «напряжение – деформация». Расхождение между результатами, полученными с помощью предложенного алгоритма, и результатами, полученными с помощью программного обеспечения Comsol, не превышало 10%, что подтверждает достоверность модели. Данный алгоритм демонстрирует перспективность для исследования биомеханики поясничного отдела позвоночника в нормальных условиях, при дегенеративных изменениях и послеоперационном периоде.

This paper presents the development and verification of a finite element algorithm for modeling nonlinear deformation in the functional spinal unit (FSU) of the human lumbar spine. The study is motivated by the increasing prevalence of musculoskeletal disorders and the need for improved predictive methods for spinal motion segment behavior under various loading conditions and pathologies.

Current modeling approaches often employ simplified geometry and linear deformation laws (Hooke’s law) for all spinal elements, including the intervertebral disc. However, these models inadequately represent human anatomy and the physical properties of the intervertebral disc, which comprises the annulus fibrosus and nucleus pulposus exhibiting pronounced nonlinear and viscoelastic characteristics.

To address these limitations, the authors propose a mathematical model wherein vertebrae are treated as linearly elastic, heterogeneous bodies, while the intervertebral disc is modeled according to nonlinear deformation theory. An anatomically accurate 3D reconstruction of the lumbar spine was generated from computed tomography (CT) images. Volumetric tetrahedral finite elements were employed for discretization. The intervertebral disc behavior is described using thin plate bending theory based on Kirchhoff-Love assumptions.

The algorithm’s key feature is a two-step solution procedure: an initial linear elastic solution is obtained, followed by the calculation of additional nodal forces for disc elements, enabling efficient nonlinear analysis without stiffness matrix modification.

Model verification was performed using two geometric representations of the lumbar spine: a simplified version comprising parallelepipeds and cylinders, and a patient-specific realistic model derived from CT data. Numerical simulation results demonstrate that incorporating nonlinear properties of the intervertebral disc substantially alters both deformation patterns and magnitudes compared to purely elastic models, producing nonlinear segments on stress-strain curves. The discrepancy between results obtained with the proposed algorithm and those from Comsol software did not exceed 10%, confirming the model’s validity. This algorithm shows promise for investigating lumbar spine biomechanics under normal conditions, degenerative changes, and post-surgical states.