Все выпуски

Работа посвящена теоретическому изучению величины деструктивного влияния на нормальные ткани организма инфракрасным излучением, выходящим за пределы обрабатываемого патологического очага. Такая ситуация возможна при сверхдлительном воздействии прямого лазерного излучения на биоткани. Решением этой проблемы может служить равномерное распределение тепла внутри объема через опосредованное нагревание жидкости, что способствует минимальному повреждению перифокальных структур. Представлена нестационарная теплофизическая модель процесса распространения тепла в биотканях, позволяющая проводить исследования передачи энергии от внутреннего жидкого содержимого кисты Бейкера, нагреваемого инфракрасным лазерным излучением заданной удельной мощности, через определенную толщину ее стенки к окружающим биологическим тканям. Расчет пространственно-временного распределения температуры в стенке кисты и окружающей жировой ткани осуществляется конечно-разностным методом. Время эффективного воздействия температуры на всю толщину стенки кисты оценивалось достижением 55 °С на ее наружной поверхности. Безопасность процедуры обеспечивает длительность экспозиции данной величины не более 10 секунд.

В результате проведенных вычислений установлено, что имеются несколько режимов работы хирургического лазера, соответствующих всем требованиям безопасности при одновременной эффективности процедуры. Локальная односторонняя гипертермия синовиальной оболочки и последующая коагуляция всей толщины стенки за счет переноса тепла способствуют ликвидации полостного новообразования подколенной области. При ее толщине 3 мм удовлетворительным является режим нагрева, при котором время воздействия длится около 200 секунд, а удельная мощность лазерного излучения во внутренней среде жидкостного содержимого кисты Бейкера составляет примерно 1 Вт/г.

The work is devoted to the study of the theoretical value of destructive influence on normal tissues of an organism by infrared radiation that goes beyond the treated pathological focus. This situation is possible if the direct laser radiation on the tissues is extremely long-acting. The solution to this problem can be the uniform distribution of heat inside the volume through indirect heating of the liquid, which contributes to minimal damage to the perifocal structures. A non-stationary thermophysical model of the process of heat propagation in biological tissues is presented, allowing to carry out studies of energy transfer from internal liquid contents of Baker's cyst heated by infrared laser radiation of a given specific power through a certain thickness of its wall to surrounding biological tissues. Calculation of the spacetime temperature distribution in the cyst wall and surrounding fat tissue is carried out by the finite-difference method. The time of effective exposure to temperature on the entire thickness of the cyst wall was estimated to be 55 ° C on its outer surface. The safety procedure ensures the exposure duration of this value is not more than 10 seconds.

As a result of the calculations carried out, it is established that there are several operating modes of a surgical laser that meet all the safety requirements with a simultaneous effective procedure. Local one-sided hyperthermia of the synovial membrane and subsequent coagulation of the entire wall thickness due to heat transfer contributes to the elimination of the cavity neoplasm of the popliteal region. With a thickness of 3 mm, the heating mode is satisfactory, under which the exposure time lasts about 200 seconds, and the specific power of the laser radiation in the internal medium of the liquid contents of the Baker cyst is approximately 1.

Даже беглый взгляд на впечатляющее множество современных работ по математическому моделированию популяционной динамики позволяет заключить, что основной интерес авторов сосредоточен вокруг двух-трех ключевых направлений исследований, связанных с описанием и анализом динамики, либо отдельных структурированных популяций, либо систем однородных популяций, взаимодействующих между собой в экологическом сообществе или (и) в физическом пространстве. В рамках данной работы приводится обзор и систематизируются научные исследования и результаты, полученные на сегодняшний день в ходе развития идей и подходов математического моделирования динамики структурированных и взаимодействующих популяций. В вопросах моделирования динамики численности изолированных популяций описана эволюция научных идей по пути усложнения моделей — от классической модели Мальтуса до современных моделей, учитывающих множество факторов, влияющих на популяционную динамику. В частности, рассматриваются динамические эффекты, к которым приводит учет экологической емкости среды, плотностно-зависимая регуляция, эффект Олли, усложнение возрастной и стадийной структуры. Особое внимание уделяется вопросам мультистабильности популяционной динамики. Кроме того, представлены исследования, в которых анализируется влияние промыслового изъятия на динамику структурированных популяций и возникновение эффекта гидры. Отдельно рассмотрены вопросы возникновения и развития пространственных диссипативных структур в пространственно разобщенных популяциях и сообществах, связанных миграциями. Здесь особое внимание уделяется вопросам частотной и фазовой мультистабильности популяционной динамики, а также возникновению пространственных кластеров. В ходе систематизации и обзора задач, посвященных моделированию динамики взаимодействующих популяций, основное внимание уделяется сообществу «хищник–жертва». Представлены ключевые идеологические подходы, применяемые в современной математической биологии при моделировании систем типа «хищник–жертва», в том числе с учетом структуры сообщества и промыслового изъятия. Кратко освещены вопросы возникновения и сохранения мозаичной структуры в пространственно распределенных и миграционно связанных сообществах.

The review and systematization of current papers on the mathematical modeling of population dynamics allow us to conclude the key interests of authors are two or three main research lines related to the description and analysis of the dynamics of both local structured populations and systems of interacting homogeneous populations as ecological community in physical space. The paper reviews and systematizes scientific studies and results obtained within the framework of dynamics of structured and interacting populations to date. The paper describes the scientific idea progress in the direction of complicating models from the classical Malthus model to the modern models with various factors affecting population dynamics in the issues dealing with modeling the local population size dynamics. In particular, they consider the dynamic effects that arise as a result of taking into account the environmental capacity, density-dependent regulation, the Allee effect, complexity of an age and a stage structures. Particular attention is paid to the multistability of population dynamics. In addition, studies analyzing harvest effect on structured population dynamics and an appearance of the hydra effect are presented. The studies dealing with an appearance and development of spatial dissipative structures in both spatially separated populations and communities with migrations are discussed. Here, special attention is also paid to the frequency and phase multistability of population dynamics, as well as to an appearance of spatial clusters. During the systematization and review of articles on modeling the interacting population dynamics, the focus is on the “prey–predator” community. The key idea and approaches used in current mathematical biology to model a “prey–predator” system with community structure and harvesting are presented. The problems of an appearance and stability of the mosaic structure in communities distributed spatially and coupled by migration are also briefly discussed.

Рассматривается задача о течении жидкости в тонком слое между шероховатыми поверхностями с учетом их сближения и разрывов слоя в местах гребневого контакта микронеровностей. Пространство между поверхностями рассматривается как пористая среда с переменной проницаемостью, зависящей от микропрофиля шероховатости и степени сближения поверхностей. Для получения зависимости проницаемости от сближения поверхностей выполняется расчет течения жидкости на малом участке слоя (100 мкм), для которого микропрофиль шероховатости моделируется с помощью фрактальной функции Вейерштрасса – Мандельброта. Расчетной является трехмерная область, заполняющая пустоты между выступами и впадинами микропрофилей поверхностей, расположенных на некотором расстоянии друг от друга. Сближение поверхностей приводит к тому, что в местах пересечения гребней микронеровностей появляются разрывы расчетной области. При заданном сближении и граничных условиях рассчитывается расход жидкости и перепад давления, на основании которых вычисляется проницаемость эквивалентной пористой среды. Результаты расчетов проницаемости, полученные для различных сближений шероховатых поверхностей, аппроксимированы степенной функцией. Это позволяет рассчитывать характеристики течения в тонком слое переменной толщины, имеющем характерную длину на несколько порядков больше масштабов шероховатости. В качестве примера, иллюстрирующего практическое применение данной методики, получено решение задачи о течении жидкости в зазоре между заготовкой и матрицей при гидропрессовании в трехмерной постановке при условии линейного уменьшения проницаемости эквивалентного пористого слоя.

In this paper a fluid flow between two close located rough surfaces depending on their location and discontinuity in contact areas is investigated. The area between surfaces is considered as the porous layer with the variable permeability, depending on roughness and closure of surfaces. For obtaining closure-permeability function, the flow on the small region of surfaces (100 $\mu$m) is modeled, for which the surfaces roughness profile created by fractal function of Weierstrass – Mandelbrot. The 3D-domain for this calculation fill out the area between valleys and peaks of two surfaces, located at some distance from each other. If the surfaces get closer, a contacts between roughness peaks will appears and it leads to the local discontinuities in the domain. For the assumed surfaces closure and boundary conditions the mass flow and pressure drop is calculated and based on that, permeability of the equivalent porous layer is evaluated.The calculation results of permeability obtained for set of surfaces closure were approximated by a polynom. This allows us to calculate the actual flow parameters in a thin layer of variable thickness, the length of which is much larger than the scale of the surface roughness. As an example, showing the application of this technique, flow in the gap between the billet and conical die in 3D-formulation is modeled. In this problem the permeability of an equivalent porous layer calculated for the condition of a linear decreased gap.

В этой статье мы предлагаем новый метод первого порядка для композитных невыпуклых задач минимизации с простыми ограничениями и неточным оракулом. Целевая функция задается как сумма «сложной», возможно, невыпуклой части с неточным оракулом и «простой» выпуклой части. Мы обобщаем понятие неточного оракула для выпуклых функций на случай невыпуклых функций. Неформально говоря, неточность оракула означает, что для «сложной» части в любой точке можно приближенно вычислить значение функции и построить квадратичную функцию, которая приближенно ограничивает эту функцию сверху. Рассматривается два возможных типа ошибки: контролируемая, которая может быть сде- лана сколь угодно маленькой, например, за счет решения вспомогательной задачи, и неконтролируемая. Примерами такой неточности являются: гладкие невыпуклые функции с неточным и непрерывным по Гёльдеру градиентом, функции, заданные вспомогательной равномерно вогнутой задачей максимизации, которая может быть решена лишь приближенно. Для введенного класса задачм ы предлагаем метод типа проекции градиента / зеркального спуска, который позволяет использовать различные прокс-функции для задания неевклидовой проекции на допустимое множество и более гибкой адаптации к геометрии допустимого множества; адаптивно выбирает контролируемую ошибку оракула и ошибку неевклидового проектирования; допускает неточное проксимальное отображение с двумя типами ошибки: контролируемой и неконтролируемой. Мы доказываем скорость сходимости нашего метода в терминах нормы обобщенного градиентного отображения и показываем, что в случае неточного непрерывного по Гёльдеру градиента наш метод является универсальным по отношению к параметру и константе Гёльдера. Это означает, что методу не нужно знание этих параметров для работы. При этом полученная оценка сложности является равномерно наилучшей при всех параметрах Гёльдера. Наконец, в частном случае показано, что малое значение нормы обобщенного градиентного отображения в точке означает, что в этой точке приближенно выполняется необходимое условие локального минимума.

In this paper, we develop a new first-order method for composite nonconvex minimization problems with simple constraints and inexact oracle. The objective function is given as a sum of «hard», possibly nonconvex part, and «simple» convex part. Informally speaking, oracle inexactness means that, for the «hard» part, at any point we can approximately calculate the value of the function and construct a quadratic function, which approximately bounds this function from above. We give several examples of such inexactness: smooth nonconvex functions with inexact H¨older-continuous gradient, functions given by the auxiliary uniformly concave maximization problem, which can be solved only approximately. For the introduced class of problems, we propose a gradient-type method, which allows one to use a different proximal setup to adapt to the geometry of the feasible set, adaptively chooses controlled oracle error, allows for inexact proximal mapping. We provide a convergence rate for our method in terms of the norm of generalized gradient mapping and show that, in the case of an inexact Hölder-continuous gradient, our method is universal with respect to Hölder parameters of the problem. Finally, in a particular case, we show that the small value of the norm of generalized gradient mapping at a point means that a necessary condition of local minimum approximately holds at that point.

Статья посвящена описанию процесса миграции некоторой популяции с учетом пространственной неоднородности локальной емкости экологической ниши. Предполагается, что эта пространственная неоднородность обусловлена различными природными или искусственными факторами. Математическая модель рассматриваемого процесса миграции представляет собой задачу Коши на прямой для некоторого квазилинейного уравнения в частных производных первого порядка, которому удовлетворяет линейная плотность численности рассматриваемой популяции. В данной работе найдено общее решение этой задачи Коши для произвольной зависимости локальной емкости экологической ниши от пространственной координаты. Это общее решение было применено для описания миграции рассматриваемой популяции в двух различных случаях: в случае зависимости локальной емкости экологической ниши от пространственной координаты в виде гладкой ступеньки и в случае холмообразной зависимости локальной емкости экологической ниши от пространственной координаты. В обоих случаях решение задачи Коши выражается через высшие трансцендентные функции. Наложением специальных соотношений на параметры модели эти высшие трансцендентные функции сводятся к элементарным функциям, что позволяет получить точные решения модели в явном виде, выраженные через элементарные функции. С помощью этих точных решений реализована обширная программа вычислительных экспериментов, показывающих, как начальная плотность популяции гауссовской формы рассеивается на рассмотренных двух видах пространственной неоднородности локальной емкости экологической ниши. Эти вычислительные эксперименты показали, что при прохождении и через ступенеобразную, и через холмообразную пространственную неоднородность локальной емкости экологической ниши с узкой, по сравнению с характерным пространственным масштабом этих неоднородностей, шириной гауссоиды ее начальной плотности система забывает свое начальное состояние. В частности, если интерпретировать исследуемую систему как популяцию, обитающую в протяженной спокойной прямолинейной реке вдоль ее русла, то можно утверждать, что при таком начальном условии после того, как течение этой реки пронесет рассматриваемую популяцию через область пространственной неоднородности локальной емкости экологической ниши, плотность численности популяции становится квазипрямоугольной функцией.

The article describes the migration process of a certain population, taking into account the spatial heterogeneity of the local capacity of the ecological niche. It is assumed that this spatial heterogeneity is caused by various natural or artificial factors. The mathematical model of the migration process under consideration is a Cauchy problem on a straight line for some quasi-linear partial differential equation of the first order, which is satisfied by the linear population density under consideration. In this paper, a general solution to this Cauchy problem is found for an arbitrary dependence of the local capacity of an ecological niche on the spatial coordinate. This general solution was applied to describe the migration of the population in question in two different cases: in the case of a dependence of the local capacity of the ecological niche on the spatial coordinate in the form of a smooth step and in the case of a hill-like dependence of the local capacity of the ecological niche on the spatial coordinate. In both cases, the solution to the Cauchy problem is expressed in terms of higher transcendental functions. By applying special relations to the model parameters, these higher transcendental functions are reduced to elementary functions, which makes it possible to obtain exact model solutions explicitly expressed in terms of elementary functions. With the help of these precise solutions, an extensive program of computational experiments has been implemented, showing how the initial population density of the Gaussian form is dispersed by the considered two types of spatial heterogeneity of the local capacity of the ecological niche. These computational experiments have shown that when passing through both step-like and hill-like spatial inhomogeneities of the local capacity of an ecological niche with a narrow Gaussian width of its initial density compared to the characteristic spatial scale of these inhomogeneities, the system forgets its initial state. In particular, if we interpret the system under study as a population living in an extended calm rectilinear river along its bed, then it can be argued that under this initial condition, after the current of this river carries the population under consideration through the area of spatial heterogeneity of the local capacity of the ecological niche, the population density becomes a quasi-rectangular function.

Методом лазерной интерференционной микроскопии исследовали внутриклеточную динамику эритроцитов, нейронов и тучных клеток. Показано, что существуют регулярные изменения оптических свойств клеток, отражающие кооперативные процессы в примембранной и центральной областях клеток. Показано, что характерные частоты изменений показателя преломления могут служить маркерами специфических клеточных процессов.

Laser interference microscopy was used to study morphology and intracellular dynamics of erythrocytes, neurons and mast cells. We have found that changes of the local refractive index (RI) of cells have regular components that relate to the cooperative processes in the cellular submembrane and centre regions. We have shown that characteristic frequencies of RI dynamics differ for various cell types and can be used as markers of specific cellular processes.

Методами численного моделирования проведено исследование процессов взаимодействия осциллирующего солитона (бризера) с 180-градусной доменной стенкой нееловского типа в рамках (2 + 1)-мерной суперсимметричной О(3) нелинейной сигма-модели. Целью настоящей работы является исследование нелинейной эволюции и устойчивости системы взаимодействующих локализованных динамических и топологических решений. Для построения моделей взаимодействия были использованы стационарные бризерные решения и решения в виде доменных стенок, полученные в рамках двумерного уравнения синус-Гордона добавлением специально подобранных возмущений вектору А3-поля в изотопическом пространстве блоховской сферы. При отсутствии внешнего магнитного поля нелинейные сигма-модели обладают формальной лоренц-инвариантностью, которая позволяет построить, в частности, движущиеся решения и провести полный анализ экспериментальных данных нелинейной динамики системы взаимодействующих солитонов. В настоящей работе на основе полученных движущихся локализованных решений построены модели налетающих и лобовых столкновений бризеров с доменной стенкой, где, в зависимости от динамических параметров системы, наблюдаются процессы столкновения и отражения солитонов друг от друга, дальнодействующие взаимодействия, а также распад осциллирующего солитона на линейные волны возмущений. В отличие от бризерного решения, обладающего динамикой внутренней степени свободы, интеграл энергии топологически устойчивого солитона во всех проведенных экспериментах сохраняется с высокой точностью. Для каждого типа взаимодействия определен интервал значений скорости движения сталкивающихся динамических и топологических солитонов в зависимости от частоты вращения вектора А3-поля в изотопическом пространстве. Численные модели построены на основе методов теории конечных разностных схем, использованием свойств стереографической проекции, с учетом теоретико-групповых особенностей конструкций класса O(N) нелинейных сигма-моделей теории поля. По периметру двумерной области моделирования установлены специально разработанные граничные условия, которые поглощают линейные волны возмущений, излучаемые взаимодействующими солитонными полями. Таким образом, осуществлено моделирование процессов взаимодействия локализованных решений в бесконечном двумерном фазовом пространстве. Разработан программный модуль, позволяющий провести комплексный анализ эволюции взаимодействующих решений нелинейных сигма-моделей теории поля, с учетом ее групповых особенностей в двумерном псевдоевклидовом пространстве. Проведен анализ изоспиновой динамики, а также плотности и интеграла энергии системы взаимодействующих динамических и топологических солитонов.

By numerical simulation methods the interaction processes of oscillating soliton (breather) with a 180-degree Neel domain wall in the framework of a (2 + 1)-dimensional supersymmetric O(3) nonlinear sigma model is studied. The purpose of this paper is to investigate nonlinear evolution and stability of a system of interacting localized dynamic and topological solutions. To construct the interaction models, were used a stationary breather and domain wall solutions, where obtained in the framework of the two-dimensional sine-Gordon equation by adding specially selected perturbations to the A3-field vector in the isotopic space of the Bloch sphere. In the absence of an external magnetic field, nonlinear sigma models have formal Lorentz invariance, which allows constructing, in particular, moving solutions and analyses the experimental data of the nonlinear dynamics of an interacting solitons system. In this paper, based on the obtained moving localized solutions, models for incident and head-on collisions of breathers with a domain wall are constructed, where, depending on the dynamic parameters of the system, are observed the collisions and reflections of solitons from each other, a long-range interactions and also the decay of an oscillating soliton into linear perturbation waves. In contrast to the breather solution that has the dynamics of the internal degree of freedom, the energy integral of a topologically stable soliton in the all experiments the preserved with high accuracy. For each type of interaction, the range of values of the velocity of the colliding dynamic and topological solitons is determined as a function of the rotation frequency of the A3-field vector in the isotopic space. Numerical models are constructed on the basis of methods of the theory of finite difference schemes, using the properties of stereographic projection, taking into account the group-theoretical features of constructions of the O(N) class of nonlinear sigma models of field theory. On the perimeter of the two-dimensional modeling area, specially developed boundary conditions are established that absorb linear perturbation waves radiated by interacting soliton fields. Thus, the simulation of the interaction processes of localized solutions in an infinite two-dimensional phase space is carried out. A software module has been developed that allows to carry out a complex analysis of the evolution of interacting solutions of nonlinear sigma models of field theory, taking into account it’s group properties in a two-dimensional pseudo-Euclidean space. The analysis of isospin dynamics, as well the energy density and energy integral of a system of interacting dynamic and topological solitons is carried out.

Атеросклеротические заболевания, такие как атеросклероз сонной артерии и хронические болезни почек, являются основными причинами смерти во всем мире. Возникновение таких атеросклеротических болезней в артериях зависит от сложной динамики кровотока и ряда гемодинамических параметров. Атеросклероз почечных артерий приводит к уменьшению артериальной эффективности и в конечном счете приводит к почечной артериальной гипертензии. В данной работе делается попытка определить локализацию атеросклеротической бляшки в брюшной аорте человека в окрестности соединения с почечной артерией с использованием средств вычислительной гидродинамики (CFD).

Области, подверженные атеросклерозу, в идеализированном соединении брюшной аорты и почечной артерии человека определяются в результате вычислений некоторых гемодинамических показателей. При вычислениях используется точная реологическая модель крови человека, предложенная Yeleswarapu. Кровоток вычисляется в трехмерной модельной области соединения артерий с использованием пакета ANSYS FLUENT v18.2.

Вычисленные гемодинамические показатели представляют собой среднее значение напряжения сдвига на стенке сосуда (AWSS), колебательный сдвиговый индекс (OSI) и относительное время задержки (RRT). Моделирование пульсирующего течения (f = 1.25 Гц, Re = 1000) показывает, что малое значение AWSS и высокий индекс OSI возникают в областях почечной артерии вниз по течению от соединения и в инфраренальном отделе брюшной аорты вблизи соединения. Высокий RRT, который является относительным индексом и зависит как от AWSS, так и OSI, как показано в данной работе, сочетается с низким AWSS и высоким OSI в краниальной части поверхности почечной артерии, проксимальной около соединения и на латеральной поверхности вблизи бифуркации брюшной аорты: это указывает, что эти области наиболее всего подвержены атеросклерозу. Результаты качественно соответствуют литературным данным. Они могут служить начальным этапом исследований и иллюстрировать пользу средств вычислительной гидродинамики (CFD) для определения местоположения атеросклеротической бляшки.

Atherosclerotic diseases such as carotid artery diseases (CAD) and chronic kidney diseases (CKD) are the major causes of death worldwide. The onset of these atherosclerotic diseases in the arteries are governed by complex blood flow dynamics and hemodynamic parameters. Atherosclerosis in renal arteries leads to reduction in arterial efficiency, which ultimately leads to Reno-vascular hypertension. This work attempts to identify the localization of atherosclerotic plaque in human abdominal aorta — renal artery junction using Computational fluid dynamics (CFD).

The atherosclerosis prone regions in an idealized human abdominal aorta-renal artery junction are identified by calculating relevant hemodynamic indicators from computational simulations using the rheologically accurate shear-thinning Yeleswarapu model for human blood. Blood flow is numerically simulated in a 3-D model of the artery junction using ANSYS FLUENT v18.2.

Hemodynamic indicators calculated are average wall shear stress (AWSS), oscillatory shear index (OSI), and relative residence time (RRT). Simulations of pulsatile flow (f=1.25 Hz, Re = 1000) show that low AWSS, and high OSI manifest in the regions of renal artery downstream of the junction and on the infrarenal section of the abdominal aorta lateral to the junction. High RRT, which is a relative index and dependent on AWSS and OSI, is found to overlap with the low AWSS and high OSI at the cranial surface of renal artery proximal to the junction and on the surface of the abdominal aorta lateral to the bifurcation: this indicates that these regions of the junction are prone to atherosclerosis. The results match qualitatively with the findings reported in literature and serve as initial step to illustrate utility of CFD for the location of atherosclerotic plaque.

Реконструкция траекторий заряженных частиц в трековых детекторах является ключевой проблемой анализа экспериментальных данных для физики высоких энергий и ядерной физики. Поток данных в современных экспериментах растет день ото дня, и традиционные методы трекинга уже не в состоянии соответствовать этим объемам данных по скорости обработки. Для решения этой проблемы нами были разработаны два нейросетевых алгоритма, использующих методы глубокого обучения, для локальной (каждый трек в отдельности) и глобальной (все треки в событии) реконструкции треков применительно к данным трекового GEM-детектора эксперимента BM@N ОИЯИ. Преимущество глубоких нейронных сетей обусловлено их способностью к обнаружению скрытых нелинейных зависимостей в данных и возможностью параллельного выполнения операций линейной алгебры, лежащих в их основе.

В данной статье приведено описание исследования по обобщению этих алгоритмов и их адаптации к применению для внутреннего поддетектора CGEM (BESIII ИФВЭ, Пекин). Нейросетевая модель RDGraphNet для глобальной реконструкции треков, разработанная на основе реверсного орграфа, успешно адаптирована. После обучения на модельных данных тестирование показало обнадеживающие результаты: для распознавания треков полнота (recall) составила 98% и точность (precision) — 86%. Однако адаптация «локальной» нейросетевой модели TrackNETv2 потребовала учета специфики цилиндрического детектора CGEM (BESIII), состоящего всего из трех детектирующих слоев, и разработки дополнительного нейроклассификатора для отсева ложных треков. Полученная программа TrackNETv2.1 протестирована в отладочном режиме. Значение полноты на первом этапе обработки составило 99%. После применения классификатора точность составила 77%, при незначительном снижении показателя полноты до 94%. Данные результаты предполагают дальнейшее совершенствование модели локального трекинга.

The reconstruction of charged particle trajectories in tracking detectors is a key problem in the analysis of experimental data for high energy and nuclear physics.

The amount of data in modern experiments is so large that classical tracking methods such as Kalman filter can not process them fast enough. To solve this problem, we have developed two neural network algorithms of track recognition, based on deep learning architectures, for local (track by track) and global (all tracks in an event) tracking in the GEM tracker of the BM@N experiment at JINR (Dubna). The advantage of deep neural networks is the ability to detect hidden nonlinear dependencies in data and the capability of parallel execution of underlying linear algebra operations.

In this work we generalize these algorithms to the cylindrical GEM inner tracker of BESIII experiment. The neural network model RDGraphNet for global track finding, based on the reverse directed graph, has been successfully adapted. After training on Monte Carlo data, testing showed encouraging results: recall of 98% and precision of 86% for track finding.

The local neural network model TrackNETv2 was also adapted to BESIII CGEM successfully. Since the tracker has only three detecting layers, an additional neuro-classifier to filter out false tracks have been introduced. Preliminary tests demonstrated the recall value at the first stage of 99%. After applying the neuro-classifier, the precision was 77% with a slight decrease of the recall to 94%. This result can be improved after the further model optimization.

В статье предлагается ряд подходов к обработке изображений в системе поддержки принятия решений (СППР) центра автоматизированной фиксации административных правонарушений дорожного движения (ЦАФАП). Основной задачей данной СППР является помощь человеку-оператору в получении точной информации о государственном регистрационном знаке (ГРЗ) и модели транспортного средства (ТС) на основании изображений, полученных с комплексов фотовидеофиксации (ФВФ). В статье предложены подходы к распознаванию ГРЗ и марки/модели ТС на изображении, основанные на современных нейросетевых моделях. Для распознавания ГРЗ использована нейросетевая модель LPRNet с дополнительно введенным Spatial Transformer Layer для предобработки изображения. Для автоматического определения марки/модели ТС на изображении использована нейросетевая архитектура ResNeXt-101-32x8d. Предложен подход к формированию обучающей выборки для нейросетевой модели распознавания ГРЗ, основанный на методах компьютерного зрения и алгоритмах машинного обучения. В данном подходе использован алгоритм SIFT для нахождения ключевых точек изображения с ГРЗ и вычисления их дескрипторов, а для удаления точек-выбросов использован алгоритм DBSCAN. Точность распознавания ГРЗ на тестовой выборке составила 96 %. Предложен подход к повышению производительности процедур дообучения и распознавания марки/модели ТС, основанный на использовании новой архитектуры сверточной нейронной сети с «заморозкой» весовых коэффициентов сверточных слоев, дополнительным сверточным слоем распараллеливания процесса классификации и множеством бинарных классификаторов на выходе. Применение новой архитектуры позволило на несколько порядков уменьшить время дообучения нейросетевой модели распознавания марки/модели ТС с итоговой точностью классификации, близкой к 99 %. Предложенные подходы были апробированы и внедрены в СППР ЦАФАП Республики Татарстан.

We suggested some approaches for solving image processing tasks in the decision support system (DSS) of the Center for Automated Recording of Administrative Offenses of the Road Traffic (CARAO). The main task of this system is to assist the operator in obtaining accurate information about the vehicle registration plate and the vehicle brand/model based on images obtained from the photo and video recording systems. We suggested the approach for vehicle registration plate recognition and brand/model classification on the images based on modern neural network models. LPRNet neural network model supplemented by Spatial Transformer Layer was used to recognize the vehicle registration plate. The ResNeXt-101-32x8d neural network model was used to classify for vehicle brand/model. We suggested the approach to construct the training set for the neural network of vehicle registration plate recognition. The approach is based on computer vision methods and machine learning algorithms. The SIFT algorithm was used to detect and describe local features on images with the vehicle registration plate. DBSCAN clustering was used to detect and delete outliers in such local features. The accuracy of vehicle registration plate recognition was 96% on the testing set. We suggested the approach to improve the efficiency of using the ResNeXt-101-32x8d model at additional training and classification stages. The approach is based on the new architecture of convolutional neural networks with “freezing” weight coefficients of convolutional layers, an additional convolutional layer for parallelizing the classification process, and a set of binary classifiers at the output. This approach significantly reduced the time of additional training of neural network when new vehicle brand/model classification was needed. The final accuracy of vehicle brand/model classification was 99% on the testing set. The proposed approaches were tested and implemented in the DSS of the CARAO of the Republic of Tatarstan.