Все выпуски

В данной статье описывается опыт команды Лаборатории информационных технологий Объединенного института ядерных исследований по адаптации прикладных программных пакетов для работы в различных грид-средах. Указаны особенности «гридификации» приложений в зависимости от возможных режимов их запуска и типа подходящих вычислительных ресурсов. Перечислены конкретные приложения и грид-среды, для использования в которых были адаптированы эти пакеты.

This article describes an experience of LIT JINR team in application software packages adaptation for running in different grid environments. Peculiarities of the applications “gridification” depending on their possible launch modes and a type of the matching computational resources are given. The particular applications and grid environments which applications are adopted for are listed.

Работа посвящена моделированию инструментальных погрешностей измерения диаметра лазерного пучка при использовании метода на основе ламбертовски рассеивающего на просвет экрана. В качестве модели пучка использовалось суперлоренцево распределение. Для определения влияния на погрешность измерения каждого из параметров проводились вычислительные эксперименты, результаты которых аппроксимировались аналитическими функциями. Были получены зависимости погрешностей от относительного размера пучка, пространственной неравномерности пропускания экрана, дисторсии объектива, физического виньетирования, наклона пучка, пространственного разрешения матрицы, разрядности АЦП-камеры. Показано, что погрешность может быть менее 1 %.

Work is devoted to modeling instrumental errors of a laser beam diameter measurement using a method based on a lambertian transmissive screen. Super-Lorenz distribution was used as a model of the beam. To determine the effect of each parameter on the measurement error were performed computational experiments, results of which were approximated by analytic functions. There were obtained the errors depending on relative beam size, spatial non-uniformity of the transmission screen, lens distortion, physical vignetting, beam tilt, CCD spatial resolution, ADC resolution of a camera. There was shown that the error can be less then 1 %.

Компактный мюонный соленоид (CMS) — высокоточная детекторная установка на Большом адронном коллайдере (LHC) в ЦЕРН. Для осуществления обработки и анализа данных в CMS была разработана система распределенного анализа данных, предполагающая обязательное использование современных грид-технологий. Модель компьютинга для CMS — иерархическая (в смысле создания вычислительных центров разного уровня). Объединенный институт ядерных исследований (ОИЯИ) принимает активное участие в эксперименте CMS. В ОИЯИ создается центр 1-го уровня (Tier1) для CMS c целью обеспечения необходимой компьютерной инфраструктурой ОИЯИ и российских институтов, участвующих в эксперименте CMS. В работе описаны основные задачи и сервисы центра Tier1 для CMS в ОИЯИ и представлены статус и перспективы его развития.

The Compact Muon Solenoid (CMS) is a high-performance general-purpose detector at the Large Hadron Collider (LHC) at CERN. A distributed data analysis system for processing and further analysis of CMS experimental data has been developed and this model foresees the obligatory usage of modern grid-technologies. The CMS Computing Model makes use of the hierarchy of computing centers (Tiers). The Joint Institute for Nuclear Research (JINR) takes an active part in the CMS experiment. In order to provide a proper computing infrastructure for the CMS experiment at JINR and for Russian institutes collaborating in CMS, Tier-1 center for the CMS experiment is constructing at JINR. The main tasks and services of the CMS Tier-1 at JINR are described. The status and perspectives of the Tier1 center for the CMS experiment at JINR are presented.

В статье описан подход к расчетному анализу теплогидравлических процессов в реакторе на быстрых нейтронах (БН), включающий применяемые физические модели, численные схемы и упрощения реальной конструкции, принятые в расчетной модели. Рассмотрены стационарные и динамические режимы испытаний. Стационарные режимы имитировали работу реактора на номинальной мощности. Динамические режимы имитировали расхолаживание реактора через систему отвода тепла. Моделирование теплогидравлических процессов проведено в программном комплексе (ПК) FlowVision. На основе геометрической модели была построена математическая модель, описывающая течение теплоносителя в первом контуре имитатора реактора типа БН.

Моделирование течения и теплообмена рабочего вещества в имитаторе реактора выполнено в предположении независимости плотности вещества от давления, с использованием $k–\varepsilon$ модели турбулентности, с применением модели дисперсной среды и с учетом сопряженного теплообмена. Реализованная в ПК FlowVision модель дисперсной среды позволила учесть процесс теплообмена между контурами в теплообменниках. Из-за большого количества расчетных ячеек по модели активной зоны области двух теплообменных аппаратов были заменены гидравлическими сопротивлениями и стоками тепла.

Моделирование течения теплоносителя в ПК FlowVision позволило получить распределения температуры, скорости и давления во всей расчетной области. В результате использования модели дисперсной среды были получены распределения температуры теплоносителей по обоим контурам теплообменников. Определено изменение температуры теплоносителя вдоль двух термозондов, которые располагались в холодной и горячей камерах имитатора реактора БН. На основе сравнительного анализа численных и экспериментальных данных сделаны выводы о корректности построенной математической модели и возможности ее использования для моделирования теплогидравлических процессов, протекающих в реакторах с натриевым теплоносителем типа БН.

An approach to numerical analysis of thermo-hydraulic processes proceeding in a fast-neutron reactor is described in the given article. The description covers physical models, numerical schemes and geometry simplifications accepted in the computational model. Steady-state and dynamic regimes of reactor operation are considered. The steady-state regimes simulate the reactor operation at nominal power. The dynamic regimes simulate the shutdown reactor cooling by means of the heat-removal system.

Simulation of thermo-hydraulic processes is carried out in the FlowVision CFD software. A mathematical model describing the coolant flow in the first loop of the fast-neutron reactor was developed on the basis of the available geometrical model. The flow of the working fluid in the reactor simulator is calculated under the assumption that the fluid density does not depend on pressure, with use a $k–\varepsilon$ turbulence model, with use of a model of dispersed medium, and with account of conjugate heat exchange. The model of dispersed medium implemented in the FlowVision software allowed taking into account heat exchange between the heat-exchanger lops. Due to geometric complexity of the core region, the zones occupied by the two heat exchangers were modeled by hydraulic resistances and heat sources.

Numerical simulation of the coolant flow in the FlowVision software enabled obtaining the distributions of temperature, velocity and pressure in the entire computational domain. Using the model of dispersed medium allowed calculation of the temperature distributions in the second loops of the heat exchangers. Besides that, the variation of the coolant temperature along the two thermal probes is determined. The probes were located in the cool and hot chambers of the fast-neutron reactor simulator. Comparative analysis of the numerical and experimental data has shown that the developed mathematical model is correct and, therefore, it can be used for simulation of thermo-hydraulic processes proceeding in fast-neutron reactors with sodium coolant.

В статье представлены результаты исследования процессов миграции загрязнений от свалки твердых бытовых отходов (ТБО), расположенной в водоохранной зоне озера Селигер. Для изучения особенностей распространения загрязняющих веществ и определения миграционных параметров проведен комплекс полевых и лабораторных исследований в районе расположения свалки. Построена математическая модель, описывающая физико-химические процессы миграции веществ в почвогрунтовой толще. Процесс движения загрязняющих веществ обуславливается разнообразными факторами, оказывающими существенное влияние на миграцию ингредиентов ТБО, основными из которых являются: конвективный перенос, диффузия и сорбционные процессы, которые учтены в математической постановке задачи. Модифицированная математическая модель отличается от известных аналогов учетом ряда параметров, отражающих снижение концентрации ионов аммонийного и нитратного азота в грунтовых водах (транспирация корнями растений, разбавление инфильтрационными водами и т. д.). Представлено аналитическое решение по оценке распространения загрязнений от свалки ТБО. На основе математической модели построен комплекс имитационных моделей, который позволяет получить численное решение частных задач: вертикальной и горизонтальной миграции веществ в подземном потоке. В ходе выполнения численных экспериментов, получения аналитических решений, а также на основе данных полевых и лабораторных исследований изучена динамика распределения загрязнений в толще объекта исследования до озера. Сделан долгосрочный прогноз распространения загрязнений от свалки. В результате компьютерных и модельных экспериментов установлено, что при миграции загрязнений от свалки можно выделить ряд зон взаимодействия чистых грунтовых вод с загрязненными подземными водами, каждая из которой характеризуется различным содержанием загрязняющих веществ. Данные вычислительных экспериментов и аналитических расчетов согласуются с результатами полевых и лабораторных исследований объекта, что дает основание рекомендовать предлагаемые модели для прогнозирования миграции загрязнений от свалки ТБО. Анализ результатов моделирования миграции загрязнений позволяет обосновать численные оценки увеличения концентрации ионов $NH_4^+$ и $NO_3^-$ со временем функционирования свалки. Выявлено, что уже через 100 лет после начала существования свалки токсичные компоненты фильтрата заполнят все поровое пространство от свалки до озера, что приведет к существенному ухудшению экосистемы озера Селигер.

The article reports the findings of an investigation into pollution migration processes at the municipal solid waste (MSW) landfill located in the water protection zone of Lake Seliger (Tver Region). The distribution of pollutants is investigated and migration parameters are determined in field and laboratory conditions at the landfill site. A mathematical model describing physical and chemical processes of substance migration in soil strata is constructed. Pollutant migration is found to be due to a variety of factors. The major ones, having a significant impact on the migration of MSW ingredients and taken into account mathematically, include convective transport, diffusion and sorption processes. A modified mathematical model differs from its conventional counterparts by considering a number of parameters reflecting the decrease in the concentration of ammonium and nitrate nitrogen ions in ground water (transpiration by plant roots, dilution with infiltration waters, etc.). An analytical solution to assess the pollutant spread from the landfill is presented. The mathematical model provides a set of simulation models helping to obtain a computational solution of specific problems, vertical and horizontal migration of substances in the underground flow. Numerical experiments, analytical solutions, as well as field and laboratory data was studied the dynamics of pollutant distribution in the object under study up to the lake. A long-term forecast for the spread of landfill pollution is made. Simulation experiments showed that some zones of clean groundwater interact with those of contaminated groundwater during the pollution migration from the landfill, each characterized by a different pollutant content. The data of a computational experiments and analytical calculations are consistent with the findings of field and laboratory investigations of the object and give grounds to recommend the proposed models for predicting pollution migration from a landfill. The analysis of the pollution migration simulation allows to substantiate the numerical estimates of the increase in $NH_4^+$ and $NO_3^-$ ion concentration with the landfill operation time. It is found that, after 100 years following the landfill opening, toxic filtrate components will fill the entire pore space from the landfill to the lake resulting in a significant deterioration of the ecosystem of Lake Seliger.

В работе анализируются методы исследования процесса взаимодействия почвенных сред с рабочими органами почвообрабатывающих машин. Подробно рассмотрены математические методы численного моделирования, позволяющие преодолеть недостатки аналитических и эмпирических подходов. Приводятся классификация и обзор возможностей континуальных (FEM — метод конечных элементов, CFD — вычислительная гидродинамика) и дискретных (DEM — метод дискретных элементов, SPH — гидродинамика сглаженных частиц) численных методов. На основе метода дискретных элементов разработана математическая модель, представляющая почву, в виде множества взаимодействующих сферических элементов малых размеров. Рабочие поверхности почвообрабатывающего орудия в рамках конечноэлементного приближения представлены в виде совокупности элементарных треугольников. В модели рассчитывается движение элементов почвы под действием сил контакта элементов почвы друг с другом и с рабочими поверхностями орудия (упругие силы, силы сухого и вязкого трения). Это дает возможность оценивать влияние геометрических параметров рабочих органов, технологических параметров процесса и параметров почвы на геометрические показатели смещения почвы, показатели самоустановки орудия, силовые нагрузки, показатели качества рыхления и пространственное распределение показателей. Всего исследуются 22 показателя (или распределение показателя в пространстве). Возможности математической модели демонстрируются на примере комплексного исследования процесса обработки почвы дисковой культиваторной батареей. В компьютерном эксперименте использованы виртуальный почвенный канал размером 5×1.4 м и 3D-модель дисковой культиваторной батареи. Радиус почвенных частиц принимался равным 18 мм, скорость рабочего органа — 1 м/с, общее время моделирования — 5 с. Глубина обработки составляла 10 см при углах атаки 10, 15, 20, 25 и 30°. Проверка достоверности результатов моделирования производилась на лабораторной установке, для объемного динамометрирования, путем исследования натурного образца, выполненного в полном соответствии с исследованной 3D-моделью. Контроль осуществлялся по трем составляющим вектора тягового сопротивления: $F_x$, $F_y$ и $F_z$. Сравнение данных, полученных экспериментальным путем, с данными моделирования показало, что расхождение составляет не более 22.2 %, при этом во всех случаях максимальные значения наблюдались при углах атаки 30°. Хорошая согласуемость данных по трем ключевым силовым параметрам подтверждает достоверность всего комплекса исследованных показателей.

The paper analyzes the methods of studying the process of interaction of soil environments with the tillage tools of soil processing machines. The mathematical methods of numerical modeling are considered in detail, which make it possible to overcome the disadvantages of analytical and empirical approaches. A classification and overview of the possibilities the continuous (FEM — finite element method, CFD — computational fluid dynamics) and discrete (DEM — discrete element method, SPH — hydrodynamics of smoothed particles) numerical methods is presented. Based on the discrete element method, a mathematical model has been developed that represents the soil in the form of a set of interacting small spherical elements. The working surfaces of the tillage tool are presented in the framework of the finite element approximation in the form of a combination of many elementary triangles. The model calculates the movement of soil elements under the action of contact forces of soil elements with each other and with the working surfaces of the tillage tool (elastic forces, dry and viscous friction forces). This makes it possible to assess the influence of the geometric parameters of the tillage tools, technological parameters of the process and soil parameters on the geometric indicators of soil displacement, indicators of the self-installation of tools, power loads, quality indicators of loosening and spatial distribution of indicators. A total of 22 indicators were investigated (or the distribution of the indicator in space). This makes it possible to reproduce changes in the state of the system of elements of the soil (soil cultivation process) and determine the total mechanical effect of the elements on the moving tillage tools of the implement. A demonstration of the capabilities of the mathematical model is given by the example of a study of soil cultivation with a disk cultivator battery. In the computer experiment, a virtual soil channel of 5×1.4 m in size and a 3D model of a disk cultivator battery were used. The radius of the soil particles was taken to be 18 mm, the speed of the tillage tool was 1 m/s, the total simulation time was 5 s. The processing depth was 10 cm at angles of attack of 10, 15, 20, 25 and 30°. The verification of the reliability of the simulation results was carried out on a laboratory stand for volumetric dynamometry by examining a full-scale sample, made in full accordance with the investigated 3D-model. The control was carried out according to three components of the traction resistance vector: $F_x$, $F_y$ and $F_z$. Comparison of the data obtained experimentally with the simulation data showed that the discrepancy is not more than 22.2%, while in all cases the maximum discrepancy was observed at angles of attack of the disk battery of 30°. Good consistency of data on three key power parameters confirms the reliability of the whole complex of studied indicators.

Для трубчатых пороховых элементов большого удлинения, используемых в артиллерийских метательных зарядах, имеют место условия неравномерного горения. Здесь необходимо параллельно рассматривать процессы горения и движения пороховых газов внутри и вне каналов пороховых трубок. Без этого невозможно адекватно поставить и решить задачи о воспламенении, эрозионном горении и напряженно-деформированном состоянии трубчатых пороховых элементов в процессе выстрела. В работе представлена физико-математическая постановка основной задачи внутренней баллистики артиллерийского выстрела для заряда, состоящего из совокупности пороховых трубок. Горение и движение пучка пороховых трубок по каналу ствола моделируются эквивалентным трубчатым зарядом всестороннего горения. Площади торца и сечения канала такого заряда (эквивалентной трубки) равны сумме площадей торцов и сечений каналов пороховых трубок соответственно. Поверхность горения канала равна сумме внутренних поверхностей трубок в пучке. Внешняя поверхность горения эквивалентной трубки равна сумме внешних поверхностей трубок в пучке. Предполагается, что эквивалентная трубка движется по оси канала ствола. Скорость движения эквивалентного трубчатого заряда и его текущее положение определяются из второго закона Ньютона. Для расчета параметров течения использованы двумерные осесимметричные уравнения газовой динамики, для решения которых строится осесимметричная ортогонализированная разностная сетка, адаптирующаяся к условиям течения. При перемещении и горении трубки разностная сетка перестраивается с учетом изменяющихся областей интегрирования. Для численного решения системы газодинамических уравнений применяется метод контрольного объема. Параметры газа на границах контрольных объемов определяются с использованием автомодельного решения задачи о распаде произвольного разрыва С.К. Годунова. Разработанная методика использована при расчетах внутрибаллистических параметров артиллерийского выстрела. Данный подход рассмотрен впервые и позволяет по-новому подойти к проектированию трубчатых артиллерийских зарядов, поскольку позволяет получить необходимую информацию в виде полей скорости и давления пороховых газов для расчета процесса постепенного воспламенения, нестационарного эрозионного горения, напряженно-деформированного состояния и прочности пороховых элементов при выстреле. Представлены временные зависимости параметров внутрибаллистического процесса и распределения основных параметров течения продуктов горения в различные моменты времени.

There are conditions of uneven combustion for tubular powder elements of large elongation used in artillery propelling charges. Here it is necessary to consider in parallel the processes of combustion and movement of powder gases inside and outside the channels of the powder tubes. Without this, it is impossible to adequately formulate and solve the problems of ignition, erosive combustion and stress-strain state of tubular powder elements in the shot process. The paper presents a physical and mathematical formulation of the main problem of the internal ballistics of an artillery shot for a charge consisting of a set of powder tubes. Combustion and movement of a bundle of powder tubes along the barrel channel is modeled by an equivalent tubular charge of all-round combustion. The end and cross-sectional areas of the channel of such a charge (equivalent tube) are equal to the sum of the areas of the ends and cross-sections of the channels of the powder tubes, respectively. The combustion surface of the channel is equal to the sum of the inner surfaces of the tubes in the bundle. The outer combustion surface of the equivalent tube is equal to the sum of the outer surfaces of the tubes in the bundle. It is assumed that the equivalent tube moves along the axis of the bore. The speed of motion of an equivalent tubular charge and its current position are determined from Newton’s second law. To calculate the flow parameters, we used two-dimensional axisymmetric equations of gas dynamics, for the solution of which an axisymmetric orthogonalized difference mesh is constructed, which adapts to the flow conditions. When the tube moves and burns, the difference grid is rearranged taking into account the changing regions of integration. The control volume method is used for the numerical solution of the system of gas-dynamic equations. The gas parameters at the boundaries of the control volumes are determined using a self-similar solution to the Godunov problem of decay for an arbitrary discontinuity. The developed technique was used to calculate the internal ballistics parameters of an artillery shot. This approach is considered for the first time and allows a new approach to the design of tubular artillery charges, since it allows obtaining the necessary information in the form of fields of velocity and pressure of powder gases for calculating the process of gradual ignition, unsteady erosive combustion, stress-strain state and strength of powder elements during the shot. The time dependences of the parameters of the internal ballistics process and the distribution of the main parameters of the flow of combustion products at different times are presented.

Статья посвящена вторичному использованию спектра в телекоммуникационных сетях. Акцентируется внимание, что одним из решений данной проблемы является применение технологий когнитивного радио и динамического доступа к спектру, для успешного функционирования которых необходим большой объем информации, включающий параметры базовых станций и абонентов сети. Хранение и обработка информации должны осуществляться при помощи карты радиосреды, которая представляет собой пространственно-временную базу данных всех активностей в сети и позволяет определять доступные для использования в заданное время частоты. В работе представлена двухуровневая модель для формирования карты радиосреды системы сотовой связи LTE, в которой выделены локальный и глобальный уровни, описываемая следующими параметрами: набор частот, ослабление сигнала, карта распространения сигналов, шаг сетки, текущий временной отсчет. Ключевыми объектами модели являются базовая станция и абонентское устройство. К основным параметрам базовой станции отнесены: наименование, идентификатор, координаты ячейки, номер, диапазон, мощность излучения, номера подключенных абонентских устройств, выделенные им ресурсные блоки. Для абонентских устройств в качестве параметров используются: наименование, идентификатор, местоположение, текущие координаты ячейки устройства, идентификатор рабочей базовой станции, частотный диапазон, номера ресурсных блоков для связи со станцией, мощность излучения, статус передачи данных, список номеров ближайших станций, расписания перемещения и сеансов связи устройств. Представлен алгоритм для реализации модели с учетом сценариев перемещения и сеансов связи абонентских устройств. Приводится методика расчета карты радиосреды в точке координатной сетки с учетом потерь при распространении радиосигналов от излучающих устройств. Программная реализация модели выполнена с использованием пакета MatLab. Описаны подходы, позволяющие повысить быстродействие ее работы. При моделировании выбор параметров осуществлялся с учетом данных действующих систем связи и экономии вычислительных ресурсов. Продемонстрированы результаты исследований программной реализации алгоритма формирования карты радиосреды, подтверждающие корректность разработанной модели.

The paper is devoted to the secondary use of spectrum in telecommunication networks. It is emphasized that one of the solutions to this problem is the use of cognitive radio technologies and dynamic spectrum access for the successful functioning of which a large amount of information is required, including the parameters of base stations and network subscribers. Storage and processing of information should be carried out using a radio environment map, which is a spatio-temporal database of all activity in the network and allows you to determine the frequencies available for use at a given time. The paper presents a two-level model for forming a map of the radio environment of a cellular communication system LTE, in which the local and global levels are highlighted, which is described by the following parameters: a set of frequencies, signal attenuation, signal propagation map, grid step, current time count. The key objects of the model are the base station and the subscriber unit. The main parameters of the base station include: name, identifier, cell coordinates, range number, radiation power, numbers of connected subscriber devices, dedicated resource blocks. For subscriber devices, the following parameters are used: name, identifier, location, current coordinates of the device cell, base station identifier, frequency range, numbers of resource blocks for communication with the station, radiation power, data transmission status, list of numbers of the nearest stations, schedules movement and communication sessions of devices. An algorithm for the implementation of the model is presented, taking into account the scenarios of movement and communication sessions of subscriber devices. A method for calculating a map of the radio environment at a point on a coordinate grid, taking into account losses during the propagation of radio signals from emitting devices, is presented. The software implementation of the model is performed using the MatLab package. The approaches are described that allow to increase the speed of its work. In the simulation, the choice of parameters was carried out taking into account the data of the existing communication systems and the economy of computing resources. The experimental results of the algorithm for the formation of a radio environment map are demonstrated, confirming the correctness of the developed model.

Рассматривается нелинейная краевая задача водородопроницаемости, соответствующая следующему эксперименту. Нагретая до достаточно высокой температуры мембрана из исследуемого конструкционного материала служит перегородкой вакуумной камеры. После предварительного вакуумирования и практически полной дегазации на входной стороне создается постоянное давление газообразного (молекулярного) водорода. С выходной стороны в условиях вакуумирования с помощью масс-спектрометра определяется проникающий поток.

Принята линейная модель зависимости коэффициента диффузии растворенного атомарного водорода в объеме от концентрации, температурная зависимость в соответствии с законом Аррениуса. Поверхностные процессы растворения и сорбции-десорбции учтены в форме нелинейных динамических краевых условий (дифференциальные уравнения динамики поверхностных концентраций атомарного водорода). Математическая особенность краевой задачи состоит в том, что производные по времени от концентраций входят как в уравнение диффузии, так и в граничные условия с квадратичной нелинейностью. В терминах общей теории функционально-дифференциальных уравнений это приводит к так называемым уравнениям нейтрального типа и требует разработки более сложного математического аппарата. Представлен итерационный вычислительный алгоритм второго (повышенного) порядка точности решения соответствующей нелинейной краевой задачи на основе явно-неявных разностных схем. Явная составляющая применяется к более медленным подпроцессам, что позволяет на каждом шаге избегать решения нелинейной системы уравнений.

Приведены результаты численного моделирования, подтверждающие адекватность модели экспериментальным данным. Определены степени влияния вариаций параметров водородопроницаемости («производные») на проникающий поток и распределение концентрации атомов H по толщине образца, что важно, в частности, для задач проектирования защитных конструкций от водородного охрупчивания и мембранных технологий получения особо чистого водорода. Вычислительный алгоритм позволяет использовать модель и при анализе экстремальных режимов для конструкционных материалов (перепады давления, высокие температуры, нестационарный нагрев), выявлять лимитирующие факторы при конкретных условиях эксплуатации и экономить на дорогостоящих экспериментах (особенно это касается дейтерий-тритиевых исследований).

The article deals with the nonlinear boundary-value problem of hydrogen permeability corresponding to the following experiment. A membrane made of the target structural material heated to a sufficiently high temperature serves as the partition in the vacuum chamber. Degassing is performed in advance. A constant pressure of gaseous (molecular) hydrogen is built up at the inlet side. The penetrating flux is determined by mass-spectrometry in the vacuum maintained at the outlet side.

A linear model of dependence on concentration is adopted for the coefficient of dissolved atomic hydrogen diffusion in the bulk. The temperature dependence conforms to the Arrhenius law. The surface processes of dissolution and sorptiondesorption are taken into account in the form of nonlinear dynamic boundary conditions (differential equations for the dynamics of surface concentrations of atomic hydrogen). The characteristic mathematical feature of the boundary-value problem is that concentration time derivatives are included both in the diffusion equation and in the boundary conditions with quadratic nonlinearity. In terms of the general theory of functional differential equations, this leads to the so-called neutral type equations and requires a more complex mathematical apparatus. An iterative computational algorithm of second-(higher- )order accuracy is suggested for solving the corresponding nonlinear boundary-value problem based on explicit-implicit difference schemes. To avoid solving the nonlinear system of equations at every time step, we apply the explicit component of difference scheme to slower sub-processes.

The results of numerical modeling are presented to confirm the fitness of the model to experimental data. The degrees of impact of variations in hydrogen permeability parameters (“derivatives”) on the penetrating flux and the concentration distribution of H atoms through the sample thickness are determined. This knowledge is important, in particular, when designing protective structures against hydrogen embrittlement or membrane technologies for producing high-purity hydrogen. The computational algorithm enables using the model in the analysis of extreme regimes for structural materials (pressure drops, high temperatures, unsteady heating), identifying the limiting factors under specific operating conditions, and saving on costly experiments (especially in deuterium-tritium investigations).

Появление технологий лазерного сканирования произвело настоящую революцию в лесном хозяйстве. Их использование позволило перейти от изучения лесных массивов с помощью ручных измерений к компьютерному анализу точечных стереоизображений, называемых облаками точек.

Автоматическое вычисление некоторых параметров деревьев (таких как диаметр ствола) по облаку точек требует удаления точек листвы. Для выполнения этой операции необходима предварительная сегментация стереоизображения на классы «листва» и «ствол». Решение этой задачи зачастую включает использование методов машинного обучения.

Одним из самых популярных классификаторов, используемых для сегментации стереоизображений деревьев, является случайный лес. Этот классификатор достаточно требователен к объему памяти. В то же время размер модели машинного обучения может быть критичным при необходимости ее пересылки, что требуется, например, при выполнении распределенного обучения. В данной работе ставится цель найти классификатор, который был бы менее требовательным по памяти, но при этом имел бы сравнимую точность сегментации. Поиск выполняется среди таких классификаторов, как логистическая регрессия, наивный байесовский классификатор и решающее дерево. Кроме того, исследуется способ уточнения сегментации, выполненной решающим деревом, с помощью логистической регрессии.

Эксперименты проводились на данных из коллекции университета Гейдельберга. Было показано, что классификация с помощью решающего дерева, корректируемая с помощью логистической регрессии, способна давать результат, лишь немного проигрывающий результату случайного леса по точности, затрачивая при этом меньше времени и оперативной памяти. Разница в сбалансированной точности составляет не более процента на всех рассмотренных облаках, при этом суммарный размер и время предсказания классификаторов решающего дерева и логистической регрессии на порядок меньше, чем у случайного леса.

The advent of laser scanning technologies has revolutionized forestry. Their use made it possible to switch from studying woodlands using manual measurements to computer analysis of stereo point images called point clouds.

Automatic calculation of some tree parameters (such as trunk diameter) using a point cloud requires the removal of foliage points. To perform this operation, a preliminary segmentation of the stereo image into the “foliage” and “trunk” classes is required. The solution to this problem often involves the use of machine learning methods.

One of the most popular classifiers used for segmentation of stereo images of trees is a random forest. This classifier is quite demanding on the amount of memory. At the same time, the size of the machine learning model can be critical if it needs to be sent by wire, which is required, for example, when performing distributed learning. In this paper, the goal is to find a classifier that would be less demanding in terms of memory, but at the same time would have comparable segmentation accuracy. The search is performed among classifiers such as logistic regression, naive Bayes classifier, and decision tree. In addition, a method for segmentation refinement performed by a decision tree using logistic regression is being investigated.

The experiments were conducted on data from the collection of the University of Heidelberg. The collection contains hand-marked stereo images of trees of various species, both coniferous and deciduous, typical of the forests of Central Europe.

It has been shown that classification using a decision tree, adjusted using logistic regression, is able to produce a result that is only slightly inferior to the result of a random forest in accuracy, while spending less time and RAM. The difference in balanced accuracy is no more than one percent on all the clouds considered, while the total size and inference time of the decision tree and logistic regression classifiers is an order of magnitude smaller than of the random forest classifier.