Все выпуски
- 2024 Том 16
- 2023 Том 15
- 2022 Том 14
- 2021 Том 13
- 2020 Том 12
- 2019 Том 11
- 2018 Том 10
- 2017 Том 9
- 2016 Том 8
- 2015 Том 7
- 2014 Том 6
- 2013 Том 5
- 2012 Том 4
- 2011 Том 3
- 2010 Том 2
- 2009 Том 1
-
Моделирование падения Челябинского метеорита
Компьютерные исследования и моделирование, 2013, т. 5, № 6, с. 927-940На основе простых физико-математических моделей рассматривается движение и разрушение Челябинского метеорита. Оцениваются параметры движения метеорита с учетом абляции и механического дробления. Проводится сравнение результатов расчета с данными наблюдений.
Modeling of Chelyabinsk meteorite fall
Computer Research and Modeling, 2013, v. 5, no. 6, pp. 927-940Просмотров за год: 4. Цитирований: 7 (РИНЦ).We study the motion and destruction of Chelyabinsk meteoroid using simple physical and mathematical models. We evaluate the parameters of the motion, taking into account the ablation and mechanical destruction of the meteoroid, and compare our results to the observation data.
-
Обновления аппаратно-программной базы ALICE перед вторым запуском Большого адронного коллайдера
Компьютерные исследования и моделирование, 2015, т. 7, № 3, с. 415-419В докладе представлен ряд новостей и обновлений ALICE computing к RUN2 и RUN3.
В их числе:
– ввод в работу новой системы EOS;
– переход к файловой системе CVMFS для хранения ПО;
– план решения проблемы Long Term Data Preservation;
– обзор концепции “O square”, совмещающей офлайн- и онлайн-обработку данных;
– обзор существующих моделей использования виртуальных облаков для обработки данных ALICE.
Ряд нововведений показан на примере российских сайтов.
ALICE computing update before start of RUN2
Computer Research and Modeling, 2015, v. 7, no. 3, pp. 415-419Просмотров за год: 2.The report presents a number of news and updates of the ALICE computing for RUN2 and RUN3.
This includes:
– implementation in production of a new system EOS;
– migration to the file system CVMFS to be used for storage of the software;
– the plan for solving the problem of “Long-Term Data Preservation”;
– overview of the concept of “O square”, combining offline and online data processing;
– overview of the existing models to use the virtual clouds for ALICE data processing. Innovations are shown on the example of the Russian sites.
-
Обучение и оценка обобщающей способности методов интерполяции
Компьютерные исследования и моделирование, 2015, т. 7, № 5, с. 1023-1031В данной статье исследуются методы машинного обучения с определенным видом решающего правила. К ним относятся интерполяция по методу обратно взвешенных расстояний, метод интерполяции радиальными базисными функциями, метод многомерной интерполяции и аппроксимации на основе теории случайных функций, кригинг. Показано, что для данных методов существует способ быстрого переобучения «модели» при добавлении новых данных к существующим. Под «моделью» понимается построенная по обучающим данным интерполирующая или аппроксимирующая функция. Данный подход позволяет уменьшить вычислительную сложность построения обновленной «модели» с $O(n^3)$ до $O(n^2)$. Также будет исследована возможность быстрого оценивания обобщающих возможностей «модели» на обучающей выборке при помощи метода скользящего контроля leave-one-out cross-validation, устранив главный недостаток такого подхода — необходимость построения новой «модели» при каждом удалении элемента из обучающей выборки.
Ключевые слова: машинное обучение, интерполяция, случайная функция, система линейных уравнений, кросс-валидация.
Training and assessment the generalization ability of interpolation methods
Computer Research and Modeling, 2015, v. 7, no. 5, pp. 1023-1031Просмотров за год: 7. Цитирований: 5 (РИНЦ).We investigate machine learning methods with a certain kind of decision rule. In particular, inverse-distance method of interpolation, method of interpolation by radial basis functions, the method of multidimensional interpolation and approximation, based on the theory of random functions, the last method of interpolation is kriging. This paper shows a method of rapid retraining “model” when adding new data to the existing ones. The term “model” means interpolating or approximating function constructed from the training data. This approach reduces the computational complexity of constructing an updated “model” from $O(n^3)$ to $O(n^2)$. We also investigate the possibility of a rapid assessment of generalizing opportunities “model” on the training set using the method of cross-validation leave-one-out cross-validation, eliminating the major drawback of this approach — the necessity to build a new “model” for each element which is removed from the training set.
-
Разработка, калибровка и верификация модели движения трафика в городских условиях. Часть I
Компьютерные исследования и моделирование, 2015, т. 7, № 6, с. 1185-1203В данной работе исследуется проблема унификации процедуры разработки и калибровки математической модели движения транспортного потока на автомобильной многополосной дороге в городских условиях. При этом использовался макроскопический подход, при котором транспортный поток описывается нелинейной системой гиперболических уравнений (для плотности и скорости потока) второго порядка. Полученная модель замыкается через уравнение зависимости интенсивности транспортного потока от его плотности, получаемое эмпирическим образом для каждого отдельного участка транспортной сети с использованием данных транспортных детекторов и автомобильных GPS-треков. Проверка работоспособности разработанной нами модели и методики калибровки проводилась с использованием численных расчетов, путем проведения вычисленных экспериментов на типичных данных, таких как моделирование движения трафика на заданном участке городской транспортной сети г. Москвы.
Ключевые слова: моделирование дорожного движения, фундаментальная диаграмма, гидродинамические модели второго порядка.
Development, calibration and verification of mathematical model for multilane urban road traffic flow. Part I
Computer Research and Modeling, 2015, v. 7, no. 6, pp. 1185-1203Просмотров за год: 4. Цитирований: 2 (РИНЦ).In this paper, we propose the unified procedure for the development and calibration of mathematical model for multilane urban road traffic flow. We use macroscopic approach, describing traffic flow with the system of second-order nonlinear hyperbolic equations (for traffic density and velocity). We close the resulting model with the equation of vehicle flow as a function of density, obtained empirically for each segment of road network using data from traffic detectors and vehicles’ GPS tracks. We verify the developed new model and calibration methods by using it to model segment of Moscows Ring Road.
-
Сокращение вида решающего правила метода многомерной интерполяции и аппроксимации в задаче классификации данных
Компьютерные исследования и моделирование, 2016, т. 8, № 3, с. 475-484В данной статье исследуется метод машинного обучения на основе теории случайных функций. Одной из основных проблем данного метода является то, что вид решающего правила модели метода, построенной на данных обучающей выборки, становится более громоздким при увеличении количества примеров выборки. Решающее правило модели является наиболее вероятной реализацией случайной функции и представляется в виде многочлена с количеством слагаемых, равным количеству обучающих элементов выборки. В статье будет показано, что для рассматриваемого метода существует быстрый способ сокращения обучающей выборки и, соответственно, вида решающего правила. Уменьшение примеров обучающей выборки происходит за счет поиска и удаления малоинформативных (слабых) элементов, которые незначительно влияют на итоговый вид решающей функции, и шумовых элементов выборки. Для каждого $(x_i,y_i)$-го элемента выборки было введено понятие значимости, выражающееся величиной отклонения оцененного значения решающей функции модели в точке $x_i$, построенной без $i$-го элемента, от реального значения $y_i$. Будет показана возможность косвенного использования найденных слабых элементов выборки при обучении модели метода, что позволяет не увеличивать количество слагаемых в полученной решающей функции. Также в статье будут описаны проведенные эксперименты, в которых показано, как изменение количества обучающих данных влияет на обобщающую способность решающего правила модели в задаче классификации.
Ключевые слова: машинное обучение, интерполяция, аппроксимация, случайная функция, система линейных уравнений, скользящий контроль, классификация.
Reduction of decision rule of multivariate interpolation and approximation method in the problem of data classification
Computer Research and Modeling, 2016, v. 8, no. 3, pp. 475-484Просмотров за год: 5.This article explores a method of machine learning based on the theory of random functions. One of the main problems of this method is that decision rule of a model becomes more complicated as the number of training dataset examples increases. The decision rule of the model is the most probable realization of a random function and it's represented as a polynomial with the number of terms equal to the number of training examples. In this article we will show the quick way of the number of training dataset examples reduction and, accordingly, the complexity of the decision rule. Reducing the number of examples of training dataset is due to the search and removal of weak elements that have little effect on the final form of the decision function, and noise sampling elements. For each $(x_i,y_i)$-th element sample was introduced the concept of value, which is expressed by the deviation of the estimated value of the decision function of the model at the point $x_i$, built without the $i$-th element, from the true value $y_i$. Also we show the possibility of indirect using weak elements in the process of training model without increasing the number of terms in the decision function. At the experimental part of the article, we show how changed amount of data affects to the ability of the method of generalizing in the classification task.
-
Моделирование частотной зависимости диэлектрической проницаемости и электрической проводимости насыщенных пористых сред
Компьютерные исследования и моделирование, 2016, т. 8, № 5, с. 765-773В работе представлена численная методика определения спектральных электромагнитных характеристик (эффективных электрической проводимости и относительной диэлектрической проницаемости) насыщенных пористых сред. Их определение находит применение при интерпретации данных петрофизических исследований скважин, а также при изучении кернового материала. Особенностью настоящей работы является использование трехмерных цифровых моделей насыщенных пористых сред, построенных на основе комбинированной информации о микроструктуре среды и капиллярном равновесии двухфазной смеси типа «нефть–вода» в поровом пространстве. Данные о микроструктуре модели получаются путем использования методов рентгеновской микротомографии. Многофазное многокомпонентное распределение флюидов в поровом пространстве модели находится с помощью метода функционала плотности. Для определения непосредственно электромагнитных характеристик модели выполняется фурье-преобразование по времени уравнения Максвелла, выражающего обобщенную теорему Ампера о циркуляции. В низкочастотном приближении задача сводится к решению уравнения эллиптического типа на комплексный потенциал. Для конечно- разностной аппроксимации используется дискретизация модели на изотропной равномерной ортогональной сетке. При этом считается, что в каждой расчетной ячейке сетки содержится либо вода, либо нефть, либо по- рода со своими электрическими параметрами. Для этого выполняется процедура сегментации, в результате которой в модели отсутствуют ячейки, содержащие несколько фаз (нефть–вода). Подобная модификация модели позволяет избежать использования сложноструктурированных расчетных сеток, а также дает возможность исключить влияние способа задания свойств ячеек, заполненных смесью различных фаз, на результаты расчета. Полученная система разностных уравнений решается с использованием стабилизированного метода бисопряженных градиентов с многосеточным предобуславливателем. На основе вычисленных распределений комплексного потенциала находятся средние значения электрической проводимости и относительной диэлектрической проницаемости. Для простоты в настоящей работе рассматривался случай отсутствия спектральной зависимости проводимости и проницаемости компонентов от частоты. Результаты расчетов частотных зависимостей эффективных характеристик неоднородно насыщенных пористых сред (электрической проводимости и относительной диэлектрической проницаемости) в широком диапазоне частот и водонасыщенностей представлены на графиках и в таблице. В заключение делается вывод об эффективности предложенного подхода для задачи определения дисперсионных электромагнитных характеристик насыщенных горных пород.
Ключевые слова: численное моделирование, электромагнитные свойства, дисперсия электромагнитных характеристик, насыщенные пористые среды, электрическая проводимость, диэлектрическая проницаемость.
Numerical simulation of frequency dependence of dielectric permittivity and electrical conductivity of saturated porous media
Computer Research and Modeling, 2016, v. 8, no. 5, pp. 765-773Просмотров за год: 8.This article represents numerical simulation technique for determining effective spectral electromagnetic properties (effective electrical conductivity and relative dielectric permittivity) of saturated porous media. Information about these properties is vastly applied during the interpretation of petrophysical exploration data of boreholes and studying of rock core samples. The main feature of the present paper consists in the fact, that it involves three-dimensional saturated digital rock models, which were constructed based on the combined data considering microscopic structure of the porous media and the information about capillary equilibrium of oil-water mixture in pores. Data considering microscopic structure of the model are obtained by means of X-ray microscopic tomography. Information about distributions of saturating fluids is based on hydrodynamic simulations with density functional technique. In order to determine electromagnetic properties of the numerical model time-domain Fourier transform of Maxwell equations is considered. In low frequency approximation the problem can be reduced to solving elliptic equation for the distribution of complex electric potential. Finite difference approximation is based on discretization of the model with homogeneous isotropic orthogonal grid. This discretization implies that each computational cell contains exclusively one medium: water, oil or rock. In order to obtain suitable numerical model the distributions of saturating components is segmented. Such kind of modification enables avoiding usage of heterogeneous grids and disregards influence on the results of simulations of the additional techniques, required in order to determine properties of cells, filled with mixture of media. Corresponding system of differential equations is solved by means of biconjugate gradient stabilized method with multigrid preconditioner. Based on the results of complex electric potential computations average values of electrical conductivity and relative dielectric permittivity is calculated. For the sake of simplicity, this paper considers exclusively simulations with no spectral dependence of conductivities and permittivities of model components. The results of numerical simulations of spectral dependence of effective characteristics of heterogeneously saturated porous media (electrical conductivity and relative dielectric permittivity) in broad range of frequencies and multiple water saturations are represented in figures and table. Efficiency of the presented approach for determining spectral electrical properties of saturated rocks is discussed in conclusion.
-
Расчет гидродинамических воздействий на возвращаемый аппарат при посадке на воду
Компьютерные исследования и моделирование, 2017, т. 9, № 1, с. 37-46В работе представлены результаты моделирования расчетных случаев приводнения возвращаемого аппарата (ВА) пилотируемого транспортного корабля нового поколения в условиях штиля. Рассмотрены случаи посадки ВА с работающими и с выключенными двигательными установками.
Задача приводнения ВА моделировалась в рамках двухфазной постановки с наличием двух несмешивающихся фаз: воды и газа, состоящего из воздуха и продуктов сгорания, поступающих из двигательной установки. Параметры течения в каждой фазе резко отличаются друг от друга по величине плотности и скорости распространения звука. Истечение продуктов сгорания из сопловых установок характеризуется высокими скоростями и давлениями, что усложняет задачу, по сравнению со свободным падением ВА в воду. В расчетах используется упрощение постановки задачи, в котором при взаимодействии горячих струй с водой кипение, испарение и образование водяного пара не учитываются. Газовые струи только нагревают и вытесняют воду.
Для моделирования переноса межфазных границ применяется метод VOF (Volume of fluid), где перенос контактной поверхности описывается конвективным уравнением, а поверхностное натяжение на межфазной границе учитывается давлением Лапласа. Ключевой особенностью метода является расщепление поверхностных ячеек, куда заносятся данные соответствующей фазы. Уравнения для обеих фаз (уравнения неразрывности, импульса, энергии и другие) в поверхностных ячейках решаются совместно.
Моделирование приводнения ВА занимает длительное время, что связанно с особенностями явного расчета уровня границы раздела фаз (свободной поверхности). Для получения качественных результатов свободная поверхность должна быть разрешена большим количеством расчетных ячеек, но при этом за один шаг интегрирования перемещаться не более чем на одну ячейку.
В процессе приземления исследовались гидродинамическое воздействие на ВА, динамика его движения и остойчивость ВА после приводнения, оценивались продольные перегрузки. Полученные данные использовались для анализа нагружения и прочности конструкции корпуса ВА, а также его отдельных элементов.
Ключевые слова: FlowVision, численное моделирование, приводнение, возвращаемый аппарат, метод VOF, двухфазная постановка, перенос межфазных границ, аэродинамические характеристики, динамика движения.
The calculation of hydrodynamic impact on reentry vehicle during splashdown
Computer Research and Modeling, 2017, v. 9, no. 1, pp. 37-46Просмотров за год: 30.The reentry vehicle of the transportation spacecraft that is being created by RSC Energia in regular mode makes soft landing on land surface using a parachute system and thruster devices. But in not standard situations the reentry vehicle also is capable of executing a splashdown. In that case, it becomes important to define the hydrodynamics impact on the reentry vehicle at the moment of the first contact with the surface of water and during submersion into water medium, and to study the dynamics of the vehicle behavior at more recent moments of time.
This article presents results of numerical studies of hydrodynamics forces on the conical vehicle during splashdown, done with the FlowVision software. The paper reviews the cases of the splashdown with inactive solid rocket motors on calm sea and the cases with interactions between rocket jets and the water surface. It presents data on the allocation of pressure on the vehicle in the process of the vehicle immersion into water medium and dynamics of the vehicle behavior after splashdown. The paper also shows flow structures in the area of the reentry vehicle at the different moments of time, and integral forces and moments acting on the vehicle.
For simulation process with moving interphases in the FlowVision software realized the model VOF (volume of fluid). Transfer of the phase boundary is described by the equation of volume fraction of this continuous phase in a computational cell. Transfer contact surface is described by the convection equation, and at the surface tension is taken into account by the Laplace pressure. Key features of the method is the splitting surface cells where data is entered the corresponding phase. Equations for both phases (like the equations of continuity, momentum, energy and others) in the surface cells are accounted jointly.
-
Преобразование исходных показателей технологического процесса выплавки стали для последующего моделирования
Компьютерные исследования и моделирование, 2017, т. 9, № 2, с. 187-199Эффективность производственного процесса непосредственно зависит от качества управления технологией, которая, в свою очередь, опирается на точность и оперативность обработки контрольно- измерительной информации. Разработка математических методов исследования системных связей и закономерностей функционирования и построение математических моделей с учетом структурных особенностей объекта исследований, а также написание программных продуктов для реализации данных методов являются актуальными задачами. Практика показала, что список параметров, имеющих место при исследовании сложного объекта современного производства, варьируется от нескольких десятков до нескольких сот наименований, причем степень воздействия каждого из факторов в начальный момент не ясна. Приступать к работе по непосредственному определению модели в этих условиях нельзя — объем требуемой информации может оказаться слишком велик, причем бóльшая часть работы по сбору этой информации будет проделана впустую из-за того, что степень влияния на параметры оптимизации большинства факторов из первоначального списка окажется пренебрежимо малой. Поэтому необходимым этапом при определении модели сложного объекта является работа по сокращению размерности факторного пространства. Большинство промышленных производств являются групповыми иерархическими процессами массового и крупносерийного производства, характеризующимися сотнями факторов. (Для примера реализации математических методов и апробации построенных моделей в основу были взяты данные Молдавского металлургического завода.) С целью исследования системных связей и закономерностей функционирования таких сложных объектов обычно выбираются несколько информативных параметров и осуществляется их выборочный контроль. В данной статье описывается последовательность приведения исходных показателей технологического процесса выплавки стали к виду, пригодному для построения математической модели с целью прогнозирования, внедрения новых видов стали и создание основы для разработки системы автоматизированного управления качеством продукции. В процессе преобразования выделяются следующие этапы: сбор и анализ исходных данных, построение таблицы слабокоррелированных параметров, сокращение факторного пространства с помощью корреляционных плеяд и метода весовых коэффициентов. Полученные результаты позволяют оптимизировать процесс построения модели многофакторного процесса.
Ключевые слова: плавка стали, исходная таблица данных, корреляционная матрица, корреляционные плеяды, матрица факторов, весовые коэффициенты.
Conversion of the initial indices of the technological process of the smelting of steel for the subsequent simulation
Computer Research and Modeling, 2017, v. 9, no. 2, pp. 187-199Просмотров за год: 6. Цитирований: 1 (РИНЦ).Efficiency of production directly depends on quality of the management of technology which, in turn, relies on the accuracy and efficiency of the processing of control and measuring information. Development of the mathematical methods of research of the system communications and regularities of functioning and creation of the mathematical models taking into account structural features of object of researches, and also writing of the software products for realization of these methods are an actual task. Practice has shown that the list of parameters that take place in the study of complex object of modern production, ranging from a few dozen to several hundred names, and the degree of influence of each factor in the initial time is not clear. Before working for the direct determination of the model in these circumstances, it is impossible — the amount of the required information may be too great, and most of the work on the collection of this information will be done in vain due to the fact that the degree of influence on the optimization of most factors of the original list would be negligible. Therefore, a necessary step in determining a model of a complex object is to work to reduce the dimension of the factor space. Most industrial plants are hierarchical group processes and mass volume production, characterized by hundreds of factors. (For an example of realization of the mathematical methods and the approbation of the constructed models data of the Moldavian steel works were taken in a basis.) To investigate the systemic linkages and patterns of functioning of such complex objects are usually chosen several informative parameters, and carried out their sampling. In this article the sequence of coercion of the initial indices of the technological process of the smelting of steel to the look suitable for creation of a mathematical model for the purpose of prediction is described. The implementations of new types became also creation of a basis for development of the system of automated management of quality of the production. In the course of weak correlation the following stages are selected: collection and the analysis of the basic data, creation of the table the correlated of the parameters, abbreviation of factor space by means of the correlative pleiads and a method of weight factors. The received results allow to optimize process of creation of the model of multiple-factor process.
-
Задачи устойчивости тонких упругих оболочек
Компьютерные исследования и моделирование, 2018, т. 10, № 6, с. 775-787В работе рассматриваются различные математические постановки, относящиеся к задаче упругой устойчивости оболочек в связи с обнаруженными в последнее время несоответствиями между экспериментальными данными и предсказаниями, основанными на теории пологих оболочек. Отмечается, что противоречия возникли в связи с появлением новых алгоритмов, позволивших уточнить вычисленные в двадцатом веке так называемые нижние критические напряжения, которые приняты техническими стандартами в качестве критерия глобальной потери устойчивости тонких пологих оболочек. Новые вычисления часто оценивают нижнее критическое напряжение близким к нулю. Следовательно, нижнее критическое напряжение не может приниматься в качестве расчетного значения для анализа потери устойчивости тонкостенной конструкции, а уравнения теории пологих оболочек должны быть заменены другими дифференциальными уравнениями. В новой теории следует также определить критерий потери устойчивости, обеспечивающий совпадение вычислений и экспериментов.
В работе показано, что в рамках динамической нелинейной трехмерной теории упругости противоречие с новыми экспериментами может быть устранено. В качестве критерия глобальной потери устойчивости следует принять напряжение, при котором имеет место бифуркация динамических мод. Нелинейный характер исходных уравнений порождает уединенные (солитонные) волны, которым соответствуют негладкие перемещения оболочек (патерны, вмятины). Существенно, что влияния солитонов проявляются на всех этапах нагружения и резко возрастают, приближаясь к бифуркации. Солитонные решения иллюстрируются на примере тонкой цилиндрической безмоментной оболочки, трехмерный объем которой моделируется двумерной поверхностью с заданной толщиной. В статье отмечается, что волны, формирующие патерны, могут быть обнаружены (а их амплитуды определены) путем акустических или электромагнитных измерений.
Таким образом, появляется техническая возможность снизить риск разрушения оболочек, если проводить мониторинг формы поверхности современными акустическими средствами. Статья завершается формулировкой математических проблем, требующих решения для надежной численной оценки критерия потери устойчивости тонких упругих оболочек.
Ключевые слова: упругие оболочки, потеря устойчивости, трехмерная нелинейная теория упругости, вмятины на поверхности, акустические приборы.
Buckling problems of thin elastic shells
Computer Research and Modeling, 2018, v. 10, no. 6, pp. 775-787Просмотров за год: 23.The article covers several mathematical problems relating to elastic stability of thin shells in view of inconsistencies that have been recently identified between the experimental data and the predictions based on the shallow- shell theory. It is highlighted that the contradictions were caused by new algorithms that enabled updating the values of the so called “low critical stresses” calculated in the 20th century and adopted as a buckling criterion for thin shallow shells by technical standards. The new calculations often find the low critical stress close to zero. Therefore, the low critical stress cannot be used as a safety factor for the buckling analysis of the thinwalled structure, and the equations of the shallow-shell theory need to be replaced with other differential equations. The new theory also requires a buckling criterion ensuring the match between calculations and experimental data.
The article demonstrates that the contradiction with the new experiments can be resolved within the dynamic nonlinear three-dimensional theory of elasticity. The stress when bifurcation of dynamic modes occurs shall be taken as a buckling criterion. The nonlinear form of original equations causes solitary (solitonic) waves that match non-smooth displacements (patterns, dents) of the shells. It is essential that the solitons make an impact at all stages of loading and significantly increase closer to bifurcation. The solitonic solutions are illustrated based on the thin cylindrical momentless shell when its three-dimensional volume is simulated with twodimensional surface of the set thickness. It is noted that the pattern-generating waves can be detected (and their amplitudes can by identified) with acoustic or electromagnetic devices.
Thus, it is technically possible to reduce the risk of failure of the thin shells by monitoring the shape of the surface with acoustic devices. The article concludes with a setting of the mathematical problems requiring the solution for the reliable numerical assessment of the buckling criterion for thin elastic shells.
-
Разработка алгоритма анизотропной нелинейной фильтрации данных компьютерной томографии с применением динамического порога
Компьютерные исследования и моделирование, 2019, т. 11, № 2, с. 233-248В статье рассматривается разработка алгоритма шумоподавления на основе анизотропной нелинейной фильтрации данных. Анализ отечественной и зарубежной литературы показал, что наиболее эффективные алгоритмы шумоподавления данных рентгеновской компьютерной томографии применяют комплекс нелинейных методик анализа и обработки данных, таких как билатеральная, адаптивная, трехмерная фильтрации. Однако комбинация таких методик редко применяется на практике ввиду большого времени обработки данных. В связи с этим было принято решение разработать эффективный и быстродейственный алгоритм шумоподавления на основе упрощенных билатеральных фильтров с трехмерным накоплением данных. Алгоритм был разработан на языке C++11 в программной среде Microsoft Visual Studio 2015. Основным отличием разработанного алгоритма шумоподавления является применение в нем улучшенной математической модели шума на основе распределения Пуассона и Гаусса от логарифмической величины, разработанной ранее. Это позволило точнее определить уровень шума и тем самым порог обработки данных. В результате работы алгоритма шумоподавления были получены обработанные данные компьютерной томографии с пониженным уровнем шума. При визуальной оценке работы алгоритма были отмечены повышенная информативность обработанных данных по сравнению с оригиналом, четкость отображения гомогенных областей и значительное сокращение шума в областях обработки. При оценке численных результатов обработки было выявлено снижение уровня среднеквадратичного отклонения более чем в 6 раз в областях, подвергшихся шумоподавлению, а высокие показатели коэффициента детерминации показали, что данные не подверглись искажению и изменились только из-за удаления шумов. Применение разработанного универсального динамического порога, принцип работы которого основан на пороговых критериях, позволил снизить уровень шума во всем массиве данных более чем в 6 раз. Динамический порог хорошо вписывается как в разработанный алгоритм шумоподавления на основе анизотропной нелинейной фильтрации, так и другой алгоритм шумоподавления. Алгоритм успешно функционирует в составе рабочей станции MultiVox, получил высокую оценку своей работы от специалистов-рентгенологов, а также готовится к внедрению в единую радиологическую сеть города Москвы в качестве модуля.
Ключевые слова: компьютерная томография (КТ), низкодозовая компьютерная томография (НДКТ), доза облучения, шумоподавление, анизотропия, динамическая фильтрация.
Development of anisotropic nonlinear noise-reduction algorithm for computed tomography data with context dynamic threshold
Computer Research and Modeling, 2019, v. 11, no. 2, pp. 233-248Просмотров за год: 21.The article deals with the development of the noise-reduction algorithm based on anisotropic nonlinear data filtering of computed tomography (CT). Analysis of domestic and foreign literature has shown that the most effective algorithms for noise reduction of CT data use complex methods for analyzing and processing data, such as bilateral, adaptive, three-dimensional and other types of filtrations. However, a combination of such techniques is rarely used in practice due to long processing time per slice. In this regard, it was decided to develop an efficient and fast algorithm for noise-reduction based on simplified bilateral filtration method with three-dimensional data accumulation. The algorithm was developed on C ++11 programming language in Microsoft Visual Studio 2015. The main difference of the developed noise reduction algorithm is the use an improved mathematical model of CT noise, based on the distribution of Poisson and Gauss from the logarithmic value, developed earlier by our team. This allows a more accurate determination of the noise level and, thus, the threshold of data processing. As the result of the noise reduction algorithm, processed CT data with lower noise level were obtained. Visual evaluation of the data showed the increased information content of the processed data, compared to original data, the clarity of the mapping of homogeneous regions, and a significant reduction in noise in processing areas. Assessing the numerical results of the algorithm showed a decrease in the standard deviation (SD) level by more than 6 times in the processed areas, and high rates of the determination coefficient showed that the data were not distorted and changed only due to the removal of noise. Usage of newly developed context dynamic threshold made it possible to decrease SD level on every area of data. The main difference of the developed threshold is its simplicity and speed, achieved by preliminary estimation of the data array and derivation of the threshold values that are put in correspondence with each pixel of the CT. The principle of its work is based on threshold criteria, which fits well both into the developed noise reduction algorithm based on anisotropic nonlinear filtration, and another algorithm of noise-reduction. The algorithm successfully functions as part of the MultiVox workstation and is being prepared for implementation in a single radiological network of the city of Moscow.
Журнал индексируется в Scopus
Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU
Журнал входит в систему Российского индекса научного цитирования.
Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science
Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"