Все выпуски
- 2025 Том 17
- 2024 Том 16
- 2023 Том 15
- 2022 Том 14
- 2021 Том 13
- 2020 Том 12
- 2019 Том 11
- 2018 Том 10
- 2017 Том 9
- 2016 Том 8
- 2015 Том 7
- 2014 Том 6
- 2013 Том 5
- 2012 Том 4
- 2011 Том 3
- 2010 Том 2
- 2009 Том 1
-
Обесшумливание данных динамической флуоресцентной микроскопии при помощи двухэтапного HOSVD-разложения
Компьютерные исследования и моделирование, 2025, т. 17, № 4, с. 529-542Как правило, данные конфокальной и многофотонной лазерной сканирующей микроскопии страдают от низкого уровня полезного сигнала и высокого вклада дробового шума, связанного со стохастическим характером испускания фотонов флуорофором. Это осложняет задачу подавления шума и выделения полезного сигнала в таких данных. В настоящее время популярны нейросетевые алгоритмы улучшения изображений, однако они часто представляют собой «черный ящик» и требуют длительного обучения на конкретных наборах данных. В работе предлагается алгоритм подавления шума для данных динамической флуоресцентной микроскопии, опирающийся на наличие пространственно-временных локальных корреляций в полезном сигнале и на отсутствие пространственных корреляций в шумовой компоненте. Сингулярное разложение матриц (SVD), производящее спектральное разложение матрицы ковариации, — распространенный способ низкоранговой аппроксимации двумерных массивов, концентрирующий скоррелированный сигнал в нескольких первых компонентах разложения. Однако данные динамической микроскопии представляют собой трехмерные массивы или тензоры большей размерности, поэтому использование тензорных разложений потенциально может улучшить результат подавления шума по сравнению с обычным SVD. В основе алгоритма — двухэтапное применение усеченного сингулярного разложения высшего порядка (HOSVD) с введением порога для коэффициентов и последующим обратным преобразованием, сначала для локальных трехмерных окон в пространстве TXY (3D-HOSVD), а затем для пространственно объединенных групп трехмерных окон (4D-HOSVD). Для валидации алгоритма используются синтетические данные кальциевой сигнализации в астроцитах, в которых концентрация кальция транслируется в сигнал флуоресценции, значения которого в каждом кадре и каждом пикселе затем служат математическим ожиданием и дисперсией для сэмплирования случайной величины из непрерывного аналога пуассоновского распределения. Проведен анализ чувствительности алгоритма от параметров понижения ранга вдоль размерности временных компонент и группового ранга, длины локального окна и порога коэффициентов разложения. Несмотря на наличие мультипликативного шума, предлагаемый алгоритм демонстрирует значительное улучшение анализируемого сигнала, увеличивая соотношение «сигнал/шум» (PSNR) более чем на 20 дБ. Данный метод не опирается на предположения относительно разреженности или гладкости сигнала и может быть использован в качестве одного из этапов обработки данных динамической флуоресцентной микроскопии для самых различных типов данных.
Denoising fluorescent imaging data with two-step truncated HOSVD
Computer Research and Modeling, 2025, v. 17, no. 4, pp. 529-542Fluorescent imaging data are currently widely used in neuroscience and other fields. Genetically encoded sensors, based on fluorescent proteins, provide a wide inventory enabling scientiests to image virtually any process in a living cell and extracellular environment. However, especially due to the need for fast scanning, miniaturization, etc, the imaging data can be severly corrupred with multiplicative heteroscedactic noise, reflecting stochastic nature of photon emission and photomultiplier detectors. Deep learning architectures demonstrate outstanding performance in image segmentation and denoising, however they can require large clean datasets for training, and the actual data transformation is not evident from the network architecture and weight composition. On the other hand, some classical data transforms can provide for similar performance in combination with more clear insight in why and how it works. Here we propose an algorithm for denoising fluorescent dynamical imaging data, which is based on multilinear higher-order singular value decomposition (HOSVD) with optional truncation in rank along each axis and thresholding of the tensor of decomposition coefficients. In parallel, we propose a convenient paradigm for validation of the algorithm performance, based on simulated flurescent data, resulting from biophysical modeling of calcium dynamics in spatially resolved realistic 3D astrocyte templates. This paradigm is convenient in that it allows to vary noise level and its resemblance of the Gaussian noise and that it provides ground truth fluorescent signal that can be used to validate denoising algorithms. The proposed denoising method employs truncated HOSVD twice: first, narrow 3D patches, spanning the whole recording, are processed (local 3D-HOSVD stage), second, 4D groups of 3D patches are collaboratively processed (non-local, 4D-HOSVD stage). The effect of the first pass is twofold: first, a significant part of noise is removed at this stage, second, noise distribution is transformed to be more Gaussian-like due to linear combination of multiple samples in the singular vectors. The effect of the second stage is to further improve SNR. We perform parameter tuning of the second stage to find optimal parameter combination for denoising.
-
Математическая модель и компьютерный анализ критериев однородности зависимости «доза–эффект»
Компьютерные исследования и моделирование, 2012, т. 4, № 2, с. 267-273Данная работа посвящена сравнению двух критериев однородности: критерия χ2, основанного на таблицах сопряженности признаков 2 × 2, и критерия однородности, основанного на асимптотических распределениях суммируемых квадратичных уклонений оценок функции распределения в модели зависимости «доза–эффект». Оценка мощности критериев производится при помощи компьютерного моделирования. Для построения функций эффективности используется метод ядерной оценки регрессии, основанный на оценке Надарая–Ватсона.
Ключевые слова: модель зависимости «доза–эффект», непараметрический метод ядерной оценки регрессии, оценка Надарая–Ватсона, критерии однородности.
Mathematical model and computer analysis of tests for homogeneity of “dose–effect” dependence
Computer Research and Modeling, 2012, v. 4, no. 2, pp. 267-273Просмотров за год: 6.The given work is devoted to the comparison of two tests for homogeneity: chi-square test based on contingency tables of 2 × 2 and test for homogeneity based on asymptotic distributions of the summarized square error of a distribution function estimators in the model of ”dose–effect” dependence. The evaluation of test power is performed by means of computer simulation. In order to design efficiency functions the method of kernel regression estimator based on Nadaray–Watson estimator is used.
-
Подсистема «Разработчик» системы приема коммунальных платежей
Компьютерные исследования и моделирование, 2013, т. 5, № 1, с. 25-36В работе рассматривается одна из ключевых подсистем приема коммунальных платежей «Разработчик». Описана разработанная система массового обслуживания, которая моделирует данную подсистему. Поставлена и решена задача о распределении ресурсов (в решении использовался модифицированный «венгерский» алгоритм). Приведено описание имитационной (агентной) модели данной подсистемы и результаты имитационных экспериментов.
Ключевые слова: система массового обслуживания, задача о распределении, модификация «венгерского» алгоритма, имитационное моделирование, агентная модель, имитационный эксперимент.
Subsystem “Developer” as a part of the Retail Payment System
Computer Research and Modeling, 2013, v. 5, no. 1, pp. 25-36In this paper we consider one of the core subsystems of the retail payment system named “Developer”. The Queuing System for modeling this subsystem was developed and information about it is provided. The task for the assignment problem was set up and solved (the modification of the Hungarian algorithm was used). Information about Agent Based Model for subsystem “Developer” and the results of the simulation experiments are given.
-
Построение и исследование непрерывной клеточно-автоматной модели процессов теплопроводности с фазовыми переходами первого рода
Компьютерные исследования и моделирование, 2013, т. 5, № 2, с. 141-152В данной статье рассматриваются процессы теплопроводности, сопровождающиеся фазовыми переходами первого рода. При помощи клеточно-автоматного моделирования был исследован класс задач, имеющих широкое применение в практической деятельности. В работе приведены вычисления распределения температуры по глубине почвы в разные моменты времени для задачи промерзания влажного грунта. Другая задача — зонное выращивание — также смоделирована с помощью клеточных автоматов. Совпадение реальных и модельных параметров системы подтверждает целесообразность использования выбранного способа моделирования физических процессов.
Construction and investigation of continuous cellular automatа model of heat conductivity processes with first order phase transitions
Computer Research and Modeling, 2013, v. 5, no. 2, pp. 141-152Просмотров за год: 2. Цитирований: 2 (РИНЦ).The process of heat conduction, accompanied by the first order phase transitions is discussed in this article. Using cellular automates simulation was investigated class of problems that have broad application in practice. In this paper we calculate the temperature distribution in the depth of the soil at different times for a problem of freezing of moist soil. Another task — zone growing — has been modeled by cellular automates too. The coincidence of real and modeling parameters of the system confirms the feasibility of using the selected method of modeling of physical processes.
-
Верификация расчетных характеристик сверхзвуковых турбулентных струй
Компьютерные исследования и моделирование, 2017, т. 9, № 1, с. 21-35В статье приводятся результаты верификационных расчетов в программном комплексе вычислительной аэро-, гидродинамики FlowVision характеристик сверхзвуковых турбулентных струй. Численное моделирование в статье охватывает несколько известных экспериментов по исследованию сверхзвуковых струй, находящихся в свободном доступе. Представленные тестовые случаи включают в себя тесты Сейнера с числом Маха на срезе $M = 2$ при расчетном $(n = 1)$ и нерасчетном $(n = 1.47)$ истечении из сопла в широком диапазоне температур газа. В работе также проведен численный эксперимент по распространению сверхзвуковой струи в спутном сверхзвуковом потоке $M = 2.2$. Для данного теста заданы параметры, определенные в эксперименте Putnam: степень понижения давления в сопле $\mathrm{NPR} = 8.12$ и полная температура $T = 317 \, \mathrm{K}$.
Показано сравнение расчетов FlowVision с экспериментальными и полученными в других расчетных кодах данными. Наилучшее совпадение с экспериментом Сейнера среди рассмотренных моделей турбулентности получено при использовании стандартной $k–\varepsilon$ модели турбулентности с установленной поправкой на сжимаемость по модели Wilcox. Достигнуто согласование с экспериментальными данными на дальнем следе до 7 % по скорости потока на оси сопла. Для струи в спутном потоке расчетная характеристика (число Маха) отличается на 3 % от экспериментальной.
В работе определены общие рекомендации к построению методики моделирования FlowVision сверхзвуковых турбулентных струй. В ходе исследования сходимости по сетке получены оптимальные размеры ячеек расчетной сетки: для расчетного истечения достаточно 40 ячеек по радиусу сопла и в области формирования струи, а для нерасчетных режимов необходимо не менее 80 ячеек по радиусу для точного моделирования ударно-волновой структуры вблизи выхода из сопла.
Влияние применяемых моделей турбулентности показано на примере расчета теста Сейнера. SST-модель турбулентности, применяемая в FlowVision, существенно занижает скорость на оси сопла, для расчета струй данная модель не рекомендуется даже для предварительных оценок. Стандартная $k–\varepsilon$ модель без учета сжимаемости также несколько занижает скорость газа. Модель турбулентности KEFV, разработанная для FlowVision, показывает хорошее согласование и несколько завышает «дальнобойность» струи. И наилучшее совпадение с экспериментом по исследуемым характеристикам турбулентных струй получено при расчетах на стандартной $k–\varepsilon$ модели с учетом сжимаемости, соответствующей модели Wilcox. Представленная методика может быть взята за основу при моделировании истечения из сверхзвуковых сопел более сложной геометрии.
Verification of calculated characteristics of supersonic turbulent jets
Computer Research and Modeling, 2017, v. 9, no. 1, pp. 21-35Просмотров за год: 43.Verification results of supersonic turbulent jets computational characteristics are presented. Numerical simulation of axisymmetric nozzle operating is realized using FlowVision CFD. Open test cases for CFD are used. The test cases include Seiner tests with exit Mach number of 2.0 both fully-expanded and under-expanded $(P/P_0 = 1.47)$. Fully-expanded nozzle investigated with wide range of flow temperature (300…3000 K). The considered studies include simulation downstream from the nozzle exit diameter. Next numerical investigation is presented at an exit Mach number of 2.02 and a free-stream Mach number of 2.2. Geometric model of convergent- divergent nozzle rebuilt from original Putnam experiment. This study is set with nozzle pressure ratio of 8.12 and total temperature of 317 K.
The paper provides a comparison of obtained FlowVision results with experimental data and another current CFD studies. A comparison of the calculated characteristics and experimental data indicates a good agreement. The best coincidence with Seiner's experimental velocity distribution (about 7 % at far field for the first case) obtained using two-equation $k–\varepsilon$ standard turbulence model with Wilcox compressibility correction. Predicted Mach number distribution at $Y/D = 1$ for Putnam nozzle presents accuracy of 3 %.
General guidelines for simulation of supersonic turbulent jets in the FlowVision software are formulated in the given paper. Grid convergence determined the optimal cell rate. In order to calculate the design regime, it is recommended to build a grid, containing not less than 40 cells from the axis of symmetry to the nozzle wall. In order to calculate an off-design regime, it is necessary to resolve the shock waves. For this purpose, not less than 80 cells is required in the radial direction. Investigation of the influence of turbulence model on the flow characteristics has shown that the version of the SST $k–\omega$ turbulence model implemented in the FlowVision software essentially underpredicts the axial velocity. The standard $k–\varepsilon$ model without compressibility correction also underpredicts the axial velocity. These calculations agree well with calculations in other CFD codes using the standard $k–\varepsilon$ model. The in-home $k–\varepsilon$ turbulence model KEFV with compressibility correction a little bit overpredicts the axial velocity. Since, the best results are obtained using the standard $k–\varepsilon$ model combined with the Wilcox compressibility correction, this model is recommended for the problems discussed.
The developed methodology can be regarded as a basis for numerical investigations of more complex nozzle flows.
-
Сравнительный анализ методов конечных разностей и контрольного объема на примере решения нестационарной задачи естественной конвекции и теплового излучения в замкнутом кубе, заполненном диатермичной средой
Компьютерные исследования и моделирование, 2017, т. 9, № 4, с. 567-578Проведен сравнительный анализ двух численных методик моделирования нестационарных режимов термогравитационной конвекции и теплового поверхностного излучения в замкнутой дифференциально обогреваемой кубической полости. Рассматриваемая область решения имела две изотермические противоположные вертикальные грани, остальные стенки являлись адиабатическими. Поверхности стенок считались диффузно-серыми, т. е. их направленные спектральные степень черноты и поглощательная способность не зависят ни от угла, ни от длины волны, но могут зависеть от температуры поверхности. Относительно отраженного излучения использовались два предположения: 1) отраженное излучение является диффузным, т. е. интенсивность отраженного излучения в любой точке границы поверхности равномерно распределена по всем направлениям; 2) отраженное излучение равномерно распределено по каждой поверхности замкнутой области решения. Математическая модель, сформулированная как в естественных переменных «скорость–давление», так и в преобразованных переменных «векторный потенциал–вектор завихренности», реализована численно методом контрольного объема и методом конечных разностей соответственно. Следует отметить, что анализ радиационного теплообмена проведен с использованием метода сальдо в варианте Поляка.
При решении краевой задачи в естественных переменных методом контрольного объема для аппроксимации конвективных слагаемых применялся степенной закон, для диффузионных слагаемых — центральные разности. Разностные уравнения движения и энергии разрешались на основе итерационного метода переменных направлений. Для поиска поля давления, согласованного с полем скорости, применялась процедура SIMPLE.
В случае метода конечных разностей и преобразованных переменных для аппроксимации конвективных слагаемых применялась монотонная схема Самарского, для диффузионных слагаемых — центральные разности. Уравнения параболического типа разрешались на основе локально-одномерной схемы Самарского. Дискретизация уравнений эллиптического типа для компонент векторного потенциала проводилась с использованием формул симметричной аппроксимации вторых производных. При этом полученное разностное уравнение разрешалось методом последовательной верхней релаксации. Оптимальное значение параметра релаксации подбиралось на основе вычислительных экспериментов.
В результате показано полное согласование полученных распределений скорости и температуры при различных значениях числа Рэлея, что отражает работоспособность представленных методик. Продемонстрирована эффективность использования преобразованных переменных и метода конечных разностей при решении класса нестационарных задач.
Ключевые слова: естественная конвекция, тепловое поверхностное излучение, диатермичная среда, естественные переменные, метод контрольного объема, преобразованные переменные, метод конечных разностей.
Comparative analysis of finite difference method and finite volume method for unsteady natural convection and thermal radiation in a cubical cavity filled with a diathermic medium
Computer Research and Modeling, 2017, v. 9, no. 4, pp. 567-578Просмотров за год: 13. Цитирований: 1 (РИНЦ).Comparative analysis of two numerical methods for simulation of unsteady natural convection and thermal surface radiation within a differentially heated cubical cavity has been carried out. The considered domain of interest had two isothermal opposite vertical faces, while other walls are adiabatic. The walls surfaces were diffuse and gray, namely, their directional spectral emissivity and absorptance do not depend on direction or wavelength but can depend on surface temperature. For the reflected radiation we had two approaches such as: 1) the reflected radiation is diffuse, namely, an intensity of the reflected radiation in any point of the surface is uniform for all directions; 2) the reflected radiation is uniform for each surface of the considered enclosure. Mathematical models formulated both in primitive variables “velocity–pressure” and in transformed variables “vector potential functions – vorticity vector” have been performed numerically using finite volume method and finite difference methods, respectively. It should be noted that radiative heat transfer has been analyzed using the net-radiation method in Poljak approach.
Using primitive variables and finite volume method for the considered boundary-value problem we applied power-law for an approximation of convective terms and central differences for an approximation of diffusive terms. The difference motion and energy equations have been solved using iterative method of alternating directions. Definition of the pressure field associated with velocity field has been performed using SIMPLE procedure.
Using transformed variables and finite difference method for the considered boundary-value problem we applied monotonic Samarsky scheme for convective terms and central differences for diffusive terms. Parabolic equations have been solved using locally one-dimensional Samarsky scheme. Discretization of elliptic equations for vector potential functions has been conducted using symmetric approximation of the second-order derivatives. Obtained difference equation has been solved by successive over-relaxation method. Optimal value of the relaxation parameter has been found on the basis of computational experiments.
As a result we have found the similar distributions of velocity and temperature in the case of these two approaches for different values of Rayleigh number, that illustrates an operability of the used techniques. The efficiency of transformed variables with finite difference method for unsteady problems has been shown.
-
Моделирование полета и разрушения болида Бенешов
Компьютерные исследования и моделирование, 2018, т. 10, № 5, с. 605-618Астероидно-кометная опасность в течение последних десятилетий признана научными и правительственными кругами всех стран мира одной из самых существенных угроз развития и даже существования нашей цивилизации. Одним из аспектов деятельности по предотвращению этой опасности является изучение вторжения достаточно крупных метеорных тел в атмосферу и их движения в ней, сопровождаемых большим числом физическо-химических явлений. Особый интерес вызывает падение метеорных тел, для которых прослежены их траекторные и прочие характеристики, и найдены сами выпавшие метеориты или их фрагменты. В настоящей работе изучено падение именно такого тела. На основе комплексной физико-математической модели, определяющей движение и разрушение космических тел естественного происхождения в атмосфере Земли, рассмотрены движение и фрагментация очень яркого болида Бенешов (Benešov, EN070591), который был зарегистрирован в Чехии Европейской наблюдательной системой в 1991 г. Для этого болида были получены уникальные наблюдательные данные, включая спектры излучения. В настоящей работе проведено моделирование аэробаллистики метеороида Бенешов и его фрагментов с учетом их сложного характера разрушения под воздействием тепловых и силовых факторов. Скорость метеорного тела, унос массы под действием тепловых потоков определяются из решения системы уравнений классической физической теории метеоров. При этом учитывается переменность параметра уноса массы по траектории. Процесс фрагментации метеороида рассматривается в рамках модели последовательного дробления на основе статистической теории прочности, с учетом влияния масштабного фактора на предел прочности объекта. Проведены расчеты совместного обтекания системы тел (осколков метеорита) при проявлении эффекта интерференции. Для расчета обтекания конгломерата осколков метеороида разработан метод моделирования на системе сеток, который позволяет рассматривать фрагменты различных форм, размеров и масс, а также допускает достаточно произвольное их относительное положение в потоке. Из-за неточностей в расчете траектории ученые 23 года не могли найти осколки этого болида. Благодаря современным методикам и более точным расчетам ученые выявили место падения, которое оказалось существенно удаленным от ожидаемого. После этого были обнаружены четыре небольших обломка метеорита. Проведенные расчеты движения и разрушения болида Бенешов показывают, что на процессы его взаимодействия с атмосферой влияет множество факторов: массовые и прочностные характеристики болида, параметры движения, механизмы разрушения, процессы взаимодействия фрагментов, включая эффекты интерференции, и др.
Ключевые слова: болид, моделирование, движение, фрагментация, тепловой поток, прочность, процессы взаимодействия.
Simulation of flight and destruction of the Benešov bolid
Computer Research and Modeling, 2018, v. 10, no. 5, pp. 605-618Просмотров за год: 24. Цитирований: 1 (РИНЦ).Comets and asteroids are recognized by the scientists and the governments of all countries in the world to be one of the most significant threats to the development and even the existence of our civilization. Preventing this threat includes studying the motion of large meteors through the atmosphere that is accompanied by various physical and chemical phenomena. Of particular interest to such studies are the meteors whose trajectories have been recorded and whose fragments have been found on Earth. Here, we study one of such cases. We develop a model for the motion and destruction of natural bodies in the Earth’s atmosphere, focusing on the Benešov bolid (EN070591), a bright meteor registered in 1991 in the Czech Republic by the European Observation System. Unique data, that includes the radiation spectra, is available for this bolid. We simulate the aeroballistics of the Benešov meteoroid and of its fragments, taking into account destruction due to thermal and mechanical processes. We compute the velocity of the meteoroid and its mass ablation using the equations of the classical theory of meteor motion, taking into account the variability of the mass ablation along the trajectory. The fragmentation of the meteoroid is considered using the model of sequential splitting and the statistical stress theory, that takes into account the dependency of the mechanical strength on the length scale. We compute air flows around a system of bodies (shards of the meteoroid) in the regime where mutual interplay between them is essential. To that end, we develop a method of simulating air flows based on a set of grids that allows us to consider fragments of various shapes, sizes, and masses, as well as arbitrary positions of the fragments relative to each other. Due to inaccuracies in the early simulations of the motion of this bolid, its fragments could not be located for about 23 years. Later and more accurate simulations have allowed researchers to locate four of its fragments rather far from the location expected earlier. Our simulations of the motion and destruction of the Benešov bolid show that its interaction with the atmosphere is affected by multiple factors, such as the mass and the mechanical strength of the bolid, the parameters of its motion, the mechanisms of destruction, and the interplay between its fragments.
-
Анализ численного метода решения задачи о распространении пламени по вертикальной поверхности горючего материала
Компьютерные исследования и моделирование, 2018, т. 10, № 6, с. 755-774Снижение пожарной опасности при использовании полимерных материалов является одной из актуальных научно-технических задач. В связи со сложностью проведения экспериментальных исследований в данной области важным направлением современной фундаментальной науки является развитие теоретических основ описания реагирующих течений. Для решения вопросов, связанных с распространением пламени по поверхности горючего материала, необходимо совершенствовать методы математического моделирования, что обусловлено большим количеством протекающих физико-химических процессов, требующих моделирования каждого из них в отдельности, и сложным характером взаимодействия между этими процессами как в газовой среде, так и в твердом теле.
Распространение пламени вверх по вертикальной поверхности твердого горючего материала сопровождается нестационарными вихревыми структурами течения газа вблизи области горения, образование которых происходит в результате тепловой нестабильности и за счет действия сил естественной конвекции, ускоряющей горячие продукты сгорания. За счет вихревых структур от горячего газофазного пламени в твердый материал в каждый момент времени поступает разное количество тепловой энергии. Поэтому адекватный расчет теплового потока и, соответственно, вихревого течения имеет важное значение для оценки скорости распространения пламени.
Данная работа появящена оценкам параметров численного метода решения задачи распространения пламени по поверхности горючего материала, учитывающего сопряженный характер взаимодействия газовой среды и твердого тела и вихревое течение, вызванное естественной конвекцией. В работе рассмотрены особенности использования различных аппроксимационных схем, используемых при интегрировании исходных дифференциальных уравнений по пространству и во времени, релаксации полей при итерировании внутри шага по времени, различных шагов интегрирования по времени.
Сформулированная в работе математическая модель позволяет описывать процесс распространения пламени по поверхности горючего материала. Газодинамика моделируется системой уравнений Навье – Стокса, вихревое течение описывается комбинированной моделью турбулентности RANS–LES (DDES), турбулентное горение — комбинированной моделью горения Eddy Break-Up с учетом кинетических эффектов, теплопередача излучением — методом сферических гармоник первого порядка аппроксимации (P1). Решение уравнений производится в программном пакете OpenFOAM.
Ключевые слова: метод решения, численные схемы, итерационная процедура, распространение пламени, твердый горючий материал, пиролиз, турбулентное диффузионное горение, тепломассообмен.
Analysis of a numerical method for studying upward flame spread over solid material
Computer Research and Modeling, 2018, v. 10, no. 6, pp. 755-774Просмотров за год: 33.Reduction of the fire hazard of polymeric materials is one of the important scientific and technical problems. Since complexity of experimental procedures associated with flame spread, establishing reacting flows theoretical basics turned out to be crucial field of modern fundamental science. In order to determine parameters of flame spread over solid combustible materials numerical modelling methods have to be improved. Large amount of physical and chemical processes taking place needed to be resolved not just separately one by one but in connection with each other in gas and solid phases.
Upward flame spread over vertical solid combustible material is followed by unsteady eddy structures of gas flow in the vicinity of flame zone caused by thermal instability and natural convection forces accelerating hot combustion products. At every moment different amount of heat energy is transferred from hot gas-phase flame to solid material because of eddy flow structures. Therefore, satisfactory heat flux and eddy flow modelling are important to estimate flame spread rate.
In the current study we evaluated parameters of numerical method for flame spread over solid combustible material problem taking into account coupled nature of complex interaction between gas phase, solid material and eddy flow resulted from natural convection. We studied aspects of different approximation schemes used in differential equations integration process over space and time, of fields relaxation during iterations procedure carried out inside time step, of different time step values.
Mathematical model formulated allows to simulate flame spread over solid combustible material. Fluid dynamics is modeled by Navier – Stokes system of equations, eddy flow is described by combined turbulent model RANS–LES (DDES), turbulent combustion is resolved by modified turbulent combustion model Eddy Break-Up taking into account kinetic effects, radiation transfer is modeled by spherical harmonics method of first order approximation (P1). The equations presented are solved in OpenFOAM software.
-
Проблемно-моделирующая среда численного решения уравнения Больцмана на кластерной архитектуре для анализа газокинетических процессов в межэлектродном зазоре термоэмиссионных преобразователей
Компьютерные исследования и моделирование, 2019, т. 11, № 2, с. 219-232Данная работа посвящена применению метода численного решения уравнения Больцмана для решения задачи моделирования поведения радионуклидов в полости межэлектродного зазора многоэлементного электрогенерирующего канала. Анализ газокинетических процессов термоэмиссионных преобразователей может быть использован для ресурсного обоснования конструкции электрогенерирующего канала. В работе рассматриваются две конструктивные схемы канала: с одно- и двусторонним выводом газообразных продуктов деления в вакуумно-цезиевую систему. Анализ проводился с использованием двумерного уравнения переноса второго порядка точности для решения левой части и проекционного метода для решения правой части — интеграла столкновений. В ходе работы был реализован программный комплекс, позволяющий производить расчет на кластерной архитектуре за счет использования алгоритма распараллеливания левой части уравнения, результаты анализа зависимости эффективности вычисления от числа параллельных узлов представлены в работе. С использованием программного комплекса были проведены расчеты и получены данные по распределениям давлений газообразных продуктов деления в полости зазора, рассмотрены различные варианты начальных давлений и потоков, обнаружена зависимость давления радионуклидов в области коллектора от давлений цезия на концах зазора. Полученные результаты качественно подтверждаются испытаниями в петлевом канале ядерного реактора.
Ключевые слова: разреженный газ, смесь газов, уравнение Больцмана, консервативный проекционный метод, численное моделирование.
A problem-modeling environment for the numerical solution of the Boltzmann equation on a cluster architecture for analyzing gas-kinetic processes in the interelectrode gap of thermal emission converters
Computer Research and Modeling, 2019, v. 11, no. 2, pp. 219-232Просмотров за год: 24.This paper is devoted to the application of the method of numerical solution of the Boltzmann equation for the solution of the problem of modeling the behavior of radionuclides in the cavity of the interelectric gap of a multielement electrogenerating channel. The analysis of gas-kinetic processes of thermionic converters is important for proving the design of the power-generating channel. The paper reviews two constructive schemes of the channel: with one- and two-way withdrawal of gaseous fission products into a vacuum-cesium system. The analysis uses a two-dimensional transport equation of the second-order accuracy for the solution of the left-hand side and the projection method for solving the right-hand side — the collision integral. In the course of the work, a software package was implemented that makes it possible to calculate on the cluster architecture by using the algorithm of parallelizing the left-hand side of the equation; the paper contains the results of the analysis of the dependence of the calculation efficiency on the number of parallel nodes. The paper contains calculations of data on the distribution of pressures of gaseous fission products in the gap cavity, calculations use various sets of initial pressures and flows; the dependency of the radionuclide pressure in the collector region was determined as a function of cesium pressures at the ends of the gap. The tests in the loop channel of a nuclear reactor confirm the obtained results.
-
Целенаправленная трансформация математических моделей на основе стратегической рефлексии
Компьютерные исследования и моделирование, 2019, т. 11, № 5, с. 815-831Исследование сложных процессов в различных сферах человеческой деятельности традиционно основывается на использовании математических моделей. В современных условиях разработка и применение подобных моделей существенно упрощаются наличием быстродействующих средств вычислительной техники и специализированных инструментальных средств, позволяющих, по существу, конструировать модели из заранее подготовленных модулей. Несмотря на это, известные проблемы, связанные с обеспечением адекватности модели, достоверности исходных данных, реализацией на практике результатов моделирования, чрезмерно большой размерностью исходных данных, совместным применением достаточно разнородных математических моделей в условиях усложнения и интеграции моделируемых процессов, приобретают растущую актуальность. Еще более критичными могут являться внешние ограничения, накладываемые на значение оптимизируемого функционала и нередко не достижимые в рамках построенной модели. Логично предположить, что для выполнения этих ограничений необходима целенаправленная трансформация исходной модели, то есть переход к математической модели с заведомо «улучшенным» решением. Новая модель, очевидно, будет иметь иную внутреннюю структуру (совокупность параметров и их взаимосвязи), а также иные форматы (области определения) исходных данных. Исследованные авторами возможности целенаправленного изменения первоначальной модели основаны на реализации идеи стратегической рефлексии.
В математическом плане практическая реализация авторского замысла оказывается наиболее сложной при использовании имитационных моделей, для которых алгоритмы поиска оптимальных решений имеют известные ограничения, а исследование на чувствительность в большинстве случаев весьма затруднительно. На примере рассмотрения достаточно стандартной дискретно-событийной имитационной модели в статье приводятся типовые методические приемы, позволяющие осуществить ранжирование вариабельных параметров по чувствительности и в дальнейшем расширить область определения вариабельного параметра, к которому имитационная модель наиболее чувствительна. При переходе к «улучшенной» модели возможно также одновременное исключение из нее параметров, влияние которых на оптимизируемый функционал несущественно, и, наоборот, введение в модель новых параметров, соответствующих реальным процессам.
Ключевые слова: вариабельные параметры, математическая модель, оптимизируемый функционал, стратегическая рефлексия, чувствительность модели.
The purposeful transformation of mathematical models based on strategic reflection
Computer Research and Modeling, 2019, v. 11, no. 5, pp. 815-831The study of complex processes in various spheres of human activity is traditionally based on the use of mathematical models. In modern conditions, the development and application of such models is greatly simplified by the presence of high-speed computer equipment and specialized tools that allow, in fact, designing models from pre-prepared modules. Despite this, the known problems associated with ensuring the adequacy of the model, the reliability of the original data, the implementation in practice of the simulation results, the excessively large dimension of the original data, the joint application of sufficiency heterogeneous mathematical models in terms of complexity and integration of the simulated processes are becoming increasingly important. The more critical may be the external constraints imposed on the value of the optimized functional, and often unattainable within the framework of the constructed model. It is logical to assume that in order to fulfill these restrictions, a purposeful transformation of the original model is necessary, that is, the transition to a mathematical model with a deliberately improved solution. The new model will obviously have a different internal structure (a set of parameters and their interrelations), as well as other formats (areas of definition) of the source data. The possibilities of purposeful change of the initial model investigated by the authors are based on the realization of the idea of strategic reflection. The most difficult in mathematical terms practical implementation of the author's idea is the use of simulation models, for which the algorithms for finding optimal solutions have known limitations, and the study of sensitivity in most cases is very difficult. On the example of consideration of rather standard discrete- event simulation model the article presents typical methodological techniques that allow ranking variable parameters by sensitivity and, in the future, to expand the scope of definition of variable parameter to which the simulation model is most sensitive. In the transition to the “improved” model, it is also possible to simultaneously exclude parameters from it, the influence of which on the optimized functional is insignificant, and vice versa — the introduction of new parameters corresponding to real processes into the model.
Журнал индексируется в Scopus
Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU
Журнал входит в систему Российского индекса научного цитирования.
Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science
Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"