Все выпуски
- 2025 Том 17
- 2024 Том 16
- 2023 Том 15
- 2022 Том 14
- 2021 Том 13
- 2020 Том 12
- 2019 Том 11
- 2018 Том 10
- 2017 Том 9
- 2016 Том 8
- 2015 Том 7
- 2014 Том 6
- 2013 Том 5
- 2012 Том 4
- 2011 Том 3
- 2010 Том 2
- 2009 Том 1
-
Вычислительный алгоритм решения нелинейной краевой задачи водородопроницаемости с динамическими граничными условиями и концентрационно-зависимым коэффициентом диффузии
Компьютерные исследования и моделирование, 2024, т. 16, № 5, с. 1179-1193Рассматривается нелинейная краевая задача водородопроницаемости, соответствующая следующему эксперименту. Нагретая до достаточно высокой температуры мембрана из исследуемого конструкционного материала служит перегородкой вакуумной камеры. После предварительного вакуумирования и практически полной дегазации на входной стороне создается постоянное давление газообразного (молекулярного) водорода. С выходной стороны в условиях вакуумирования с помощью масс-спектрометра определяется проникающий поток.
Принята линейная модель зависимости коэффициента диффузии растворенного атомарного водорода в объеме от концентрации, температурная зависимость в соответствии с законом Аррениуса. Поверхностные процессы растворения и сорбции-десорбции учтены в форме нелинейных динамических краевых условий (дифференциальные уравнения динамики поверхностных концентраций атомарного водорода). Математическая особенность краевой задачи состоит в том, что производные по времени от концентраций входят как в уравнение диффузии, так и в граничные условия с квадратичной нелинейностью. В терминах общей теории функционально-дифференциальных уравнений это приводит к так называемым уравнениям нейтрального типа и требует разработки более сложного математического аппарата. Представлен итерационный вычислительный алгоритм второго (повышенного) порядка точности решения соответствующей нелинейной краевой задачи на основе явно-неявных разностных схем. Явная составляющая применяется к более медленным подпроцессам, что позволяет на каждом шаге избегать решения нелинейной системы уравнений.
Приведены результаты численного моделирования, подтверждающие адекватность модели экспериментальным данным. Определены степени влияния вариаций параметров водородопроницаемости («производные») на проникающий поток и распределение концентрации атомов H по толщине образца, что важно, в частности, для задач проектирования защитных конструкций от водородного охрупчивания и мембранных технологий получения особо чистого водорода. Вычислительный алгоритм позволяет использовать модель и при анализе экстремальных режимов для конструкционных материалов (перепады давления, высокие температуры, нестационарный нагрев), выявлять лимитирующие факторы при конкретных условиях эксплуатации и экономить на дорогостоящих экспериментах (особенно это касается дейтерий-тритиевых исследований).
Ключевые слова: водородопроницаемость, поверхностные процессы, численное моделирование, нелинейные краевые задачи, разностные схемы.
Computational algorithm for solving the nonlinear boundary-value problem of hydrogen permeability with dynamic boundary conditions and concentration-dependent diffusion coefficient
Computer Research and Modeling, 2024, v. 16, no. 5, pp. 1179-1193The article deals with the nonlinear boundary-value problem of hydrogen permeability corresponding to the following experiment. A membrane made of the target structural material heated to a sufficiently high temperature serves as the partition in the vacuum chamber. Degassing is performed in advance. A constant pressure of gaseous (molecular) hydrogen is built up at the inlet side. The penetrating flux is determined by mass-spectrometry in the vacuum maintained at the outlet side.
A linear model of dependence on concentration is adopted for the coefficient of dissolved atomic hydrogen diffusion in the bulk. The temperature dependence conforms to the Arrhenius law. The surface processes of dissolution and sorptiondesorption are taken into account in the form of nonlinear dynamic boundary conditions (differential equations for the dynamics of surface concentrations of atomic hydrogen). The characteristic mathematical feature of the boundary-value problem is that concentration time derivatives are included both in the diffusion equation and in the boundary conditions with quadratic nonlinearity. In terms of the general theory of functional differential equations, this leads to the so-called neutral type equations and requires a more complex mathematical apparatus. An iterative computational algorithm of second-(higher- )order accuracy is suggested for solving the corresponding nonlinear boundary-value problem based on explicit-implicit difference schemes. To avoid solving the nonlinear system of equations at every time step, we apply the explicit component of difference scheme to slower sub-processes.
The results of numerical modeling are presented to confirm the fitness of the model to experimental data. The degrees of impact of variations in hydrogen permeability parameters (“derivatives”) on the penetrating flux and the concentration distribution of H atoms through the sample thickness are determined. This knowledge is important, in particular, when designing protective structures against hydrogen embrittlement or membrane technologies for producing high-purity hydrogen. The computational algorithm enables using the model in the analysis of extreme regimes for structural materials (pressure drops, high temperatures, unsteady heating), identifying the limiting factors under specific operating conditions, and saving on costly experiments (especially in deuterium-tritium investigations).
-
Моделирование спирализации пептидов, содержащих в своем составе аспарагиновую или глутаминовую кислоту
Компьютерные исследования и моделирование, 2010, т. 2, № 1, с. 83-90В данной работе при помощи методов молекулярной динамики и квантовой химии изучается механизм инициирования альфа-спирализации пептидных последовательностей. Показано, что ключевой вклад в запуск этого процесса вносят кислые аминокислотные остатки, расположенные на N-конце пептидной цепи. Полученные результаты не противоречат известным экспериментальным и статистическим данным и существенно дополняют имеющиеся в настоящее время представления о процессах, происходящих на ранних стадиях сворачивания пептидов и белков.
Ключевые слова: альфа-спираль, пептиды, аминокислотные остатки, молекулярная динамика, квантовая химия, водородная связь.
Modeling of helix formation in peptides containing aspartic and glutamic residues
Computer Research and Modeling, 2010, v. 2, no. 1, pp. 83-90Просмотров за год: 2. Цитирований: 4 (РИНЦ).In present work we used the methods of molecular dynamics simulations and quantum chemistry to study the concept, according to which aspartic and glutamic residues play a key role in initiation of helix formation in oligopeptides. It has been shown, that the first turn of the alpha-helix can be organized from various amino acid sequences with Asp and Glu residues on the N-terminus. Thermodynamic properties of such a process were analyzed. The obtained results do not interfere with known experimental and statistical data and they substantially elaborate present views on the processes of early peptide folding stages.
-
Математическая модель гидридного фазового перехода в частице порошка симметричной формы
Компьютерные исследования и моделирование, 2012, т. 4, № 3, с. 569-584В статье предложена математическая модель фазового перехода на примере гидрирования/дегидрирования порошка металла. Рассматривается одна частица, форма которой обладает некоторой симметрией. Шар, цилиндр и плоская пластина являются частными случаями симметричных форм. Модель описывает как сценарий «сжимающегося ядра» (формирование слоя новой фазы на поверхности частицы с его последующим утолщением), так и сценарий «образования и роста зародышей», при которых сплошной слой не формируется до полного исчезновения старой фазы. Модель представляет собой неклассическую диффузионную краевую задачу со свободной границей и нелинейными граничными условими III рода. Предположения симметрии позволяют свести задачу к одной пространственной переменной. Модель апробирована на серии экспериментальных данных. Показано, что влияние формы частиц на кинетику несущественно. Также показано, что ансамбль частиц различных форм с распределением по размерам может быть аппроксимирован одной частицей «среднего» размера простой формы, что оправдывает использование в моделях упрощающих предположений.
Ключевые слова: гидрирование, дегидрирование, фазовый переход, математическое моделирование, симметрия формы.
Mathematical model of hydride phase change in a symmetrical powder particle
Computer Research and Modeling, 2012, v. 4, no. 3, pp. 569-584Просмотров за год: 2. Цитирований: 2 (РИНЦ).In the paper we construct the model of phase change. Process of hydriding / dehydriding is taken as an example. A single powder particle is considered under the assumption about its symmetry. A ball, a cylinder, and a flat plate are examples of such symmetrical shapes. The model desribes both the "shrinking core"(when the skin of the new phase appears on the surface of the particle) and the "nucleation and growth"(when the skin does not appear till complete vanishing of the old phase) scenarios. The model is the non-classical boundary-value problem with the free boundary and nonlinear Neumann boundary condition. The symmetry assumptions allow to reduce the problem to the single spatial variable. The model was tested on the series of experimental data. We show that the particle shape’s influence on the kinetics is insignificant. We also show that a set of particles of different shapes with size distribution can be approxomated by the single particle of the "average" size and of a simple shape; this justifies using single particle approximation and simple shapes in mathematical models.
-
Об исследовании плазменной турбулентности на основе анализа спектров
Компьютерные исследования и моделирование, 2012, т. 4, № 4, с. 793-802В статье рассмотрены примеры анализа спектров экспериментальных данных для выявления характерных структур процессов, формирующих турбулентность в плазме. Основу метода составляет использование оригинального алгоритма, идеологически близкого к бутстреппроцедуре для одновыборочной задачи. В качестве базовой модели для описания тонкой структуры стохастических процессов предлагаются конечные сдвиг-масштабные смеси нормальных законов. Для отыскания статистических оценок (максимального правдоподобия) предполагается использование широко известного EM-алгоритма. Для нескольких серий спектров, полученных для разных режимов низкочастотной плазменной турбулентности, демонстрируется эффективность использования предложенного метода исследования.
On the investigation of plasma turbulence by the analysis of the spectra
Computer Research and Modeling, 2012, v. 4, no. 4, pp. 793-802Просмотров за год: 2. Цитирований: 4 (РИНЦ).The article describes the examples of the analysis of the experimental data spectra for identifying typical structures of processes forming plasma turbulence. The method is based on the original algorithm which is close to the one-sample bootstrap. The base model for description of the fine structure of stochastic processes is finite local-scale normal mixtures. For finding the statistical estimates (maximum likelihood estimates) well known EM algorithm is used. The efficiency of the proposed research technique is demonstrated for a number of spectra’s set obtained in different modes of low-frequency plasma turbulence.
-
Модель деформации полимерных нанокомпозитов на основе клеточных автоматов
Компьютерные исследования и моделирование, 2014, т. 6, № 1, с. 131-136Данная статья посвящена моделированию процесса деформации полимерных нанокомпозитов, содержащих «жесткие» и «мягкие» включения, с использованием клеточных автоматов и параллельных вычислений. В статье описан алгоритм расчета по модели, приведены сравнения с экспериментальными данными и описан программный комплекс для проведения численного эксперимента.
Deformation model of polymer nanocomposites based on cellular automata
Computer Research and Modeling, 2014, v. 6, no. 1, pp. 131-136Просмотров за год: 3. Цитирований: 2 (РИНЦ).This paper discusses the modeling of the deformation of polymer nanocomposites containing "hard" and "soft" inclusions, using cellular automata and parallel computing. The paper describes an algorithm based on the model, a comparison with experimental data is shown, software for the numerical experiment is described.
-
Расчетные исследования процесса перемешивания неизотермических потоков натриевого теплоносителя в тройнике
Компьютерные исследования и моделирование, 2017, т. 9, № 1, с. 95-110В программном комплексе FlowVision проведено численное моделирование процесса перемешивания неизотермических потоков натриевого теплоносителя в тройнике для обоснования применимости различных подходов — URANS (Unsteady Reynolds Averaged Navier Stokers), LES (Large Eddy Simulation) и квази-DNS (Direct Numerical Simulation) — для предсказания осциллирующего характера течения в зоне смешения и получения температурных пульсаций. Одна из основных задач данной работы — выявление преимуществ и недостатков использования этих подходов.
Численное исследование пульсаций температуры, возникающих в жидкости и в стенках тройника в процессе перемешивания неизотермических потоков натриевого теплоносителя, проведено в рамках математической модели, предполагающей, что рассматриваемое течение турбулентное, плотность жидкости не зависит от давления и что между теплоносителем и стенками тройника происходит теплообмен. При моделировании турбулентного теплопереноса в рамках подхода URANS применялась модель турбулентного теплопереноса LMS.
Исследование было проведено в два этапа. На предварительном этапе были определены влияние расчетной сетки на формирование осциллирующего течения и характер температурных пульсаций в рамках указанных выше подходов к моделированию турбулентности. В результате этого исследования были выработаны критерии построения расчетных сеток для каждого из подходов и произведена оценка потребных вычислительных ресурсов.
Затем были проведены расчеты для трех режимов течения, отличающихся соотношением расходов и температур натрия во входных сечениях тройника. Для каждого режима выполнены расчеты с применением подходов URANS, LES и квази-DNS.
На заключительном этапе работы был проведен сравнительный анализ численных и экспериментальных данных. Определены и сформулированы преимущества и недостатки использования каждого из указанных подходов к моделированию процесса перемешивания неизотермических потоков натриевого теплоносителя в тройнике.
Ключевые слова: подходы URANS, LES, DNS к моделированию турбулентности, натриевый теплоноситель, неизотермические потоки, пульсации температуры.
Numerical investigations of mixing non-isothermal streams of sodium coolant in T-branch
Computer Research and Modeling, 2017, v. 9, no. 1, pp. 95-110Просмотров за год: 3.Numerical investigation of mixing non-isothermal streams of sodium coolant in a T-branch is carried out in the FlowVision CFD software. This study is aimed at argumentation of applicability of different approaches to prediction of oscillating behavior of the flow in the mixing zone and simulation of temperature pulsations. The following approaches are considered: URANS (Unsteady Reynolds Averaged Navier Stokers), LES (Large Eddy Simulation) and quasi-DNS (Direct Numerical Simulation). One of the main tasks of the work is detection of the advantages and drawbacks of the aforementioned approaches.
Numerical investigation of temperature pulsations, arising in the liquid and T-branch walls from the mixing of non-isothermal streams of sodium coolant was carried out within a mathematical model assuming that the flow is turbulent, the fluid density does not depend on pressure, and that heat exchange proceeds between the coolant and T-branch walls. Model LMS designed for modeling turbulent heat transfer was used in the calculations within URANS approach. The model allows calculation of the Prandtl number distribution over the computational domain.
Preliminary study was dedicated to estimation of the influence of computational grid on the development of oscillating flow and character of temperature pulsation within the aforementioned approaches. The study resulted in formulation of criteria for grid generation for each approach.
Then, calculations of three flow regimes have been carried out. The regimes differ by the ratios of the sodium mass flow rates and temperatures at the T-branch inlets. Each regime was calculated with use of the URANS, LES and quasi-DNS approaches.
At the final stage of the work analytical comparison of numerical and experimental data was performed. Advantages and drawbacks of each approach to simulation of mixing non-isothermal streams of sodium coolant in the T-branch are revealed and formulated.
It is shown that the URANS approach predicts the mean temperature distribution with a reasonable accuracy. It requires essentially less computational and time resources compared to the LES and DNS approaches. The drawback of this approach is that it does not reproduce pulsations of velocity, pressure and temperature.
The LES and DNS approaches also predict the mean temperature with a reasonable accuracy. They provide oscillating solutions. The obtained amplitudes of the temperature pulsations exceed the experimental ones. The spectral power densities in the check points inside the sodium flow agree well with the experimental data. However, the expenses of the computational and time resources essentially exceed those for the URANS approach in the performed numerical experiments: 350 times for LES and 1500 times for ·DNS.
-
Анализ респираторных реакций человека в условиях измененной газовой среды на математической модели
Компьютерные исследования и моделирование, 2017, т. 9, № 2, с. 281-296Цель работы — обоснование и разработка методики прогноза динамики респираторных реакций человека на основе математического моделирования. Для достижения этой цели были поставлены и решены следующие задачи: разработаны и обоснованы общая структура и формализованное описание модели респираторной системы; построен и программно реализован алгоритм модели газообмена организма; проведены вычислительный эксперимент и проверка модели на адекватность на основе литературных данных и собственных экспериментальных исследований.
В данном варианте в комплексную модель вошел новый модифицированный вариант частной модели физико-химических свойств крови и кислотно-щелочного баланса. При разработке модели в основу формализованного описания была положена концепция разделения физиологической системы регуляции на активные и пассивные подсистемы регуляции. Разработка модели проводилась поэтапно. Комплексная модель газообмена состояла из следующих частных моделей: базовой биофизической модели системы газообмена; модели физико-химических свойств крови и кислотно-щелочного баланса; модели пассивных механизмов газообмена, разработанной на основе уравнений материального баланса Гродинза Ф.; модели химической регуляции, разработанной на основе многофакторной модели Грея Д.
При программной реализации модели расчеты выполнялись в среде программирования MatLab. Для решения уравнений использовался метод Рунге–Кутты–Фехлберга. При этом предполагается, что модель будет представлена в виде компьютерной исследовательской программы, позволяющей реализовать различные гипотезы о механизме наблюдаемых процессов. Рассчитаны предполагаемые величины основных показателей газообмена в условиях гиперкапнии и гипоксии. Результаты расчетов, как по характеру, так и количественно, достаточно хорошо согласуются с данными, полученными в исследованиях на испытателях. Проведенная проверка на адекватность подтвердила, что погрешность вычислений находится в пределах погрешности данных медико-биологических экспериментов. Модель можно использовать при теоретическом прогнозировании динамики респираторных реакций организма человека в условиях измененной газовой среды.
Ключевые слова: математическая модель, минутный объем дыхания, имитация, регуляция, дыхание, респираторная система, гипоксия, гиперкапния.
The analysis of respiratory reactions of the person in the conditions of the changed gas environment on mathematical model
Computer Research and Modeling, 2017, v. 9, no. 2, pp. 281-296Просмотров за год: 5.The aim of the work was to study and develop methods of forecasting the dynamics of the human respiratory reactions, based on mathematical modeling. To achieve this goal have been set and solved the following tasks: developed and justified the overall structure and formalized description of the model Respiro-reflex system; built and implemented the algorithm in software models of gas exchange of the body; computational experiments and checking the adequacy of the model-based Lite-ture data and our own experimental studies.
In this embodiment, a new comprehensive model entered partial model modified version of physicochemical properties and blood acid-base balance. In developing the model as the basis of a formalized description was based on the concept of separation of physiologically-fi system of regulation on active and passive subsystems regulation. Development of the model was carried out in stages. Integrated model of gas exchange consisted of the following special models: basic biophysical models of gas exchange system; model physicochemical properties and blood acid-base balance; passive mechanisms of gas exchange model developed on the basis of mass balance equations Grodinza F.; chemical regulation model developed on the basis of a multifactor model D. Gray.
For a software implementation of the model, calculations were made in MatLab programming environment. To solve the equations of the method of Runge–Kutta–Fehlberga. It is assumed that the model will be presented in the form of a computer research program, which allows implements vat various hypotheses about the mechanism of the observed processes. Calculate the expected value of the basic indicators of gas exchange under giperkap Britain and hypoxia. The results of calculations as the nature of, and quantity is good enough co-agree with the data obtained in the studies on the testers. The audit on Adek-vatnost confirmed that the error calculation is within error of copper-to-biological experiments. The model can be used in the theoretical prediction of the dynamics of the respiratory reactions of the human body in a changed atmosphere.
-
Исследование влияния антиангиогенной монотерапии на прогрессию гетерогенной опухоли с помощью методов математического моделирования
Компьютерные исследования и моделирование, 2017, т. 9, № 3, с. 487-501В последнее десятилетие в онкологии наряду с классическими цитотоксическими агентами при химиотерапии стали активно использоваться антиангиогенные препараты. Они направлены не на убийство злокачественных клеток, а на блокирование процесса ангиогенеза — роста новых сосудов в опухолевом микроокружении. Вещества, стимулирующие ангиогенез, в частности фактор роста эндотелия сосудов, активно вырабатываются опухолевыми клетками, находящимися в состоянии метаболического стресса. Считается, что блокирование опухолевой неоваскуляризации должно привести к нехватке питательных веществ в опухоли, а значит, и к остановке или по крайней мере к существенному замедлению ее роста. Клиническая практика применения первого антиангиогенного препарата, бевацизумаба, показала, что в ряде случаев такая терапия не влияет на скорость роста опухоли, тогда как для других типов опухолей антиангиогенная терапия обладает высоким противоопухолевым действием. Однако было показано, что при успешном замедлении роста опухоли терапия бевацизумабом может вызывать направленную прогрессию опухоли к более инвазивному, а значит, более летальному типу. Эти данные требуют теоретического анализа и определения ключевых факторов, приводящих к такой опухолевой прогрессии, которая в литературе ассоциируется с эпителиально-мезенхимальным переходом. Для решения этой задачи была разработана пространственно-распределенная математическая модель роста и антиангиогенной терапии гетерогенной опухоли, состоящей из двух субпопуляций злокачественных клеток. Одна из субпопуляций обладает свойствами, присущими эпителиальному фенотипу, — малой подвижностью и высокой скоростью пролиферации, другая соответствует мезенхимальному фенотипу и обладает высокой подвижностью и медленной скоростью деления. Проведено исследование конкурентной борьбы между этими субпопуляциями в гетерогенной опухоли как в случае роста опухоли без терапии, так и в случае монотерапии бевацизумабом. Показано, что постоянное использование антиангиогенного препарата приводит к увеличению области в пространстве параметров, где происходит доминирование мезенхимального фенотипа: в определенном диапазоне параметров в отсутствие терапии доминирует эпителиальный фенотип, а при терапии бевацизумабом начинает доминировать мезенхимальный фенотип. Данный результат является теоретическим обоснованием наблюдаемой в клинической практике направленной прогрессии опухоли к более инвазивному типу при проведении антиангиогенной терапии.
Ключевые слова: математическое моделирование, прогрессия опухоли, антиангиогенная терапия, бевацизумаб.
Mathematical investigation of antiangiogenic monotherapy effect on heterogeneous tumor progression
Computer Research and Modeling, 2017, v. 9, no. 3, pp. 487-501Просмотров за год: 10. Цитирований: 2 (РИНЦ).In the last decade along with classical cytotoxic agents, antiangiogenic drugs have been actively used in cancer chemotherapy. They are not aimed at killing malignant cells, but at blocking the process of angiogenesis, i.e., the growth of new vessels in the tumor and its surrounding tissues. Agents that stimulate angiogenesis, in particular, vascular endothelial growth factor, are actively produced by tumor cells in the state of metabolic stress. It is believed that blocking of tumor neovascularization should lead to a shortage of nutrients flow to the tumor, and thus can stop, or at least significantly slow down its growth. Clinical practice on the use of first antiangiogenic drug bevacizumab has shown that in some cases such therapy does not influence the growth rate of the tumor, whereas for other types of malignant neoplasms antiangiogenic therapy has a high antitumor effect. However, it has been shown that along with successful slowing of tumor growth, therapy with bevacizumab can induce directed tumor progression to a more invasive, and therefore more lethal, type. These data require theoretical analysis and rationale for the evolutionary factors that lead to the observation of epithelial-mesenchymal transition. For this purpose we have developed a spatially distributed mathematical model of growth and antiangiogenic therapy of heterogeneous tumor consisting of two subpopulations of malignant cells. One of subpopulations possesses inherent characteristics of epithelial phenotype, i.e., low motility and high proliferation rate, the other one corresponds to mesenchymal phenotype having high motility and low proliferation rate. We have performed the investigation of competition between these subpopulations of heterogeneous tumor in the cases of tumor growth without therapy and under bevacizumab monotherapy. It is shown that constant use of antiangiogenic drug leads to an increase of the region in parameter space, where the dominance of mesenchymal phenotype takes place, i.e., within a certain range of parameters in the absence of therapy epithelial phenotype is dominant but during bevacizumab administration mesenchymal phenotype begins to dominate. This result provides a theoretical basis of the clinically observed directed tumor progression to more invasive type under antiangiogenic therapy.
-
Биогидрохимический портрет Белого моря
Компьютерные исследования и моделирование, 2018, т. 10, № 1, с. 125-160Биогидрохимический портрет Белого моря построен с помощью расчетов на CNPSi-модели по систематизированным среднемноголетним наблюдениям (среднемесячные гидрометеорологические, гидрохимические и гидробиологические параметры морской среды). Также в расчетах использована уточненная информация о выносе в морские акватории биогенных веществ со стоком основных рекритоков (Нива, Онега, Северная Двина, Мезень, Кемь, Кереть). Параметры морской среды — значения температуры, освещенности, прозрачности, биогенной нагрузки. Для девяти районов моря (заливы Кандалакшский, Онежский, Двинский, Мезенский, Соловецкие о-ва, Бассейн, Горло, Воронка, губа Чупа) характеристики портрета моря включают: изменение в течение года концентраций органических и минеральных соединений биогенных элементов (С, N, P, Si), биомассы организмов низших трофических звеньев (гетеротрофные бактерии, диатомовый фитопланктон, растительноядный и хищный зоопланктон) и другие показатели (скорости изменения концентраций веществ и биомасс организмов, внутренние и внешние потоки веществ, балансы отдельных веществ и биогенных элементов в целом). Расчетные по среднемноголетним данным показатели состояния морской среды (температура воды, соотношения минеральных фракций N < P) и доминирующего диатомового фитопланктона в море (обилие, продукция, биомасса, содержание хлорофилла а) сравнивали с результатами отдельных съемок (за 1972–1991 и 2007–2012 гг.) по районам моря. При очевидных отличиях способов оценки значений показателей (по наблюдениям — аналитические методы, а при расчетах на модели — вычисления по соответствующим уравнениям) отмечена близость расчетных показателей состояния фитопланктона приведенным в литературе данным по фитопланктону Белого моря. Так, литературные оценки годовой продукции диатомовых водорослей в Белом море находятся в пределах 1.5–3 млн т С (при продолжительности вегетации 180 сут), а по расчетам она составляет ~2 и 3.5 млн т С при принимаемых периодах вегетации в 150 и 180 сут соответственно.
Ключевые слова: экосистема Белого моря, биогенные вещества (БВ), гетеротрофный бактериопланктон, диатомовый фитопланктон, растительноядный и хищный зоопланктон, детрит, трофическая цепь, CNPSi-модель биотрансформации БВ, экологический портрет Белого моря, сравнение наблюдаемых и расчетных показателей диатомовых водорослей (обилие, продукция, биомасса, хлорофилл а).
Biohydrochemical portrait of the White Sea
Computer Research and Modeling, 2018, v. 10, no. 1, pp. 125-160The biohydrochemical portrait of the White Sea is constructed on the CNPSi-model calculations based on long-term mean annual observations (average monthly hydrometeorological, hydrochemical and hydrobiological parameters of the marine environment) as well as on updated information on the nutrient input to the sea with the runoff of the main river tributaries (Niva, Onega, Northern Dvina, Mezen, Kem, Keret). Parameters of the marine environment are temperature, light, transparency, and biogenic load. Ecological characteristics of the sea “portrait” were calculated for nine marine areas (Kandalaksha, Onega, Dvinsky, Mezensky Bays, Solovetsky Islands, Basin, Gorlot, Voronka, Chupa Bay), these are: the concentration changes of organic and mineral compounds of biogenic elements (C, N, P, Si), the biomass of organisms of the lower trophic level (heterotrophic bacteria, diatomic phytoplankton, herbivorous and predatory zooplankton) and other ones (rates of substance concentration and organism biomass changes, internal and external substance flows, balances of individual substances and nutrients as a whole). Parameters of the marine environment state (water temperature, ratio of mineral fractions N < P) and dominant diatom phytoplankton in the sea (abundance, production, biomass, chlorophyll content a) were calculated and compared with the results of individual surveys (for 1972–1991 and 2007–2012) of the White Sea water areas. The methods for estimating the values of these parameters from observations and calculations differ, however, the calculated values of the phytoplankton state are comparable with the measurements and are similar to the data given in the literature. Therefore, according to the literature data, the annual production of diatoms in the White Sea is estimated at 1.5–3 million tons C (at a vegetation period of 180 days), and according to calculations it is ~2 and 3.5 million tons C for vegetation period of 150 and 180 days respectively.
Keywords: White Sea ecosystem, nutrients, heterotrophic bacterioplankton, diatom phytoplankton, herbivorous and predatory zooplankton, detritus, trophic chain, CNPSi-model of nutrient biotransformation, ecological portrait of the White Sea, the comparison of the observed and calculated parameters of diatoms (abundance, products, biomass, chlorophyll a).Просмотров за год: 15. Цитирований: 1 (РИНЦ). -
Расчет сигнала и шума при анализе райсовских данных путем комбинирования метода максимума правдоподобия и метода моментов
Компьютерные исследования и моделирование, 2018, т. 10, № 4, с. 511-523В работе развивается новый математический метод решения задачи совместного расчета параметров сигнала и шума в условиях распределения Райса, основанный на комбинировании метода максимума правдоподобия и метода моментов. При этом определение искомых параметров задачи осуществляется посредством обработки выборочных измерений амплитуды анализируемого райсовского сигнала. Получена система уравнений для искомых параметров сигнала и шума, а также представлены результаты численных расчетов, подтверждающие эффективность предлагаемого метода. Показано, что решение двухпараметрической задачи разработанным методом не приводит к увеличению объема требуемых вычислительных ресурсов по сравнению с решением однопараметрической задачи. В частном случае малой величины отношения сигнала к шуму получено аналитическое решение задачи. В работе проведено исследование зависимости погрешности и разброса расчетных данных для искомых параметров от количества измерений в экспериментальной выборке. Как показали численные эксперименты, величина разброса расчетных значений искомых параметров сигнала и шума, полученных предлагаемым методом, изменяется обратно пропорционально количеству измерений в выборке. Проведено сопоставление точности оценивания искомых райсовских параметров предлагаемым методом и ранее развитым вариантом метода моментов. Решаемая в работе задача является значимой для целей обработки райсовских данных, в частности, в системах магнитно-резонансной визуализации, в системах ультразвуковой визуализации, при анализе оптических сигналов в системах дальнометрии, в радиолокации, а также при решении многих других научных и прикладных задач, адекватно описываемых статистической моделью Райса.
Ключевые слова: функция плотности вероятности, распределение Райса, метод максимума правдоподобия, метод моментов, выборки измерений, отношение сигнала к шуму.
Signal and noise calculation at Rician data analysis by means of combining maximum likelihood technique and method of moments
Computer Research and Modeling, 2018, v. 10, no. 4, pp. 511-523Просмотров за год: 11.The paper develops a new mathematical method of the joint signal and noise calculation at the Rice statistical distribution based on combing the maximum likelihood method and the method of moments. The calculation of the sough-for values of signal and noise is implemented by processing the sampled measurements of the analyzed Rician signal’s amplitude. The explicit equations’ system has been obtained for required signal and noise parameters and the results of its numerical solution are provided confirming the efficiency of the proposed technique. It has been shown that solving the two-parameter task by means of the proposed technique does not lead to the increase of the volume of demanded calculative resources if compared with solving the task in one-parameter approximation. An analytical solution of the task has been obtained for the particular case of small value of the signal-to-noise ratio. The paper presents the investigation of the dependence of the sought for parameters estimation accuracy and dispersion on the quantity of measurements in experimental sample. According to the results of numerical experiments, the dispersion values of the estimated sought-for signal and noise parameters calculated by means of the proposed technique change in inverse proportion to the quantity of measurements in a sample. There has been implemented a comparison of the accuracy of the soughtfor Rician parameters’ estimation by means of the proposed technique and by earlier developed version of the method of moments. The problem having been considered in the paper is meaningful for the purposes of Rician data processing, in particular, at the systems of magnetic-resonance visualization, in devices of ultrasonic visualization, at optical signals’ analysis in range-measuring systems, at radar signals’ analysis, as well as at solving many other scientific and applied tasks that are adequately described by the Rice statistical model.
Журнал индексируется в Scopus
Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU
Журнал входит в систему Российского индекса научного цитирования.
Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science
Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"