Все выпуски
- 2026 Том 18
- 2025 Том 17
- 2024 Том 16
- 2023 Том 15
- 2022 Том 14
- 2021 Том 13
- 2020 Том 12
- 2019 Том 11
- 2018 Том 10
- 2017 Том 9
- 2016 Том 8
- 2015 Том 7
- 2014 Том 6
- 2013 Том 5
- 2012 Том 4
- 2011 Том 3
- 2010 Том 2
- 2009 Том 1
-
Оптимизация протонной терапии с радиосенсибилизирующими наночастицами и антиангиогенной терапии с помощью математического моделирования
Компьютерные исследования и моделирование, 2025, т. 17, № 4, с. 697-715Оптимизация противоопухолевой радиотерапии является актуальной проблемой, поскольку примерно половина пациентов с диагнозом рак проходят радиотерапию во время лечения. Протонная терапия потенциально более эффективна, чем традиционная фотонная терапия из-за фундаментальных различий в физике распределения дозы, которые приводит к лучшему нацеливанию на опухоли и меньшему сопутствующему повреждению здоровых тканей. В настоящее время наблюдается растущий интерес к использованию нерадиоактивных радиосенсибилизирующих опухолеспецифических наночастиц, использование которых может повысить эффективность протонной терапии. Такие наночастицы представляют собой небольшие объемы сенсибилизатора, например, бора-10 или различных оксидов металлов, заключенных в полимерный слой, содержащий опухолеспецифические антитела, что позволяет осуществлять их направленную доставку к злокачественным клеткам. Кроме того, сочетание протонной терапии с антиангиогенной терапией, которая нормализует микрососудистую сеть, связанную с опухолью, может дать дальнейшее синергетическое увеличение общей эффективности лечения.
Мы разработали пространственно распределенную математическую модель, имитирующую рост неинвазивной опухоли, проходящей лечение фракционированной протонной терапией с наносенсибилизаторами и антиангиогенной терапией. Результаты моделирования показывают, что наиболее эффективный способ комбинирования этих методов лечения должен существенно зависеть от скорости пролиферации опухолевых клеток и их собственной радиочувствительности. А именно, сочетание антиангиогенной терапии с протонной терапией, независимо от того, используются ли радиосенсибилизирующие наночастицы, должно повысить эффективность лечения быстрорастущих опухолей, а также радиорезистентных опухолей с умеренной скоростью роста. В этих случаях применение протонной терапии одновременно с антиангиогенными препаратами после первоначальной однократной инъекции наносенсибилизаторов является наиболее эффективным вариантом лечения среди проанализированных. Напротив, для медленнорастущих опухолей максимизация количества инъекций наносенсибилизаторов без антиангиогенной терапии оказывается более эффективным вариантом, причем повышение эффективности лечения растет с ростом радиочувствительности опухоли. Однако результаты также показывают, что общая эффективность протонной терапии, вероятно, должна увеличиться лишь умеренно при добавлении наносенсибилизаторов и антиангиогенных препаратов.
Ключевые слова: математическая онкология, численная оптимизация.
Optimization of proton therapy with radiosensitizing nanoparticles and antiangiogenic therapy via mathematical modeling
Computer Research and Modeling, 2025, v. 17, no. 4, pp. 697-715Optimization of antitumor radiotherapy represents an urgent issue, as approximately half of the patients diagnosed with cancer undergo radiotherapy during their treatment. Proton therapy is potentially more efficient than traditional X-ray radiotherapy due to fundamental differences in physics of dose deposition, leading to better targeting of tumors and less collateral damage to healthy tissue. There is increasing interest in the use of non-radioactive radiosensitizing tumor-specific nanoparticles the use of which can boost the performance of proton therapy. Such nanoparticles are small volumes of a sensitizer, such as boron-10 or various metal oxides, enclosed in a polymer layer containing tumor-specific antibodies, which allows for their targeted delivery to malignant cells. Furthermore, a combination of proton therapy with antiangiogenic therapy that normalizes tumor-associated microvasculature may yield further synergistic increase in overall treatment efficacy.
We have developed a spatially distributed mathematical model simulating the growth of a non-invasive tumor undergoing treatment by fractionated proton therapy with nanosensitizers and antiangiogenic therapy. The modeling results suggest that the most effective way to combine these treatment modalities should strongly depend on the tumor cells’ proliferation rate and their intrinsic radiosensitivity. Namely, a combination of antiangiogenic therapy with proton therapy, regardless of whether radiosensitizing nanoparticles are used, benefits treatment efficacy of rapidly growing tumors as well as radioresistant tumors with moderate growth rate. In these cases, administration of proton therapy simultaneously with antiangiogenic drugs after the initial single injection of nanosensitizers is the most effective option among those analyzed. Conversely, for slowly growing tumors, maximization of the number of nanosensitizer injections without antiangiogenic therapy proves to be a more efficient option, with enhancement in treatment efficacy growing with the increase of tumor radiosensitivity. However, the results also show that the overall efficacy of proton therapy is likely to increase only modestly with the addition of nanosensitizers and antiangiogenic drugs.
Keywords: mathematical oncology, numerical optimization. -
Одномерная вычислительная модель теплового состояния молочной железы с внутритканевым новообразованием
Компьютерные исследования и моделирование, 2026, т. 18, № 1, с. 169-184В данной работе разработана вычислительная модель теплового состояния молочной железы с внутритканевым новообразованием. Модель базируется на модифицированном биотепловом уравнении Пеннеса и описывает пятислойную биологическую структуру, включающую кожу, жировую, железистую и мышечную ткани, а также зону опухоли. На внешней границе области моделируется конвективный теплообмен с окружающей средой, на внутренней границе задается фиксированная температура тела. Дополнительно учитывается пространственный нагрев поверхности, описываемый экспоненциально затухающим законом Бугера – Ламберта – Бера. Теплопроводность тканей и перфузия крови зависят от температуры по линейным законам, что отражает механизмы физиологической терморегуляции. Краевая задача для дифференциального уравнения в частных производных решалась численно с использованием явно-неявной конечно-разностной схемы; полученная после дискретизации система линейных алгебраических уравнений решалась методом прогонки. Численные эксперименты показали, что наличие даже небольшой опухоли приводит к локальному повышению температуры тканей на 0,5–1 ◦C вследствие увеличения метаболической активности и снижения кровотока. Эта температурная аномалия становится выраженной при диаметре опухоли свыше 10 мм. Установлено, что глубина расположения новообразования существенно влияет на распределение температурного поля: при поверхностном залегании тепловой максимум смещается к коже, тогда как при более глубоком — формируется в железистой ткани. Эффективность гипертермического воздействия оценивалась с помощью интегрального критерия термального некроза, основанного на законе Аррениуса. Показано, что при поверхностной тепловой нагрузке около 5 кВт/м2 и коэффициенте ослабления 100 м−1 разрушение опухолевых тканей начинается через 2–3 минуты облучения, при этом здоровые ткани сохраняются в пределах безопасного температурного диапазона. Уменьшение коэффициента ослабления приводит к более глубокому распространению тепла и раннему повреждению железистой ткани, что сужает терапевтическое окно. Построены карты распределения температуры, времени до наступления некроза и глубины термического поражения в зависимости от мощности облучения, диаметра и положения опухоли.
Ключевые слова: модель Пеннеса, многослойная биологическая система, процесс гипертермии, математическое моделирование.
One-dimensional computational model of thermal state of the breast with an interstitial tumor
Computer Research and Modeling, 2026, v. 18, no. 1, pp. 169-184The paper presents a computational model of the thermal state of the breast with an interstitial tumor. The model is based on the modified Pennes biothermal equation and describes a five-layered biological area including skin, subcutaneous fat, glandular and muscular tissues, as well as a neoplasm zone. Convective heat exchange with the environment is taken into account at the outer boundary, and body temperature is maintained at the internal boundary. In addition, the fabric surface is exposed to exponentially attenuating effects of spatial heating, such a heating scheme is actually based on the Bouguer – Lambert – Baer law. Tissue thermal conductivity and blood perfusion are modeled by linear functions of temperature, reflecting physiological thermoregulation. The boundary-value problem for the partial differential equation has been solved numerically using an explicit-implicit finite difference scheme; the system of algebraic equations getting after an approximation of the mentioned boundary-value problem is solved by the Thomas procedure. Numerical experiments have shown that even a small tumor increases the local temperature of tissues by half a degree due to increased metabolism and delayed blood perfusion. This anomaly is clearly manifested in tumors larger than ten millimeters. It was found that the depth of occurrence critically affects the thermal response: when the tumor is located closer to the surface, the maximum temperature shifts to the skin, whereas at a deeper position, a thermal peak forms inside the glandular tissue. The effectiveness of hyperthermic exposure was assessed by the integral criterion of thermal necrosis based on the Arrhenius law. At a radiation intensity that creates a surface thermal load of about five kilowatts per square meter and an attenuation factor of one hundred, tumor destruction begins after two to three minutes of exposure, while the surrounding healthy tissues remain within safe temperatures. Reducing the attenuation coefficient leads to the opposite effect: heat spreads deeper, and the glandular tissue is damaged first, which limits the therapeutic window. Additionally, maps of the distribution of temperature, time to necrosis, and the depth of thermal damage were constructed depending on the irradiation power, diameter, and position of the tumor.
-
Моделирование лазерной полировки кварцевого стекла
Компьютерные исследования и моделирование, 2026, т. 18, № 2, с. 399-421Лазерная полировка является перспективной технологией финишной обработки изделий из кварцевого стекла, позволяющей устранять дефекты подповерхностного слоя, возникающие при механической обработке. Однако сложность и нелинейность физических процессов, протекающих при лазерном воздействии, затрудняют подбор оптимальных технологических режимов. Целью данной статьи является разработка, сравнительный анализ и применение высокоточных прогностических моделей для предсказания и оптимизации основных показателей процесса лазерной полировки кварцевого стекла. На основе верифицированной конечно-элементной модели, реализованной в среде ANSYS, был сгенерирован набор данных о температурных полях и полях напряжений при различных сочетаниях технологических параметров. Этот набор данных использовался для построения и верификации четырех типов прогностических моделей: полиномиальной регрессии, нечеткой системы вывода (Fuzzy Logic), адаптивной нейро-нечеткой системы (ANFIS) и нейронной сети типа многослойный персептрон (MLP). Качество моделей оценивалось на тестовой выборке с использованием статистических метрик МAE, RMSE, MAPE, $R^2$, $R^2_{Adj}$. Сравнительный анализ моделей показал значительное превосходство нейросетевой модели MLP, которая продемонстрировала наивысшую точность прогнозирования для всех выходных параметров, достигнув значений скорректированного коэффициента детерминации ($R^2_{Adj}$) выше 0,97 и средней абсолютной процентной ошибки (МАРЕ) в диапазоне 0,7–2,8%. Использование этой модели в качестве суррогатной функции совместно с генетическим алгоритмом позволило успешно определить оптимальные технологические параметры. Разработанная нейросетевая модель MLP является надежным и высокоточным инструментом не только для прогнозирования, но и для оптимизации результатов лазерной полировки кварцевого стекла СО2-лазером. Она способна эффективно аппроксимировать сложные нелинейные зависимости в процессе и может служить основой для создания интеллектуальных систем управления и оптимизации данной технологии.
Ключевые слова: лазерная полировка, ANSYS, моделирование, регрессия, нечеткая система вывода, ANFIS, нейросетевая модель, оптимизация.
Simulation of laser polishing for fused quartz
Computer Research and Modeling, 2026, v. 18, no. 2, pp. 399-421Laser polishing is a promising technology for the finishing of fused quartz (fused silica or quartz glass) products, enabling the removal of subsurface defects induced by mechanical processing. However, the complexity and nonlinearity of the physical processes occurring during laser irradiation complicate the selection of optimal technological parameters. The present paper aims to develop, comparatively analyze, and apply high-precision predictive models for forecasting and optimizing the key performance indicators of the laser polishing process for quartz glass. A verified finite element model implemented in the ANSYS software environment produced a dataset of temperature and stress fields for various combinations of process parameters. This dataset was used to develop and validate four types of predictive models: Polynomial Regression, a Fuzzy Logic System, an Adaptive Neuro-Fuzzy Inference System (ANFIS), and a Multilayer Perceptron (MLP) neural network. The models’ quality was evaluated on a test set using the statistical metrics MAE, RMSE, MAPE, $R^2$, and $R^2_{Adj}$. A comparative analysis of the models revealed the significant superiority of the MLP neural network, which demonstrated the highest prediction accuracy for all output parameters, achieving Adjusted $R^2$ ($R^2_{Adj}$.) values above 0.97 and a Mean Absolute Percentage Error (MAPE) in the range of 0.7–2.8%. This model was effectively utilized as a surrogate function in combination with a genetic algorithm to successfully identify the optimal process parameters. The constructed MLP neural network model functions as a reliable and high-precision tool, facilitating both prediction and the optimization of fused quartz polishing outcomes using a CO2 laser. This approach effectively approximates the complex nonlinear dependencies inherent in the process and can serve as a foundation for developing intelligent control and optimization systems for this technology.
Keywords: laser polishing, ANSYS, modeling, regression, fuzzy logic system, ANFIS, neural network model, optimization. -
Концентрация мощных акустических пучков в вязкоупругом материале с неоднородным распределением воздушных полостей
Компьютерные исследования и моделирование, 2017, т. 9, № 3, с. 517-533Известно, что скорость звука в средах, содержащих сильно сжимаемые включения, например воздушные поры в упругой среде или газовые пузырьки в жидкости, может существенно уменьшиться по сравнению с однородной средой. Эффективный нелинейный параметр такой среды, описывающий проявление нелинейных эффектов, возрастает в сотни и тысячи раз из-за большого различия сжимаемости включений и окружающей среды. Пространственное изменение концентрации таких включений приводит к переменной локальной скорости звука, что, в свою очередь, вызывает пространственно-временное перераспределение акустической энергии в волне и искажению ее временных профилей и поперечной структуры ограниченных пучков. В частности, могут образовываться области фокусировок. При определенных условиях возможно формирование звукового канала, обеспечивающего волноводное распространение акустических сигналов в среде с подобными включениями. Таким образом, возможно управление пространственно-временной структурой акустических волн с помощью введения сильно сжимаемых включений с заданным пространственным распределением и концентрацией. Целью работы является исследование распространения акустических волн в резиноподобном материале с неоднородным пространственным распределением воздушных полостей. Основной задачей является развитие адекватной теории таких структурно-неоднородных сред, теории распространения нелинейных акустических волн и пучков в этих средах, расчет акустических полей и выявление связи параметров среды и включений с характеристиками распространяющихся волн. В работе выведено эволюционное самосогласованное уравнение с интегро-дифференциальным членом, описывающее в низкочастотном приближении распространение интенсивных акустических пучков в среде с сильно сжимаемым полостями. В этом уравнении учтено вторичное акустическое поле, вызванное динамикой колебаний полостей. Развит метод, позволяющий получить точные аналитические решения для поля нелинейного акустического пучка на его оси и правильно рассчитать поле в фокальных областях. Полученные результаты применены для теоретического моделирования материала с неоднородным распределением сильно сжимаемых включений.
The concentration of powerful acoustic beams in a viscoelastic medium with non-uniform distribution of the air cavities
Computer Research and Modeling, 2017, v. 9, no. 3, pp. 517-533Просмотров за год: 6.It is known that the sound speed in medium that contain highly compressible inclusions, e.g. air pores in an elastic medium or gas bubbles in the liquid may be significantly reduced compared to a homogeneous medium. Effective nonlinear parameter of medium, describing the manifestation of nonlinear effects, increases hundreds and thousands of times because of the large differences in the compressibility of the inclusions and the medium. Spatial change in the concentration of such inclusions leads to the variable local sound speed, which in turn calls the spatial-temporal redistribution of acoustic energy in the wave and the distortion of its temporal profiles and cross-section structure of bounded beams. In particular, focal areas can form. Under certain conditions, the sound channel is formed that provides waveguide propagation of acoustic signals in the medium with similar inclusions. Thus, it is possible to control spatial-temporal structure of acoustic waves with the introduction of highly compressible inclusions with a given spatial distribution and concentration. The aim of this work is to study the propagation of acoustic waves in a rubberlike material with non-uniform spatial air cavities. The main objective is the development of an adequate theory of such structurally inhomogeneous media, theory of propagation of nonlinear acoustic waves and beams in these media, the calculation of the acoustic fields and identify the communication parameters of the medium and inclusions with characteristics of propagating waves. In the work the evolutionary self-consistent equation with integro-differential term is obtained describing in the low-frequency approximation propagation of intense acoustic beams in a medium with highly compressible cavities. In this equation the secondary acoustic field is taken into account caused by the dynamics of the cavities oscillations. The method is developed to obtain exact analytical solutions for nonlinear acoustic field of the beam on its axis and to calculate the field in the focal areas. The obtained results are applied to theoretical modeling of a material with non-uniform distribution of strongly compressible inclusions.
-
Применение упрощенного неявного метода Эйлера для решения задач электрофизиологии
Компьютерные исследования и моделирование, 2020, т. 12, № 4, с. 845-864Рассматривается упрощенный неявный метод Эйлера как альтернатива явному методу Эйлера, являющемуся наиболее распространенным в области численного решения уравнений, описывающих электрическую активность нервных клеток и кардиоцитов. Многие модели электрофизиологии имеют высокую степень жесткости, так как описывают динамику процессов с существенно разными характерными временами: миллисекундная деполяризации предшествует значительно более медленной гиперполяризации при формировании потенциала действия в электровозбудимых клетках. Оценка степени жесткости в работе проводится по формуле, не требующей вычисления собственных значений матрицы Якоби системы ОДУ. Эффективность численных методов сравнивается на примере типичных представителей из классов детальных и концептуальных моделей возбудимых клеток: модели Ходжкина–Хаксли для нейронов и Алиева–Панфилова для кардиоцитов. Сравнение эффективности численных методов проведено с использованием распространенных в биомедицинских задачах видов норм. Исследовано влияние степени жесткости моделей на величину ускорения при использовании упрощенного неявного метода: выигрыш во времени при высокой степени жесткости зафиксирован только для модели Ходжкина–Хаксли. Обсуждаются целесообразность применения простых методов и методов высоких порядков точности для решения задач электрофизиологии, а также устойчивость методов. Обсуждение позволяет прояснить вопрос о причинах отказа от использования высокоточных методов в пользу простых при проведении практических расчетов. На примере модели Ходжкина–Хаксли c различными степенями жесткости вычислены производные решения высших порядков и обнаружены их значительные максимальные абсолютные значения. Последние входят в формулы констант аппроксимации и, следовательно, нивелируют малость множителя, зависящего от порядка точности. Этот факт не позволяет считать погрешности численного метода малыми. Проведенный на качественном уровне анализ устойчивости явного метода Эйлера позволяет оценить вид функции параметров модели для описания границы области устойчивости. Описание границы области устойчивости, как правило, используется при априорном принятии решения о выборе величины шага численного интегрирования.
Ключевые слова: электрофизиология, детальные модели, концептуальные модели, жесткие системы, численные методы.
Application of simplified implicit Euler method for electrophysiological models
Computer Research and Modeling, 2020, v. 12, no. 4, pp. 845-864A simplified implicit Euler method was analyzed as an alternative to the explicit Euler method, which is a commonly used method in numerical modeling in electrophysiology. The majority of electrophysiological models are quite stiff, since the dynamics they describe includes a wide spectrum of time scales: a fast depolarization, that lasts milliseconds, precedes a considerably slow repolarization, with both being the fractions of the action potential observed in excitable cells. In this work we estimate stiffness by a formula that does not require calculation of eigenvalues of the Jacobian matrix of the studied ODEs. The efficiency of the numerical methods was compared on the case of typical representatives of detailed and conceptual type models of excitable cells: Hodgkin–Huxley model of a neuron and Aliev–Panfilov model of a cardiomyocyte. The comparison of the efficiency of the numerical methods was carried out via norms that were widely used in biomedical applications. The stiffness ratio’s impact on the speedup of simplified implicit method was studied: a real gain in speed was obtained for the Hodgkin–Huxley model. The benefits of the usage of simple and high-order methods for electrophysiological models are discussed along with the discussion of one method’s stability issues. The reasons for using simplified instead of high-order methods during practical simulations were discussed in the corresponding section. We calculated higher order derivatives of the solutions of Hodgkin-Huxley model with various stiffness ratios; their maximum absolute values appeared to be quite large. A numerical method’s approximation constant’s formula contains the latter and hence ruins the effect of the other term (a small factor which depends on the order of approximation). This leads to the large value of global error. We committed a qualitative stability analysis of the explicit Euler method and were able to estimate the model’s parameters influence on the border of the region of absolute stability. The latter is used when setting the value of the timestep for simulations a priori.
-
Моделирование процесса истощения газоконденсатного пласта
Компьютерные исследования и моделирование, 2020, т. 12, № 5, с. 1081-1095Одна из трудностей разработки газоконденсатных месторождений обусловлена тем, что часть углеводородов газоносного слоя присутствует в немв виде конденсата, который застревает в порах пласта и извлечению не подлежит. В этой связи активно ведутся исследования, направленные на повышение извлекаемости углеводородов в подобных месторождениях. В том числе значительное количество публикаций посвящено развитию методов математического моделирования прохождения многокомпонентных газоконденсатных смесей через пористую среду в различных условиях.
В настоящей работе в рамках классического подхода, основанного на законе Дарси и законе неразрывности потоков, сформулирована математическая постановка начально-граничной задачи для системы нелинейных дифференциальных уравнений, описывающая прохождение многокомпонентной газоконденсатной смеси через пористую среду в режиме истощения. Разработанная обобщенная вычислительная схема на основе конечно-разностной аппроксимации и метода Рунге – Кутты четвертого порядка может использоваться для расчетов как в пространственно одномерном случае, соответствующемусловиям лабораторного эксперимента, так и в двумерном случае, когда речь идет о моделировании плоского газоносного пласта с круговой симметрией.
Численное решение упомянутой системы уравнений реализовано на основе комбинированного использования C++ и Maple с применением технологии параллельного программирования MPI для ускорения вычислений. Расчеты выполнены на кластере HybriLIT Многофункционального информационно-вычислительного комплекса Лаборатории информационных технологий Объединенного института ядерных исследований.
Численные результаты сопоставлены с данными о динамике выхода девятикомпонентной углеводородной смеси в зависимости от давления, полученными на лабораторной установке (ВНИИГАЗ, Ухта). Расчеты проводились для двух типов пористого наполнителя в лабораторной модели пласта: терригенного (при 25 ◦С) и карбонатного (при 60 ◦С). Показано, что используемый подход обеспечивает согласие полученных численных результатов с экспериментальными данными. Путем подгонки к экспериментальным данным по истощению лабораторной модели пласта получены значения параметров, определяющих коэффициент межфазного перехода для моделируемой системы. С использованием тех же параметров было проведено компьютерное моделирование истощения тонкого газоносного слоя в приближении круговой симметрии.
Ключевые слова: компьютерное моделирование, многокомпонентная система углеводородов.
Simulation of the gas condensate reservoir depletion
Computer Research and Modeling, 2020, v. 12, no. 5, pp. 1081-1095One of problems in developing the gas condensate fields lies on the fact that the condensed hydrocarbons in the gas-bearing layer can get stuck in the pores of the formation and hence cannot be extracted. In this regard, research is underway to increase the recoverability of hydrocarbons in such fields. This research includes a wide range of studies on mathematical simulations of the passage of gas condensate mixtures through a porous medium under various conditions.
In the present work, within the classical approach based on the Darcy law and the law of continuity of flows, we formulate an initial-boundary value problem for a system of nonlinear differential equations that describes a depletion of a multicomponent gas-condensate mixture in porous reservoir. A computational scheme is developed on the basis of the finite-difference approximation and the fourth order Runge .Kutta method. The scheme can be used for simulations both in the spatially one-dimensional case, corresponding to the conditions of the laboratory experiment, and in the two-dimensional case, when it comes to modeling a flat gas-bearing formation with circular symmetry.
The computer implementation is based on the combination of C++ and Maple tools, using the MPI parallel programming technique to speed up the calculations. The calculations were performed on the HybriLIT cluster of the Multifunctional Information and Computing Complex of the Laboratory of Information Technologies of the Joint Institute for Nuclear Research.
Numerical results are compared with the experimental data on the pressure dependence of output of a ninecomponent hydrocarbon mixture obtained at a laboratory facility (VNIIGAZ, Ukhta). The calculations were performed for two types of porous filler in the laboratory model of the formation: terrigenous filler at 25 .„R and carbonate one at 60 .„R. It is shown that the approach developed ensures an agreement of the numerical results with experimental data. By fitting of numerical results to experimental data on the depletion of the laboratory reservoir, we obtained the values of the parameters that determine the inter-phase transition coefficient for the simulated system. Using the same parameters, a computer simulation of the depletion of a thin gas-bearing layer in the circular symmetry approximation was carried out.
-
Цитокины как индикаторы состояния организма при инфекционных заболеваниях. Анализ экспериментальных данных
Компьютерные исследования и моделирование, 2020, т. 12, № 6, с. 1409-1426При заболеваниях человека в результате бактериального заражения для наблюдения за ходом болезни используются различные характеристики организма. В настоящее время одним из таких индикаторов принимается динамика концентраций цитокинов, вырабатываемых в основном клетками иммунной системы. В организме человека и многих видов животных присутствуют эти низкомолекулярные белки. Исследование цитокинов имеет важное значение для интерпретации нарушений функциональной состоятельности иммунной системы организма, оценки степени тяжести, мониторинга эффективности проводимой терапии, прогноза течения и исхода лечения. При заболевании возникает цитокиновый отклик организма, указывающий на характеристики течения болезни. Для исследования закономерностей такой индикации проведены эксперименты на лабораторных мышах. В работе анализируются экспериментальные данные о развитии пневмонии и лечении несколькими препаратами при бактериальном заражении мышей. В качестве препаратов использовались иммуномодулирующие препараты «Ронколейкин», «Лейкинферон» и «Тинростим». Данные представлены динамикой концентраций двух видов цитокинов в легочной ткани и крови животных. Многосторонний статистический и нестатистический анализ данных позволил выявить общие закономерности изменения концентраций цитокинов в организме и связать их со свойствами лечебных препаратов. Исследуемые цитокины «Интерлейкин-10» (ИЛ-10) и «Интерферон Гамма» (ИФН$\gamma$) у зараженных мышей отклоняются от нормального уровня интактных животных, указывая на развитие заболевания. Изменения концентраций цитокинов в группах лечимых мышей сравниваются с этими показателями в группе здоровых (не зараженных) мышей и группе зараженных нелеченных особей. Сравнение делается по группам особей, так как концентрации цитокинов индивидуальны и значительно отличаются у разных особей. В этих условиях только группы особей могут указать на закономерности процессов течения болезни. Эти группы мышей наблюдались в течение двух недель. Динамика концентраций цитокинов указывает на характеристики течения болезни и эффективность применяемых лечебных препаратов. Воздействие лечебного препарата на организмы отслеживается по расположению указанных групп особей в пространстве концентраций цитокинов. В этом пространстве используется расстояние Хаусдорфа между множествами векторов концентраций цитокинов у особей, основанное на евклидовом расстоянии между элементами этих множеств. Выяснено, что препараты «Ронколейкин» и «Лейкинферон» оказывают в целом сходное между собой и отличное от препарата «Тинростим» воздействие на течение болезни.
Ключевые слова: обработка данных, эксперимент, цитокин, иммунная система, пневмония, статистика, аппроксимация, расстояние Хаусдорфа.
Cytokines as indicators of the state of the organism in infectious diseases. Experimental data analysis
Computer Research and Modeling, 2020, v. 12, no. 6, pp. 1409-1426When person`s diseases is result of bacterial infection, various characteristics of the organism are used for observation the course of the disease. Currently, one of these indicators is dynamics of cytokine concentrations are produced, mainly by cells of the immune system. There are many types of these low molecular weight proteins in human body and many species of animals. The study of cytokines is important for the interpretation of functional disorders of the body's immune system, assessment of the severity, monitoring the effectiveness of therapy, predicting of the course and outcome of treatment. Cytokine response of the body indicating characteristics of course of disease. For research regularities of such indication, experiments were conducted on laboratory mice. Experimental data are analyzed on the development of pneumonia and treatment with several drugs for bacterial infection of mice. As drugs used immunomodulatory drugs “Roncoleukin”, “Leikinferon” and “Tinrostim”. The data are presented by two types cytokines` concentration in lung tissue and animal blood. Multy-sided statistical ana non statistical analysis of the data allowed us to find common patterns of changes in the “cytokine profile” of the body and to link them with the properties of therapeutic preparations. The studies cytokine “Interleukin-10” (IL-10) and “Interferon Gamma” (IFN$\gamma$) in infected mice deviate from the normal level of infact animals indicating the development of the disease. Changes in cytokine concentrations in groups of treated mice are compared with those in a group of healthy (not infected) mice and a group of infected untreated mice. The comparison is made for groups of individuals, since the concentrations of cytokines are individual and differ significantly in different individuals. Under these conditions, only groups of individuals can indicate the regularities of the processes of the course of the disease. These groups of mice were being observed for two weeks. The dynamics of cytokine concentrations indicates characteristics of the disease course and efficiency of used therapeutic drugs. The effect of a medicinal product on organisms is monitored by the location of these groups of individuals in the space of cytokine concentrations. The Hausdorff distance between the sets of vectors of cytokine concentrations of individuals is used in this space. This is based on the Euclidean distance between the elements of these sets. It was found that the drug “Roncoleukin” and “Leukinferon” have a generally similar and different from the drug “Tinrostim” effect on the course of the disease.
Keywords: data processing, experiment, cytokine, immune system, pneumonia, statistics, approximation, Hausdorff distance. -
О моделях шины, учитывающих как деформированное состояние, так и эффекты сухого трения в области контакта
Компьютерные исследования и моделирование, 2021, т. 13, № 1, с. 163-173Предложена новая приближенная модель качения деформируемого колеса с пневматиком, позволяющая учесть как усилия в пневматике, так и влияние сил сухого трения на устойчивость прямолинейного качения колеса при прогнозировании явления шимми. Модель основана на теории сухого трения с комбинированнойкине матикойотно сительного движения соприкасающихся тел, т. е. при одновременном качении, скольжении и верчении при учете реальнойф ормы области контакта и распределения контактного давления. Главный вектор и главный момент сил, возникающих при контактном взаимодействии с сухим трением, определяются путем интегрирования по области контакта. При этом контактное давление покоя при нулевых скоростях относительного поступательного движения и верчения и в отсутствие качения определяется из решения статической контактной задачи для пневматика с учетом его реальной структуры и физических свойств материалов. В работе использована конечно-элементная модель типового пневматика с продольным протектором. Расчет осуществлен при фиксированном внутреннем давлении наддува, заданной вертикальной силе и коэффициенте трения покоя, равном 0.5. Получены также решения задач о напряженно-деформированном состоянии пневматика при кинематическом нагружении в боковом направлении и при скручивании относительно вертикальной оси. Показано, что с достаточной степенью точности контактное взаимодействие пневматика с абсолютно жесткой опорной поверхностью можно представить в виде двух этапов — адгезии и проскальзывания, при этом, однако, форма пятна контакта остается близкой к круговой. Построены диаграммы, аппроксимирующие численные решения, для боковой силы и момента; на начальном участке взаимодействия зависимости линейны и соответствуют упругой деформации пневматика, на втором участке величины силы и момента постоянны и соответствуют силе сухого трения и моменту трения верчения. Для последних участков получены приближенные выражения для продольной и боковой силы трения, а также момента трения верчения в соответствии с теорией сухого трения с комбинированной кинематикой. Полученная модель может трактоваться как комбинация модели упруго деформируемого колеса по Келдышу, катящегося без проскальзывания, и жесткого колеса по Климову –Журавлёву, взаимодействующего с опорой посредством сил сухого трения.
Ключевые слова: трение сухое, кинематика комбинированная, шины пневматические, состояние деформированное.
On tire models accounting for both deformed state and coupled dry friction in a contact spot
Computer Research and Modeling, 2021, v. 13, no. 1, pp. 163-173A proposed approximate model of the rolling of a deforming wheel with a pneumatic tire allows one to account as well forces in tires as the effect of the dry friction on the stability of the rolling upon the shimmy phenomenon prognosis. The model os based on the theory of the dry friction with combined kinematics of relative motion of interacting bodies, i. e. under the condition of simultaneous rolling, sliding, and spinning with accounting for the real shape of a contact spot and contact pressure distribution. The resultant vector and couple of the forces generated by the contact interaction with dry friction are defined by integration over the contact area, whereas the static contact pressure under the conditions of vanishing velocity of sliding and angular velocity of spinning is computed after the finite-element solution for the statical contact of a pneumatic with a rigid road with accounting forreal internal structure and properties of a tire. The solid finite element model of a typical tire with longitudinal thread is used below as a background. Given constant boost pressure, vertical load and static friction factor 0.5 the numerical solution is constructed, as well as the appropriate solutions for lateral and torsional kinematic loading. It is shown that the contact interaction of a pneumatic tire and an absolutely rigid road could be represented without crucial loss of accuracy as two typical stages, the adhesion and the slip; the contact area shape remains nevertheless close to a circle. The approximate diagrams are constructed for both lateral force and friction torque; on the initial stage the diagrams are linear so that corresponds to the elastic deformation of a tire while on the second stage both force and torque values are constant and correspond to the dry friction force and torque. For the last stages the approximate formulae for the longitudinal and lateral friction force and the friction torque are constructed on the background of the theory of the dry friction with combined kinematics. The obtained model can be treated as a combination of the Keldysh model of elastic wheel with no slip and spin and the Klimov rigid wheel model interacting with a road by dry friction forces.
-
Численный анализ естественной конвекции кориума в условиях внутрикорпусной локализации с учетом переменного тепловыделения
Компьютерные исследования и моделирование, 2021, т. 13, № 4, с. 807-822В представленном исследовании проводится численное моделирование охлаждения кориума, расплава керамического топлива ядерного реактора и оксидов конструкционных материалов, в горизонтальной полуцилиндрической полости, стенки которой поддерживаются при постоянной температуре, в условиях естественной конвекции.
Охлаждение кориума — это процесс характерный для тяжелой аварии на ядерном реакторе, которая может быть локализована путем удержания кориума внутри корпуса реактора, испытывающего внешнее охлаждение. Такой подход обеспечивает не только сравнительно простой способ удержания радиоактивности в пределах первого контура, но и возможность реализации на действующих блоках. Это выступает альтернативой ловушке расплава, еще одному методу локализации. Точный анализ и моделирование процесса охлаждения в таких условиях оказываются перспективной областью исследований в настоящее время.
В начальный момент времени температура кориума принимается равной температуре стенки. Кориум, несмотря на останов реактора, обладает остаточным тепловыделением, которое уменьшается со временем согласно формуле Вэя–Вигнера. Процесс естественной конвекции внутри полости описывается системой уравнений в приближении Буссинеска, которая включает в себя уравнение движения, уравнение неразрывности и уравнение энергии. Конвективные потоки считаются ламинарными и двумерными, теплофизические свойства жидкости считаются независимыми от температуры.
Краевая задача математической физики формулируется в безразмерных переменных «функция тока – завихренность». Полученные дифференциальные уравнения решаются численно при помощи метода конечных разностей c использованием локально-одномерной схемы Самарского применительно к уравнениям параболического типа.
В результате исследований получены временные зависимости среднего числа Нуссельта на верхней и нижней стенках полости в широком диапазоне изменения числа Рэлея от 103 до 106. Указанные зависимости также были проанализированы при различных значениях безразмерного времени работы реактора до аварии. Исследования проведены как на основе распределений изолиний функции тока и температуры, так и с использованием временных профилей интенсивности конвективного течения и теплообмена.
Ключевые слова: естественная конвекция, кориум, ядерный реактор, тяжелая авария, численное моделирование, метод конечных разностей.
Numerical simulation of corium cooling driven by natural convection in case of in-vessel retention and time-dependent heat generation
Computer Research and Modeling, 2021, v. 13, no. 4, pp. 807-822Represented study considers numerical simulation of corium cooling driven by natural convection within a horizontal hemicylindrical cavity, boundaries of which are assumed isothermal. Corium is a melt of ceramic fuel of a nuclear reactor and oxides of construction materials.
Corium cooling is a process occurring during severe accident associated with core melt. According to invessel retention conception, the accident may be restrained and localized, if the corium is contained within the vessel, only if it is cooled externally. This conception has a clear advantage over the melt trap, it can be implemented at already operating nuclear power plants. Thereby proper numerical analysis of the corium cooling has become such a relevant area of studies.
In the research, we assume the corium is contained within a horizontal semitube. The corium initially has temperature of the walls. In spite of reactor shutdown, the corium still generates heat owing to radioactive decays, and the amount of heat released decreases with time accordingly to Way–Wigner formula. The system of equations in Boussinesq approximation including momentum equation, continuity equation and energy equation, describes the natural convection within the cavity. Convective flows are taken to be laminar and two-dimensional.
The boundary-value problem of mathematical physics is formulated using the non-dimensional nonprimitive variables «stream function – vorticity». The obtained differential equations are solved numerically using the finite difference method and locally one-dimensional Samarskii scheme for the equations of parabolic type.
As a result of the present research, we have obtained the time behavior of mean Nusselt number at top and bottom walls for Rayleigh number ranged from 103 to 106. These mentioned dependences have been analyzed for various dimensionless operation periods before the accident. Investigations have been performed using streamlines and isotherms as well as time dependences for convective flow and heat transfer rates.
-
Субградиентные методы для слабо выпуклых и относительно слабо выпуклых задач с острым минимумом
Компьютерные исследования и моделирование, 2023, т. 15, № 2, с. 393-412Работа посвящена исследованию субградиентных методов с различными вариациями шага Б.Т. Поляка на классах задач минимизации слабо выпуклых и относительно слабо выпуклых функций, обладающих соответствующим аналогом острого минимума. Оказывается, что при некоторых предположениях о начальной точке такой подход может давать возможность обосновать сходимость сyбградиентного метода со скоростью геометрической прогрессии. Для субградиентного метода с шагом Б.Т. Поляка доказана уточненная оценка скорости сходимости для задач минимизации слабо выпуклых функций с острым минимумом. Особенность этой оценки — дополнительный учет сокращения расстояния от текущей точки метода до множества решений по мере роста количества итераций. Представлены результаты численных экспериментов для задачи восстановления фазы (которая слабо выпyкла и имеет острый минимyм), демонстрирующие эффективность предложенного подхода к оценке скорости сходимости по сравнению с известным ранее результатом. Далее, предложена вариация субградиентного метода с переключениями по продуктивным и непродуктивным шагам для слабо выпуклых задач с ограничениями-неравенствами и получен некоторый аналог результата о сходимости со скоростью геометрической прогрессии. Для субградиентного метода с соответствующей вариацией шага Б.Т. Поляка на классе относительно липшицевых и относительно слабо выпуклых функций с относительным аналогом острого минимума получены условия, которые гарантируют сходимость такого субградиентного метода со скоростью геометрической прогрессии. Наконец, получен теоретический результат, описывающий влияние погрешности доступной сyбградиентномy методу информации о (сyб)градиенте и целевой функции на оценку качества выдаваемого приближенного решения. Доказано, что при достаточно малой погрешности $\delta > 0$ можно гарантировать достижение точности решения, сопоставимой c $\delta$.
Ключевые слова: субградиентный метод, острый минимум, липшицева функция, относительная липшицевость, относительный острый минимум, задача восстановления фазы.
Subgradient methods for weakly convex and relatively weakly convex problems with a sharp minimum
Computer Research and Modeling, 2023, v. 15, no. 2, pp. 393-412The work is devoted to the study of subgradient methods with different variations of the Polyak stepsize for minimization functions from the class of weakly convex and relatively weakly convex functions that have the corresponding analogue of a sharp minimum. It turns out that, under certain assumptions about the starting point, such an approach can make it possible to justify the convergence of the subgradient method with the speed of a geometric progression. For the subgradient method with the Polyak stepsize, a refined estimate for the rate of convergence is proved for minimization problems for weakly convex functions with a sharp minimum. The feature of this estimate is an additional consideration of the decrease of the distance from the current point of the method to the set of solutions with the increase in the number of iterations. The results of numerical experiments for the phase reconstruction problem (which is weakly convex and has a sharp minimum) are presented, demonstrating the effectiveness of the proposed approach to estimating the rate of convergence compared to the known one. Next, we propose a variation of the subgradient method with switching over productive and non-productive steps for weakly convex problems with inequality constraints and obtain the corresponding analog of the result on convergence with the rate of geometric progression. For the subgradient method with the corresponding variation of the Polyak stepsize on the class of relatively Lipschitz and relatively weakly convex functions with a relative analogue of a sharp minimum, it was obtained conditions that guarantee the convergence of such a subgradient method at the rate of a geometric progression. Finally, a theoretical result is obtained that describes the influence of the error of the information about the (sub)gradient available by the subgradient method and the objective function on the estimation of the quality of the obtained approximate solution. It is proved that for a sufficiently small error $\delta > 0$, one can guarantee that the accuracy of the solution is comparable to $\delta$.
Журнал индексируется в Scopus
Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU
Журнал входит в систему Российского индекса научного цитирования.
Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science
Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"





