Все выпуски

The viscoelastic fluid flow model across a porous medium has captivated the interest of many contemporary researchers due to its industrial and technical uses, such as food processing, paper and textile coating, packed bed reactors, the cooling effect of transpiration and the dispersion of pollutants through aquifers. This article focuses on the influence of variable viscosity and viscoelasticity on the magnetohydrodynamic oscillatory flow of second-order fluid through thermally radiating wavy walls. A mathematical model for this fluid flow, including governing equations and boundary conditions, is developed using the usual Boussinesq approximation. The governing equations are transformed into a system of nonlinear ordinary differential equations using non-similarity transformations. The numerical results obtained by applying finite-difference code based on the Lobatto IIIa formula generated by bvp4c solver are compared to the semi-analytical solutions for the velocity, temperature and concentration profiles obtained using the homotopy perturbation method (HPM). The effect of flow parameters on velocity, temperature, concentration profiles, skin friction coefficient, heat and mass transfer rate, and skin friction coefficient is examined and illustrated graphically. The physical parameters governing the fluid flow profoundly affected the resultant flow profiles except in a few cases. By using the slope linear regression method, the importance of considering the viscosity variation parameter and its interaction with the Lorentz force in determining the velocity behavior of the viscoelastic fluid model is highlighted. The percentage increase in the velocity profile of the viscoelastic model has been calculated for different ranges of viscosity variation parameters. Finally, the results are validated numerically for the skin friction coefficient and Nusselt number profiles.

The viscoelastic fluid flow model across a porous medium has captivated the interest of many contemporary researchers due to its industrial and technical uses, such as food processing, paper and textile coating, packed bed reactors, the cooling effect of transpiration and the dispersion of pollutants through aquifers. This article focuses on the influence of variable viscosity and viscoelasticity on the magnetohydrodynamic oscillatory flow of second-order fluid through thermally radiating wavy walls. A mathematical model for this fluid flow, including governing equations and boundary conditions, is developed using the usual Boussinesq approximation. The governing equations are transformed into a system of nonlinear ordinary differential equations using non-similarity transformations. The numerical results obtained by applying finite-difference code based on the Lobatto IIIa formula generated by bvp4c solver are compared to the semi-analytical solutions for the velocity, temperature and concentration profiles obtained using the homotopy perturbation method (HPM). The effect of flow parameters on velocity, temperature, concentration profiles, skin friction coefficient, heat and mass transfer rate, and skin friction coefficient is examined and illustrated graphically. The physical parameters governing the fluid flow profoundly affected the resultant flow profiles except in a few cases. By using the slope linear regression method, the importance of considering the viscosity variation parameter and its interaction with the Lorentz force in determining the velocity behavior of the viscoelastic fluid model is highlighted. The percentage increase in the velocity profile of the viscoelastic model has been calculated for different ranges of viscosity variation parameters. Finally, the results are validated numerically for the skin friction coefficient and Nusselt number profiles.

Coffee berry disease (CBD), resulting from the Colletotrichum kahawae fungal pathogen, poses a severe risk to coffee crops worldwide. Focused on coffee berries, it triggers substantial economic losses in regions relying heavily on coffee cultivation. The devastating impact extends beyond agricultural losses, affecting livelihoods and trade economies. Experimental insights into coffee berry disease provide crucial information on its pathogenesis, progression, and potential mitigation strategies for control, offering valuable knowledge to safeguard the global coffee industry. In this paper, we investigated the mathematical model of coffee berry disease, with a focus on the dynamics of the coffee plant and Colletotrichum kahawae pathogen populations, categorized as susceptible, exposed, infected, pathogenic, and recovered (SEIPR) individuals. To address the system of nonlinear differential equations and obtain semi-analytical solution for the coffee berry disease model, a novel analytical approach combining the Shehu transformation, Akbari – Ganji, and Pade approximation method (SAGPM) was utilized. A comparison of analytical results with numerical simulations demonstrates that the novel SAGPM is excellent efficiency and accuracy. Furthermore, the sensitivity analysis of the coffee berry disease model examines the effects of all parameters on the basic reproduction number $R_0$. Moreover, in order to examine the behavior of the model individuals, we varied some parameters in CBD. Through this analysis, we obtained valuable insights into the responses of the coffee berry disease model under various conditions and scenarios. This research offers valuable insights into the utilization of SAGPM and sensitivity analysis for analyzing epidemiological models, providing significant utility for researchers in the field.

Coffee berry disease (CBD), resulting from the Colletotrichum kahawae fungal pathogen, poses a severe risk to coffee crops worldwide. Focused on coffee berries, it triggers substantial economic losses in regions relying heavily on coffee cultivation. The devastating impact extends beyond agricultural losses, affecting livelihoods and trade economies. Experimental insights into coffee berry disease provide crucial information on its pathogenesis, progression, and potential mitigation strategies for control, offering valuable knowledge to safeguard the global coffee industry. In this paper, we investigated the mathematical model of coffee berry disease, with a focus on the dynamics of the coffee plant and Colletotrichum kahawae pathogen populations, categorized as susceptible, exposed, infected, pathogenic, and recovered (SEIPR) individuals. To address the system of nonlinear differential equations and obtain semi-analytical solution for the coffee berry disease model, a novel analytical approach combining the Shehu transformation, Akbari – Ganji, and Pade approximation method (SAGPM) was utilized. A comparison of analytical results with numerical simulations demonstrates that the novel SAGPM is excellent efficiency and accuracy. Furthermore, the sensitivity analysis of the coffee berry disease model examines the effects of all parameters on the basic reproduction number $R_0$. Moreover, in order to examine the behavior of the model individuals, we varied some parameters in CBD. Through this analysis, we obtained valuable insights into the responses of the coffee berry disease model under various conditions and scenarios. This research offers valuable insights into the utilization of SAGPM and sensitivity analysis for analyzing epidemiological models, providing significant utility for researchers in the field.

Данная работа посвящена исследованию проблемы моделирования и анализа динамических режимов, как регулярных, так и хаотических, в системах связанных популяций в присутствии случайных возмущений. В качестве исходной детерминированной популяционной модели рассматривается дискретная модель Рикера. В работе исследуется динамика двух популяций, связанных миграцией. Миграция пропорциональна разнице между плотностями двух популяций с коэффициентом связи, который отвечает за силу миграционного потока. Изолированные популяционные подсистемы, не учитывающие миграцию и моделируемые отображением Рикера, демонстрируют различные динамические режимы: равновесный, периодический и хаотический. В данной работе в качестве бифуркационного параметра используется коэффициент связи, а также фиксируются параметры естественного прироста популяций, при которых одна изп одсистем находится в равновесном режиме, а во второй преобладает хаотический режим. Связывание двух популяций посредством миграции порождает новые динамические режимы, не наблюдавшиеся в изолированной модели. Целью данной статьи является анализ динамических режимов корпоративной динамики при вариации интенсивности перетоков между популяционными подсистемами. В статье представлен бифуркационный анализа ттракторов детерминированной модели двух связанных популяций, выявлены зоны моно- и бистабильности, даны примеры регулярных и хаотических аттракторов. Основной акцент данной работы сделан на сравнении устойчивости динамических режимов к случайным возмущениям в коэффициенте интенсивности миграции. Методами прямого численного моделирования выявлены и описаны индуцированные шумом переходы с периодического аттрактора на хаотический. В статье представлены результаты анализа стохастических явлений с помощью показателя Ляпунова. Показано, что в рассматриваемой модели существует зона изменения бифуркационного параметра, при котором даже с увеличением интенсивности случайных возмущений не происходит переход от порядка к хаосу. Для аналитического исследования вызванных шумом переходов применены техника функции стохастической чувствительности и метод доверительных областей. В работе показано, как с помощью этого математического аппарата можно предсказать критическую интенсивность шума, вызывающую трансформацию периодического режима в хаотический.

This paper focuses on the problem of modeling and analyzing dynamic regimes, both regular and chaotic, in systems of coupled populations in the presence of random disturbances. The discrete Ricker model is used as the initial deterministic population model. The paper examines the dynamics of two populations coupled by migration. Migration is proportional to the difference between the densities of two populations with a coupling coefficient responsible for the strength of the migration flow. Isolated population subsystems, modeled by the Ricker map, exhibit various dynamic modes, including equilibrium, periodic, and chaotic ones. In this study, the coupling coefficient is treated as a bifurcation parameter and the parameters of natural population growth rate remain fixed. Under these conditions, one subsystem is in the equilibrium mode, while the other exhibits chaotic behavior. The coupling of two populations through migration creates new dynamic regimes, which were not observed in the isolated model. This article aims to analyze the dynamics of corporate systems with variations in the flow intensity between population subsystems. The article presents a bifurcation analysis of the attractors in a deterministic model of two coupled populations, identifies zones of monostability and bistability, and gives examples of regular and chaotic attractors. The main focus of the work is in comparing the stability of dynamic regimes against random disturbances in the migration intensity. Noise-induced transitions from a periodic attractor to a chaotic attractor are identified and described using direct numerical simulation methods. The Lyapunov exponents are used to analyze stochastic phenomena. It has been shown that in this model, there is a region of change in the bifurcation parameter in which, even with an increase in the intensity of random perturbations, there is no transition from order to chaos. For the analytical study of noise-induced transitions, the stochastic sensitivity function technique and the confidence domain method are used. The paper demonstrates how this mathematical tool can be employed to predict the critical noise intensity that causes a periodic regime to transform into a chaotic one.

При моделировании турбулентных течений в практических приложениях часто приходится проводить серии расчетов для тел близкой топологии. Например, тел, отличающихся формой обтекателя. Применение сверточных нейронных сетей позволяет сократить количество расчетов серии, восстановив часть из них по уже проведенным расчетам. В работе предлагается метод, позволяющий применить сверточную нейронную сеть независимо от способа построения вычислительной сетки. Для этого проводится переинтерполяция поля течения на равномерную сетку вместе с самим телом. Геометрия тела задается с помощью функции расстояния со знаком и маскирования. Восстановление поля течения на основании части расчетов для схожих геометрий проводится с помощью нейронной сети типа UNet с пространственным механизмом внимания. Разрешение пристенной области, являющееся критически важным условием при турбулентном моделировании, производится на основании уравнений, полученных в методе пристенной декомпозиции.

Демонстрация метода приводится для случая обтекания скругленной пластины турбулентным потоком воздуха с различным скруглением при фиксированных параметрах набегающего потока с числом Рейнольдса $Re = 10^5$ и числом Маха $M = 0,15$. Поскольку течения с такими параметрами набегающего потока можно считать несжимаемыми, исследуются непосредственно только компоненты скорости. Проводится сравнение полей течения, профилей скорости и трения на стенке, полученных суррогатной моделью и численно. Анализ проводится как на пластине, так и на скруглении. Результаты моделирования подтверждают перспективность предлагаемого подхода. В частности, было показано, что даже в случае использования модели на максимально допустимых границах ее применимости трение может быть получено с точностью до 90%. Также в работе проводится анализ построенной архитектуры нейронной сети. Полученная суррогатная модель сравнивается с альтернативными моделями, построенными на основании вариационного автоэнкодера или метода главных компонент с использованием радиальных базисных функций. На основании этого сравнения демонстрируются преимущества предложенного метода.

When modeling turbulent flows in practical applications, it is often necessary to carry out a series of calculations of bodies of similar topology. For example, bodies that differ in the shape of the fairing. The use of convolutional neural networks allows to reduce the number of calculations in a series, restoring some of them based on calculations already performed. The paper proposes a method that allows to apply a convolutional neural network regardless of the method of constructing a computational mesh. To do this, the flow field is reinterpolated to a uniform mesh along with the body itself. The geometry of the body is set using the signed distance function and masking. The restoration of the flow field based on part of the calculations for similar geometries is carried out using a neural network of the UNet type with a spatial attention mechanism. The resolution of the nearwall region, which is a critical condition for turbulent modeling, is based on the equations obtained in the nearwall domain decomposition method.

A demonstration of the method is given for the case of a flow around a rounded plate by a turbulent air flow with different rounding at fixed parameters of the incoming flow with the Reynolds number $Re = 10^5$ and the Mach number $M = 0.15$. Since flows with such parameters of the incoming flow can be considered incompressible, only the velocity components are studied directly. The flow fields, velocity and friction profiles obtained by the surrogate model and numerically are compared. The analysis is carried out both on the plate and on the rounding. The simulation results confirm the prospects of the proposed approach. In particular, it was shown that even if the model is used at the maximum permissible limits of its applicability, friction can be obtained with an accuracy of up to 90%. The work also analyzes the constructed architecture of the neural network. The obtained surrogate model is compared with alternative models based on a variational autoencoder or the principal component analysis using radial basis functions. Based on this comparison, the advantages of the proposed method are demonstrated.

Сердечно-сосудистые заболевания на протяжении последних десятилетий представляют собой серьезную угрозу здоровью населения во всем мире, независимо от уровня развития страны. Ранняя диагностика и постоянный медицинский контроль могли бы значительно снизить смертность от этих заболеваний. Однако существующие системы здравоохранения зачастую не в состоянии обеспечить необходимый уровень мониторинга пациентов из-за ограниченных ресурсов.

В рамках нашего исследования мы использовали метод SHAP для объяснения работы модели глубокого обучения Bi-LSTM+CNN, разработанной для прогнозирования сердечно-сосудистых заболеваний. Путем балансировки данных и применения кросс-валидации мы достигли высокой точности (99,05%), полноты (99%) и F1-меры (99%) модели. Интерпретируемость модели, обеспечиваемая методом SHAP, повышает доверие медицинских специалистов к полученным результатам и способствует более широкому внедрению искусственного интеллекта в клиническую практику.

During the last several decades, cardiovascular disease has surpassed all others as the leading cause of mortality in both high-income and low-income countries. The mortality rate from heart disorders may be lowered with early identification and close clinical monitoring. However, it is not feasible to adequately monitor patients every day, and 24-hour consultation with a doctor is not a feasible option, since it requires more sagacity, time, and knowledge than is currently available.

In this study, we examine the Explainable Artificial Intelligence (XAI) technique, namely, the SHAP interpretability approach, in order to educate the medical professionals about the Explainable AI (XAI) methods that can be helpful in healthcare. The XAI methods enhance the trust and understandability of both practitioners and Health Researchers in AI Models. In this work, we propose a composite Deep Learning model: Bi-LSTM+CNN model to effectively predict heart disease from patient data. After balancing the dataset, the Bi-LSTM+CNN model was used. In contrast to other studies, our proposed hybrid deep learning model produced excellent experimental results, including 99.05% accuracy, 99% precision, 99% recall, and 99% F1-score.

Рассматривается пространственно-временная модель тритрофической системы, описывающая взаимодействие жертвы, хищника и суперхищника в среде с неоднородным распределением ресурса. Учитываются всеядность суперхищника (Intraguild Predation, IGP), диффузия и направленная миграция (таксис), который моделируется с помощью логарифмической функции от ресурса и плотности жертвы. Основное внимание уделено анализу мультистабильности системы и роли косимметрии в формировании континуальных семейств стационарных решений. С использованием численно-аналитического подхода изучаются пространственно-однородные и неоднородные стационарные решения. Установлено, что при выполнении дополнительных соотношений между параметрами, характеризующими локальное взаимодействие хищников, и коэффициентами диффузии система обладает косимметрией, что приводит к возникновению семейства устойчивых стационарных решений, пропорциональных функции ресурса. Показано, что косимметрия не зависит от функции ресурса в случае неоднородной среды. Проведено исследование устойчивости стационарных распределений с помощью спектрального метода. Нарушение условий косимметрии приводит к разрушению семейства и появлению изолированных стационарных состояний, а также к длительным переходным процессам, отражающим память системы об исчезнувшем семействе. В зависимости от начальных условий и параметров в системе реализуются переходы к режимам с одним хищником (выживание хищника или суперхищника) или к сосуществованию хищников. Численные эксперименты на основе метода прямых (разностная схема по пространственной переменной и метод Рунге – Кутты для интегрирования по времени) подтверждают мультистабильность системы и иллюстрируют исчезновение семейства решений при разрушении косимметрии.

We consider a spatiotemporal model of a tritrophic system describing the interaction between prey, predator, and superpredator in an environment with nonuniform resource distribution. The model incorporates superpredator omnivory (Intraguild Predation, IGP), diffusion, and directed migration (taxis), the latter modeled using a logarithmic function of resource availability and prey density. The primary focus is on analyzing the multistability of the system and the role of cosymmetry in the formation of continuous families of steady-state solutions. Using a numerical-analytical approach, we study both spatially homogeneous and inhomogeneous steady-state solutions. It is established that under additional relations between the parameters governing local predator interactions and diffusion coefficients, the system exhibits cosymmetry, leading to the emergence of a family of stable steady-state solutions proportional to the resource function. We demonstrate that the cosymmetry is independent of the resource function in the case of a heterogeneous environment. The stability of stationary distributions is investigated using spectral methods. Violation of the cosymmetry conditions results in the breakdown of the solution family and the emergence of isolated equilibria, as well as prolonged transient dynamics reflecting the system’s “memory” of the vanished states. Depending on initial conditions and parameters, the system exhibits transitions to single-predator regimes (survival of either the predator or superpredator) or predator coexistence. Numerical experiments based on the method of lines, which involves finite difference discretization in space and Runge –Kutta integration in time, confirm the system’s multistability and illustrate the disappearance of solution families when cosymmetry is broken.

Для трехосной стабилизации космического аппарата (КА) в орбитальной системе координат, в том числе в непрямом положении равновесия, применяется электродинамический метод управления, основанный на одновременном использовании двух управляющих моментов, оказывающих влияние на динамику вращательного движения космического аппарата в магнитном поле Земли (МПЗ), а именно лоренцева момента и момента магнитного взаимодействия. Предполагается, что КА, оснащенный электрическим зарядом с управляемым вектором статического момента заряда первого порядка и управляемым собственным магнитным моментом, движется по кеплеровой круговой околоземной орбите произвольного наклонения. Ранее было показано, что объединение двух систем управления — магнитной и лоренцевой — в единую электродинамическую систему управления (ЭДСУ) позволяет успешно решать различные задачи управления угловым движением КА. В отличие от многих известных исследований, выполненных для той или иной приближенной модели МПЗ, в данной работе не накладывается ограничений на точность аппроксимации МПЗ. Ранее выполненные исследования показали ограниченность возможностей ЭДСУ для КА, движущихся по орбитам, близким по наклонению к полярным, в силу наличия в этом случае таких точек на траектории КА, в которых возможно совпадение линий действия вектора геомагнитной индукции и вектора скорости КА относительно МПЗ. Поэтому в данной работе ставится и решается задача преодоления отмеченных трудностей. Предложена модификация ЭДСУ, основанная, во-первых, на оптимизации управления угловым движением КА и, во-вторых, на ограничении максимальной величины модуля вектора центра заряда относительно центра масс КА, который необходимо создавать в процессе управления. Рекомендован способ выбора параметров для модифицированной ЭДСУ. Приведенные результаты численных экспериментов для КА, находящихся на полярной и приполярных орбитах, не только демонстрируют работоспособность предложенной модификации ЭДСУ, но и свидетельствуют о возможности технической реализации модифицированного электродинамического метода трехосной стабилизации КА.

For the three-axis stabilization of the spacecraft in the orbital coordinate system, including in the indirect equilibrium position, an electrodynamic control method is used based on the simultaneous use of two control torques that affect the dynamics of the spacecraft’s rotational motion in the Earth’s magnetic field (EMF), namely, the Lorentz torque and the torque of magnetic interaction. It is assumed that the spacecraft, equipped with an electric charge with a controlled vector of static moment of charge of the first order and a controlled intrinsic magnetic moment, moves in a Keplerian circular Earth orbit of arbitrary inclination. It was previously shown that combining two control systems, magnetic and Lorentz control, into a single electrodynamic control system (EDCS) makes it possible to successfully solve various problems of controlling the angular motion of spacecraft. Unlike many well-known studies performed for one or another approximate EMF model, this work does not impose restrictions on the accuracy of the EMF approximation. Previous studies have shown the limited capabilities of the EDCS for spacecraft moving in orbits close to the polar ones, due to the presence in this case of such points on the spacecraft trajectory in which it is possible for the lines of action of the geomagnetic induction vector and the spacecraft velocity vector relative to the EMF. Therefore, in this paper, the problem of overcoming these difficulties is posed and solved. A modification of the EDCS is proposed, based, firstly, on optimizing the control of the angular motion of the spacecraft and, secondly, on limiting the maximum value of the modulus of the vector of the center of charge relative to the center of mass of the spacecraft, which must be created during control. A method for selecting parameters for a modified EMF is recommended. The presented results of numerical experiments for spacecraft located in polar and circumpolar orbits not only demonstrate the operability of the proposed modification of the EDCS, but also indicate the possibility of technical implementation of the modified electrodynamic method of three-axis spacecraft stabilization.

В современной кардиологии точная оценка функциональной значимости стенозов коронарных артерий является критическим фактором для выбора тактики лечения и принятия обоснованных клинических решений. В данной работе представлен автоматизированный алгоритм для обработки динамических последовательностей рентгеновских ангиографических изображений, направленный на оценку скорости кровотока. Данный параметр служит основой для определения количественного соотношения кровотока (QFR), выступающего эффективной неинвазивной альтернативой традиционному инвазивному измерению фракционного резерва кровотока. Предложенная методика успешно преодолевает классические трудности ангиографического анализа, такие как артефакты движения сосудов в ходе сердечно-дыхательного цикла, неравномерная контрастная плотность и геометрическая сложность сосудистого дерева в двумерных проекциях.

Представленный алгоритм обработки включает в себя несколько ключевых стадий. Первоначально выполняется предобработка кадров для подавления шумов и фильтрации анатомического фона. Далее проводится сегментация с использованием фильтра Сато и пороговой обработки Оцу, после чего производится скелетонизация для извлечения центральных линий сосудов. Особое внимание уделено алгоритму автоматической идентификации точек бифуркации и фильтрации артефактных пересечений, возникающих при наложении сосудов. Для обеспечения непрерывности данных применяется метод временного отслеживания целевого сегмента на основе корреляции шаблонов, что особенно важно в фазах с низкой концентрацией контрастного вещества. Математическое ядро алгоритма основано на решении обратной одномерной задачи для уравнения адвекции – диффузии, что позволяет восстановить скорость кровотока по временным кривым интенсивности.

В рамках исследования проведена детальная валидация метода путем сопоставления результатов автоматического расчета с ручными экспертными измерениями на десяти наборах клинических данных. Полученные результаты подтверждают устойчивость вычислительной схемы в физиологически значимых диапазонах и ее способность значительно снижать межэкспертную вариабельность. Разработанный подход минимизирует необходимость врачебного вмешательства в процесс обработки данных, открывая перспективы для создания систем поддержки принятия врачебных решений в реальном времени в условиях катетеризационной лаборатории.

In modern cardiology, accurate assessment of the functional significance of coronary artery stenoses is a critical factor for selecting treatment strategies and making informed clinical decisions. This paper presents an automated algorithm for processing dynamic X-ray angiographic image sequences aimed at estimating blood flow velocity. This parameter serves as the basis for determining the Quantitative Flow Ratio (QFR), which acts as an effective noninvasive alternative to traditional invasive fractional flow reserve (FFR) measurements. The proposed methodology successfully overcomes classic challenges of angiographic analysis, such as vessel motion artifacts during the cardio-respiratory cycle, variable contrast opacification, and the geometric complexity of the vascular tree in two-dimensional projections.

The presented processing workflow includes several key stages. Initially, frame preprocessing is performed to suppress noise and filter out the anatomical background. Subsequently, segmentation is implemented using a Sato filter and Otsu thresholding, followed by skeletonization to extract vessel centerlines. Particular attention is paid to the algorithm for automated identification of bifurcation points and the filtration of artifactual intersections caused by vessel overlapping. To ensure data continuity, a temporal tracking method for the target segment based on template correlation is applied, which is especially important during phases with low contrast agent concentration. The mathematical core of the algorithm is based on solving a 1D inverse problem for the advection-diffusion equation, allowing for the recovery of blood flow velocity from temporal intensity curves.

As part of the study, a detailed validation of the method was conducted by comparing automated calculation results with manual expert measurements across ten clinical datasets. The results confirm the robustness of the computational scheme within physiologically relevant ranges and its ability to significantly reduce inter-observer variability. The developed approach minimizes the need for physician intervention in the data processing stage, opening up prospects for creating real-time clinical decision support systems in the catheterization laboratory setting.

Рентгеновский дифракционный эксперимент позволяет определить значения модулей комплексных коэффициентов в разложении в ряд Фурье функции, описывающей распределение электронов в исследуемом объекте. Определение недостающих значений фаз коэффициентов Фурье представляет центральную проблему метода. Результатом применения некоторых подходов к решению фазовой проблемы является множество допустимых решений. Методы кластерного анализа позволяют исследовать структуру этого множества и выделить одно или несколько характерных решений. Существенной особенностью описываемого подхода является то, что близость решений оценивается не по их формальным параметрам, а на основе корреляции предварительно выровненных синтезов Фурье электронной плотности, рассчитанных с использованием сравниваемых наборов фаз. Предлагаемый метод исследования реализован в виде интерактивной программы ClanGR.

X-ray diffraction experiment allows determining of magnitudes of complex coefficients in the decomposition of the studied electron density distribution into Fourier series. The determination of the lost in the experiment phase values poses the central problem of the method, namely the phase problem. Some methods for solving of the phase problem result in a set of feasible solutions. Cluster analysis method may be used to investigate the composition of this set and to extract one or several typical solutions. An essential feature of the approach is the estimation of the closeness of two solutions by the map correlation between two aligned Fourier syntheses calculated with the use of phase sets under comparison. An interactive computer program ClanGR was designed to perform this analysis.

Вопрос взаимодействия определенного рецептора с лигандами является ключевым в области клеточной сигнализации, но решается он на молекулярном уровне. Для улучшения понимания молекулярных механизмов взаимодействия серотонинового рецептора с лигандами были применены различные биофизические методы компьютерного моделирования. Модель трехмерной структуры надмембранного домена серотонинового 5-HT3 рецептора человека была построена по гомологии с никотиновым ацетилхолиновым рецептором nAChR (PDB ID: 2BG9). Методом докинга были получены комплексы 5-HT3 рецептора с лигандами. Методом молекулярной динамики исследовано взаимодействие серотонинового 5-HT3 рецептора с лигандами и показана роль различных факторов в стабилизации комплексов.

The problem of ligand binding to certain receptor proteins is of central importance in cellular signaling, but it is still unresolved at a molecular level. In order to enhance our understanding of the molecular mechanisms we used a biophysical approach to study a serotonin-gated ion channel. The molecular model of 5-HT3 receptor extracellular domain was created using computer-based homology modeling. The docking method was used for building complexes of the 5-HT3 receptor and ligands. Some different activities were investigated by the method of molecular dynamics.