Текущий выпуск Номер 4, 2026 Том 18

Все выпуски

Результаты поиска по 'microscopy':
Найдено статей: 11
  1. Pham C.T., Tran T.T., Dang H.P.
    Image noise removal method based on nonconvex total generalized variation and primal-dual algorithm
    Компьютерные исследования и моделирование, 2023, т. 15, № 3, с. 527-541

    In various applications, i. e., astronomical imaging, electron microscopy, and tomography, images are often damaged by Poisson noise. At the same time, the thermal motion leads to Gaussian noise. Therefore, in such applications, the image is usually corrupted by mixed Poisson – Gaussian noise.

    In this paper, we propose a novel method for recovering images corrupted by mixed Poisson – Gaussian noise. In the proposed method, we develop a total variation-based model connected with the nonconvex function and the total generalized variation regularization, which overcomes the staircase artifacts and maintains neat edges.

    Numerically, we employ the primal-dual method combined with the classical iteratively reweighted $l_1$ algorithm to solve our minimization problem. Experimental results are provided to demonstrate the superiority of our proposed model and algorithm for mixed Poisson – Gaussian removal to state-of-the-art numerical methods.

    Pham C.T., Tran T.T., Dang H.P.
    Image noise removal method based on nonconvex total generalized variation and primal-dual algorithm
    Computer Research and Modeling, 2023, v. 15, no. 3, pp. 527-541

    In various applications, i. e., astronomical imaging, electron microscopy, and tomography, images are often damaged by Poisson noise. At the same time, the thermal motion leads to Gaussian noise. Therefore, in such applications, the image is usually corrupted by mixed Poisson – Gaussian noise.

    In this paper, we propose a novel method for recovering images corrupted by mixed Poisson – Gaussian noise. In the proposed method, we develop a total variation-based model connected with the nonconvex function and the total generalized variation regularization, which overcomes the staircase artifacts and maintains neat edges.

    Numerically, we employ the primal-dual method combined with the classical iteratively reweighted $l_1$ algorithm to solve our minimization problem. Experimental results are provided to demonstrate the superiority of our proposed model and algorithm for mixed Poisson – Gaussian removal to state-of-the-art numerical methods.

  2. Точное определение размеров и морфологии частиц имеет ключевое значение для множества научных и промышленных областей. Микроскопия является мощным инструментом для изучения геометрии частиц, однако традиционный анализ изображений часто оперирует базовыми параметрами, такими как площадь или эквивалентный диаметр круга, что недостаточно для описания несферических или сложных по форме объектов. В данной работе представлена новая методика анализа частиц по микрофотографиям, основанная на сочетании глубокого обучения для сегментации и аппроксимации параметризованными полигонами. Изображения оптической микроскопии были получены для модельных систем различной сложности: монодисперсные сферы полистирола, кубические кристаллы SAPO-34, гексагональные призмы ZSM-5 и их многокомпонентная смесь. Сегментация изображений выполнялась с помощью облачного сервиса DLgram01, обученного на вручную размеченных данных. Для обработки полученных полигонов сегментации была разработана специализированная программа на языке Python. Ключевая идея метода заключается в подборе для контура каждой частицы параметризованного полигона. Оптимальные значения геометрических параметров для каждой частицы определяется путем минимизации функции «несходства», количественно оценивающей расхождение между сегментированным контуром и параметрической формой. Метод был валидирован на простой системе со сферами: полученное распределение по размерам совпало с результатами классического метода проекционного диаметра. Для более сложных кубических частиц SAPO-34 аппроксимация прямоугольниками выявила отклонение от идеальной формы, что дало более полное морфологическое описание, чем использование единственного параметра размера. При анализе смеси частиц разработанный подход успешно классифицировал частицы разных типов и извлек для каждого класса характерные распределения параметров. Полученные для смеси статистические характеристики каждого типа частиц совпали с результатами анализа однокомпонентных систем, что подтверждает надежность и точность методики. Предложенный подход является мощным инструментом для автоматизированного анализа частиц, позволяя извлекать детальные геометрические параметры и строить многомерные распределения по размерам и форме для сложных полидисперсных систем.

    Kasyanov A.V., Babina K.A., Parkhomchuk E.V.
    Method for analyzing geometric parameters of particles and constructing their distributions based on micrograph segmentation data using parameterized polygons
    Computer Research and Modeling, 2026, v. 18, no. 4, pp. 837-853

    The accurate characterization of particle size and morphology is crucial across numerous scientific and industrial fields. While microscopy is a powerful tool for visualizing particle geometry, traditional image analysis often relies on basic parameters like area and equivalent circular diameter, which are insufficient for describing non-spherical or complex particles. This paper presents a novel methodology for the analysis of particles from micrographs, combining deep learningbased segmentation with parametric polygon approximation. Optical microscopy images were obtained for model systems of increasing complexity: monodisperse polystyrene spheres, SAPO-34 cubes, ZSM-5 hexagonal prisms, and a multi-component mixture of all three. Neural network segmentation was performed using the DLgram01 cloud service, trained on manually annotated images. A custom Python program was developed to process the resulting segmentation polygons. The core of the method involves fitting a parameterized polygon to each segmented particle’s contour. The optimal value of geometric parameters for each particle is determined by minimizing a “dissimilarity” function that measures the discrepancy between the segmentation and the parametric shape. This approach was validated on the simple spherical system, yielding a size distribution consistent with conventional projected diameter methods. For more complex cubic SAPO-34 particles, the rectangle fit revealed deviations from the ideal shape, providing a more complete morphological description than using a single size parameter. In the mixture of particles, the method successfully classified and extracted distinct parameter distributions for each particle type. The results for each class in the mixture were statistically consistent with those obtained from the single-component systems, demonstrating the method’s robustness and accuracy. The proposed methodology provides a powerful and universal tool for automated, high-throughput particle analysis, enabling the extraction of detailed shape parameters and the construction of comprehensive size and morphology distributions for complex particulate systems.

  3. Представлены результаты компьютерного моделирования нестационарных температурных полей, возникающих в полярных диэлектриках, облученных сфокусированными электронными пучками средних энергий, при исследовании с помощью методик растровой электронной микроскопии. Математическая модель основана на решении многомерного эволюционного уравнения теплопроводности численным конечноэлементным методом. Аппроксимация теплового источника проведена с учетом оценки области взаимодействия электронов с веществом на основе симуляции электронных траекторий методом Монте-Карло. Разработано программное приложение в ППП Маtlab, реализующее данную модель. Приведены геометрические интерпретации и результаты расчётов, демонстрирующие особенности температурного нагрева модельных образцов электронным зондом, при заданных параметрах эксперимента и принятой аппроксимации источника.

    Maslovskaya A.G., Sivunov A.V.
    The use of finite element method for simulation of heat conductivity processes in polar dielectrics irradiated by electron bunches
    Computer Research and Modeling, 2012, v. 4, no. 4, pp. 767-780

    The paper describes the results of computer simulation of time-dependent temperature fields arising in polar dielectrics irradiated by focused electron bunches with average electron energy when analyzing with electron microscopy techniques. The mathematical model was based on solving several-dimensional nonstationary heat conduction equation with use of numerical finite element method. The approximation of thermal source was performed taking into account the estimation of initial electron distribution determined by Monte-Carlo simulation of electron trajectories. The simulation program was designed in Matlab. The geometrical modeling and calculation results demonstrated the main features of model sample heating by electron beam were presented at the given experimental parameters as well as source approximation.

    Просмотров за год: 5. Цитирований: 3 (РИНЦ).
  4. Сивунов А.В., Масловская А.Г.
    Численное моделирование процессов зарядки при диагностике сегнетоэлектриков методами растровой электронной микроскопии
    Компьютерные исследования и моделирование, 2014, т. 6, № 1, с. 107-118

    Предложен алгоритм решения прикладной задачи расчета электрических характеристик полевых эффектов инжектированных зарядов в сегнетоэлектриках при электронном облучении, основанный на реализации детерминированной модели методом конечных элементов с учетом результатов моделирования транспорта электронов методом Монте-Карло. Разработано программное приложение для проведения вычислительного эксперимента.

    Sivunov A.V., Maslovskaya A.G.
    Numerical simulation of charging processes at ferroelectric diagnostics with scanning electron microscopy techniques
    Computer Research and Modeling, 2014, v. 6, no. 1, pp. 107-118

    An algorithm of applied problem solving was described to calculate electrical characteristics of electrical field effects in ferroelectrics electron-beam charged. The algorithm was based on implementation of the deterministic model using finite element method as well as taking into account Monte-Carlo simulation results of electron transport. The program application was developed to perform computing experiments.

    Цитирований: 2 (РИНЦ).
  5. Кубасова Н.А., Цатурян А.К.
    Молекулярно-динамическая оценка механических свойств фибриллярного актина
    Компьютерные исследования и моделирование, 2022, т. 14, № 5, с. 1081-1092

    Актин — консервативный структурный белок, который экспрессируется в клетках всех эукариот. При полимеризации он образует длинные нити фибриллярного актина, или F-актина, которые участвуют в формировании цитоскелета, в мышечном сокращении и его регуляции, а также во многих других процессах. Динамические и механические свойства актина важны для взаимодействия с другими белками и реализации его многочисленных функций в клетке. Мы провели молекулярно-динамические (МД) расчеты сегмента актиновой нити, состоящего из 24 мономеров, в отсутствие и в присутствии MgADP, с явным учетом растворителя и при физиологи- ческой ионной силе при 300 К длительностью 204,8 нс в силовых полях AMBER99SB-ILDN и CHARMM36 в программной среде GROMACS, используя в качестве исходной структуры современные структурные модели, полученные методом криоэлектронной микроскопии высокого разрешения. МД-расчеты показали, что стационарный режим флуктуаций структуры длинного сегмента F-актина вырабатывается через 80–100 нс после начала МД-траектории. По результатам МД-расчетов оценили основные параметры спирали актина и ее изгибную, продольную и торсионную жесткости, используя участок расчетной модели, достаточно далеко отстоящий от ее концов. Оцененные значения шага (2,72–2,75 нм) и угла (165–168) спирали F-актина, его изгибной (2,8–4,7 · 10−26 Н · м2), продольной (36–47 · 10−9 Н) и торсионной (2,6–3,1 · 10−26 Н · м2) жесткости хорошо согласуются с результатами наиболее надежных экспериментов. Результаты МД-расчетов показали, что современные структурные модели F-актина позволяют достаточно аккуратно описать его динамику и механические свойства при условии использования расчет- ных моделей, содержащих достаточно большое количество мономеров, современных силовых полей и относительно длинных МД-траекторий. Включение в МД-модели белков-партнеров актина, в частности тропомиозина и тропонина, может помочь понять молекулярные механизмы таких важных процессов, как регуляция мышечного сокращения.

    Koubassova N.A., Tsaturyan A.K.
    Molecular dynamics assessment of the mechanical properties of fibrillar actin
    Computer Research and Modeling, 2022, v. 14, no. 5, pp. 1081-1092

    Actin is a conserved structural protein that is expressed in all eukaryotic cells. When polymerized, it forms long filaments of fibrillar actin, or F-actin, which are involved in the formation of the cytoskeleton, in muscle contraction and its regulation, and in many other processes. The dynamic and mechanical properties of actin are important for interaction with other proteins and the realization of its numerous functions in the cell. We performed 204.8 ns long molecular dynamics (MD) simulations of an actin filament segment consisting of 24 monomers in the absence and the presence of MgADP at 300 K in the presence of a solvent and at physiological ionic strength using the AMBER99SBILDN and CHARMM36 force fields in the GROMACS software environment, using modern structural models as the initial structure obtained by high-resolution cryoelectron microscopy. MD calculations have shown that the stationary regime of fluctuations in the structure of the F-actin long segment is developed 80–100 ns after the start of the MD trajectory. Based on the results of MD calculations, the main parameters of the actin helix and its bending, longitudinal, and torsional stiffness were estimated using a section of the calculation model that is far enough away from its ends. The estimated subunit axial (2.72–2.75 nm) and angular (165–168) translation of the F-actin helix, its bending (2.8–4.7 · 10−26 N·m2), longitudinal (36–47·10−9 N), and torsional (2.6–3.1·10−26 N·m2) stiffness are in good agreement with the results of the most reliable experiments. The results of MD calculations have shown that modern structural models of F-actin make it possible to accurately describe its dynamics and mechanical properties, provided that computational models contain a sufficiently large number of monomers, modern force fields, and relatively long MD trajectories are used. The inclusion of actin partner proteins, in particular, tropomyosin and troponin, in the MD model can help to understand the molecular mechanisms of such important processes as the regulation of muscle contraction.

  6. Браже А.Р., Браже Н.А., Сосновцева О.В., Павлов А.Н., Мозекильде Э., Максимов Г.В.
    Исследование клеточной динамики с помощью интерференционной микроскопии с применением вейвлет-анализа
    Компьютерные исследования и моделирование, 2009, т. 1, № 1, с. 77-83

    Методом лазерной интерференционной микроскопии исследовали внутриклеточную динамику эритроцитов, нейронов и тучных клеток. Показано, что существуют регулярные изменения оптических свойств клеток, отражающие кооперативные процессы в примембранной и центральной областях клеток. Показано, что характерные частоты изменений показателя преломления могут служить маркерами специфических клеточных процессов.

    Brazhe A.R., Brazhe N.A., Sosnovtseva O.V., Pavlov A.N., Mosekilde E., Maksimov G.V.
    Wavelet-based analysis of cell dynamics measured by interference microscopy
    Computer Research and Modeling, 2009, v. 1, no. 1, pp. 77-83

    Laser interference microscopy was used to study morphology and intracellular dynamics of erythrocytes, neurons and mast cells. We have found that changes of the local refractive index (RI) of cells have regular components that relate to the cooperative processes in the cellular submembrane and centre regions. We have shown that characteristic frequencies of RI dynamics differ for various cell types and can be used as markers of specific cellular processes.

    Просмотров за год: 1. Цитирований: 5 (РИНЦ).
  7. Капитан В.Ю., Перетятько А.А., Иванов Ю.П., Нефедев К.В., Белоконь В.И.
    Сверхмасштабируемое моделирование магнитных состояний и реконструкция типов упорядочения массивов наночастиц
    Компьютерные исследования и моделирование, 2011, т. 3, № 3, с. 309-318

    Рассматриваются два возможных вычислительных метода интерпретации экспериментальных данных, полученных методами магнитно-силовой зондовой микроскопии. Развитие методов моделирования и реконструирования распределения макроспинов проводится с целью изучения процессов перемагничивания наночастиц в упорядоченных двумерных массивах. Предлагаются подходы к разработке сверхмасштабируемых высокопроизводительных алгоритмов, предназначенных для параллельного исполнения на суперкомпьютерных кластерах для решения прямой и обратной задачи моделирования магнитных состояний, типов упорядочения и процессов перемагничивания наносистем с коллективным поведением. Результаты моделирования согласуются с результатами эксперимента.

    Kapitan V.U., Peretyat'ko A.A., Ivanov U.P., Nefedev K.V., Belokon V.I.
    Superscale simulation of the magnetic states and reconstruction of the ordering types for nanodots arrays
    Computer Research and Modeling, 2011, v. 3, no. 3, pp. 309-318

    We consider two possible computational methods of the interpretation of experimental data obtained by means of the magnetic force microscopy. These methods of macrospin distribution simulation and reconstruction can be used for research of magnetization reversal processes of nanodots in ordered 2D arrays of nanodots. New approaches to the development of high-performance superscale algorithms for parallel executing on a supercomputer clusters for solving direct and inverse task of the modeling of magnetic states, types of ordering, reversal processes of nanosystems with a collective behavior are proposed. The simulation results are consistent with experimental results.

    Просмотров за год: 2.
  8. Хрущев С.С., Фурсова П.В., Плюснина Т.Ю., Ризниченко Г.Ю., Рубин А.Б.
    Анализ скорости электронного транспорта через фотосинтетический цитохромный $b_6 f$ -комплекс
    Компьютерные исследования и моделирование, 2024, т. 16, № 4, с. 997-1022

    Рассматривается основанный на методах линейной алгебры подход к анализу скорости электронного транспорта через цитохромный $b_6 f$-комплекс. В предложенном подходе зависимость квазистационарного потока электронов через комплекс от степени восстановленности пулов мобильных переносчиков электрона выступает в качестве функции отклика, характеризующей этот процесс. Разработано программное обеспечение на языке программирования Python, позволяющее построить основное кинетическое уравнение для комплекса по схеме элементарных реакций и вычислить квазистационарные скорости электронного транспорта через комплекс и динамику их изменения в ходе переходного процесса. Вычисления проводятся в многопоточном режиме, что позволяет эффективно использовать ресурсы современных вычислительных систем и за сравнительно небольшое время получать данные о функционировании комплекса в широком диапазоне параметров. Предложенный подход может быть легко адаптирован для анализа электронного транспорта в других компонентах фотосинтетической и дыхательной электрон-транспортной цепи, а также других процессов в сложных мультиферментных комплексах, содержащих несколько реакционных центров. Для параметризации модели цитохромного $b_6 f$-комплекса использованы данные криоэлектронной микроскопии и окислительно-восстановительного титрования. Получены зависимости квазистационарной скорости восстановления пластоцианина и окисления пластохинона от степени восстановленности пулов мобильных переносчиков электрона и проанализирована динамика изменения скорости в ответ на изменение редокс-состояния пула пластохинонов. Результаты моделирования находятся в хорошем согласовании с имеющимися экспериментальными данными.

    Khruschev S.S., Fursova P.V., Plusnina T.Yu., Riznichenko G.Yu., Rubin A.B.
    Analysis of the rate of electron transport through photosynthetic cytochrome $b_6 f$ complex
    Computer Research and Modeling, 2024, v. 16, no. 4, pp. 997-1022

    We consider an approach based on linear algebra methods to analyze the rate of electron transport through the cytochrome $b_6 f$ complex. In the proposed approach, the dependence of the quasi-stationary electron flux through the complex on the degree of reduction of pools of mobile electron carriers is considered a response function characterizing this process. We have developed software in the Python programming language that allows us to construct the master equation for the complex according to the scheme of elementary reactions and calculate quasi-stationary electron transport rates through the complex and the dynamics of their changes during the transition process. The calculations are performed in multithreaded mode, which makes it possible to efficiently use the resources of modern computing systems and to obtain data on the functioning of the complex in a wide range of parameters in a relatively short time. The proposed approach can be easily adapted for the analysis of electron transport in other components of the photosynthetic and respiratory electron-transport chain, as well as other processes in multienzyme complexes containing several reaction centers. Cryo-electron microscopy and redox titration data were used to parameterize the model of cytochrome $b_6 f$ complex. We obtained dependences of the quasi-stationary rate of plastocyanin reduction and plastoquinone oxidation on the degree of reduction of pools of mobile electron carriers and analyzed the dynamics of rate changes in response to changes in the redox state of the plastoquinone pool. The modeling results are in good agreement with the available experimental data.

  9. Коваленко И.Б., Древаль В.Д., Федоров В.А., Холина Е.Г., Гудимчук Н.Б.
    Описание изгибов протофиламентов микротрубочек
    Компьютерные исследования и моделирование, 2020, т. 12, № 2, с. 435-443

    Работа посвящена анализу конформационных изменений в димерах и тетрамерах тубулина, в частности оценке изгиба составленных из них протофиламентов. В работе рассмотрено три недавно использованных подхода для оценки изгиба тубулиновых протофиламентов: (1) измерение угла между вектором, проходящим через H7 спирали в $\alpha$- и $\beta$-мономерах тубулина в прямой структуре, и таким же вектором в изогнутой структуре тубулина; (2) измерение угла между вектором, соединяющим центры масс субъединицы и связанного с ней ГТФ- нуклеотида, и вектором, связывающим центры масс того же нуклеотида и соседней субъединицы тубулина; (3) измерение трех углов вращения субъединицы тубулина в изогнутой структуре димера тубулина относительно аналогичной субъединицы в прямой структуре димера тубулина. Приведены рассчитанные в соответствии с описанными тремя метриками количественные оценки углов на внутри- и междимерных интерфейсах тубулина в опубликованных кристаллических структурах. Внутридимерные углы тубулина в одной структуре, измеренные по методу (3), как и измерения этим методом внутридимерных углов в разных структурах, были более схожи, чем при использовании других методов, что говорит о меньшей чувствительности метода к локальным изменениям конформации тубулина, и характеризует метод в целом как более устойчивый. Измерения кривизны тубулина по углу между H7-спиралями дают несколько заниженную оценку удельной кривизны тубулина на димер, а метод (2), хотя на первый взгляд и дает цифры, также довольно хорошо совпадающие с оценками криоэлектронной микроскопии, существенно завышает углы даже на прямых структурах. Для структур тетрамеров тубулина в комплексе с белком статмином углы изгиба, рассчитанные по всем трем метрикам, различались для первого и второго димеров довольно существенно (до 20 % и больше), что говорит о чувствительности всех метрик к незначительным вариациям в конформации димеров тубулина внутри этих комплексов. Подробное описание процедур измерения изгибов тубулиновых протофиламентов, а также выявление преимуществ и недостатков различных метрик позволит увеличить воспроизводимость и четкость анализа структур тубулина в будущем, а также позволит облегчить сопоставление результатов, полученных различными научными группами.

    Kovalenko I.B., Dreval V.D., Fedorov V.A., Kholina E.G., Gudimchuk N.B.
    Microtubule protofilament bending characterization
    Computer Research and Modeling, 2020, v. 12, no. 2, pp. 435-443

    This work is devoted to the analysis of conformational changes in tubulin dimers and tetramers, in particular, the assessment of the bending of microtubule protofilaments. Three recently exploited approaches for estimating the bend of tubulin protofilaments are reviewed: (1) measurement of the angle between the vector passing through the H7 helices in $\alpha$ and $\beta$ tubulin monomers in the straight structure and the same vector in the curved structure of tubulin; (2) measurement of the angle between the vector, connecting the centers of mass of the subunit and the associated GTP nucleotide, and the vector, connecting the centers of mass of the same nucleotide and the adjacent tubulin subunit; (3) measurement of the three rotation angles of the bent tubulin subunit relative to the straight subunit. Quantitative estimates of the angles calculated at the intra- and inter-dimer interfaces of tubulin in published crystal structures, calculated in accordance with the three metrics, are presented. Intra-dimer angles of tubulin in one structure, measured by the method (3), as well as measurements by this method of the intra-dimer angles in different structures, were more similar, which indicates a lower sensitivity of the method to local changes in tubulin conformation and characterizes the method as more robust. Measuring the angle of curvature between H7-helices (method 1) produces somewhat underestimated values of the curvature per dimer. Method (2), while at first glance generating the bending angle values, consistent the with estimates of curved protofilaments from cryoelectron microscopy, significantly overestimates the angles in the straight structures. For the structures of tubulin tetramers in complex with the stathmin protein, the bending angles calculated with all three metrics varied quite significantly for the first and second dimers (up to 20% or more), which indicates the sensitivity of all metrics to slight variations in the conformation of tubulin dimers within these complexes. A detailed description of the procedures for measuring the bending of tubulin protofilaments, as well as identifying the advantages and disadvantages of various metrics, will increase the reproducibility and clarity of the analysis of tubulin structures in the future, as well as it will hopefully make it easier to compare the results obtained by various scientific groups.

  10. Щербань И.В., Лысенко Л.В., Щербань О.Г., Калитин К.Ю.
    Статистический анализ и моделирование паттернов активации обонятельной луковицы на основе немаркированных пространственных точечных процессов
    Компьютерные исследования и моделирование, 2026, т. 18, № 4, с. 1005-1019

    В нейробиологии исследование механизмов кодирования запахов требует анализа пространственных паттернов активации обонятельных структур (гломерул), реконструируемых по данным мультифотонной микроскопии. Однако отсутствие формального статистического аппарата для анализа обобщенных карт, полученных на группе животных, ограничивает воспроизводимость результатов и затрудняет синтез прогностических моделей. Для преодоления этих ограничений разработана методология анализа карт ольфакторной активности, суммарно зарегистрированных на нескольких животных, основанная на теории немаркированных случайных точечных процессов. Методология включает процедуру предобработки данных и алгоритм численного анализа, реализованный в среде R с использованием пакета spatstat. Предложенный подход позволяет: (1) перейти от исходных карт гломерулярной активности к точечным паттернам с сохранением информации о размерах гломерул; (2) выполнить анализ точечных паттернов и рассчитать пространственно-морфологические характеристики специфичных для каждого одоранта областей (доменов) устойчивой активации гломерул; (3) выполнить статистическую проверку гипотез о пространственной случайности точечных паттернов с использованием $K$-функции Рипли, $G$-функции ближайших соседей и метода Монте-Карло; (4) синтезировать параметрическую модель парных взаимодействий Штрауса, параметры которой $(r_{PI}, \gamma)$ имеют ясную биологическую интерпретацию — масштаб пространственного взаимодействия гломерул и силу комодуляции ответов соответственно.

    Валидация методологии выполнена на экспериментальных данных, полученных на 24 лабораторных крысах (10 особей стимулированы камфорой, 14 — метилбензоатом). Подобранные модели Штрауса продемонстрировали близкие, но специфичные для каждого одоранта параметры: радиус взаимодействия $r_{PI}$ составил 150 мкм для камфоры и 120 мкм для метилбензоата, коэффициент взаимодействия $\gamma$ — 0,95 и 0,89 соответственно. Валидация с использованием $Q$-$Q$-графиков сглаженных остатков подтвердила адекватность моделей, а рассчитанные на этапе (2) суммарная площадь доменов (0,60 мм2 и 0,73 мм2) и плотность реакций (38 и 43 точки/мм2) полностью согласуются с параметрическими сигнатурами $(r_{PI}, \gamma)$ моделей.

    Предложенный подход обеспечивает воспроизводимую количественную оценку гломерулярных доменов в единой стереотаксической системе координат и может быть распространен на другие одоранты и биологические виды. Все выводы получены на наркотизированных животных; экстраполяция на активные обонятельные стратегии бодрствующих животных требует дополнительных исследований.

    Shcherban I.V., Lysenko L.V., Shcherban O.G., Kalitin K.Y.
    Statistical analysis and modeling of olfactory bulb activation patterns using unmarked spatial point processes
    Computer Research and Modeling, 2026, v. 18, no. 4, pp. 1005-1019

    In neuroscience, the study of odor coding mechanisms requires the analysis of spatial activation patterns of olfactory structures (glomeruli) reconstructed from multiphoton microscopy data. However, the lack of a formal statistical framework for analyzing population-level summary maps limits result reproducibility and hinders the development of predictive models. To address these limitations, we developed a novel methodology for the analysis of olfactory activity maps aggregated across multiple animals, based on the theory of unmarked spatial point processes. The methodology includes a data preprocessing procedure and a numerical analysis algorithm implemented in the R environment using the spatstat package.

    The proposed approach enables: (1) transformation of raw glomerular activity maps into point patterns while preserving information about glomerular sizes (replacing size information with local point density is a methodological compromise reflecting the “functional weight” of glomerular input); (2) analysis of point patterns based on spatial morphometric characteristics of domains — regions of stable glomerular activation in the olfactory bulb, each approximated by an ellipse, with ellipse parameters (center coordinates in stereotaxic space, major and minor axis lengths, orientation angles), areas, and intra-ellipse point densities reflecting odorant-specific response signatures; (3) statistical hypothesis testing for spatial randomness (Complete Spatial Randomness) using Ripley’s $K$-function, the nearest-neighbor G-function, and Monte Carlo simulations; (4) synthesis of a parametric pairwise interaction model (Strauss process), whose parameters $(r_{PI}, \gamma)$ have a clear biological interpretation — the spatial interaction scale of glomeruli and the strength of response comodulation, respectively.

    The methodology was validated using experimental data obtained from 24 laboratory rats: 10 animals stimulated with camphor and 14 with methyl benzoate. The fitted Strauss models yielded close but odorant-specific parameters: interaction radii $r_{PI}$ of 150 $\mu$m (camphor) and 120 μm (methyl benzoate); interaction parameters $gamma$ of 0.95 and 0.89, respectively. The total domain areas (0.60 mm2 and 0.73 mm2) and point densities (38 and 43 points/mm2) calculated at the first stage of analysis are fully consistent with the parametric signatures $(r_{PI}, \gamma)$ of the Strauss model. Model validation using $Q$-$Q$ plots of smoothed residuals confirmed their adequacy.

    Our results are consistent with data previously obtained using genetic labeling and functional mapping techniques, demonstrating the correctness of the proposed methodology and the effectiveness of multiphoton laser scanning microscopy for such applications. The proposed framework provides reproducible quantitative assessment of glomerular domains within a unified stereotaxic coordinate system and can be extended to other odorants and biological species. All findings were obtained under anesthesia; extrapolation to active olfactory strategies in awake animals requires further investigation.

Страницы: следующая

Журнал индексируется в Scopus

Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU

Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science

Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"

Международная Междисциплинарная Конференция МАТЕМАТИКА. КОМПЬЮТЕР. ОБРАЗОВАНИЕ.