Все выпуски
- 2026 Том 18
- 2025 Том 17
- 2024 Том 16
- 2023 Том 15
- 2022 Том 14
- 2021 Том 13
- 2020 Том 12
- 2019 Том 11
- 2018 Том 10
- 2017 Том 9
- 2016 Том 8
- 2015 Том 7
- 2014 Том 6
- 2013 Том 5
- 2012 Том 4
- 2011 Том 3
- 2010 Том 2
- 2009 Том 1
-
Обесшумливание данных динамической флуоресцентной микроскопии при помощи двухэтапного HOSVD-разложения
Компьютерные исследования и моделирование, 2025, т. 17, № 4, с. 529-542Как правило, данные конфокальной и многофотонной лазерной сканирующей микроскопии страдают от низкого уровня полезного сигнала и высокого вклада дробового шума, связанного со стохастическим характером испускания фотонов флуорофором. Это осложняет задачу подавления шума и выделения полезного сигнала в таких данных. В настоящее время популярны нейросетевые алгоритмы улучшения изображений, однако они часто представляют собой «черный ящик» и требуют длительного обучения на конкретных наборах данных. В работе предлагается алгоритм подавления шума для данных динамической флуоресцентной микроскопии, опирающийся на наличие пространственно-временных локальных корреляций в полезном сигнале и на отсутствие пространственных корреляций в шумовой компоненте. Сингулярное разложение матриц (SVD), производящее спектральное разложение матрицы ковариации, — распространенный способ низкоранговой аппроксимации двумерных массивов, концентрирующий скоррелированный сигнал в нескольких первых компонентах разложения. Однако данные динамической микроскопии представляют собой трехмерные массивы или тензоры большей размерности, поэтому использование тензорных разложений потенциально может улучшить результат подавления шума по сравнению с обычным SVD. В основе алгоритма — двухэтапное применение усеченного сингулярного разложения высшего порядка (HOSVD) с введением порога для коэффициентов и последующим обратным преобразованием, сначала для локальных трехмерных окон в пространстве TXY (3D-HOSVD), а затем для пространственно объединенных групп трехмерных окон (4D-HOSVD). Для валидации алгоритма используются синтетические данные кальциевой сигнализации в астроцитах, в которых концентрация кальция транслируется в сигнал флуоресценции, значения которого в каждом кадре и каждом пикселе затем служат математическим ожиданием и дисперсией для сэмплирования случайной величины из непрерывного аналога пуассоновского распределения. Проведен анализ чувствительности алгоритма от параметров понижения ранга вдоль размерности временных компонент и группового ранга, длины локального окна и порога коэффициентов разложения. Несмотря на наличие мультипликативного шума, предлагаемый алгоритм демонстрирует значительное улучшение анализируемого сигнала, увеличивая соотношение «сигнал/шум» (PSNR) более чем на 20 дБ. Данный метод не опирается на предположения относительно разреженности или гладкости сигнала и может быть использован в качестве одного из этапов обработки данных динамической флуоресцентной микроскопии для самых различных типов данных.
-
Статистический анализ фазы квазигармонического сигнала методом моментов как инструмент оценивания параметров сигнала
Компьютерные исследования и моделирование, 2025, т. 17, № 6, с. 1037-1049В работе представлены результаты теоретического исследования особенностей статистического распределения фазы квазигармонического сигнала, формируемого в результате воздействия гауссовского шума на исходно гармонический сигнал. Выявленные особенности распределения фазы легли в основу развиваемого оригинального метода оценивания параметров исходного, неискаженного сигнала. Показано, что задача оценивания исходного значения фазы может эффективно решаться расчетом математического ожидания результатов выборочных измерений фазы, в то время как для решения задачи оценивания второго параметра распределения фазы — параметра уровня сигнала относительно шума — предлагается использовать зависимость дисперсии выборочных значений фазы от данного параметра. Для решения этой задачи используются полученные в явном виде аналитические формулы для моментов низших порядков распределения фазы, развит и обоснован новый подход к оцениванию параметров квазигармонического сигнала на основе измерения величины второго центрального момента, т. е. разброса выборочных значений фазы. В частности, применение данного метода обеспечивает высокоточное измерение амплитудных характеристик анализируемого сигнала посредством проведения лишь фазовых измерений. Численные результаты, полученные в ходе проведенного компьютерного моделирования, подтверждают теоретические выводы и эффективность разработанного метода. В работе обоснованы существование и единственность решения задачи оценивания параметров сигнала методом моментов. Показано, что функция, отображающая зависимость второго центрального момента от искомого параметра отношения сигнала к шуму, является монотонно убывающей и тем самым однозначной функцией искомого параметра. Разработанный метод оценивания параметров сигнала представляет интерес для решения широкого круга научных и прикладных задач, связанных с необходимостью измерения уровня сигнала и его фазы, в таких областях, как обработка данных в системах медицинской диагностической визуализации, обработка радиосигналов, радиофизика, оптика, радионавигация, метрология.
-
LD-фильтр для оценки состояния парных марковских моделей
Компьютерные исследования и моделирование, 2026, т. 18, № 4, с. 747-764В работе рассматривается задача оценивания состояния парных марковских моделей с гауссовыми шумами. Класс парных марковских моделей является обобщением класса классических скрытых марковских моделей. Ключевое отличие заключается в том, что марковским предполагается не скрытый процесс, а пара «состояние – наблюдение», что позволяет моделировать более сложные зависимости и, в частности, отказаться от требования марковости скрытого процесса. При этом для линейных гауссовских парных моделей сохраняется возможность применения методов калмановской фильтрации, что приводит к понятию парного фильтра Калмана.
Представлена новая модификация парного фильтра Калмана, основанная на применении модифицированной взвешенной ортогонализации Грама–Шмидта и LD-разложении ковариационных матриц. Основными результатами данной работы являются: новая LD-модификация парного фильтра Калмана (теорема 1); новый алгоритм LD-ПФК для оценки состояния парных марковских моделей на основе прямой процедуры модифицированной взвешенной ортогонализации Грама–Шмидта и LD-разложения ковариационных матриц (алгоритм 2); результаты сравнительного анализа вычислительных свойств алгоритмов парной фильтрации. Полученные теоретические результаты дополняют теорию парной фильтрации в классе линейных дискретных парных марковских моделей с гауссовыми шумами.
Разработанный алгоритм реализован на языке MATLAB. Проведены серии численных экспериментов, результаты которых демонстрируют его работоспособность и численные преимущества перед другими существующими модификациями парного фильтра Калмана.
Представленные результаты могут быть в дальнейшем использованы для построения новых методов параметрической идентификации парных марковских моделей.
-
Введение в распараллеливание алгоритмов и программ
Компьютерные исследования и моделирование, 2010, т. 2, № 3, с. 231-272Просмотров за год: 53. Цитирований: 22 (РИНЦ).Описаны отличия технологии программирования для параллельных вычислительных систем от технологии последовательного программирования, аргументировано появление новых этапов в технологии: декомпозиция алгоритмов, назначение работ исполнителям, дирижирование и отображение логических исполнителей на физические. Затем кратко рассмотрены вопросы оценки производительности алгоритмов. Обсуждаются вопросы декомпозиции алгоритмов и программ на работы, которые могут бытьвы полнены параллельно.
-
Диффузионная неустойчивость в трехкомпонентной модели типа «реакция–диффузия»
Компьютерные исследования и моделирование, 2011, т. 3, № 2, с. 135-146Просмотров за год: 1. Цитирований: 7 (РИНЦ).В данной работе проведено исследование возникновения диффузионной неустойчивости в системе из трех уравнений типа «реакция–диффузия». В общем виде получены условия как тьюринговской, так и волновой неустойчивостей. Выявлены качественные свойства, которыми должна обладать система для того, чтобы в ней могла произойти та или другая бифуркация. В численных экспериментах показано, что при выполнении соответствующих условий в нелинейной модели возникают структуры, которые предсказываются линейным анализом.
-
Математическая модель и компьютерный анализ критериев однородности зависимости «доза–эффект»
Компьютерные исследования и моделирование, 2012, т. 4, № 2, с. 267-273Просмотров за год: 6.Данная работа посвящена сравнению двух критериев однородности: критерия χ2, основанного на таблицах сопряженности признаков 2 × 2, и критерия однородности, основанного на асимптотических распределениях суммируемых квадратичных уклонений оценок функции распределения в модели зависимости «доза–эффект». Оценка мощности критериев производится при помощи компьютерного моделирования. Для построения функций эффективности используется метод ядерной оценки регрессии, основанный на оценке Надарая–Ватсона.
-
Теоретическое обоснование математических методов совместного оценивания параметров сигнала и шума при анализе райсовских данных
Компьютерные исследования и моделирование, 2016, т. 8, № 3, с. 445-473Просмотров за год: 2. Цитирований: 2 (РИНЦ).В работе решается двухпараметрическая задача совместного расчета параметров сигнала и шума в условиях распределения Райса методами математической статистики: методом максимума правдоподобия и вариантами метода моментов. Рассматриваемые варианты метода моментов включают в себя совместный расчет сигнала и шума на основе измерений 2-го и 4-го моментов (ММ24) и на основе измерений 1-го и 2-го моментов (ММ12). В рамках каждого из рассматриваемых методов получены в явном виде системы уравнений для искомых параметров сигнала и шума. Важный математический результат проведенного исследования состоит в том, что решение системы двух нелинейных уравнений с двумя неизвестными — искомыми параметрами сигнала и шума — сведено к решению одного уравнения с одной неизвестной, что важно с точки зрения как теоретического исследования метода, так и его практического применения, позволяя существенно сократить необходимые для реализации метода вычислительные ресурсы. Задача является значимой для целей обработки райсовских данных, в частности, в системах магнитно-резонансной визуализации. В результате проведенного теоретического анализа получен важный практический вывод: решение двухпараметрической задачи не приводит к увеличению требуемых вычислительных ресурсов по сравнению с однопараметрическим приближением. Теоретические выводы подтверждаются результатами численного эксперимента.
-
Классификация динамических режимов переключения намагниченности в трехслойной ферромагнитной структуре в зависимости от спин-поляризованного тока инжекции и внешнего магнитного поля. II. Перпендикулярная анизотропия
Компьютерные исследования и моделирование, 2016, т. 8, № 5, с. 755-764Просмотров за год: 4. Цитирований: 1 (РИНЦ).В приближении однородной намагниченности построена математическая модель трехслойной ячейки памяти MRAM c осью анизотропии, расположенной перпендикулярно запоминающему ферромагнитному слою ячейки (перпендикулярная анизотропия). Предполагается, что первоначально намагниченность свободного слоя ячейки ориентирована вдоль оси анизотропии и соответствует состоянию «нуль». Одновременное мгновенное включение спин-поляризованного тока и магнитного поля воздействует на намагниченность свободного слоя и может перевести ее в противоположное положение, соответствующее состоянию «единица». Математическое описание эффекта основано на классическом векторном уравнении Ландау–Лифшица с диссипативным членом в форме Гильберта. В нашей модели учтены взаимодействия намагниченности с внешним магнитным полем и эффективными полями анизотропии и размагничивания, а также с током инжекции в форме Слончевского–Берже. Выведена система обыкновенных дифференциальных уравнений, описывающая динамику намагниченности в трехслойной вентильной структуре Co/Cu/Co в зависимости от управляющих параметров: величины тока инжекции и внешнего магнитного поля, параллельного оси анизотропии магнитных слоев. Показано, что при любых токах и полях система имеет два основных состояния равновесия, расположенных на оси, совпадающей с осью анизотропии. Установлено, что в данной системе, в отличие от системы с продольной анизотропией, дополнительные состояния равновесия отсутствуют. Проведен анализ устойчивости основных состояний равновесия по первому приближению. Построены бифуркационные диаграммы, характеризующие типы динамики вектора намагниченности свободного слоя. Проведена классификация фазовых портретов на единичной сфере в зависимости от управляющих параметров (тока и поля). Изучены особенности динамики вектора намагниченности в каждой из характерных областей бифуркационной диаграммы и численно, методом Рунге–Кутты, построены траектории переключения. Найдены комбинации управляющих параметров, при которых переключение невозможно. Найдены области существования устойчивых и неустойчивых предельных циклов системы. Аналитически определены значения пороговых токов переключения в зависимости от внешнего магнитного поля. Проведено сравнение значений порогового тока в моделях с продольной и перпендикулярной анизотропией при нулевом магнитном поле и показано, что в модели с перпендикулярной анизотропией ток переключения почти на порядок ниже, чем в модели с продольной анизотропией.
-
Применение схемы«КАБАРЕ» к задаче об эволюции свободного сдвигового течения
Компьютерные исследования и моделирование, 2017, т. 9, № 6, с. 881-903В настоящей работе приводятся результаты численного моделирования свободного сдвигового течения с помощью схемы «КАБАРЕ», реализованной в приближении слабой сжимаемости. Анализ схемы проводится на основе изучения свойств неустойчивости Кельвина–Гельмгольца и порождаемой ею двумерной турбулентности, с использованием интегральных кривых кинетической энергии и энстрофии, картин временной эволюции завихренности, спектров энстрофии и энергии, а также дисперсионного соотношения для инкремента неустойчивости. Расчеты проводились для числа Рейнольдса $\text{Re} = 4 \times 10^5$, на квадратных последовательно сгущаемых сетках в диапазоне $128^2-2048^2$ ячеек. Внимание уделено проблеме «недоразрешенности слоев», проявляющейся в возникновении лишнего вихря при свертывании двух вихревых листов (слоев вихревой пелены). Данное явление существует только на грубых сетках $(128^2)$, однако, полностью симметричная картина эволюции завихренности начинает наблюдаться только при переходе к сетке $1024^2$ ячеек. Размерные оценки отношения вихрей на границах инерционного интервала показывают, что наиболее подробная сетка $2048^2$ ячеек оказывается достаточной для качественного отображения мелкомасштабных сгустков завихренности. Тем не менее можно говорить о достижении хорошей сходимости при отображении крупномасштабных структур. Эволюция турбулентности, в полном соответствии с теоретическими представлениями, приводит к появлению крупных вихрей, в которых сосредотачивается вся кинетическая энергия движения, и уединенных мелкомасштабных образований. Последние обладают свойствами когерентных структур, выживая в процессе нитеобразования (филаментации), и практически не взаимодействуют с вихрями других масштабов. Обсуждение диссипативных характеристик схемы ведется на основе анализа графиков скорости диссипации кинетической энергии, вычисляемой непосредственно, а также на основе теоретических соотношений для моделей несжимаемой жидкости (по кривым энстрофии) и сжимаемого газа (по влиянию тензора скоростей деформации и эффектов дилатации). Асимптотическое поведение каскадов кинетической энергии и энстрофии подчиняется реализующимся в двумерной турбулентности соотношениям $E(k) \propto k^{−3}$, $\omega^2(k) \propto k^{−1}$. Исследование зависимости инкремента неустойчивости от безразмерного волнового числа показывает хорошее согласие с данными других исследователей, вместе с тем часто используемый способ расчета инкремента неустойчивости не всегда оказывается достаточно точным, вследствие чего была предложена его модификация.
Таким образом, реализованная схема, отличаясь малой диссипативностью и хорошим вихреразрешением, оказывается вполне конкурентоспособной в сравнении с методами высокого порядка точности.
Ключевые слова: численная схема «КАБАРЕ», слабосжимаемая жидкость, неустойчивость Кельвина–Гельгольца, завихренность, энстрофия, инкремент неустойчивости, недоразрешаемые слои, «паразитный» вихрь, свертывание, инерционный интервал, когерентные структуры, филаментация, скорость диссипации, дилатация.Просмотров за год: 17. -
Анализ численного метода решения задачи о распространении пламени по вертикальной поверхности горючего материала
Компьютерные исследования и моделирование, 2018, т. 10, № 6, с. 755-774Просмотров за год: 33.Снижение пожарной опасности при использовании полимерных материалов является одной из актуальных научно-технических задач. В связи со сложностью проведения экспериментальных исследований в данной области важным направлением современной фундаментальной науки является развитие теоретических основ описания реагирующих течений. Для решения вопросов, связанных с распространением пламени по поверхности горючего материала, необходимо совершенствовать методы математического моделирования, что обусловлено большим количеством протекающих физико-химических процессов, требующих моделирования каждого из них в отдельности, и сложным характером взаимодействия между этими процессами как в газовой среде, так и в твердом теле.
Распространение пламени вверх по вертикальной поверхности твердого горючего материала сопровождается нестационарными вихревыми структурами течения газа вблизи области горения, образование которых происходит в результате тепловой нестабильности и за счет действия сил естественной конвекции, ускоряющей горячие продукты сгорания. За счет вихревых структур от горячего газофазного пламени в твердый материал в каждый момент времени поступает разное количество тепловой энергии. Поэтому адекватный расчет теплового потока и, соответственно, вихревого течения имеет важное значение для оценки скорости распространения пламени.
Данная работа появящена оценкам параметров численного метода решения задачи распространения пламени по поверхности горючего материала, учитывающего сопряженный характер взаимодействия газовой среды и твердого тела и вихревое течение, вызванное естественной конвекцией. В работе рассмотрены особенности использования различных аппроксимационных схем, используемых при интегрировании исходных дифференциальных уравнений по пространству и во времени, релаксации полей при итерировании внутри шага по времени, различных шагов интегрирования по времени.
Сформулированная в работе математическая модель позволяет описывать процесс распространения пламени по поверхности горючего материала. Газодинамика моделируется системой уравнений Навье – Стокса, вихревое течение описывается комбинированной моделью турбулентности RANS–LES (DDES), турбулентное горение — комбинированной моделью горения Eddy Break-Up с учетом кинетических эффектов, теплопередача излучением — методом сферических гармоник первого порядка аппроксимации (P1). Решение уравнений производится в программном пакете OpenFOAM.
Журнал индексируется в Scopus
Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU
Журнал входит в систему Российского индекса научного цитирования.
Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science
Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"





