Все выпуски

Как правило, данные конфокальной и многофотонной лазерной сканирующей микроскопии страдают от низкого уровня полезного сигнала и высокого вклада дробового шума, связанного со стохастическим характером испускания фотонов флуорофором. Это осложняет задачу подавления шума и выделения полезного сигнала в таких данных. В настоящее время популярны нейросетевые алгоритмы улучшения изображений, однако они часто представляют собой «черный ящик» и требуют длительного обучения на конкретных наборах данных. В работе предлагается алгоритм подавления шума для данных динамической флуоресцентной микроскопии, опирающийся на наличие пространственно-временных локальных корреляций в полезном сигнале и на отсутствие пространственных корреляций в шумовой компоненте. Сингулярное разложение матриц (SVD), производящее спектральное разложение матрицы ковариации, — распространенный способ низкоранговой аппроксимации двумерных массивов, концентрирующий скоррелированный сигнал в нескольких первых компонентах разложения. Однако данные динамической микроскопии представляют собой трехмерные массивы или тензоры большей размерности, поэтому использование тензорных разложений потенциально может улучшить результат подавления шума по сравнению с обычным SVD. В основе алгоритма — двухэтапное применение усеченного сингулярного разложения высшего порядка (HOSVD) с введением порога для коэффициентов и последующим обратным преобразованием, сначала для локальных трехмерных окон в пространстве TXY (3D-HOSVD), а затем для пространственно объединенных групп трехмерных окон (4D-HOSVD). Для валидации алгоритма используются синтетические данные кальциевой сигнализации в астроцитах, в которых концентрация кальция транслируется в сигнал флуоресценции, значения которого в каждом кадре и каждом пикселе затем служат математическим ожиданием и дисперсией для сэмплирования случайной величины из непрерывного аналога пуассоновского распределения. Проведен анализ чувствительности алгоритма от параметров понижения ранга вдоль размерности временных компонент и группового ранга, длины локального окна и порога коэффициентов разложения. Несмотря на наличие мультипликативного шума, предлагаемый алгоритм демонстрирует значительное улучшение анализируемого сигнала, увеличивая соотношение «сигнал/шум» (PSNR) более чем на 20 дБ. Данный метод не опирается на предположения относительно разреженности или гладкости сигнала и может быть использован в качестве одного из этапов обработки данных динамической флуоресцентной микроскопии для самых различных типов данных.

В работе представлены результаты теоретического исследования особенностей статистического распределения фазы квазигармонического сигнала, формируемого в результате воздействия гауссовского шума на исходно гармонический сигнал. Выявленные особенности распределения фазы легли в основу развиваемого оригинального метода оценивания параметров исходного, неискаженного сигнала. Показано, что задача оценивания исходного значения фазы может эффективно решаться расчетом математического ожидания результатов выборочных измерений фазы, в то время как для решения задачи оценивания второго параметра распределения фазы — параметра уровня сигнала относительно шума — предлагается использовать зависимость дисперсии выборочных значений фазы от данного параметра. Для решения этой задачи используются полученные в явном виде аналитические формулы для моментов низших порядков распределения фазы, развит и обоснован новый подход к оцениванию параметров квазигармонического сигнала на основе измерения величины второго центрального момента, т. е. разброса выборочных значений фазы. В частности, применение данного метода обеспечивает высокоточное измерение амплитудных характеристик анализируемого сигнала посредством проведения лишь фазовых измерений. Численные результаты, полученные в ходе проведенного компьютерного моделирования, подтверждают теоретические выводы и эффективность разработанного метода. В работе обоснованы существование и единственность решения задачи оценивания параметров сигнала методом моментов. Показано, что функция, отображающая зависимость второго центрального момента от искомого параметра отношения сигнала к шуму, является монотонно убывающей и тем самым однозначной функцией искомого параметра. Разработанный метод оценивания параметров сигнала представляет интерес для решения широкого круга научных и прикладных задач, связанных с необходимостью измерения уровня сигнала и его фазы, в таких областях, как обработка данных в системах медицинской диагностической визуализации, обработка радиосигналов, радиофизика, оптика, радионавигация, метрология.

В работе рассматривается одна из ключевых подсистем приема коммунальных платежей «Разработчик». Описана разработанная система массового обслуживания, которая моделирует данную подсистему. Поставлена и решена задача о распределении ресурсов (в решении использовался модифицированный «венгерский» алгоритм). Приведено описание имитационной (агентной) модели данной подсистемы и результаты имитационных экспериментов.

В данной статье рассматриваются процессы теплопроводности, сопровождающиеся фазовыми переходами первого рода. При помощи клеточно-автоматного моделирования был исследован класс задач, имеющих широкое применение в практической деятельности. В работе приведены вычисления распределения температуры по глубине почвы в разные моменты времени для задачи промерзания влажного грунта. Другая задача — зонное выращивание — также смоделирована с помощью клеточных автоматов. Совпадение реальных и модельных параметров системы подтверждает целесообразность использования выбранного способа моделирования физических процессов.

Предложен модифицированный вариант метода решеточных уравнений Больцмана для расчета течений вязкой несжимаемой жидкости. Метод основан на использовании расщепления дифференциального оператора в уравнении Навье–Стокса и идее о мгновенной максвеллизации функций распределения. Метод основан на использовании явных схем и не приводит к сложностям при распараллеливании вычислений. С помощью метода фон Неймана показана устойчивость метода в широком диапазоне изменения входного параметра. Эффективность предложенного метода показана при решении задачи о плоском течении в каверне.

В работе решается задача вычисления параметров случайного сигнала в условиях распределения Райса на основе принципа максимума правдоподобия в предельных случаях большого и малого значения отношения сигнала к шуму. Получены аналитические формулы для решения системы уравнений максимума правдоподобия для искомых параметров сигнала и шума как для однопараметрического приближения, когда рассчитывается только один параметр задачи — величина сигнала, в предположении априорной известности второго параметра — дисперсии шума, так и для двухпараметрической задачи, когда оба параметра априорно неизвестны. Непосредственное вычисление искомых параметров сигнала и шума по формулам позволяет избежать необходимости ресурсоемкого численного решения системы нелинейных уравнений и тем самым оптимизировать время компьютерной обработки сигналов и изображений. Представлены результаты компьютерного моделирования задачи, подтверждающие теоретические выводы. Задача является значимой для целей обработки райсовских данных, в частности, в системах магнитно-резонансной визуализации.

В работе решается двухпараметрическая задача совместного расчета параметров сигнала и шума в условиях распределения Райса методами математической статистики: методом максимума правдоподобия и вариантами метода моментов. Рассматриваемые варианты метода моментов включают в себя совместный расчет сигнала и шума на основе измерений 2-го и 4-го моментов (ММ24) и на основе измерений 1-го и 2-го моментов (ММ12). В рамках каждого из рассматриваемых методов получены в явном виде системы уравнений для искомых параметров сигнала и шума. Важный математический результат проведенного исследования состоит в том, что решение системы двух нелинейных уравнений с двумя неизвестными — искомыми параметрами сигнала и шума — сведено к решению одного уравнения с одной неизвестной, что важно с точки зрения как теоретического исследования метода, так и его практического применения, позволяя существенно сократить необходимые для реализации метода вычислительные ресурсы. Задача является значимой для целей обработки райсовских данных, в частности, в системах магнитно-резонансной визуализации. В результате проведенного теоретического анализа получен важный практический вывод: решение двухпараметрической задачи не приводит к увеличению требуемых вычислительных ресурсов по сравнению с однопараметрическим приближением. Теоретические выводы подтверждаются результатами численного эксперимента.

Проведен сравнительный анализ двух численных методик моделирования нестационарных режимов термогравитационной конвекции и теплового поверхностного излучения в замкнутой дифференциально обогреваемой кубической полости. Рассматриваемая область решения имела две изотермические противоположные вертикальные грани, остальные стенки являлись адиабатическими. Поверхности стенок считались диффузно-серыми, т. е. их направленные спектральные степень черноты и поглощательная способность не зависят ни от угла, ни от длины волны, но могут зависеть от температуры поверхности. Относительно отраженного излучения использовались два предположения: 1) отраженное излучение является диффузным, т. е. интенсивность отраженного излучения в любой точке границы поверхности равномерно распределена по всем направлениям; 2) отраженное излучение равномерно распределено по каждой поверхности замкнутой области решения. Математическая модель, сформулированная как в естественных переменных «скорость–давление», так и в преобразованных переменных «векторный потенциал–вектор завихренности», реализована численно методом контрольного объема и методом конечных разностей соответственно. Следует отметить, что анализ радиационного теплообмена проведен с использованием метода сальдо в варианте Поляка.

При решении краевой задачи в естественных переменных методом контрольного объема для аппроксимации конвективных слагаемых применялся степенной закон, для диффузионных слагаемых — центральные разности. Разностные уравнения движения и энергии разрешались на основе итерационного метода переменных направлений. Для поиска поля давления, согласованного с полем скорости, применялась процедура SIMPLE.

В случае метода конечных разностей и преобразованных переменных для аппроксимации конвективных слагаемых применялась монотонная схема Самарского, для диффузионных слагаемых — центральные разности. Уравнения параболического типа разрешались на основе локально-одномерной схемы Самарского. Дискретизация уравнений эллиптического типа для компонент векторного потенциала проводилась с использованием формул симметричной аппроксимации вторых производных. При этом полученное разностное уравнение разрешалось методом последовательной верхней релаксации. Оптимальное значение параметра релаксации подбиралось на основе вычислительных экспериментов.

В результате показано полное согласование полученных распределений скорости и температуры при различных значениях числа Рэлея, что отражает работоспособность представленных методик. Продемонстрирована эффективность использования преобразованных переменных и метода конечных разностей при решении класса нестационарных задач.

Рассмотрены одномерная и двумерная гидродинамические модели турбулентного переноса внутри приземного слоя атмосферы в условиях нейтральной атмосферной стратификации. Обе модели основаны на решении системы усредненных уравнений Навье – Стокса и неразрывности с использованием 1.5-го порядка замыкания, а также уравнений для турбулентной кинетической энергии и скорости ее диссипации. С помощью одномерной модели, применимой в случае однородной подстилающей поверхности, проведено исследование по оценке влияния граничных условий на верхней и нижней границах модельной области на результаты расчетов вертикальных профилей скорости ветра и параметров турбулентности. В предложенной модели граничные условия ставились таким образом, чтобы она была согласована с широко используемой классической одномерной моделью, основанной на логарифмическом распределении скорости ветра по высоте, линейной зависимости коэффициента турбулентного обмена от высоты и постоянстве турбулентной кинетической энергии в приземном слое атмосферы в условиях нейтральной атмосферной стратификации. На основе классической модели можно получить ряд соотношений, связывающих градиент скорости ветра, турбулентную кинетическую энергию и скорость ее диссипации, каждое из которых может быть использовано в качестве граничного условия в гидродинамической модели. Из нескольких возможных вариантов постановки граничных условий для скорости ветра и скорости диссипации турбулентной кинетической энергии выбраны те, при которых достигается наименьшее отклонение смоделированных с помощью гидродинамической модели вертикальных профилей искомых величин от классических распределений. Соответствующие граничные условия на верхней и нижней границах использованы при постановке начально-краевой задачи в двумерной гидродинамической модели, позволяющей учитывать сложную структуру рельефа и горизонтальную неоднородность растительности. На основе предложенной двумерной модели с выбранными оптимальными граничными условиями исследована динамика установления турбулентного потока в зависимости от расстояния при обтекании воздушным потоком опушки леса. Для всех рассмотренных начально-краевых задач разработаны и реализованы безусловно устойчивые неявные разностные схемы их численного решения.

Данная работа посвящена применению метода численного решения уравнения Больцмана для решения задачи моделирования поведения радионуклидов в полости межэлектродного зазора многоэлементного электрогенерирующего канала. Анализ газокинетических процессов термоэмиссионных преобразователей может быть использован для ресурсного обоснования конструкции электрогенерирующего канала. В работе рассматриваются две конструктивные схемы канала: с одно- и двусторонним выводом газообразных продуктов деления в вакуумно-цезиевую систему. Анализ проводился с использованием двумерного уравнения переноса второго порядка точности для решения левой части и проекционного метода для решения правой части — интеграла столкновений. В ходе работы был реализован программный комплекс, позволяющий производить расчет на кластерной архитектуре за счет использования алгоритма распараллеливания левой части уравнения, результаты анализа зависимости эффективности вычисления от числа параллельных узлов представлены в работе. С использованием программного комплекса были проведены расчеты и получены данные по распределениям давлений газообразных продуктов деления в полости зазора, рассмотрены различные варианты начальных давлений и потоков, обнаружена зависимость давления радионуклидов в области коллектора от давлений цезия на концах зазора. Полученные результаты качественно подтверждаются испытаниями в петлевом канале ядерного реактора.