Все выпуски

Как правило, данные конфокальной и многофотонной лазерной сканирующей микроскопии страдают от низкого уровня полезного сигнала и высокого вклада дробового шума, связанного со стохастическим характером испускания фотонов флуорофором. Это осложняет задачу подавления шума и выделения полезного сигнала в таких данных. В настоящее время популярны нейросетевые алгоритмы улучшения изображений, однако они часто представляют собой «черный ящик» и требуют длительного обучения на конкретных наборах данных. В работе предлагается алгоритм подавления шума для данных динамической флуоресцентной микроскопии, опирающийся на наличие пространственно-временных локальных корреляций в полезном сигнале и на отсутствие пространственных корреляций в шумовой компоненте. Сингулярное разложение матриц (SVD), производящее спектральное разложение матрицы ковариации, — распространенный способ низкоранговой аппроксимации двумерных массивов, концентрирующий скоррелированный сигнал в нескольких первых компонентах разложения. Однако данные динамической микроскопии представляют собой трехмерные массивы или тензоры большей размерности, поэтому использование тензорных разложений потенциально может улучшить результат подавления шума по сравнению с обычным SVD. В основе алгоритма — двухэтапное применение усеченного сингулярного разложения высшего порядка (HOSVD) с введением порога для коэффициентов и последующим обратным преобразованием, сначала для локальных трехмерных окон в пространстве TXY (3D-HOSVD), а затем для пространственно объединенных групп трехмерных окон (4D-HOSVD). Для валидации алгоритма используются синтетические данные кальциевой сигнализации в астроцитах, в которых концентрация кальция транслируется в сигнал флуоресценции, значения которого в каждом кадре и каждом пикселе затем служат математическим ожиданием и дисперсией для сэмплирования случайной величины из непрерывного аналога пуассоновского распределения. Проведен анализ чувствительности алгоритма от параметров понижения ранга вдоль размерности временных компонент и группового ранга, длины локального окна и порога коэффициентов разложения. Несмотря на наличие мультипликативного шума, предлагаемый алгоритм демонстрирует значительное улучшение анализируемого сигнала, увеличивая соотношение «сигнал/шум» (PSNR) более чем на 20 дБ. Данный метод не опирается на предположения относительно разреженности или гладкости сигнала и может быть использован в качестве одного из этапов обработки данных динамической флуоресцентной микроскопии для самых различных типов данных.

В работе рассматривается задача параметрической идентификации дискретных линейных стохастических систем, представленных уравнениями в пространстве состояний, с аддитивными и мультипликативными шумами. Предполагается, что уравнения состояния и измерения дискретной линейной стохастической системы зависят от неизвестного параметра, подлежащего идентификации.

Представлен новый подход к построению градиентных методов параметрической идентификации в классе дискретных линейных стохастических систем с аддитивными и мультиплика- тивными шумами, основанный на применении модифицированной взвешенной ортогонализации Грама – Шмидта (MWGS) и алгоритмов дискретной фильтрации информационного типа.

Основными теоретическими результатами данной работы являются: 1) новый критерий идентификации в терминах расширенного информационного LD-фильтра; 2) новый алгоритм вычисления значений производных по параметру неопределенности дискретной линейной стохастической системы в расширенном информационном LD-фильтре на основе прямой процедуры модифицированной взвешенной ортогонализации Грама – Шмидта; 3) новый метод вычисления градиента критерия идентификации на основе предложенного дифференцированного расширенного информационного LD-фильтра.

Преимуществом предложенного подхода является применение численно устойчивой к ошибкам машинного округления MWGS-ортогонализации, лежащей в основе разработанных методов и алгоритмов. Информационный LD-фильтр сохраняет симметричность и положительную определенность информационных матриц. Разработанные алгоритмы имеют блочно-матричную структуру, удобную для компьютерной реализации.

Все разработанные алгоритмы реализованы на языке MATLAB. Проведены серии численных экспериментов, результаты которых демонстрируют работоспособность предложенного подхода на примере решения задачи идентификации параметров математической модели сложной механической системы.

Полученные результаты могут быть использованы для построения методов параметрической идентификации математических моделей, представленных в пространстве состояний дискретными линейными стохастическими системами с аддитивными и мультипликативными шумами.

Методом разделения переменных решена одномерная задача параболического типа с нелокальными краевыми условиями, содержащими вещественный параметр. Рассмотренные краевые условия не являются усиленно регулярными ни при каком значении параметра. Система собственных функций оператора второй производной, подчиненного краевым условиям исходной задачи, не обладает свойством базисности. Априорные оценки решения, полученные в работе, означают устойчивость решения по начальным данным.

Развивается и обосновывается метод, позволяющий получить явную форму решения в виде отрезков рядов по степеням шага аргумента. Формализуется алгоритм, элементы которого используют аналогию с представлением и обработкой чисел в компьютере: ограничение в разрядной сетке и переброс разрядов. При перебросе разряда выявляются фрактально-стохастические свойства алгоритма, дающие возможность осреднять неизвестные промежуточные шаги в старших разрядах. Строятся решения нелинейных дифференциальных уравнений и системы уравнений.

Для автономных систем ОДУ рассмотрено простейшее подмножество двухстадийных схем Розенброка с комплексными коэффициентами, численная реализация которых требует одного LU-разложения и одного вычисления Якобиана за шаг интегрирования.

Проведено теоретическое исследование точности и устойчивости таких методов. Получены новые A-устойчивые методы 3-го порядка точности с различными свойствами и возможностью простой оценки главного терма локальной погрешности, что необходимо для автоматического выбора шага. Проведено тестирование новых методов.

Рассмотрен формализм квазиклассического приближения относительно малого коэффициента диффузии D, D→0, для многомерного уравнения Фоккера−Планка−Колмогорова с нелокальным и нелинейным вектором сноса в классе траекторно-сосредоточенных функций. Получена динамическая система Эйнштейна−Эренфеста типа (0, M), описывающая движение точки, в окрестности которой локализованы квазиклассические асимптотические решения. Построено семейство квазиклассических асимптотик с точностью O(D^(M+1)/2).

Настоящая работа посвящена периодическим и непериодическим полулокальным сглаживающим сплайнам или S-сплайнам класса C^p, состоящим из полиномов степени n.
Первые p + 1 коэффициентов каждого полинома задаются значениями предыдущего полинома и его p первых производных в точке склейки, остальные n − p коэффициентов при старших производных полинома определяются методом наименьших квадратов. Эти условия дополняются или начальными условиями (непериодический случай), или условием периодичности сплайн-функции на отрезке определения. В работе выписана система линейных уравнений, определяющих коэффициенты полиномов, составляющих сплайн. Матрица системы имеет блочный вид. Доказаны теоремы существования и единственности. Показано, что сходимость сплайнов к исходной функции зависит от величин собственных значений матрицы устойчивости. Приведены примеры устойчивых S-сплайнов.

Разработан алгоритм ускоренного моделирования КМОП СБИС (Сверх Больших Интегральных Схем с Комплементарной логикой на транзисторах Металл-Окисел-Проводник) под управлением точности. Алгоритм обеспечивает возможность проведения параллельного числительного эксперимента в много процессорной вычислительной среде. Ускорение расчета осуществляется за счет применения блочно-матричной и структурной (DCCC) декомпозиций. Особенность подхода состоит в выборе моментов и способов обмена параметрами и в применении многоскоростных методов интегрирования в процессе расчета подсистем. Благодаря этому имеется возможность оценивать и контролировать погрешность по требуемым характеристикам.

Данная работа посвящена сравнению двух критериев однородности: критерия χ², основанного на таблицах сопряженности признаков 2 × 2, и критерия однородности, основанного на асимптотических распределениях суммируемых квадратичных уклонений оценок функции распределения в модели зависимости «доза–эффект». Оценка мощности критериев производится при помощи компьютерного моделирования. Для построения функций эффективности используется метод ядерной оценки регрессии, основанный на оценке Надарая–Ватсона.

Исследуются методы решения задачи фокусной аппроксимации — приближения по точечно заданной гладкой замкнутой эмпирической кривой многофокусными лемнискатами. Анализируются критерии и сходимость разработанных методов приближения, как в вещественной, так и в комплексной интерпретации. Доказывается топологическая эквивалентность используемых критериев.