Все выпуски

В данной статье рассмотрены особенности численных решений некоторых задач для кноидальных волн, которые являются периодическими решениями классического уравнения Кортевега – де Фриза типа бегущей волны. Точные решения, описывающие эти волны, получены путемс ведения автоволновым приближением уравнения Кортевега – де Фриза к обыкновенным дифференциальным уравнениям сначала третьего, затем второго и, наконец, первого порядков. Обращение к числовому примеру показывает, что полученные такимо бразом обыкновенные дифференциальные уравнения не являются равносильными. Сформулированная и доказанная в настоящей статье теорема и замечание к ней показывают, что множество решений уравнения третьего порядка самое широкое и в качестве подмножеств включает в себя множества решений уравнений первого и второго порядков, которые в свою очередь равносильными не являются. Полученное автоволновым приближением обыкновенное дифференциальное уравнение первого порядка является источником для нахождения точных формул для описания кноидальной волны (периодического решения) и солитона (уединенной волны). Несмотря на это, с вычислительной точки зрения это уравнение является самым неудобным. Для этого уравнения не выполняется условие Липшица по искомой функции в окрестности постоянных решений. Отсюда теорема о существовании и единственности решения задачи Коши для обыкновенного дифференциального уравнения первого порядка не является справедливой. В частности, в стационарных точках нарушается единственность решения задачи Коши. Поэтому для обыкновенного дифференциального уравнения первого порядка, полученного из уравнения Кортевега – де Фриза, и в случае кноидальной волны, и в случае солитона задачу Коши нельзя ставить в точках экстремума. Начальное условие может быть поставлено лишь в точке убывания или роста, а отрезок численного решения необходимо выбрать так, чтобы он лежал между соседними точками экстремума. Но для уравнений второго и третьего порядков начальные условия можно ставить как в точках убывания или роста, так и в точках экстремума. При этом отрезок для численного решения сильно расширяется и наблюдается периодичность. Для решений этих обыкновенных уравнений изучаются постановки задач Коши, проводится сравнение полученных результатов с точными решениями и между собой. Показана численная реализация перерождения кноидальной волны в солитон. Результаты статьи имеют гемодинамическую интерпретацию пульсационного течения кровотока в цилиндрическом кровеносном сосуде, состоящем из упругих колец.

В работе предлагается новая версия метода Гаусса–Ньютона для решения системы нелинейных уравнений, основанная на идеях использования верхней оценки нормы невязки системы уравнений и квадратичной регуляризации. Предложенная версия метода Гаусса–Ньютона на практике фактически задает целое параметризованное семейство методов решения систем нелинейных уравнений и задач восстановления регрессионной зависимости. Разработанное семейство методов Гаусса–Ньютона состоит целиком из итеративных методов, включающих в себя также специальные формы алгоритмов Левенберга–Марквардта, с обобщением на случаи применения в неевклидовых нормированных пространствах. В разработанных методах используется локальная модель, осуществляющая параметризованное проксимальное отображение и допускающая на практике применение неточного оракула в формате «черного ящика» с ограничением на точность вычисления и на сложность вычисления. Для разработанного семейства методов приведен анализ эффективности в терминах количества итераций алгоритма, точности и сложности представления локальной модели и вычисления оракула, параметров размерности решаемой задачи с выводом локальной и глобальной сходимости при использовании произвольного оракула. В работе представлены условия глобальной сублинейной сходимости для предложенного семейства методов решения системы нелинейных уравнений, состоящих из гладких по Липшицу функций. В рамках дополнительных естественных предположений о невырожденности системы нелинейных функций установлена локальная суперлинейная сходимость для рассмотренного семейства методов. При выполнении условия Поляка–Лоясиевича для системы нелинейных уравнений доказана локальная и глобальная линейная сходимость рассмотренных методов Гаусса–Ньютона. Помимо теоретического обоснования методов, в работе рассматриваются вопросы их практической реализации. В частности, в проведенных экспериментах для точного оракула приводятся схемы эффективного вычисления в зависимости от параметров размерности решаемой задачи. Предложенное семейство методов объединяет в себе несколько существующих и часто используемых на практике модификаций метода Гаусса–Ньютона, позволяя получить гибкий и удобный в использовании метод, реализуемый на практике с помощью стандартных техник выпуклой оптимизации и вычислительной линейной алгебры.

Движение объекта на видео классифицируется на регулярное (движение объекта по непрерывной траектории) и нерегулярное (разрывы траекторий вследствие заслонения объекта слежения другими объектами, скачка объекта и др.). В случае регулярного движения объекта трекер рассматривается как динамическая система, что позволяет использовать условия существования, единственности и устойчивости решения такой системы как критерий корректной работы трекера. Предложен количественный критерий оценки корректной работы алгоритма слежения mean-shift, основанный на применении условия Липшица и других параметров трекера. Полученный результат обобщается на случай произвольного алгоритма слежения.

Работа посвящена построению эффективных и применимых к реальным задачам методов выпуклой оптимизации первого порядка, то есть использующих только значения целевой функции и ее производных. При построении используется быстрый градиентный метод OGM-G, который является оптимальным по оракульной сложности (числу вычислений градиента целевой функции), но при запуске требует знания констант сильной выпуклости и Липшица градиента для вычисления количества шагов и длины шага, требуемых для достижения заданной точности. Данное требование усложняет практическое использование метода. Предлагаются адаптивный по константе сильной выпуклости алгоритм ACGM, основанный на рестартах OGM-G с обновлениемо ценки константы сильной выпуклости, и адаптивный по константе Липшица градиента метод ALGM, в котором применение рестартов OGM-G дополнено подбором константы Липшица с проверкой условий гладкости, используемых в методе универсального градиентного спуска. При этом устраняются недостатки исходного метода, связанные с необходимостью знания данных констант, что делает возможным практическое использование. Доказывается, что оценки сложности построенных алгоритмов являются оптимальными с точностью до числового множителя. Для проверки полученных результатов проводятся эксперименты на модельных функциях и реальных задачах машинного обучения.

Изучается приближенная математическая модель кровотока в осесимметричном кровеносном сосуде. Под таким сосудом понимается бесконечно длинный круговой цилиндр, стенки которого состоят из упругих колец. Кровь рассматривается как несжимаемая жидкость, текущая в этом цилиндре. Повышенное давление вызывает радиально-симметричное растяжение упругих колец. Следуя Дж. Лэму, кольца расположены близко друг к другу так, что жидкость между ними не протекает. Для мысленной реализации этого достаточно предположить, что кольца обтянуты непроницаемой пленкой, не обладающей упругими свойствами. Упругостью обладают лишь кольца. Рассматриваемая модель кровотока в кровеносном сосуде состоит из трех уравнений: уравнения неразрывности, закона сохранения количества движения и уравнения состояния. Рассматривается приближенная процедура сведения рассматриваемых уравнений к уравнению Кортевега – де Фриза (КдФ), которая рассмотрена Дж. Лэмом не в полной мере, лишь для установления зависимости коэффициентов уравнения КдФ от физических параметров рассматриваемой модели течения несжимаемого флюида в осесимметричном сосуде. Из уравнения КдФ стандартным переходом к бегущим волнам получаются ОДУ третьего, второго и первого порядка соответственно. В зависимости от различных случаев расположения трех стационарных решений ОДУ первого порядка стандартно получаются кноидальная волна и солитон. Основное внимание уделено неограниченному периодическому решению, которое названо нами вырожденной кноидальной волной. Математически кноидальные волны описываются эллиптическими интегралами с параметрами, определяющими амплитуды и периоды. Солитон и вырожденная кноидальная волна описываются элементарными функциями. Указан гемодинамический смысл этих видов решений. Благодаря тому, что множества решений ОДУ первого, второго и третьего порядков не совпадают, установлено, что задачу Коши для ОДУ второго и третьего порядков можно задавать во всех точках, а для ОДУ первого порядка — лишь в точках роста или убывания. Задачу Коши для ОДУ первого порядка нельзя задавать в точках экстремума благодаря нарушению условия Липшица. Численно проиллюстрировано перерождение кноидальной волны в вырожденную кноидальную волну, которая может привести к разрыву стенок сосуда. Приведенная таблица описывает два режима приближения кноидальной волны к вырожденной кноидальной волне.

В данной статье предлагаются методы оптимизации высокого порядка (тензорные методы) для решения двух типов седловых задач. Первый тип — это классическая мин-макс-постановка для поиска седловой точки функционала. Второй тип — это поиск стационарной точки функционала седловой задачи путем минимизации нормы градиента этого функционала. Очевидно, что стационарная точка не всегда совпадает с точкой оптимума функции. Однако необходимость в решении подобного типа задач может возникать в случае, если присутствуют линейные ограничения. В данном случае из решения задачи поиска стационарной точки двойственного функционала можно восстановить решение задачи поиска оптимума прямого функционала. В обоих типах задач какие-либо ограничения на область определения целевого функционала отсутствуют. Также мы предполагаем, что целевой функционал является $\mu$-сильно выпуклыми $\mu$-сильно вогнутым, а также что выполняется условие Липшица для его $p$-й производной.

Для задач типа «мин-макс» мы предлагаем два алгоритма. Так как мы рассматриваем сильно выпуклую и сильно вогнутую задачу, первый алгоритмиспо льзует существующий тензорный метод для решения выпуклых вогнутых седловых задач и ускоряет его с помощью техники рестартов. Таким образом удается добиться линейной скорости сходимости. Используя дополнительные предположения о выполнении условий Липшица для первой и второй производных целевого функционала, можно дополнительно ускорить полученный метод. Для этого можно «переключиться» на другой существующий метод для решения подобных задач в зоне его квадратичной локальной сходимости. Так мы получаем второй алгоритм, обладающий глобальной линейной сходимостью и локальной квадратичной сходимостью. Наконец, для решения задач второго типа существует определенная методология для тензорных методов в выпуклой оптимизации. Суть ее заключается в применении специальной «обертки» вокруг оптимального метода высокого порядка. Причем для этого условие сильной выпуклости не является необходимым. Достаточно лишь правильным образом регуляризовать целевой функционал, сделав его таким образом сильно выпуклым и сильно вогнутым. В нашей работе мы переносим эту методологию на выпукло-вогнутые функционалы и используем данную «обертку» на предлагаемом выше алгоритме с глобальной линейной сходимостью и локальной квадратичной сходимостью. Так как седловая задача является частным случаем монотонного вариационного неравенства, предлагаемые методы также подойдут для поиска решения сильно монотонных вариационных неравенств.

В данной статье рассматривается задача типа min-min: минимизация по двум группам переменных. Данная задача в чем-то похожа на седловую (min-max), однако лишена некоторых сложностей, присущих седловым задачам. Такого рода постановки могут возникать, если в задаче выпуклой оптимизации присутствуют переменные разных размерностей или если какие-то группы переменных определены на разных множествах. Подобная структурная особенность проблемы дает возможность разбивать ее на подзадачи, что позволяет решать всю задачу с помощью различных смешанных оракулов. Ранее в качестве возможных методов для решения внутренней или внешней задачи использовались только методы первого порядка или методы типа эллипсоидов. В нашей работе мы рассматриваем данный подход с точки зрения возможности применения алгоритмов высокого порядка (тензорных методов) для решения внутренней подзадачи. Для решения внешней подзадачи мы используем быстрый градиентный метод.

Мы предполагаем, что внешняя подзадача определена на выпуклом компакте, в то время как для внутренней задачи мы отдельно рассматриваем задачу без ограничений и определенную на выпуклом компакте. В связи с тем, что тензорные методы по определению используют производные высокого порядка, время на выполнение одной итерации сильно зависит от размерности решаемой проблемы. Поэтому мы накладываем еще одно условие на внутреннюю подзадачу: ее размерность не должна превышать 1000. Для возможности использования смешанного оракула намнео бходимы некоторые дополнительные предположения. Во-первых, нужно, чтобы целевой функционал был выпуклымпо совокупности переменных и чтобы его градиент удовлетворял условию Липшица также по совокупности переменных. Во-вторых, нам необходимо, чтобы целевой функционал был сильно выпуклый по внутренней переменной и его градиент по внутренней переменной удовлетворял условию Липшица. Также для применения тензорного метода нам необходимо выполнение условия Липшица p-го порядка ($p > 1$). Наконец, мы предполагаем сильную выпуклость целевого функционала по внешней переменной, чтобы иметь возможность использовать быстрый градиентный метод для сильно выпуклых функций.

Стоит отметить, что в качестве метода для решения внутренней подзадачи при отсутствии ограничений мы используем супербыстрый тензорный метод. При решении внутренней подзадачи на компакте используется ускоренный проксимальный тензорный метод для задачи с композитом.

В конце статьи мы также сравниваем теоретические оценки сложности полученных алгоритмов с быстрым градиентным методом, который не учитывает структуру задачи и решает ее как обычную задачу выпуклой оптимизации (замечания 1 и 2).