Все выпуски

Интерпретируемость моделей глубокого обучения стала центром исследований, особенно в таких областях, как здравоохранение и финансы. Модели с «бутылочным горлышком», используемые для выявления концептов, стали перспективным подходом для достижения прозрачности и интерпретируемости за счет использования набора известных пользователю понятий в качестве промежуточного представления перед слоем предсказания. Однако ручное аннотирование понятий не затруднено из-за больших затрат времени и сил. В нашей работе мы исследуем потенциал больших языковых моделей (LLM) для создания высококачественных банков концептов и предлагаем мультимодальную метрику для оценки качества генерируемых концептов. Мы изучили три ключевых вопроса: способность LLM генерировать банки концептов, сопоставимые с существующими базами знаний, такими как ConceptNet, достаточность унимодального семантического сходства на основе текста для оценки ассоциаций концептов с метками, а также эффективность мультимодальной информации для количественной оценки качества генерации концептов по сравнению с унимодальным семантическим сходством концепт-меток. Наши результаты показывают, что мультимодальные модели превосходят унимодальные подходы в оценке сходства между понятиями и метками. Более того, сгенерированные нами концепты для наборов данных CIFAR-10 и CIFAR-100 превосходят те, что были получены из ConceptNet и базовой модели, что демонстрирует способность LLM генерировать высококачественные концепты. Возможность автоматически генерировать и оценивать высококачественные концепты позволит исследователям работать с новыми наборами данных без дополнительных усилий.

В работе исследуется поиск неэффективных ребер в модели стабильной динамики Нестрова–де Пальмы (2003). Для этой цели мы доказываем несколько общих теорем о свойствах равновесия, в том числе о том, что условие равенства стоимостей для всех используемых маршрутов может быть распространено на все пути, задействующие ребра из равновесных маршрутов. В работе показывается, что стандартная постановка задачи о поиске ребер, удаление которых приводит к уменьшению стоимости проезда для всех участников, не имеет практического смысла, так как одно и то же ребро может быть как эффективным, так и неэффективным (в зависимости от загрузки сети). В работе мы вводим понятие неэффективного ребра, опираясь на чувствительность суммарных издержек водителей к издержкам на ребре. В работе приводятся алгоритм поиска неэффективных ребер и результаты численных экспериментов для транспортной сети города Анахайм.

Важную роль при построении математических моделей динамических систем играют обратные задачи, к которым, в частности, относится задача параметрической идентификации. В отличие от классических моделей, оперирующих точечными значениями, интервальные модели дают ограничения сверху и снизу на исследуемые величины. В работе рассматривается интерполяционный подход к решению интервальных задач параметрической идентификации динамических систем для случая, когда экспериментальные данные представлены внешними интервальными оценками. Цель предлагаемого подхода заключается в нахождении такой интервальной оценки параметров модели, при которой внешняя интервальная оценка решения прямой задачи моделирования содержала бы экспериментальные данные или минимизировала бы отклонение от них. В основе подхода лежит алгоритм адаптивной интерполяции для моделирования динамических систем с интервальными неопределенностями, позволяющий в явном виде получать зависимость фазовых переменных от параметров системы. Сформулирована задача минимизации расстояния между экспериментальными данными и модельным решением в пространстве границ интервальных оценок параметров модели. Получено выражение для градиента целевой функции. На репрезентативном наборе задач продемонстрированы эффективность и работоспособность предлагаемого подхода.

Работа посвящена анализу известных классов моделей сверточных нейронных сетей и исследованию выбранных из них перспективных моделей для детектирования летающих объектов на изображениях. Под детектированием объектов (англ. — Object Detection) здесь понимаются обнаружение, локализация в пространстве и классификация летающих объектов. Комплексное исследование выбранных перспективных моделей сверточных нейронных сетей проводится с целью выявления наиболее эффективных из них для создания мобильных систем компьютерного зрения реального времени. Показано, что наиболее приемлемыми для детектирования летающих объектов на изображениях с учетом сформулированных требований к мобильным системам компьютерного зрения реального времени и, соответственно, к лежащим в их основе моделям сверточных нейронных сетей являются модели семейства YOLO, причем наиболее перспективными следует считать пять моделей из этого семейства: YOLOv4, YOLOv4-Tiny, YOLOv4-CSP, YOLOv7 и YOLOv7-Tiny. Для обучения, валидации и комплексного исследования этих моделей разработан соответствующий набор данных. Каждое размеченное изображение из набора данных включает от одного до нескольких летающих объектов четырех классов: «птица», «беспилотный летательный аппарат самолетного типа», «беспилотный летательный аппарат вертолетного типа» и «неизвестный объект» (объекты в воздушном пространстве, не входящие в первые три класса). Исследования показали, что все модели сверточных нейронных сетей по скорости детектирования объектов на изображении (по скорости вычисления модели) значительно превышают заданное пороговое значение, однако только модели YOLOv4-CSP и YOLOv7, причем только частично, удовлетворяют требованию по точности детектирования (классификации) летающих объектов. Наиболее сложным для детектирования классом объектов является класс «птица». При этом выявлено, что наиболее эффективной по точности классификации является модель YOLOv7, модель YOLOv4-CSP на втором месте. Обе модели рекомендованы к использованию в составе мобильной системы компьютерного зрения реального времени при условии увеличения в созданном наборе данных числа изображений с объектами класса «птица» и дообучения этих моделей с тем, чтобы они удовлетворяли требованию по точности детектирования летающих объектов каждого из четырех классов.

В работе с помощью аналитических и численных методов рассматривается задача о структуре и динамике связанных локализованных нелинейных волн в модели синус-Гордона с тремя одинаковыми притягивающими протяженными примесями, которые моделируются пространственной неоднородностью периодического потенциала. Найдены два возможных типа связанных нелинейных локализованных волн — бризерного и солитонного. Проведен анализ влияния параметров системы и начальных условий на структуру локализованных волн, их амплитуду и частоту. Связанные колебания локализованных волн бризерного типа, как и для случая точечных примесей, представляет собой сумму трех гармонических колебаний: синфазного, синфазно-антифазного и антифазного типа. Частотный анализ локализованных на примесях волн, которые были получены в ходе численного эксперимента, выполнялся с помощью дискретного преобразования Фурье. Для анализа локализованных волн бризерного типа применялся численный метод конечных разностей. Для проведения качественно анализа полученных численных результатов задача решалась аналитически для случая малых амплитуд локализованных на примесях колебаний. Показано, что при определенных параметрах примеси (глубина, ширина) можно получить локализованные волны солитонного типа. Найдены области значений параметров системы, в которых существуют локализованные волны определенного типа, а также область перехода от бризерных к солитонным типам колебаний. Были определены значения глубины и ширины примеси, при которых наблюдается переход от бризерного к солитонному типу локализованных колебаний. Были получены и рассмотрены различные сценарии колебаний солитонного типа с отрицательными и положительными значениями амплитуд на всех трех примесях, а также и смешанные случаи. Показано, что в случае расстояния между примесями много меньше единицы отсутствует переходная область, в которой зарождающийся бризер после потери энергии на излучение переходит в солитон. Показано, что рассмотренная модель может быть использована, например, для описания динамики волн намагниченности в мультислойных магнетиках.

Предложен численный метод, аппроксимирующий уравнения динамики слабосжимаемого вязкого течения при наличии полимерной составляющей потока. Исследуется поведение течения под воздействием статической внешней периодической силы в периодической квадратной ячейке. Методика основывается на гибридном подходе. Гидродинамика течения описывается системой уравнений Навье – Стокса и численно аппроксимируется линеаризованным методом Годунова. Полимерное поле описывается системой уравнений для вектора растяжений полимерных молекул $\bf R$, которая численно аппроксимируются методом Курганова – Тедмора. Выбор модельных соотношений при разработке численной методики и подбор параметров моделирования позволили на качественном уровне смоделировать и исследовать режим эластической турбулентности при низких числах Рейнольдса $Re \sim 10^{-1}$. Уравнения динамики течения полимерного раствора отличаются от уравнений динамики ньютоновской жидкости наличием в правой части членов, описывающих силы, действующие со стороны полимерной компоненты. Коэффициент пропорциональности $A$ при данных членах характеризует степень обратного влияния количества полимеров на поток. В статье подробно исследуется влияние этого коэффициента на структуру и характеристики потока. Показано, что с его ростом течение становится более хаотическим. Построены энергетические спектры полученных течений и спектры полей растяжения полимеров для различных величин коэффициента $A$. В спектрах прослеживается инерциальный поддиапа- зон энергетического каскада для скорости течения с показателем $k \sim −4$, для каскада растяжений полимерных молекул с показателем $−1,6$.

Разработана численная 2D-модель погружения холодной океанической плиты в толщу верхней мантии Земли, где этапу начального погружения плиты предшествует установление режима термогравитационной конвекции мантийного вещества. Модельным приближением мантии выступает двумерный образ несжимаемой ньютоновской квазижидкости в декартовой системе координат, где вследствие высокой вязкости среды уравнения мантийной конвекции принимаются в стоксовском приближении. Полагается, что вместе с плитой в верхние слои мантии поступает просочившаяся сюда морская вода. С глубиной рост давления и температуры приводит к определенным потерям ее легких фракций и флюидов, потерям воды и газов водосодержащих минералов плиты, перестройке их кристаллической решетки и, как следствие, фазовым превращениям. Эти потери обусловливают рост плотности плиты и неравномерность распределения вдоль плиты напряжений (начальные участки плиты оказываются менее плотными), что в последствии вместе с воздействием на плиту мантийных течений вызывает ее фрагментацию. Рассматривается состояние мантийной конвекции, когда плита и ее отдельные фрагменты опустились на подошву верхней мантии. Разработаны вычислительные схемы решения уравнений модели. Расчеты мантийной конвекции выполнены в терминах приближения Стокса для завихренности и функции тока, а для расчетов состояния и погружения плиты использован SPH. Выполнен ряд вычислительных экспериментов. Показано, что вследствие воздействия на плиту мантийной конвекции и с развитием вдоль плиты неоднородного поля напряжений происходит ее фрагментация. Следуя уравнениям модели, оценивается время финальной стадии субдукции, т. е. времени выхода всей океанической плиты на дно верхней мантии. В геодинамике этот процесс определяется коллизией плит, следует непосредственно за субдукцией и рассматривается обычно в качестве конечного этапа цикла Уилсона (т. е. цикла развития складчатых поясов).

В данной работе рассматриваются нейросетевые модели и полиномиальные модели на основе полинома Чебышёва для компенсации помех. Показано, что нейросетевая модель обеспечивает компенсацию паразитных помех без необходимости настройки параметров, в отличие от полиномиальной модели, где требуется подбор оптимальных задержек. Для обеих архитектур использован метод L-BFGS, который достигает уровня компенсации, сопоставимого с решением LS для полиномиальной модели, с результатом NMSE = −23,59 дБ и требует менее 2000 итераций, что подтверждает его высокую эффективность. Также благодаря высокой обобщающей способности нейросетевых моделей метод первого порядка для нейросетевых архитектур демонстрирует более быструю сходимость по сравнению с полиномиальной моделью. За 20 000 итераций нейросетевая модель достигает прироста уровня компенсации на 0,44 дБ по сравнению с полиномом. В отличие от этого полиномиальная модель может достичь высокого уровня компенсации только при оптимальной настройке параметров методов первого порядка, что подчеркивает одно из ключевых преимуществ нейросетевых моделей.

В работе приведены различные модификации алгоритма Frank–Wolfe для задачи поиска равновесного распределения потоков. В качестве модели для экспериментов используется модель Бекмана. В этой статье в первую очередь уделяется внимание выбору направления базового шага алгоритма Frank–Wolfe (FW). Будут представлены алгоритмы: Conjugate Frank–Wolfe (CFW), Bi-conjugate Frank–Wolfe (BFW), Fukushima Frank–Wolfe (FFW). Каждой модификации соответствуют различные подходы к выбору этого направления. Некоторые из этих модификаций описаны в предыдущих работах авторов. В данной статье будут предложены алгоритмы N-conjugate Frank–Wolfe (NFW) и Weighted Fukushima Frank–Wolfe (WFFW). Эти алгоритмы являются некоторым идейным продолжением алгоритмов BFW и FFW. Таким образом, если первый алгоритм использовал на каждой итерации два последних направления предыдущих итераций для выбора следующего направления, сопряженного к ним, то предложенный алгоритм NFW использует $N$ предыдущих направлений. В случае же Fukushima Frank –Wolfe в качестве следующего направления берется среднее от нескольких предыдущих направлений. Соответственно этому алгоритму предложена модификация WFFW, использующая экспоненциальное сглаживание по предыдущим направлениям. Для сравнительного анализа были проведены эксперименты с различными модификациями на нескольких наборах данных, представляющих городские структуры и взятых из общедоступных источников. За метрику качества была взята величина относительного зазора. Результаты экспериментов показали преимущество алгоритмов, использующих предыдущие направления для выбора шага, перед классическим алгоритмом Frank–Wolfe. Кроме того, было выявлено улучшение эффективности при использовании более двух сопряженных направлений. Например, на многих датасетах модификация 3-conjugate FW сходилась наилучшим образом. Кроме того, предложенная модификация WFFW зачастую обгоняла FFW и CFW, хотя и проигрывала модификациям NFW.

Работа посвящена проблеме создания модели со стационарными параметрами по ретроспективным данным в условиях неизвестных возмущений. Рассматривается случай, когда представительная выборка состояний объекта может быть сформирована с использованием ретроспективных данных, накопленных только в течение значительного интервала времени. При этом допускается, что неизвестные возмущения могут действовать в широком частотном диапазоне и могут иметь низкочастотные и трендовые составляющие. В такой ситуации включение в выборку данных разных временных периодов может привести к противоречиям и чрезвычайно снизить точность модели. В работе дан обзор подходов и способов согласования данных. При этом основное внимание уделено отбору данных. Дана оценка применимости различных вариантов отбора данных как инструмента снижения уровня неопределенности. Предложен метод идентификации модели объекта с самовыравниванием по данным, накопленным за значительный период времени в условиях неизвестных возмущений с широким частотным диапазоном. Метод ориентирован на создание модели со стационарными параметрами, не требующей периодической перенастройки под новые условия. Метод основан на совместном применении отбора данных и представлении данных отдельных периодов времени в виде приращений относительно начального для периода момента времени. Это позволяет уменьшить число параметров, которые характеризуют неизвестные возмущения при минимуме допущений, ограничивающих применение метода. В результате снижается размерность поисковой задачи и минимизируются вычислительные затраты, связанные с настройкой модели. Рассмотрены особенности применения метода при нелинейной модели. Метод использован при разработке модели закрытого охлаждения стали на агрегате непрерывного горячего оцинковании стальной полосы. Модель может использоваться при упреждающем управлении тепловыми процессами и при выборе скорости движения полосы. Показано, что метод делает возможным разработку модели тепловых процессов с секции закрытого охлаждения в условиях неизвестных возмущений, имеющих в том числе низкочастотные составляющие.