Все выпуски

В данной работе представлены результаты экспериментальной проверки некоторых вопросов, касающихся практического использования методов преодоления катастрофической забывчивости нейронных сетей. Проведено сравнение двух таких современных методов: метода эластичного закрепления весов (EWC, Elastic Weight Consolidation) и метода ослабления скоростей весов (WVA, Weight Velocity Attenuation). Разобраныих преимущества и недостатки в сравнении друг с другом. Показано, что метод эластичного закрепления весов (EWC) лучше применять в задачах, где требуется полностью сохранять выученные навыки на всех задачах в очереди обучения, а метод ослабления скоростей весов (WVA) больше подходит для задач последовательного обучения с сильно ограниченными вычислительными ресурсами или же когда требуется не точное сохранение всех навыков, а переиспользование репрезентаций и ускорение обучения от задачи к задаче. Проверено и подтверждено интуитивное предположение, что ослабление метода WVA необходимо применять к оптимизационному шагу, то есть к приращениям весов нейронной сети, а не к самому градиенту функции потерь, и это справедливо для любого градиентного оптимизационного метода, кроме простейшего стохастического градиентного спуска (SGD), для которого оптимизационный шаг и градиент функции потерь пропорциональны. Рассмотрен выбор оптимальной функции ослабления скоростей весов между гиперболической функцией и экспонентой. Показано, что гиперболическое убывание более предпочтительно, так как, несмотря на сравнимое качество при оптимальных значениях гиперпараметра метода WVA, оно более устойчиво к отклонениям гиперпараметра от оптимального значения (данный гиперпараметр в методе WVA обеспечивает баланс между сохранением старых навыков и обучением новой задаче). Приведены эмпирические наблюдения, которые подтверждают гипотезу о том, что оптимальное значение гиперпараметра не зависит от числа задач в очереди последовательного обучения. Следовательно, данный гиперпараметр может подбираться на небольшом числе задач, а использоваться — на более длинных последовательностях.

Осуществление передачи сигналов сотовой связи — одна из ключевых задач современного мира. Для улучшения сигнала передаваемой информации необходимо чтобы сигнал не искажался при усилении мощности на базовой станции сотовой связи. Поставленную задачу можно решать самыми различными способами, однако одним из самых простых решений, которое широко используется в индустрии, является добавление нелинейных искажений, позволяющих линеаризовать работу усилителя и устранять интермодуляционные искажения в областях спектра, не используемых для передачи сигнала. В силу большой нагрузки и работы в реальном времени модель, осуществляющая данные искажения, не должна быть громоздкой и иметь большое количество адаптируемых параметров. В данной статье производится анализ современных работ по теме многокритериальной оптимизации и построения моделей для решения задачи предискажения сигнала при помощи данных методов. В статье показывается, что возможно найти структуру (сохранив производительность) и имеющую меньшее количество используемых ресурсов, быстрее, чем полный перебор по всему словарю из заданных параметров.

Работа посвящена проблеме создания модели со стационарными параметрами по ретроспективным данным в условиях неизвестных возмущений. Рассматривается случай, когда представительная выборка состояний объекта может быть сформирована с использованием ретроспективных данных, накопленных только в течение значительного интервала времени. При этом допускается, что неизвестные возмущения могут действовать в широком частотном диапазоне и могут иметь низкочастотные и трендовые составляющие. В такой ситуации включение в выборку данных разных временных периодов может привести к противоречиям и чрезвычайно снизить точность модели. В работе дан обзор подходов и способов согласования данных. При этом основное внимание уделено отбору данных. Дана оценка применимости различных вариантов отбора данных как инструмента снижения уровня неопределенности. Предложен метод идентификации модели объекта с самовыравниванием по данным, накопленным за значительный период времени в условиях неизвестных возмущений с широким частотным диапазоном. Метод ориентирован на создание модели со стационарными параметрами, не требующей периодической перенастройки под новые условия. Метод основан на совместном применении отбора данных и представлении данных отдельных периодов времени в виде приращений относительно начального для периода момента времени. Это позволяет уменьшить число параметров, которые характеризуют неизвестные возмущения при минимуме допущений, ограничивающих применение метода. В результате снижается размерность поисковой задачи и минимизируются вычислительные затраты, связанные с настройкой модели. Рассмотрены особенности применения метода при нелинейной модели. Метод использован при разработке модели закрытого охлаждения стали на агрегате непрерывного горячего оцинковании стальной полосы. Модель может использоваться при упреждающем управлении тепловыми процессами и при выборе скорости движения полосы. Показано, что метод делает возможным разработку модели тепловых процессов с секции закрытого охлаждения в условиях неизвестных возмущений, имеющих в том числе низкочастотные составляющие.

Наличие контактной границы между водой и маслом сильно снижает электрическую прочность масляной фазы. Присутствие электрического поля приводит к различной степени поляризации на границе раздела и появлению силы, действующей на жидкость с большей диэлектрической проницаемостью (вода) в направлении жидкости с меньшей диэлектрической проницаемостью (масло), что приводит к развитию неустойчивости контактной поверхности. Неустойчивость в результате своего развития приводит к вытягиванию струйки воды в толщу масла и нарушению изоляционного промежутка.

В настоящей работе экспериментально и численно исследуется электрогидродинамическая неустойчивость на границе фаз «электропроводящая вода – трансформаторное масло» в сильно неоднородном электрическом поле, направленном перпендикулярно контактной границе. Представлены результаты натурного и численного эксперимента по исследованию развития электрогидродинамической неустойчивости в сильном электрическом поле на границе раздела воды и трансформаторного масла, приводящей к деформации этой границы жидкостей. Система состоит из шарообразного электрода радиусом 3,5 мм, помещенного в воду проводимостью 5 мкСм/см, и тонкого электрода-лезвия толщиной 0,1 мм, помещенного в трансформаторное масло марки ГК. Контактная граница проходит на одинаковом расстоянии от ближайших точек электродов, равном 3 мм. В работе показано, что при некоторой напряженности электрического поля происходит рост конусообразной структуры воды в сторону электрода, погруженного в трансформаторное масло. Численно получено соответствие как формы образующейся водной структуры (конуса) в течение всего времени роста, так и размера, отсчитываемого от ее вершины до уровня начальной контактной границы разделения фаз. Исследована динамика роста данной структуры. И в численном расчете, и в эксперименте обнаружено, что размер образующегося конуса вдоль линии соединения электродов линейно зависит от времени.

В традиционных системах ЧПУ каждый из отрезков кусочно-линейной траектории описывается отдельным кадром управляющей программы. При этом формируется трапециидальная траектория движения, а сшивание отдельных участков производится при нулевых значениях скорости и ускорения. Повышение производительности связано с непрерывностью обработки, которое в современных системах ЧПУ достигается за счет использования сплайн-интерполяции. Для кусочно-линейной траектории, которая является базовой для большинства изделий, наиболее приемлемым является сплайн первой степени. Однако даже в простейшем случае сплайновой интерполяции закрытость базового программного обеспечения ведущих производителей систем ЧПУ ограничивает возможности не только разработчиков, но и пользователей. С учетом этого целью данной работы является детальная проработка структурной организации и алгоритмов работы имитационной модели кусочно-линейной сплайн-интерполяции. В качестве основной меры, позволяющей снизить динамические ошибки обработки, рассматривается ограничение на рывок и ускорение. При этом особое значение уделяется S-образной форме кривой скорости на участках разгона и торможения. Это связано с условиями реализации сплайн-интерполяции, одним из которых является непрерывность движения, которое обеспечивается за счет равенства первой и второй производной при стыковке участков траектории. Подобная постановка соответствует принципам реализации комбинированных систем управления следящего электропривода, которые обеспечивают частичную инвариантность к управляющим и возмущающим воздействиям. В качестве базы структурной организации принята эталонная модель сплайн-интерполятора. Рассмотрены также вопросы масштабирования обработки, в основе которых заложено снижение скорости вектора по отношению к базовому значению. Это позволяет повысить точность перемещений. Показано, что диапазон изменений скорости перемещений может быть больше десяти тысяч и ограничен только возможностями регулирования скорости исполнительных приводов.

В данной работе рассматривается взаимодействие кинка уравнения $\varphi^4$ с двумя протяженными одинаковыми примесями. Протяженная примесь описывается с помощью функции прямоугольного вида. Анализируется случай притягивающей примеси. С помощью аналитических методов рассматривается случай малых амплитуд локализованных волн, когда возможно провести линеаризацию уравнений движения. Для численного решения использовался метод прямых для уравнений в частных производных. Для нахождения частот колебаний, локализованных на примесях волн, используется дискретное преобразование Фурье. Кинк запускался в направлении примесей с разными начальными скоростями. Изменялось также расстояние между двумя примесями. Показано, что при взаимодействии кинка с примесями на них возбуждаются долгоживущие локализованные волны бризерного типа. Исследована их структура и связанная динамика. Определено, как, изменяя параметры примесей и расстояние между ними, можно управлять типом и динамическими параметрами связанных колебаний, локализованных на примесях волн. Найдены возможные решения в виде синфазных, антифазных колебаний, в виде биений. Колебания локализованных волн происходят с излучением волн малой амплитуды. Спектр этих излучений состоит из двух частот. Первая приближенно равна $\sqrt{2}$, что соответствует величине частоты для хвоста воблингбризера уравнения $\varphi^4$. Вторая приближенно равна удвоенной частоте колебаний примесных мод. Найдено (как аналитически, так и численно) наличие двух возможных частот для связанных локализованных колебаний. Показано, что частоты сильно зависят от расстояния между примесями. С увеличением расстояния между примесями частоты сливаются в одну — частоту, полученную для случая одиночной примеси. Найденные численно и аналитически зависимости частот от расстояния между примесями хорошо совпадают для больших расстояний, когда взаимодействие между примесями слабое, и начинают заметно отличаться при малых расстояниях, когда взаимодействие между примесями сильное. Аналитическое значение величин полученных частот всегда больше численных. Показано, что зависимость амплитуды локализованных волн от начальной скорости кинка имеет несколько минимумов и максимумов.

Метод Монте-Карло (Monte Carlo, MC) в обучении с подкреплением показывает низкую эффективность при высокой сложности обучающей выборки — в средах с редким вознаграждением, большим пространством состояний и коррелирующими траекториями. Эти ограничения приводят к повышенной вариативности оценок возврата и существенно замедляют процесс сходимости, особенно в задачах, где требуется выделить наиболее информативные эпизоды из большого множества доступных данных. При прямом использовании всех траекторий возникает избыток информации, что ухудшает качество итоговых оценок и увеличивает вычислительную нагрузку. В данной работе мы предлагаем подход, позволяющий преодолеть указанные проблемы за счет оптимизации отбора обучающих данных и структурирования выборки перед применением классического метода Монте-Карло. Задача отбора обучающих траекторий формулируется как квадратичная неограниченная бинарная оптимизация (Quadratic Unconstrained Binary Optimization, QUBO) и решается с помощью алгоритма квантового отжига. Предлагаемый метод MC+QUBO интегрирует комбинаторный фильтрующий шаг в стандартную процедуру оценки: из множества потенциальных траекторий выбирается поднабор, максимизирующий суммарное вознаграждение, обеспечивая при этом достаточное покрытие пространства состояний и снижение взаимной корреляции эпизодов. В QUBO-формулировке линейные члены поощряют включение эпизодов с высоким значением возврата, тогда как квадратичные члены регулируют разнообразие и баланс траекторий, уменьшая риск переобучения на узком подмножестве данных. В качестве решателей из категории «черного ящика» используются алгоритмы симуляции квантового отжига (Simulated Quantum Annealing, SQA) и симулированная бифуркация (Simulated Bifurcation, SB), что позволяет эффективно решать задачи с большим числом потенциальных эпизодов и быстро находить приближенные оптимальные решения. Эксперименты в среде GridWorld показывают, что MC+QUBO превосходит классический метод Монте-Карло по скорости сходимости, устойчивости оценок и качеству итогового обучения, демонстрируя потенциал квантовой оптимизации как инструмента повышения эффективности принятия решений в задачах обучения с подкреплением.

Квадратичная неограниченная бинарная оптимизация (QUBO) зарекомендовала себя в качестве эффективного инструмента для решения NP-трудных задач в области информационной безопасности. В QUBO-формулировке задача описывается в виде квадратичной функции бинарных переменных, минимум которой соответствует оптимальному решению. Такая запись учитывает линейные (индивидуальное влияние) и квадратичные (парные взаимодействия) зависимости. Особенно примечательно, что QUBO-алгоритмы можно имплементировать в квантовые вычислительные устройства на основе отжига, например D-Wave, которые позволяют найти собственное состояние гамильтониана соответствующей модели Изинга посредством квантовых или гибридных алгоритмов. При этом решение QUBO-задачи можно получить и на полностью классической архитектуре. Такие алгоритмы называют квантово вдохновленными, потому что они имитируют физические явления. Примером таких квантово вдохновленных алгоритмов являются симулированный отжиг (Simulated Annealing, SA) и симулированные бифуркации (Simulated Bifurcation, SB). За последние 5–7 лет большое количество работ было посвящено применению QUBO-формулировки для разнообразных задач информационной безопасности, начиная от взлома ключей безопасности до детекции атак, с целью доказать эффективность новых вычислительных парадигм. В данном исследовании мы анализируем эти работы, сгруппировав их по области применения и выделяя архитектурные подходы (квантовая, гибридная, классическая) в каждом сценарии. Мы уделяем внимание тому, как задача была переформулирована в QUBO-постановку или модель Изинга, анализируем ключевые стратегии решения и полученные результаты на оптимальность, масштабируемость, сложность. Мы выделяем основные преимущества и недостатки каждой QUBO-постановки в контексте информационной безопасности и в заключение обсуждаем актуальные задачи и перспективные направления для исследований.

Данная статья посвящена изучению самопродвижения тел в жидкости за счет действия внутренних механизмов, без изменения внешней формы тела. В работе представлен обзор теоретических работ, обосновывающих возможностьда нного перемещения в идеальной и вязкой жидкостях.

Рассмотрен частный случай самопродвижения твердого тела по поверхности жидкости за счет движения двух внутренних масс по окружностям. В работе представлена математическая модельдвиж ения твердого тела с подвижными внутренними массами в трехмерной постановке. Данная модельу читывает трехмерные колебания тела при движении, возникающие под действием внешних сил — силы тяжести, силы Архимеда и сил, действующих на тело со стороны вязкой жидкости.

В качестве тела рассмотрен однородный эллиптический цилиндр с килем, расположенным вдоль большей диагонали. Внутри цилиндра расположены две материальные точечные массы, перемещающиеся по окружностям. Центры окружностей лежат на наименьшей диагонали эллипса на равном удалении от центра масс.

Уравнения движения рассматриваемой системы (тело с двумя материальными точками, помещенное в жидкость) представлены в виде уравнений Кирхгофа с добавлением внешних сил и моментов, действующих на тело. Для описания сил сопротивления движению в жидкости выбрана феноменологическая модель вязкого трения, квадратичная по скорости. Коэффициенты сопротивления движению, используемые в модели, определялись экспериментально. Силы, действующие на киль, определялись с помощью численного моделирования колебаний киля в вязкой жидкости с использованием уравнений Навье–Стокса.

В данной работе была проведена экспериментальная проверка предложенной математической модели. Представлено несколько серий экспериментов по самопродвижению тела в жидкости с помощью вращения внутренних масс с разными скоростями вращения. Исследована зависимостьс редней скорости продвижения, размаха поперечных колебаний в зависимости от частоты вращения внутренних масс. Проведено сравнение полученных экспериментальных данных с результатами, полученными в рамках предложенной математической модели.

Решение задачи лазерной спектрометрии позволяет определять размеры частиц в растворе по спектру интенсивности рассеянного света. В результате эксперимента методом динамического рассеяния света получается кривая интенсивности рассеяния, по которой необходимо определить, частицы каких размеров представлены в растворе. Экспериментально полученный спектр интенсивности сравнивается с теоретически ожидаемым спектром, который является кривой Лоренца. Основная задача сводится к тому, чтобы на основании этих данных найти относительные концентрации частиц каждого сорта, представленных в растворе. В статье представлен способ построения и использования нейронной сети, обученной на синтетических данных, для определения размера частиц в растворе в диапазоне 1–500 нм. Нейронная сеть имеет полносвязный слой из 60 нейронов с функцией активации RELU на выходе, слой из 45 нейронов и с аналогичной функцией активации, слой dropout и 2 слоя с количеством нейронов 15 и 1 (выход сети). В статье описано, как сеть обучалась и тестировалась на синтетических и экспериментальных данных. На синтетических данных метрика «среднеквадратичное отклонение» (rmse) дала значение 1.3157 нм. Экспериментальные данные были получены для размеров частиц 200 нм, 400 нм и раствора с представителями обоих размеров. Сравниваются результаты работы нейронной сети и классических линейных методов, основанных на применении различных регуляризаций за счет введения дополнительных параметров и применяемых для определения размера частиц. К недостаткам классических методов можно отнести трудность автоматического определения степени регуляризации: слишком сильная регуляризация приводит к тому, что кривые распределения частиц по размерам сильно сглаживаются, а слабая регуляризация дает осциллирующие кривые и низкую надежность результатов. В работе показано, что нейронная сеть дает хорошее предсказание для частиц с большим размером. Для малых размеров предсказание хуже, но ошибка быстро уменьшается с увеличением размера.