Все выпуски

Интерпретируемость моделей глубокого обучения стала центром исследований, особенно в таких областях, как здравоохранение и финансы. Модели с «бутылочным горлышком», используемые для выявления концептов, стали перспективным подходом для достижения прозрачности и интерпретируемости за счет использования набора известных пользователю понятий в качестве промежуточного представления перед слоем предсказания. Однако ручное аннотирование понятий не затруднено из-за больших затрат времени и сил. В нашей работе мы исследуем потенциал больших языковых моделей (LLM) для создания высококачественных банков концептов и предлагаем мультимодальную метрику для оценки качества генерируемых концептов. Мы изучили три ключевых вопроса: способность LLM генерировать банки концептов, сопоставимые с существующими базами знаний, такими как ConceptNet, достаточность унимодального семантического сходства на основе текста для оценки ассоциаций концептов с метками, а также эффективность мультимодальной информации для количественной оценки качества генерации концептов по сравнению с унимодальным семантическим сходством концепт-меток. Наши результаты показывают, что мультимодальные модели превосходят унимодальные подходы в оценке сходства между понятиями и метками. Более того, сгенерированные нами концепты для наборов данных CIFAR-10 и CIFAR-100 превосходят те, что были получены из ConceptNet и базовой модели, что демонстрирует способность LLM генерировать высококачественные концепты. Возможность автоматически генерировать и оценивать высококачественные концепты позволит исследователям работать с новыми наборами данных без дополнительных усилий.

Объяснимый искусственный интеллект (Explainable AI, XAI) представляет собой область искусственного интеллекта, направленную на создание методов и инструментов для генерации интерпретируемых и понятных для человека объяснений решений ИИ. Актуальность объяснимости моделей возрастает по мере внедрения искусственного интеллекта в критически важные сферы (медицина, финансы, юриспруденция), где непрозрачность алгоритмов может приводить к серьезным последствиям для пользователей и общества. В работе представлен аналитический обзор современного состояния области XAI, охватывающий теоретические основы, методологию и практические применения.

Рассматриваемые методы объяснимого ИИ были отобраны и систематизированы на основе многоуровневой классификации методов XAI по постановке задачи (цель, целевая аудитория, тип данных), методологии (стадия применения, модель-специфичность, методы, масштаб) и форме результата (представление, презентация, метрики оценки).

Проведен сравнительный анализ методов объяснимого ИИ для различных областей применения. Для классического машинного обучения детально рассмотрены SHAP и LIME с выявлением их теоретических оснований, вычислительных характеристик и ограничений. Для компьютерного зрения систематизированы градиентные методы (SmoothGrad, Integrated Gradients), методы визуализации активаций (Grad-CAM, Grad-CAM++), методы на основе возмущений (RISE, Occlusion) и концептуальные объяснения (TCAV, Network Dissection). Особое внимание уделено специфике применения XAI к обработке естественного языка и большим языковым моделям, включая анализ достоверности цепочек размышлений (Chain-of-Thought), естественно-языковых объяснений и методов на основе графов атрибуции. Выделены фундаментальные ограничения существующих подходов к объяснимости LLM и определены направления дальнейших исследований.

Результаты обзора демонстрируют, что методы XAI достигли значительной зрелости в области классического машинного обучения и компьютерного зрения, однако применение к большим языковым моделям остается открытой исследовательской проблемой, требующей разработки новых парадигм объяснения.

Математические модели газовой динамики и ее вычислительная индустрия, на наш взгляд, далеки от совершенства. Мы посмотрим на эту проблематику с точки зрения ясной вероятностной микромодели газа из твердых сфер, опираясь как на теорию случайных процессов, так и на классическую кинетическую теорию в терминах плотностей функций распределения в фазовом пространстве; а именно, построим сначала систему нелинейных стохастических дифференциальных уравнений (СДУ), а затем обобщенное случайное и неслучайное интегро-дифференциальное уравнение Больцмана с учетом корреляций и флуктуаций. Ключевыми особенностями исходной модели являются случайный характер интенсивности скачкообразной меры и ее зависимость от самого процесса.

Кратко напомним переход ко все более грубым мезо-макроприближениям в соответствии с уменьшением параметра обезразмеривания, числа Кнудсена. Получим стохастические и неслучайные уравнения, сначала в фазовом пространстве (мезомодель в терминах СДУ по винеров- ским мерам и уравнения Колмогорова – Фоккера – Планка), а затем в координатном пространстве (макроуравнения, отличающиеся от системы уравнений Навье – Стокса и систем квазигазодинамики). Главным отличием этого вывода является более точное осреднение по скорости благодаря аналитическому решению стохастических дифференциальных уравнений по винеровской мере, в виде которых представлена промежуточная мезомодель в фазовом пространстве. Такой подход существенно отличается от традиционного, использующего не сам случайный процесс, а его функцию распределения. Акцент ставится на прозрачности допущений при переходе от одного уровня детализации к другому, а не на численных экспериментах, в которых содержатся дополнительные погрешности аппроксимации.

Теоретическая мощь микроскопического представления макроскопических явлений важна и как идейная опора методов частиц, альтернативных разностным и конечно-элементным.

Исследование логических детерминированных клеточноавтоматных моделей популяционной динамики позволяет выявлять детальные индивидуально-ориентированные механизмы функционирования экосистем. Выявление таких механизмов актуально в связи с проблемами, возникающими вследствие переэксплуатации природных ресурсов, загрязнения окружающей среды и изменения климата. Классические модели популяционной динамики имеют феноменологическую природу, так как являются «черными ящиками». Феноменологические модели принципиально затрудняют исследование локальных механизмов функционирования экосистем. Мы исследовали роль плодовитости и длительности восстановления ресурсов в механизмах популяционного роста, используя четыре модели экосистемы с одним видом. Эти модели являются логическими детерминированными клеточными автоматами и основаны на физической аксиоматике возбудимой среды с восстановлением. Было выявлено, что при увеличении времени восстановления ресурсов экосистемы происходит катастрофическая гибель популяции. Показано также, что большая плодовитость ускоряет исчезновения популяции. Исследованные механизмы важны для понимания механизмов устойчивого развития экосистем и сохранения биологического разнообразия. Обсуждаются перспективы представленного модельного подхода как метода прозрачного многоуровневого моделирования сложных систем.

Биогидрохимический портрет Белого моря построен с помощью расчетов на CNPSi-модели по систематизированным среднемноголетним наблюдениям (среднемесячные гидрометеорологические, гидрохимические и гидробиологические параметры морской среды). Также в расчетах использована уточненная информация о выносе в морские акватории биогенных веществ со стоком основных рекритоков (Нива, Онега, Северная Двина, Мезень, Кемь, Кереть). Параметры морской среды — значения температуры, освещенности, прозрачности, биогенной нагрузки. Для девяти районов моря (заливы Кандалакшский, Онежский, Двинский, Мезенский, Соловецкие о-ва, Бассейн, Горло, Воронка, губа Чупа) характеристики портрета моря включают: изменение в течение года концентраций органических и минеральных соединений биогенных элементов (С, N, P, Si), биомассы организмов низших трофических звеньев (гетеротрофные бактерии, диатомовый фитопланктон, растительноядный и хищный зоопланктон) и другие показатели (скорости изменения концентраций веществ и биомасс организмов, внутренние и внешние потоки веществ, балансы отдельных веществ и биогенных элементов в целом). Расчетные по среднемноголетним данным показатели состояния морской среды (температура воды, соотношения минеральных фракций N < P) и доминирующего диатомового фитопланктона в море (обилие, продукция, биомасса, содержание хлорофилла а) сравнивали с результатами отдельных съемок (за 1972–1991 и 2007–2012 гг.) по районам моря. При очевидных отличиях способов оценки значений показателей (по наблюдениям — аналитические методы, а при расчетах на модели — вычисления по соответствующим уравнениям) отмечена близость расчетных показателей состояния фитопланктона приведенным в литературе данным по фитопланктону Белого моря. Так, литературные оценки годовой продукции диатомовых водорослей в Белом море находятся в пределах 1.5–3 млн т С (при продолжительности вегетации 180 сут), а по расчетам она составляет ~2 и 3.5 млн т С при принимаемых периодах вегетации в 150 и 180 сут соответственно.

Лазерное повреждение прозрачных твердых тел является основным фактором, ограничивающим выходную мощность лазерных систем. Для лазерных дальномеров наиболее вероятной причиной разрушения элементов оптической системы (линз, зеркал), реально, как правило, несколько запыленных, является не оптический пробой в результате лавинной ионизации, а такое тепловое воздействие на пылинку, осевшую на элементе оптической системы (ЭОС), которое приводит к ее возгоранию. Именно возгорание пылинки инициирует процесс повреждения ЭОС.

Рассматриваемая модель этого процесса учитывает нелинейный закон теплового излучения Стефана – Больцмана и бесконечное тепловое воздействие периодического излучения на ЭОСи пылинку. Эта модель описывается нелинейной системой дифференциальных уравнений для двух функций: температуры ЭОСи температуры пылинки. Доказывается, что в силу накапливающего воздействия периодического теплового воздействия процесс достиже- ния температуры возгорания пылинки происходит практически при любых априори возможных изменениях в этом процессе теплофизических параметров ЭОСи пылинки, а также коэффициентов теплообмена между ними и окружающим их воздухом. Усреднение этих параметров по переменным, относящимся как к объему, так и к поверхностям пылинки и ЭОС, корректно при указанных в работе естественных ограничениях. А благодаря рассмотрению задачи (включая численные результаты) в безразмерных единицах измерения, охвачен весь реально значимый спектр теплофизических параметров.

Проведенное тщательное математическое исследование соответствующей нелинейной системы дифференциальных уравнений впервые позволило для общего случая теплофизических параметров и характеристик теплового воздействия периодического лазерного излучения найти формулу для значения той допустимой интенсивности излучения, которая не приводит к разрушению ЭОСв результате возгорания пылинки, осевшей на ЭОС. Найденное в работе для общего случая теоретическое значение допустимой интенсивности в частном случае данных лазерного комплекса обсерватории в г. Грассе (на юге Франции) практически соответствует полученному там экспериментальному значению.

Наряду с решением основной задачи получена в качестве побочного результата формула для коэффициента поглощения мощности лазерного излучения элементом оптической системы, выраженная в терминах четырех безразмерных параметров: относительной интенсивности лазерного излучения, относительной освещенности ЭОС, относительного коэффициента теплоотдачи от ЭОСк окружающему его воздуху и относительной установившейся температуры ЭОС.

В современном мире соблюдение нормативных требований по защите данных, таких как GDPR, является ключевым для организаций. Другой важной проблемой, выявленной при анализе, является то, что соблюдение осложняется сложностью правовых документов и постоянными изменениями в регулировании. В данной статье описываются способы, с помощью которых NLP (обработка естественного языка) способствует упрощению соблюдения GDPR путем автоматического сканирования на соответствие, оценки политик конфиденциальности и повышения уровня прозрачности. Работа не ограничивается исследованием применения NLP для работы с политиками конфиденциальности и улучшения понимания обмена данными с третьими сторонами, но также проводит предварительные исследования для оценки различий между несколькими моделями NLP. В статье описывается реализация и исполнение моделей для выявления той, которая демонстрирует наилучшую производительность по эффективности и скорости автоматизации процесса проверки соответствия и анализа политики конфиденциальности. Кроме того, в исследовании обсуждаются возможности использования автоматических инструментов и анализа данных для соблюдения GDPR, например, создание машиночитаемых моделей, которые помогают в оценке соответствия. Среди моделей, оцененных в нашем исследовании, SBERT показала лучшие результаты на уровне политики с точностью 0,57, прецизионностью 0,78, полнотой 0,83 и F1-метрикой 0,80. Модель BERT продемонстрировала наивысшую производительность на уровне предложений, достигнув точности 0,63, прецизионности 0,70, полноты 0,50 и F1-метрики 0,55. Таким образом, данная статья подчеркивает важность NLP в помощи организациям преодолеть трудности соблюдения GDPR, создавая дорожную карту к более ориентированному на клиента режиму защиты данных. В этом отношении, сравнивая предварительные исследования и демонстрируя производительность лучших моделей, работа способствует усилению мер по соблюдению и защите прав личности в киберпространстве.