объяснимый ИИ

Разработана система классификации состояния плода (норма, подозрение, патология) на основе анализа данных кардиотокографии. Лучшая модель LightGBM показала точность 96.03% и была интегрирована в веб-приложение для поддержки принятия клинических решений.

Разработана система FuzzyFed-CNN, объединяющая сверточные нейросети и нечеткие логические системы для раннего выявления болезни Альцгеймера. Метод использует федеративное обучение для защиты конфиденциальности данных и обеспечивает высокую интерпретируемость результатов через визуализацию Grad-CAM.

Исследование посвящено изучению восприятия врачами методов объяснимого ИИ (XAI) в сценариях раннего предупреждения о декомпенсации сердечной недостаточности. Результаты показывают, что метод SHAP наиболее интуитивен для клиницистов, однако для полного доверия требуется комбинированный подход к визуализации данных.

Исследование посвящено использованию алгоритмов машинного обучения (XGBoost, Random Forest и др.) для прогнозирования риска инфекций (RTI/STI) у молодых женщин. С помощью анализа SHAP были выявлены ключевые факторы риска, а модель XGBoost показала высокую точность прогнозирования (89.1%).

Исследование представляет EcoXAI — инновационную модульную многоагентную систему, разработанную для преодоления сложностей при анализе гетерогенных биомедицинских данных и графов знаний. В отличие от традиционных монолитных LLM-интерфейсов, EcoXAI использует контейнеризированную архитектуру специализированных биоинформатических агентов, что минимизирует риск галлюцинаций и обеспечивает проверяемость каждого этапа анализа. Методология системы базируется на интеграции современных методов управления агентами (agentic management) и явном использовании графов знаний для обоснования выводов. В ходе практического применения системы для поиска новых мишеней при болезни Альцгеймера, EcoXAI проанализировала 103 потенциальных лекарственных препарата. В результате было выявлено 79 новых кандидатов, чьи прогнозные модели превзошли случайный базовый уровень. Одним из ключевых успехов стало обнаружение антагониста CCR5 — препарата Маравирок, гипотеза о применении которого была впоследствии подтверждена научной литературой. Данная разработка значительно ускоряет процесс формирования гипотез в трансляционных исследованиях, снижая вычислительный порог для клиницистов.

Исследование посвящено проблеме надежности методов объяснимого искусственного интеллекта (xAI), таких как DeepLIFT, при анализе моделей «последовательность-активность» (S2A), которые предсказывают геномную активность (связывание транскрипционных факторов и экспрессию генов). Авторы изучают, может ли использование ансамблей моделей повысить точность интерпретации признаков, а не только точность самих предсказаний. В ходе работы было установлено, что ансамблирование атрибуций от нескольких моделей значительно улучшает результаты в прикладных задачах, таких как идентификация мотивов транскрипционных факторов и прогнозирование регуляторных генетических вариантов. Особое внимание уделено методу Monte Carlo Dropout (MCDropout), который показал эффективность, приближающуюся к обучению множества отдельных моделей, но при этом существенно снижающую вычислительные затраты на этапе обучения. Результаты работы критически важны для биоинформатики и персонализированной медицины, так как позволяют более точно интерпретировать влияние генетических мутаций на здоровье человека.

В статье представлена инновационная базовая модель (foundation model), специально разработанная для анализа рентгенограмм грудной клетки с акцентом на интерпретируемость результатов. В отличие от традиционных «черных ящиков» глубокого обучения, данная архитектура позволяет врачам понимать логику принятия решений ИИ при выявлении патологий. Методология исследования базируется на использовании масштабных наборов данных для обучения модели, что обеспечивает высокую точность профилирования широкого спектра заболеваний. Ключевым достижением является интеграция механизмов объяснимости, которые визуализируют зоны интереса и связывают их с конкретными клиническими признаками. Это позволяет значительно снизить риск диагностических ошибок и повысить доверие медицинского сообщества к автоматизированным системам. Практическая значимость работы заключается в возможности внедрения подобных моделей в клиническую практику для поддержки принятия решений в радиологии и онкологии.

Систематический обзор 24 исследований, посвященных применению ИИ и глубокого обучения для диагностики заболеваний по данным рентгена, КТ, МРТ и других методов визуализации. Основное внимание уделяется вопросам прозрачности, объяснимости (Grad-CAM, SHAP), справедливости алгоритмов и клинического доверия к системам.

Разработана новая система MMCRAG-Resp, использующая мультимодальный RAG для диагностики респираторных заболеваний на основе звуков, спирометрии и текста. Метод значительно снижает уровень галлюцинаций ИИ и обеспечивает клинически обоснованные, объяснимые ответы с использованием локальных языковых моделей.

В статье рассматривается критическая проблема современного медицинского ИИ: разрыв между высокой производительностью моделей и их клинической обоснованностью. Авторы утверждают, что текущие методы объяснимого ИИ (XAI) и post-hoc интерпретации недостаточны для преодоления эпистемического разрыва между поведением алгоритма и обоснованными медицинскими заключениями. Вместо акцента на интерпретируемость, исследователи предлагают переход к модели управления на основе проверяемости (testability). Основные рекомендации включают проведение пререгистрированных эмпирических испытаний для проверки причинно-следственного соответствия и устойчивости моделей к изменениям оборудования (сканеров), локаций и подгрупп пациентов. Также предлагается концепция «Институционального ИИ», которая подразумевает обязательный аудит происхождения данных, проспективную валидацию, внешние проверки и использование состязательных (adversarial) методов оценки для больших языковых моделей (LLM). Данный подход направлен на минимизацию использования алгоритмами «коротких путей» (shortcuts) и обеспечение безопасности клинического применения.

Данный систематический обзор исследует пересечение объяснимого искусственного интеллекта (XAI) и моделей сердечной электрофизиологии в контексте предотвращения внезапной сердечной смерти (ВСС) среди подростков и молодых людей, занимающихся спортом. Исследование фокусируется на выявлении механизмов, с помощью которых алгоритмы машинного обучения могут интерпретировать сложные электрофизиологические данные для прогнозирования критических состояний. Авторы анализируют текущие модели, которые позволяют не только предсказывать риск остановки сердца, но и предоставлять врачам клинически значимые обоснования принятых решений, что критически важно для доверия к ИИ в кардиологии. В работе рассматривается эффективность интеграции XAI в диагностические системы для выявления скрытых патологий, которые могут привести к летальному исходу во время физических нагрузок. Основное внимание уделяется переходу от «черных ящиков» нейросетей к прозрачным моделям, способным учитывать индивидуальные электрофизиологические особенности пациента. Результаты подчеркивают потенциал использования таких систем для раннего скрининга спортсменов и персонализированного управления рисками в спортивной медицине.

Статья анализирует растущие требования FDA к прозрачности и объяснимости алгоритмов ИИ в медицинских устройствах (SaMD). Основной акцент делается на том, что высокой точности модели недостаточно для одобрения; производители должны доказать, что логика работы ИИ понятна клиницистам для обеспечения безопасности пациентов.

В исследовании представлена SiCLIP — инновационная мультимодальная программная среда, разработанная специально для повышения точности диагностики силикоза. Методология базируется на использовании концепции CLIP (Contrastive Language-Image Pre-training), которая позволяет модели сопоставлять визуальные признаки рентгеновских снимков с текстовыми медицинскими описаниями. Ключевой особенностью SiCLIP является её высокая интерпретируемость (explainability), что критически важно для клинического применения, так как врачи могут понимать логику принятия решений нейросетью. Исследование демонстрирует, что интеграция текстовой информации значительно улучшает точность классификации патологий по сравнению с чисто визуальными моделями. Данная разработка имеет высокую практическую значимость для радиологии и профессиональной медицины труда, позволяя автоматизировать скрининг и снизить риск диагностических ошибок при выявлении профессиональных заболеваний легких.

В статье представлен новый метод Scale-Consistent Attribution (SCA), который интегрирует клинические знания в процесс обучения нейросетей для анализа фонокардиограмм. Метод позволяет сделать объяснения ИИ более физиологически обоснованными, разделяя низкочастотные звуки сердца и высокочастотные шумы без потери точности классификации.

В статье рассматривается критически важный аспект современного биоинформатического ИИ — интерпретируемость и объяснимость белковых языковых моделей (Protein Language Models, PLMs). Авторы Ханклингер и Ферруз представляют комплексный обзор существующих методов объяснимого искусственного интеллекта (XAI), адаптированных для анализа аминокислотных последовательностей. Исследование фокусируется на том, как механизмы внимания и градиентные методы позволяют понять, какие именно паттерны в последовательностях белков определяют их структурные и функциональные свойства. Работа подчеркивает переход от моделей «черного ящика» к прозрачным системам, что необходимо для безопасного внедрения ИИ в процесс разработки лекарств и дизайна белков. Основное внимание уделяется методологиям, которые связывают предсказания нейросетей с биологически значимыми концепциями, такими как вторичная структура и сайты связывания. Данный обзор служит фундаментальной базой для исследователей, стремящихся объединить глубокое обучение с классической молекулярной биологией.

В данном многоцентровом исследовании, опубликованном в журнале npj Digital Medicine, представлена инновационная модель на основе объяснимого машинного обучения (XAI) для прогнозирования риска внебольничной остановки сердца (ВНОК). Исследователи разработали алгоритм, способный оценивать динамические изменения индивидуального риска в режиме реального времени, что критически важно для превентивной кардиологии. Методология включала использование больших массивов данных из нескольких медицинских центров Китая для обучения и валидации нейросетевых моделей. Ключевым преимуществом работы является внедрение методов интерпретируемости, которые позволяют врачам понимать, какие именно клинические параметры (например, вариабельность сердечного ритма или показатели давления) вносят наибольший вклад в текущий прогноз. Результаты демонстрируют высокую точность модели в выявлении пациентов группы высокого риска до наступления критического события. Данное исследование имеет высокую практическую значимость для интеграции ИИ в системы мониторинга состояния пациентов и раннего реагирования при сердечно-сосудистых катастрофах.

Исследователи из Лейпцигского университета и Университетской клиники Лейпцига представили инновационный метод использования объяснимого искусственного интеллекта (XAI) для стратификации онкологических пациентов. В отличие от традиционных подходов, данная система не требует заранее заданных клинических критериев риска, а обучается напрямую на данных о выживаемости пациентов. Это позволяет алгоритму самостоятельно выявлять скрытые закономерности, коррелирующие с неблагоприятным прогнозом заболевания. Метод, опубликованный в журнале Digital Medicine, обеспечивает высокую интерпретируемость решений ИИ, что критически важно для клинической практики. Внедрение такой системы позволит врачам более точно группировать пациентов по группам риска и персонализировать тактику лечения. Исследование демонстрирует потенциал перехода от жестких медицинских протоколов к гибким моделям, основанным на глубоком анализе данных реальной клинической практики.

В статье представлен обзор исследований (2020–2025 гг.), посвященных применению глубокого обучения и методов объяснимого ИИ (XAI) для автоматизации диагностики камней в почках. Рассматриваются такие техники, как SHAP и Grad-CAM, которые помогают повысить доверие врачей к диагностическим системам, несмотря на существующие проблемы с разнообразием данных.

В исследовании представлен метод Graph-RAG, использующий графы знаний Neo4j для создания точных рекомендаций по диете при хронических заболеваниях. Система обеспечивает высокую интерпретируемость и учет демографических особенностей, минимизируя галлюцинации языковых моделей за счет строгой привязки к клиническим нормам нутриентов.