интерпретируемость

Статья в журнале Nature Machine Intelligence (опубликована онлайн 1 сентября 2026 года) представляет новый подход к улучшению надежности искусственного интеллекта путем использования сигналов мозга человека. Исследователи обнаружили, что выравнивание представлений (representational alignment) — метод, который ранее использовался для сравнения активности человеческого мозга и языковых моделей, — может быть применен для управления процессом обучения ИИ. В работе показано, что использование нейронных сигналов в качестве обратной связи позволяет направлять рассуждения моделей, повышая их точность и устойчивость к ошибкам. Метод основан на сопоставлении внутренних представлений модели с паттернами активности мозга, что помогает модели лучше имитировать человеческие когнитивные процессы. Эксперименты продемонстрировали значительное улучшение надежности рассуждений по сравнению с традиционными подходами. Это открывает новые перспективы для создания более интерпретируемых и безопасных систем ИИ в медицине, где точность и объяснимость критически важны. Результаты подчеркивают потенциал нейронауки в совершенствовании алгоритмов машинного обучения.

Представлена улучшенная структура ConvNeXt-Tiny с модулем пространственной адаптивной многомасштабной свертки (SAMC) для классификации заболеваний сетчатки по OCT-изображениям. Модель достигает точности 98,39% на наборе данных OCT-C8 с восемью классами, а также включает анализ калибровки, неопределенности, устойчивости к помехам и интерпретируемости, подтверждая клиническую значимость.

В статье представлен новый подход к интерпретации моделей белкового языка (pLM), таких как ESM-2, которые достигают высокой точности в предсказании эффектов мутаций без дополнительного обучения (zero-shot). Авторы предлагают фреймворк разреженных каузальных признаков, объединяющий разреженные автоэнкодеры, атрибуцию на основе интегрированных градиентов и активационное патчинг, чтобы выявить скрытые признаки, каузально опосредующие предсказания. Метод протестирован на 67 мутациях в J-домене белка DNAJA1, от сильно до слабо вредных, где предсказания ESM-2 хорошо согласуются с данными глубокого мутационного сканирования. Показано, что схемы, выбранные по косвенному эффекту, воспроизводят предсказания модели эффективнее и дают более информативные биологические объяснения, чем схемы, основанные на сырых изменениях активации, что указывает на то, что величина активации не всегда отражает каузальную важность. Обнаружено, что родственные замены используют значительную часть общих схем (от 40% до 75%), причем общие признаки часто представляют остатки, находящиеся в трехмерном контакте с сайтом мутации. Работа впервые предоставляет каузальное объяснение на уровне признаков для zero-shot предсказания эффектов мутаций в pLM, что важно для понимания и доверия к таким моделям в биомедицинских приложениях.

Исследование применяет машинное обучение для прогнозирования диабета на 353 680 записях, достигая AUC-ROC 0.8481 с помощью оптимизированного ансамбля стекинга (Random Forest, XGBoost, LightGBM). Авторы формализуют «парадокс импутации» и анализируют несогласованность методов объяснимого ИИ (SHAP, LIME, permutation), демонстрируя потенциальное выявление ~16 600 дополнительных пациентов с диабетом на миллион обследованных.

Исследователи разработали BIGraph-ST — новый метод на основе графовых нейронных сетей для идентификации функциональных доменов в пространственной транскриптомике. Метод интегрирует два типа данных:_scores активности биологических путей и признаки гистологических изображений, что позволяет преодолеть шум и разреженность данных экспрессии генов. BIGraph-ST представляет сходство между модальностями через аффинные графы и распространяет пространственную топологию для захвата связности высшего порядка в тканевом микроокружении. Экспериментальные результаты показали робастную производительность и значительные улучшения на множестве бенчмарк-датасетов, особенно на образцах раковых тканей. Ключевое преимущество метода — биологически интерпретируемые представления доменов на уровне путей, что даёт исследователям инструмент для получения биологических инсайтов о сложных тканевых архитектурах. Исходный код будет опубликован после принятия статьи. Данная работа напрямую применяет методы машинного обучения для анализа медицинских данных в онкологии и патологической анатомии.

Разработана двухслойная двунаправленная LSTM-сеть с механизмом маскирования для динамического прогнозирования делирия у пациентов в отделении интенсивной терапии на основе 24-часовых скользящих окон наблюдений. Модель показала AUC-ROC 0,835 при внутренней и 0,830 при внешней валидации, а анализ SHAP выявил клинически значимые временные закономерности в предикторах (ИВЛ, pH, шкала SOFA).

Разработан интерпретируемый мультимодальный ИИ-фреймворк, объединяющий эмбеддинги рентгенограмм грудной клетки (DEiT-трансформер) с клиническими, демографическими и социальными данными пациентов для диагностики лекарственно-устойчивого туберкулёза. Модель XGBoost достигла PR-AUC 0.9258 и ROC-AUC 0.8718 на 6279 пациентах, при этом анализ SHAP выявил ключевые факторы риска — контакты с больными, статус занятости и радиологические аномалии. Клиницисты подтвердили правдоподобность объяснений модели.

Исследование представляет MetaAMI — инновационную систему мета-обучения для прогнозирования внутрибольничной смертности у пациентов с острым инфарктом миокарда (ОИМ). Методология основана на случайных проекциях: данные пациентов с кодами МКБ-9 и МКБ-10 для ОИМ были отобраны из базы MIMIC-IV v3.1, признаки трансформированы через множественные случайные проекции, создающие различные низкоразмерные представления. На каждом представлении обучались базовые классификаторы, их прогнозы агрегировались в интегрированное представление для мета-обучателя, который уточнял границу решений. Результаты бенчмаркинга показали, что MetaAMI последовательно превосходит все базовые классификаторы по семи метрикам оценки: точность, AUC, F1-мера, G-мера, индекс Жаккара, Yоудена J и коэффициент корреляции Мэттьюса (MCC). Анализ важности признаков с помощью SHAP выявил клинически релевантные предикторы смертности, обеспечивая интерпретируемость модели. Анализ выживаемости дополнительно оценил клиническую полезность подхода. MetaAMI предлагает эффективное и надёжное решение для стратификации риска при ОИМ, позволяя клиницистам раньше выявлять пациентов высокого риска и персонализировать лечение.

Исследователи представили DBayesCM — новую глубокую байесовскую модель для кластеризации и анализа взаимосвязей в микробиомных мульти-омикс данных. Модель сочетает глубокое обучение с байесовскими непараметрическими методами: отдельные энкодеры проецируют данные микробиома и хозяина в общее латентное пространство, где бесконечная смесь моделей с приором Дирихле автоматически определяет количество кластеров и квантует неопределённость назначения каждого образца. Авторы оценили две версии модели: DBayesCM-vMF с гиперсферическим латентным пространством и DBayesCM-GMM с евклидовым пространством. На симулированных данных гиперсферальный вариант корректно восстановил число кластеров, тогда как евклидовый допустил избыточную сегментацию, что демонстрирует влияние геометрии латентного пространства на качество кластеризации. Модель протестирована на когортах пациентов с раком толстой кишки, молочной железы и почек, включая метаболомику хозяина, RNA-seq и miRNA данные, а также на модели обструктивного апноэ сна. DBayesCM выявляет условные вероятностные совпадения между ключевыми видами микробов и омикс-признаками хозяина, обеспечивая осознанное исследование взаимосвязей микробиом-хозяин при различных заболеваниях с учётом неопределённости.

Статья критикует процесс «магизации» математических методов в биомедицинских исследованиях, когда сложные алгоритмы и ИИ превращаются в непрозрачные «черные ящики». Авторы подчеркивают необходимость возвращения к интерпретируемости методов для обеспечения связи между количественными данными и биологическими механизмами.

В данной статье, опубликованной в Nature Machine Intelligence, авторы (Kindt et al.) представляют инновационную теоретическую базу, направленную на решение проблемы суперпозиции в нейронных сетях. Исследование предлагает трехэтапный методологический подход, который позволяет эффективно идентифицировать, разделять (disentangle) и оценивать скрытые признаки (latent features) внутри нейронных архитектур. Основная цель работы заключается в преобразовании запутанных векторов признаков в разреженные и интерпретируемые коды, что критически важно для понимания внутренней логики работы моделей. Разработанный фреймворк позволяет преодолеть ограничения современных нейросетей, где множество концепций могут кодироваться одними и теми же нейронами. Хотя работа носит фундаментальный характер в области глубокого обучения, её результаты имеют потенциальное значение для создания объяснимого ИИ (XAI), который в будущем может быть применен для повышения прозрачности медицинских диагностических систем.