Исследование демонстрирует критическую проблему в обучении моделей искусственного интеллекта для онкологии: классификаторы могут достигать идеальной точности (AUC 1.000), используя не биологические признаки рака, а технические артефакты различий между источниками данных. Авторы проанализировали модели, обученные на опухолях из базы The Cancer Genome Atlas (TCGA) и нормальных тканях из проекта GTEx, включая табличные фундаментальные модели. Несмотря на идеальные метрики, эти модели ошибочно классифицировали 80–97% образцов прилегающей нормальной ткани как раковые, а в независимой когорте ошибка составляла 100%. Проблема заключается в том, что модель «запоминает» источник данных (лабораторию или протокол подготовки), а не паттерны заболевания. Для решения этой задачи предложена новая метрика на основе объяснений моделей (explanations), которая не требует размеченных данных. Метрика выявляет «короткие пути» (shortcuts), так как артефакты источника проявляются одинаково во всех тканях, тогда как изменения, связанные с раком, специфичны. Предложенный подход позволил выявить 87–92% моделей, использующих такие артефакты, без ложных срабатываний, и успешно переносится на новые типы моделей и данные. Результаты подчеркивают необходимость использования методов интерпретируемости ИИ для валидации медицинских алгоритмов, чтобы избежать внедрения систем, основанных на ложных корреляциях.