В статье, опубликованной в журнале npj Digital Medicine 31 октября 2026 года, представлен фундаментальный анализ механизмов принятия решений медицинскими большими языковыми моделями (LLM). Исследование фокусируется на механистической интерпретируемости, позволяющей заглянуть «внутрь» нейросетей и понять, как именно модели формируют клинические выводы. Авторы изучают вариативность в рассуждениях ИИ, выявляя паттерны, которые могут приводить к ошибкам или непоследовательности в диагностике и рекомендациях. Методология включает декомпозицию вычислительных путей в моделях для идентификации конкретных нейронов и слоев, отвечающих за медицинские концепции. Результаты показывают, что вариативность часто связана с неустойчивостью активаций в ключевых слоях внимания, что критично для безопасности применения ИИ в клинической практике. Работа подчеркивает необходимость разработки методов стабилизации рассуждений LLM для повышения их надежности в реальных медицинских сценариях. Это исследование закладывает основу для создания более прозрачных и доверенных ИИ-систем, способных не только ставить диагнозы, но и объяснять логику своих решений врачам. Значимость работы заключается в переходе от «черного ящика» к объяснимому ИИ, что является ключевым барьером для внедрения технологий в клинические протоколы.