безопасность данных

Министерство здравоохранения США (HHS) отменяет ряд требований к сертификации медицинских ИТ-систем, включая правила прозрачности для ИИ, что перекладывает ответственность за оценку безопасности алгоритмов на больницы. Отмена обязательного предоставления атрибуции источников для предиктивных инструментов может затруднить проверку качества и смещения (bias) медицинских ИИ-моделей.

Статья анализирует финансовые и регуляторные барьеры для внедрения клинических ИИ-инструментов в больницах, указывая на отсутствие reimbursement (возмещения затрат) как главную причину задержек. Автор предлагает создать временные механизмы финансирования (safe harbor) и новые коды оплаты, аналогичные тем, что использовались для электронных медкарт и кибербезопасности, чтобы ускорить доступность проверенных ИИ-решений до появления постоянных тарифов CMS.

На форуме Минцифры «Цифровые решения», прошедшем 6 октября 2026 года в Москве, председатель Правительства РФ Михаил Мишустин анонсировал расширение доступа государственных учреждений к отечественным ИИ-решениям через платформу «Гостех». Согласно заявлению, федеральные, региональные и муниципальные органы власти смогут использовать готовые ИИ-сервисы «под ключ», что ускорит цифровую трансформацию государственного управления. Особое внимание уделено вопросам киберсуверенитета: для объектов критической информационной инфраструктуры будет установлен порядок использования исключительно суверенных или национальных фундаментальных моделей искусственного интеллекта. Это решение направлено на снижение технологических рисков и обеспечение безопасности данных в госсекторе. Платформа «Гостех» выступает агрегатором разработок, позволяя госучреждениям внедрять передовые технологии без необходимости самостоятельной разработки базовых алгоритмов. Инициатива отражает курс на импортозамещение в сфере ИИ и стандартизацию применения нейросетевых технологий в государственном администрировании.

Статья анализирует текущие тенденции внедрения искусственного интеллекта в здравоохранении, отмечая расширение сфер применения от диагностики редких заболеваний до автоматизации клинической документации. Автор подчеркивает, что основное внимание индустрии часто смещено на выбор конкретных моделей и количество графических процессоров (GPU), однако истинной проблемой является готовность организаций к поддержке и обеспечению безопасности самих рабочих нагрузок ИИ. В тексте утверждается, что локальные вычисления, сетевая инфраструктура и системы безопасности являются критически важными элементами инфраструктуры больницы, которые должны адаптироваться для работы с ИИ как с нормальным, рутинным процессом. Материал фокусируется на организационных и инфраструктурных аспектах внедрения технологий, а не на алгоритмических инновациях. Это относится к категории управления данными и governance в здравоохранении, что напрямую связано с ИИ. Статья не содержит конкретных технических деталей или результатов клинических испытаний, но важна для понимания стратегических вызовов при интеграции ИИ в медицинские учреждения.

Статья предлагает концептуальную архитектуру «нулевого доверия» для безопасной интеграции ИИ в медицинские информационные системы на основе стандарта FHIR. Авторы описывают модель управления доступом и аудита, обеспечивающую согласованность и подотчетность ИИ-моделей при обмене данными между электронными медицинскими картами, но отмечают отсутствие эмпирической валидации на реальных клинических данных.

В статье представлено исследование с использованием моделирования, посвященное применению федеративного обучения (FL) в системах Интернета медицинских вещей (IoMT) для классификации физиологических сигналов и непрерывного мониторинга. Авторы разрабатывают прототип, объединяющий федеративное усреднение, гауссово возмущение обновлений клиентов для обеспечения дифференциальной приватности (DP), а также механизм оценки доверия на уровне устройств и фильтрацию аномальных обновлений по величине градиента. В рамках экспериментальной части рассматривается конвейер классификации электрокардиограмм (ЭКГ), где сравниваются четыре подхода: централизованное обучение, традиционное федеративное обучение, федеративное обучение с дифференциальной приватностью и предложенная конфигурация ZT-FL (Zero-Trust Federated Learning). Результаты показывают, что предложенная конфигурация ZT-FL достигает точности (accuracy) 0.928, показателя F1 0.920 и площади под ROC-кривой (AUC) 0.968. Исследование подтверждает жизнеспособность предложенного подхода в рамках симуляции, однако авторы четко оговаривают, что результаты не устанавливают клиническую валидность, полный учет дифференциальной приватности, всестороннюю устойчивость к состязательным атакам или соответствие регуляторным требованиям. Криптографические и аппаратные компоненты моделируются как накладные расходы, а не реализуются на уровне протоколов.

Статья анонсирует вебинар, посвященный вопросам управления, безопасности и готовности к внедрению искусственного интеллекта в здравоохранении. Обсуждаются стратегии снижения рисков при работе с поставщиками ИИ, политика использования генеративного ИИ и критерии оценки ИИ-вендоров для страховых организаций.

Статья исследует переход от ИИ как инструмента диагностики к ИИ как активному агенту, способному выполнять действия от имени пациента (запись на прием, заказ рецептов). Автор подчеркивает необходимость создания новой системы цифровой идентификации и репутации для ИИ-агентов, чтобы обеспечить безопасность данных и соблюдение стандартов HIPAA.

Данный материал представляет собой аналитический обзор результатов исследования 2026 года, посвященного внедрению технологий искусственного интеллекта для медицинского перевода (interpreting). В статье выделяются 8 критических требований, которые руководители медицинских учреждений должны учитывать при пилотном запуске ИИ-решений для обеспечения безопасности и ответственности. Исследование фокусируется на минимизации рисков неправильной интерпретации медицинских терминов, которые могут привести к врачебным ошибкам. Основное внимание уделяется необходимости интеграции ИИ с существующими рабочими процессами и соблюдению этических стандартов. Результаты опроса подчеркивают, что для успешного внедрения требуются не только технологические мощности, но и четкие протоколы верификации данных. Данная работа имеет высокую значимость для организаторов здравоохранения, планирующих цифровую трансформацию коммуникаций между врачом и пациентом.

Исследование посвящено анализу коммуникаций FDA по вопросам безопасности кибертехнологий в медицинских устройствах за период с 2013 по 2025 год. Авторы применили метод систематического качественного контент-анализа для оценки частоты оповещений и степени серьезности выявленных уязвимостей. В ходе работы было установлено, что FDA выпустила 18 официальных сообщений о безопасности, связанных с кибервзломами медицинского оборудования. Ключевым результатом стало выявление того, что 94% обнаруженных уязвимостей классифицируются как высокорисковые, что может привести к несанкционированному удаленному доступу, сбоям в работе устройств и утечке конфиденциальных данных пациентов. Результаты демонстрируют устойчивый рост количества предупреждений со стороны регулятора, что свидетельствует об усложнении и частоте киберугроз в цифровой среде здравоохранения. Исследование подчеркивает критическую необходимость усиления стратегий кибербезопасности и тесного взаимодействия между производителями, провайдерами медицинских услуг и государственными регуляторами.

Компания Judi Health объявила о стратегическом партнерстве с технологическим провайдером Clear для интеграции продвинутых решений по верификации личности в свою корпоративную медицинскую платформу. Данная инициатива направлена на усиление безопасности данных и упрощение процесса идентификации пациентов и пользователей внутри экосистемы здравоохранения. Использование технологий Clear позволит автоматизировать проверку личности, что критически важно для предотвращения медицинского мошенничества и обеспечения соответствия строгим стандартам защиты персональных данных. Внедрение этой технологии в enterprise-платформу Judi Health призвано сократить административные барьеры при регистрации пациентов и повысить доверие к цифровым медицинским сервисам. Несмотря на то, что основной фокус статьи сделан на интеграции сервиса, это напрямую влияет на цифровую инфраструктуру и безопасность управления данными в современном здравоохранении.

Исследование посвящено критической проблеме безопасности при использовании ИИ-ассистентов (ambient scribing) для транскрибации и создания медицинских записей. Авторы проанализировали, как большие языковые модели (LLM) обрабатывают разговоры между врачом и пациентом, фокусируясь на риске несанкционированного включения персональных данных третьих лиц в итоговые клинические заметки. В ходе экспериментов тестировались модели LLaMA 3.1 (8B и 70B), Mixtral 8×7B, 8×22B, а также проприетарные модели Claude 3.5 Haiku и Sonnet. Результаты показали, что все протестированные модели допускали утечки конфиденциальной информации третьих лиц, даже если они правильно идентифицировали её как неприемлемую для записи. Использование специальных инструкций по приватности снизило частоту утечек, но не обеспечило полной защиты. Исследование подчеркивает необходимость разработки систем с принципом «privacy-by-design» и разделения процессов генерации текста и редактирования конфиденциальных данных для минимизации рисков в реальной клинической практике.

Статья описывает подход Mass General Brigham к внедрению ИИ-инструментов в медицинскую практику с акцентом на доказательства и реальное влияние. Система использует Microsoft Copilot для помощи клиницистам и создала безопасный доступ к большим языковым моделям, включая ИИ-агента для автоматического суммирования медицинских записей пациентов перед визитом.

Статья посвящена применению фреймворка управления рисками искусственного интеллекта от Национального института стандартов и технологий США (NIST AI RMF) в медицинских организациях. Введение упоминает, что к началу 2026 года крупные игроки генеративного ИИ — OpenAI (ChatGPT) и Anthropic (Claude) — расширили свои сервисы для здравоохранения и науки о жизни. Отмечается, что более 40% врачей в США ежедневно используют платформу OpenEvidence для поиска рецензируемых исследований и поддержки принятия решений на основе доказательств. Статья исследует, как медицинские организации могут адаптировать принципы управления рисками ИИ для безопасного внедрения генеративных моделей в клинические рабочие процессы. Особое внимание уделяется вопросам валидации, прозрачности алгоритмов и защиты данных пациентов при использовании ИИ-систем. Материал рассматривает регуляторные аспекты внедрения ИИ в медицину и предлагает практические рекомендации для медицинских учреждений.

Статья рассматривает проблему «теневой ИИ» (Shadow AI) в медицинских организациях — использование сотрудниками генеративных ИИ-инструментов без согласования с IT-отделом и без контроля со стороны служб безопасности. Понятие «теневой ИТ» описывает любые технологические решения, внедряемые в корпоративную сеть без предварительного одобрения ИТ-департамента. В условиях быстрого распространения генеративного искусственного интеллекта регистрация новых сервисов стала проще, чем когда-либо, что одновременно увеличило риски. Сотрудники, для которых взаимодействие с ИТ-отделом кажется слишком обременительным, могут использовать личные аккаунты для работы, не осознавая проблем с соответствием требованиям и безопасностью данных. Статья посвящена стратегиям управления этими рисками и внедрению политик контроля использования ИИ-инструментов в медицинских организациях. Проблема особенно актуальна для здравоохранения, где защита конфиденциальных данных пациентов является критически важной. Решение требует баланса между удобством использования технологий и необходимостью соблюдения регуляторных требований, таких как HIPAA.