регулирование

Министерство здравоохранения США (HHS) отменяет ряд требований к сертификации медицинских ИТ-систем, включая правила прозрачности для ИИ, что перекладывает ответственность за оценку безопасности алгоритмов на больницы. Отмена обязательного предоставления атрибуции источников для предиктивных инструментов может затруднить проверку качества и смещения (bias) медицинских ИИ-моделей.

В статье рассматривается новая пилотная программа TEMPO, разработанная совместно FDA и CMS, которая создает регуляторную «песочницу» для устройств цифрового психического здоровья, использующих искусственный интеллект. Традиционный процесс получения одобрения FDA (premarket authorization) отличается высокой стоимостью и длительностью, что вынуждает многие инновационные ИИ-решения выходить на рынок в качестве неконтролируемых потребительских продуктов. Программа TEMPO позволяет компаниям коммерциализировать свои продукты, опираясь на систему менеджмента качества (QMS), без необходимости немедленного прохождения полной процедуры предварительного разрешения. Это создает промежуточный регуляторный статус, который способствует легализации и безопасному внедрению технологий в клиническую практику. Ключевой целью пилотного проекта является сбор реальных данных (real-world data) об эффективности и безопасности ИИ-устройств в условиях реальной клинической среды. Авторы аргументируют, что данные, полученные в рамках TEMPO, послужат основой для пересмотра и модернизации всей системы регулирования цифрового здравоохранения в США. Статья подчеркивает значимость этого подхода для снижения барьеров входа на рынок при сохранении стандартов безопасности пациентов. Таким образом, TEMPO позиционируется как важный шаг к созданию сбалансированной экосистемы для развития ИИ в психиатрии и психотерапии.

Проект постановления Правительства РФ предусматривает наделение Министерства цифрового развития, связи и массовых коммуникаций (Минцифры) России функциями по координации всех мероприятий, связанных с внедрением технологий искусственного интеллекта на территории страны. Это решение направлено на централизацию управления и оптимизацию государственных расходов, которые в настоящее время составляют десятки миллиардов рублей, выделяемых на развитие ИИ-инфраструктуры и соответствующих проектов. Отмечается, что отечественный рынок искусственного интеллекта демонстрирует высокие темпы роста, увеличиваясь в два раза быстрее, чем рынок информационных технологий в целом, что подчеркивает стратегическую важность данного сектора для национальной экономики. Координация со стороны профильного министерства призвана устранить разрозненность усилий различных ведомств и ускорить практическое применение ИИ-решений в ключевых отраслях, включая здравоохранение, образование и промышленность. Данное административное изменение является частью более широкой государственной стратегии по технологическому суверенитету и цифровизации, где ИИ рассматривается как один из приоритетных драйверов инновационного развития. Хотя статья фокусируется на регуляторных и организационных аспектах, а не на конкретных медицинских алгоритмах, она напрямую касается инфраструктуры и регулирования, необходимых для внедрения ИИ в здравоохранении.

В статье, опубликованной в Nature Machine Intelligence, поднимается критическая проблема отсутствия стандартизированной и прозрачной системы версионирования моделей искусственного интеллекта. Авторы указывают на то, что поставщики ИИ-решений часто обновляют свои модели и системные интеграции, не внося соответствующих изменений в публичные идентификаторы. Это создает серьезные препятствия для эффективного надзора со стороны регулирующих органов и затрудняет воспроизводимость научных исследований. В условиях, когда ИИ все активнее внедряется в медицинские практики, такая неопределенность может привести к использованию непроверенных или измененных алгоритмов без должного контроля качества. Исследование предлагает разработать новые подходы к версионированию ИИ, которые будут удовлетворять потребности как регуляторов, так и научного сообщества. Предложенные меры направлены на повышение прозрачности, безопасности и доверия к ИИ-системам в здравоохранении. Статья акцентирует внимание на необходимости создания единых стандартов, которые позволят отслеживать изменения в алгоритмах и их влияние на клинические результаты.

Статья анализирует предлагаемые CMS правила 2027 года для удаленного физиологического (RPM) и терапевтического (RTM) мониторинга, критикуя требование о найме персонала напрямую практикующим врачом. Автор утверждает, что проблема заключается не в структуре найма, а в отсутствии подотчетности и контроля качества, приводящего к неполному оказанию услуг пациентам Medicare. В качестве примера важности RPM выделяется материнское здоровье, где мониторинг между визитами критически важен.

Статья рассматривает пересечение двух критически важных тем: внедрения искусственного интеллекта в медицину и экологической устойчивости системы здравоохранения. Автор цитирует Симу Вадхву, основательницу некоммерческой организации Health in Climate и бывшего исполнительного директора по экологической ответственности в Kaiser Permanente, которая подчеркивает, что ИИ играет важную роль в оказании помощи, управлении лечением и операционной деятельности. В материале отмечается позиция Всемирной организации здравоохранения, называющей изменение климата главной угрозой для здоровья человека. Ключевой тезис статьи заключается в том, что вычислительные мощности и ИТ-инфраструктура, необходимые для работы алгоритмов ИИ, имеют значительные энергозатраты. Таким образом, обсуждение применения ИИ в медицине невозможно без учета его углеродного следа и экологического воздействия. Материал затрагивает вопросы регулирования и организации процессов, связанных с «зеленым» ИИ, что относится к сфере управления здравоохранением и исследований. Статья не содержит конкретных медицинских результатов или клинических данных, фокусируясь на этических и инфраструктурных аспектах.

Статья предлагает методологию операционализации принципов ответственного ИИ на уровне конкретных клинических рабочих процессов, разделяя подходы для предиктивного (PAI) и генеративного (GAI) ИИ. Авторы демонстрируют, как существующие этические и регуляторные требования можно трансформировать в проверяемые технические контрольные точки, такие как калибровка моделей для PAI и контроль галлюцинаций для GAI.

Статья анализирует финансовые и регуляторные барьеры для внедрения клинических ИИ-инструментов в больницах, указывая на отсутствие reimbursement (возмещения затрат) как главную причину задержек. Автор предлагает создать временные механизмы финансирования (safe harbor) и новые коды оплаты, аналогичные тем, что использовались для электронных медкарт и кибербезопасности, чтобы ускорить доступность проверенных ИИ-решений до появления постоянных тарифов CMS.

Статья предлагает концепцию «сначала фундамент», утверждая, что внедрение ИИ в здравоохранении должно предшествовать развитие базовой инфраструктуры, таких как энергоснабжение, связь и кадры, а не быть стартовой точкой цифровой трансформации. На примере Сомали демонстрируется, как учет системных ограничений и неравенства позволяет сделать ИИ инструментом усиления, а не исключения, в условиях слабой инфраструктуры.

Статья представляет собой философское эссе, в котором поднимается вопрос о будущем роли искусственного интеллекта в научной среде, в частности, о возможности присуждения Нобелевской премии по медицине алгоритмам, таким как Claude или ChatGPT. Автор цитирует Джеффри Флиера, задаваясь вопросом, не перейдет ли признание научных заслуг от человеческих исследователей к ИИ-системам. Материал не содержит конкретных данных о медицинских применениях ИИ, клинических испытаниях или новых технологиях, а фокусируется на этических, социальных и институциональных аспектах признания вклада ИИ в науку. Это обсуждение относится к сфере регулирования, этики и организации научных исследований, что соответствует категории косвенной релевантности. Текст не предлагает практических решений или новых медицинских открытий, а лишь инициирует дискуссию о том, как общество будет оценивать вклад нечеловеческих интеллектов в фундаментальные научные достижения.

Министр здравоохранения и социальных служб США Роберт Ф. Кеннеди-младший публично заявил, что искусственный интеллект способен предоставлять пациентам «второе мнение», которое является значительно более информированным, чем мнение любого врача в стране. Это заявление спровоцировало резкую критику и отторжение со стороны медицинского сообщества, что подчеркивает растущее напряжение и поляризацию в вопросах внедрения технологий ИИ в клиническую практику. Статья освещает текущие дебаты вокруг роли алгоритмов в диагностике и лечении, где технологический оптимизм сталкивается с профессиональной осторожностью врачей. Ключевым аспектом является вопрос доверия к ИИ как к инструменту поддержки принятия врачебных решений, а не как к замене специалиста. Обсуждение затрагивает этические, юридические и практические аспекты использования нейросетей в здравоохранении, включая риски ошибок алгоритмов и ответственность за диагнозы. Материал важен для понимания регуляторной и общественной динамики, влияющей на будущее ИИ-решений в медицине. Несмотря на отсутствие технических деталей, статья отражает критический этап формирования политики в области медицинского ИИ на высоком государственном уровне.

Исследование использует метод Дельфи для определения ключевых компетенций и учебных целей по искусственному интеллекту, необходимых студентам-медикам для будущей клинической практики. Разработанный фреймворк включает 7 компетенций и 37 учебных целей, направленных на интеграцию теоретических знаний и этического использования ИИ в медицинское образование.

Статья анализирует предложенные в ЕС поправки к Закону об ИИ (AI Act), которые могут ослабить требования к медицинским устройствам на базе ИИ, оставив их в категории высокого риска, но убрав специфические гарантии безопасности. Автор утверждает, что такая дерегуляция смещает фокус на традиционное регулирование медицинских устройств, игнорируя уникальные риски ИИ, такие как управление данными и человеческий надзор, что может подорвать безопасность и подотчетность клинического применения.

В статье, опубликованной в журнале npj Artificial Intelligence, автор анализирует феномен использования термина «AI slop» (искусственный интеллектовый мусор) в публичном дискурсе. Указывается, что данный термин выполняет функцию социального буфера: оптимисты используют его для изоляции неудачных результатов от общего потенциала технологии, тогда как критики применяют его для дискредитации всего направления ИИ в целом. Автор аргументирует, что такое упрощенное обсуждение создает иллюзию решения важных социальных проблем, избегая при этом глубокого и конструктивного анализа. Подчеркивается необходимость открытых и честных дебатов о роли ИИ в обществе, вместо того чтобы прятаться за эмоционально окрашенной лексикой. Статья призывает к более зрелому подходу к регулированию и этическим вопросам, связанным с генеративными моделями. Исследование носит социогуманитарный характер и фокусируется на коммуникационных аспектах внедрения ИИ, а не на технических или медицинских применениях. Это важный вклад в понимание того, как общественное восприятие влияет на развитие технологий искусственного интеллекта.

Статья анонсирует вебинар, посвященный вопросам управления, безопасности и готовности к внедрению искусственного интеллекта в здравоохранении. Обсуждаются стратегии снижения рисков при работе с поставщиками ИИ, политика использования генеративного ИИ и критерии оценки ИИ-вендоров для страховых организаций.

В статье рассматривается проблема регуляторного регулирования медицинских изделий, использующих технологии искусственного интеллекта, в Российской Федерации. Представители компании ООО «Моторика» указывают на то, что Россия отстает от мировых показателей по регистрации таких устройств. Ключевой причиной задержек и сложностей называется автоматическое присвоение изделиям с ИИ третьего класса потенциального риска при их регистрации, что усложняет и замедляет выход продуктов на рынок. Это создает барьеры для внедрения инновационных решений в клиническую практику, несмотря на их доказанную эффективность. Вопрос касается не столько технической реализации ИИ, сколько нормативно-правовой базы и подходов регулятора к оценке безопасности алгоритмических систем. Статья подчеркивает необходимость пересмотра существующих правил классификации, чтобы стимулировать развитие отечественной индустрии медицинского ИИ и сократить разрыв с международными стандартами.

Управление по контролю за продуктами и лекарствами США (FDA) запустило пилотную программу TEMPO, которая позволяет компаниям в сфере цифрового здоровья выпускать продукты на основе генеративного искусственного интеллекта на рынок до получения официального разрешения на маркетинг. В рамках этой инициативы четыре устройства, включая продукты от компаний Cadence и Limbic, были приняты в программу. TEMPO представляет собой значимый сдвиг в регулировании ИИ-медицинских устройств: вместо традиционного предварительного одобрения FDA будет использовать постмаркетинговый надзор и сбор реальных клинических данных. Это позволяет ускорить доступ пациентов к инновационным технологиям, сохраняя при этом механизмы контроля безопасности. Программа отражает растущее признание регулятором необходимости адаптации к быстро развивающейся области генеративного ИИ в здравоохранении. Участие Cadence и Limbic, известных своими решениями в области поведенческого здоровья и психиатрии, подчеркивает фокус на клинически значимых применениях. Ожидается, что результаты пилота повлияют на будущие регуляторные рамки для ИИ-устройств в США.

Министерство юстиции США выразило поддержку OpenAI в судебном споре с The New York Times и другими издателями по вопросу использования их статей для обучения моделей искусственного интеллекта. Ведомство считает, что использование материалов для обучения ИИ подпадает под доктрину добросовестного использования (fair use), что является важным прецедентом для всей индустрии генеративного ИИ. Позиция Минюста может существенно повлиять на исход дела, которое рассматривается в окружном суде Южного округа Нью-Йорка. NYT утверждает, что OpenAI нарушила авторские права, используя миллионы статей без разрешения, в то время как OpenAI настаивает на правомерности своих действий. Это дело является одним из ключевых для определения правовых рамок обучения больших языковых моделей на публично доступных данных. Решение суда может установить стандарты для будущих исков со стороны правообладателей и повлиять на развитие рынка ИИ в США и других странах, включая Россию, где аналогичные вопросы также обсуждаются.

В статье представлено смешанное исследование готовности системы здравоохранения Египта к внедрению ИИ. Опрос 387 администраторов и интервью с 18 политиками выявили ключевые барьеры: фрагментированное управление, слабую инфраструктуру, недостаток цифровых навыков и неопределенность регулирования. Авторы подчеркивают необходимость укрепления управления, инфраструктуры и нормативной базы для успешного внедрения ИИ.