регулирование

Управление по контролю за продуктами и лекарствами США (FDA) запустило пилотную программу TEMPO, которая позволяет компаниям в сфере цифрового здоровья выпускать продукты на основе генеративного искусственного интеллекта на рынок до получения официального разрешения на маркетинг. В рамках этой инициативы четыре устройства, включая продукты от компаний Cadence и Limbic, были приняты в программу. TEMPO представляет собой значимый сдвиг в регулировании ИИ-медицинских устройств: вместо традиционного предварительного одобрения FDA будет использовать постмаркетинговый надзор и сбор реальных клинических данных. Это позволяет ускорить доступ пациентов к инновационным технологиям, сохраняя при этом механизмы контроля безопасности. Программа отражает растущее признание регулятором необходимости адаптации к быстро развивающейся области генеративного ИИ в здравоохранении. Участие Cadence и Limbic, известных своими решениями в области поведенческого здоровья и психиатрии, подчеркивает фокус на клинически значимых применениях. Ожидается, что результаты пилота повлияют на будущие регуляторные рамки для ИИ-устройств в США.

Министерство юстиции США выразило поддержку OpenAI в судебном споре с The New York Times и другими издателями по вопросу использования их статей для обучения моделей искусственного интеллекта. Ведомство считает, что использование материалов для обучения ИИ подпадает под доктрину добросовестного использования (fair use), что является важным прецедентом для всей индустрии генеративного ИИ. Позиция Минюста может существенно повлиять на исход дела, которое рассматривается в окружном суде Южного округа Нью-Йорка. NYT утверждает, что OpenAI нарушила авторские права, используя миллионы статей без разрешения, в то время как OpenAI настаивает на правомерности своих действий. Это дело является одним из ключевых для определения правовых рамок обучения больших языковых моделей на публично доступных данных. Решение суда может установить стандарты для будущих исков со стороны правообладателей и повлиять на развитие рынка ИИ в США и других странах, включая Россию, где аналогичные вопросы также обсуждаются.

В статье представлено смешанное исследование готовности системы здравоохранения Египта к внедрению ИИ. Опрос 387 администраторов и интервью с 18 политиками выявили ключевые барьеры: фрагментированное управление, слабую инфраструктуру, недостаток цифровых навыков и неопределенность регулирования. Авторы подчеркивают необходимость укрепления управления, инфраструктуры и нормативной базы для успешного внедрения ИИ.

Статья предлагает основанную на наставничестве структуру для использования ИИ в медицинских диссертациях и ранних научных публикациях, подчеркивая формирование профессиональных навыков, а не только соблюдение требований. Автор вводит три операционных принципа: ось карьерного этапа, правило последовательности (запрет ИИ до первого самостоятельного черновика) и трассировку правок, а также типологию задач для адаптации политики. Основной вывод: раскрытие использования ИИ недостаточно для обучения, необходим надзор супервизора для сохранения когнитивной работы письма.

Исследователи из Китая и Германии разработали пятиэтапную систему оценки медицинского искусственного интеллекта на протяжении всего жизненного цикла — от первоначальной проверки алгоритма до длительного наблюдения после его внедрения. Авторы отмечают, что существующие исследования часто ограничиваются ретроспективной оценкой точности моделей, хотя хорошие результаты в лабораторных условиях еще не доказывают пользу технологии для врачей и пациентов. Работа опубликована в журнале Nature Digital Medicine. Предложенная система включает пять последовательных этапов: валидацию алгоритма на репрезентативных данных, оценку клинической полезности в условиях реальной практики, проверку интеграции в рабочие процессы, мониторинг безопасности и эффективности после внедрения, а также долгосрочное наблюдение за влиянием на исходы пациентов. Такой подход призван закрыть разрыв между лабораторными исследованиями и реальной клинической практикой, обеспечивая более строгую и всестороннюю оценку ИИ-систем перед их широким применением в здравоохранении.

В журнале npj Digital Medicine опубликована статья, предлагающая пятифазную систему оценки (framework) для диагностических и прогностических моделей искусственного интеллекта в медицине. Авторы отмечают, что существующие подходы к валидации медицинского ИИ фрагментированы и не учитывают весь жизненный цикл модели — от разработки до постмаркетингового мониторинга. Предложенная система включает пять последовательных фаз: (1) доклиническая оценка на ретроспективных данных, (2) проспективная валидация в контролируемых условиях, (3) пилотное внедрение в реальной клинической практике, (4) рандомизированные контролируемые испытания для оценки влияния на исходы пациентов и (5) непрерывный мониторинг после развертывания с механизмами обратной связи и переобучения. Для каждой фазы авторы определяют конкретные метрики, требования к данным, статистические методы и критерии перехода к следующему этапу. Особое внимание уделяется вопросам справедливости (fairness), устойчивости к дрейфу данных и интерпретируемости моделей. Работа призвана стандартизировать процесс оценки ИИ-систем в здравоохранении, что критически важно для регуляторных органов, клиницистов и разработчиков. Предложенный фреймворк может стать основой для гармонизации требований FDA, EMA и других регуляторов к медицинскому ИИ.

Согласно новому отчету UPMC Center for Connected Medicine и KLAS Research, большинство больниц активно внедряют ИИ, однако менее половины имеют выделенную среду для тестирования инструментов перед использованием в уходе за пациентами. 63% систем здравоохранения описывают свою стратегию ИИ как развивающуюся или ad hoc, что указывает на разрыв между внедрением и управлением. UPMC предлагает решения, такие как платформа Ahavi для предварительного тестирования и постоянный мониторинг алгоритмов после внедрения.

В Государственную Думу России внесен законопроект, обязывающий владельцев сайтов и платформ с рекомендательными алгоритмами предоставить пользователям возможность скрывать в настройках контент, полностью или частично созданный с помощью искусственного интеллекта. Инициатива направлена на повышение прозрачности работы алгоритмов и защиту пользователей от потенциально недостоверной или манипулятивной информации, генерируемой ИИ. Законопроект предполагает внесение изменений в законодательство о информации, информационных технологиях и о защите информации. Авторы инициативы считают, что пользователи должны иметь право самостоятельно выбирать, хотят ли они видеть в лентах рекомендаций материалы, созданные нейросетями, особенно в контексте новостей и общественно значимой информации. Документ находится на стадии рассмотрения, его принятие потребует доработки механизмов маркировки ИИ-контента и технической реализации на платформах. Эксперты отмечают, что подобные меры уже обсуждаются в других странах, однако их практическая реализация сопряжена со сложностями в определении степени участия ИИ в создании контента.

Президент России Владимир Путин на пленарной сессии Восточного экономического форума (ВЭФ) заявил о необходимости обеспечения суверенитета и развития сотрудничества в сфере искусственного интеллекта. По словам главы государства, Россия уже движется в этих направлениях. Заявление касается государственной политики в области ИИ, включая вопросы технологической независимости и международного партнерства. Конкретные меры или инициативы в рамках заявления не уточняются. Материал носит политический характер и отражает позицию руководства страны по развитию ИИ-технологий.

Статья рассматривает применение ИИ для сортировки жалоб на медицинские изделия в рамках постмаркетингового надзора. ИИ помогает обрабатывать большие объемы текстовых данных, выявлять паттерны и обеспечивать консистентность оценок, что критично для соблюдения требований FDA. Автор также обсуждает потенциальные риски, связанные с ошибками моделей.

Статья доктора Падмалакшми Джанешвар из IQVIA рассматривает эволюцию материовигиляции — мониторинга безопасности медицинских устройств — в условиях роста числа подключенных и цифровых устройств. Автор подчеркивает необходимость создания отдельных процессов и управления для материовигиляции, отмечая, что лишь 22% лидеров отрасли успешно масштабировали ИИ, что указывает на разрыв в исполнении.

FDA опубликовало дискуссионный документ о регулировании медицинских устройств с генеративным ИИ, запрашивая обратную связь по оценке рисков, предпродажной оценке и постпродажному мониторингу. Предлагается двухосевая система оценки рисков и подход к предпродажной оценке на основе компетенций, вдохновленный обучением врачей. Это важный шаг в формировании регуляторной базы для ИИ в медицине.

Статья описывает запуск ОАЭ национальной программы по внедрению агентного ИИ в государственное управление, цель которой — перевести половину федеральных операций на автономные модели в течение двух лет. Основной акцент сделан на сложности классификации задач, которые можно доверить ИИ, и на отсутствии общепринятых методов разграничения автономных решений и рекомендаций, а также на вопросах ответственности за ошибки систем.

Международная группа исследователей опубликовала работу, предупреждающую о рисках безграничного доверия к искусственному интеллекту в области женского здоровья. Авторы исследования подчёркивают, что современные ИИ-системы не являются универсальным решением медицинских проблем женщин и требуют критической оценки перед внедрением в клиническую практику. Ключевая проблема заключается в том, что алгоритмы машинного обучения воспроизводят существующие гендерные стереотипы, укоренившиеся в исторических медицинских данных и практике. Это системное смещение приводит к усилению рисков неравенства при оказании медицинской помощи разным группам пациенток. Дополнительную обеспокоенность у исследователей вызывают вопросы безопасной обработки и защиты персональных данных пациентов при использовании ИИ-чатов и виртуальных медицинских ассистентов. Работа опубликована в рецензируемом журнале Women's Health, входящем в портфолио авторитетного издательства Springer Nature. Исследование поднимает важные этические и регуляторные вопросы массового внедрения ИИ в здравоохранение, особенно в чувствительных областях женской медицины.

Подкаст Debunked обсуждает недавние действия CMS и жалобу бывшего директора по исследованиям клиники Mayo на то, как медицинский центр внедряет ИИ. Материал затрагивает вопросы организации и регулирования применения искусственного интеллекта в здравоохранении.

Федеральные органы здравоохранения США организовали серию закрытых встреч с представителями технологических компаний и лоббистских групп для обсуждения вопросов внедрения искусственного интеллекта в клиническую практику. Инициатива направлена на ускорение адаптации ИИ-решений в медицине через диалог между регуляторами и индустрией. Встречи носят закрытый характер, что вызывает вопросы о прозрачности процесса формирования регуляторной политики. Участие лоббистов наряду с исследователями указывает на комплексный подход к формированию нормативной базы для клинического ИИ. Целью встреч является выявление барьеров для внедрения ИИ-технологий и разработка механизмов их преодоления. Детали конкретных обсуждаемых технологий, сроков и ожидаемых регуляторных изменений в предоставленном материале не раскрываются. Статья опубликована на платформе STAT+, специализирующейся на освещении новостей здравоохранения и биотехнологий.

Компания Daffodil Health, специализирующаяся на технологиях искусственного интеллекта для здравоохранения, запустила новую платформу для страховых компаний и других плательщиков медицинских услуг. Платформа предназначена для автоматизации и оптимизации процесса управления спорами в соответствии с федеральным законом No Surprises Act (NSA), который защищает пациентов от неожиданных медицинских счетов. Решение использует алгоритмы машинного обучения для анализа претензий, выявления потенциальных конфликтов и поддержки процесса арбитража между плательщиками и поставщиками медицинских услуг. Внедрение ИИ позволяет сократить время обработки споров, уменьшить административную нагрузку на персонал и повысить точность принятия решений. Для страховых компаний это означает снижение операционных издержек и более эффективное соблюдение регуляторных требований. Платформа представляет собой пример применения искусственного интеллекта в административной сфере здравоохранения, а не в клинической практике.

Исследование изучает мнение 10 клиницистов о применении машинного обучения для диагностики обструктивного апноэ сна. Выявлена необходимость регуляторных руководств и участия медицинских экспертов, при этом врачи должны сохранять ведущую роль над ИИ. Работа направлена на повышение доверия клиницистов к машинному обучению и улучшение внедрения технологий в клиническую практику.

Данная статья представляет собой редакционное мнение руководителей Федерации медицинских советов штатов США (FSMB) — организации, координирующей лицензирование врачей во всех штатах страны. Авторы обсуждают актуальный вопрос о необходимости лицензирования систем искусственного интеллекта, которые могут использоваться для медицинской практики. Тема затрагивает важные регуляторные аспекты внедрения ИИ в здравоохранение: кто несёт ответственность за решения ИИ, должны ли алгоритмы проходить сертификацию аналогично врачам, и как регулировать автономные медицинские системы. Однако в представленном фрагменте отсутствуют конкретные позиции авторов, аргументы или рекомендации. Материал имеет значение для специалистов по медицинскому праву и регуляторной политике в области цифрового здравоохранения. Для полноценной оценки необходимы дополнительные детали о предлагаемых подходах к лицензированию ИИ-систем.