исследование

Компании «К2 Кибербезопасность» и «Лаборатория Касперского» представили результаты совместного исследования «Безопасность ИИ в корпоративном секторе», посвященного уровню осведомленности и практикам применения методологии MLSecOps (Machine Learning Security Operations) в российских компаниях. Согласно данным, лишь 14% российских корпораций знакомы с методологией безопасной разработки и эксплуатации систем искусственного интеллекта, что свидетельствует о низком уровне зрелости процессов кибербезопасности в области ИИ. Исследование охватывало крупные предприятия из различных отраслей, включая финансовый сектор, промышленность и ритейл. Авторы отмечают, что большинство компаний внедряют ИИ-решения без должного внимания к защите моделей от атак, утечек данных и несанкционированного вмешательства. В отчете подчеркивается необходимость разработки отраслевых стандартов и регламентов, а также повышения квалификации специалистов по безопасности ИИ. Эксперты рекомендуют интегрировать MLSecOps в существующие процессы DevSecOps и проводить регулярные аудиты ИИ-систем. Полные результаты исследования доступны по запросу у организаторов.

Международная группа исследователей представила новую расчетную модель, предназначенную для определения оптимальной потребности стран в антибиотиках. Методология исследования учитывает ключевые факторы: уровень инфекционной заболеваемости, текущую распространенность антибиотикорезистентности и структурные особенности национальных систем здравоохранения. В ходе применения модели было выявлено, что около 33% стран мира демонстрируют избыточное потребление сильных антибиотиков. При этом в этих же регионах наблюдается критический дефицит препаратов, необходимых для борьбы с наиболее тяжелыми лекарственно-устойчивыми инфекциями. Результаты исследования, опубликованные в журнале The Lancet Public Health, подчеркивают необходимость пересмотра глобальных стратегий распределения антимикробных средств. Данная работа имеет высокую значимость для оптимизации фармакологической политики и борьбы с глобальным кризисом резистентности.

Исследование изучает использование LLM (таких как ChatGPT) среди студентов и преподавателей стоматологической школы UTHealth. Результаты показывают высокий уровень использования инструментов для обучения и письма, при этом преподаватели выражают острую потребность в специализированном обучении работе с ИИ.

Совместное исследование компании «Архитех ИИ» и «Ассоциации школьного кластера» выявило масштабное внедрение технологий искусственного интеллекта в образовательный процесс. Согласно полученным данным, более 70% учащихся используют инструменты на базе ИИ для помощи в изучении математики. Основными сценариями использования являются автоматическое решение задач, получение пошаговых объяснений алгоритмов и генерация дополнительных тренировочных упражнений. Исследование подчеркивает, что ИИ становится важным вспомогательным инструментом, меняющим привычные методы подготовки к урокам. Однако эксперты отмечают необходимость контроля за тем, чтобы использование нейросетей способствовало глубокому пониманию предмета, а не просто механическому списыванию ответов. Данный отчет важен для понимания того, как генеративный ИИ проникает в повседневную деятельность молодежи и какие образовательные риски это несет.

Группа ученых из США и Израиля провела критическую оценку клинической надежности новой модели GPT-5 от OpenAI, сравнив её с предыдущим поколением GPT-4o. Исследование, опубликованное в журнале Digital Medicine, выявило, что новая модель не демонстрирует значительного прогресса в минимизации рисков, связанных с предвзятостью и уязвимостью к ложным данным. При тестировании на сценариях из практики неотложной помощи было обнаружено, что склонность моделей к «галлюцинациям» (додумыванию ошибочной информации) даже усилилась. Авторы зафиксировали, что ошибки и несоответствия в принятии решений сохраняются в 65% случаев при анализе социально-демографических факторов. Результаты подчеркивают сохраняющуюся проблему предвзятости алгоритмов в медицинских решениях. Данная работа указывает на необходимость более строгого регулирования и дополнительной верификации LLM перед их внедрением в критически важные медицинские процессы.

Исследование оценило надежность ChatGPT в предоставлении информации о синдроме поликистозных яичников (СПКЯ). Медицинские работники из 14 стран оценили ответы ChatGPT выше, чем доказательные онлайн-рекомендации, по 11 из 12 вопросов. AI демонстрирует потенциал как вспомогательный инструмент для самообразования пациентов.