Новость954 сент.
Представлена NeuroPlast — параметрическая функция активации с шестью обучаемыми параметрами, встроенная в CNN-архитектуру NADN Ultra и обученная с нуля через двухфазную дистилляцию знаний. На четырех наборах медицинских изображений (МРТ опухолей мозга, рентген грудной клетки, рак кожи, COVID-19) статический вариант достигает точности 99.4–99.5% на COVID-19, превосходя базовые активации (ReLU, GELU, Swish, Mish, PReLU) с небольшим, но стабильным отрывом. Ключевой вывод: дистилляция знаний — основной фактор, позволяющий архитектурам, обученным с нуля, приближаться к уровню предобученных моделей.