В статье исследуется, применимы ли эмпирические законы масштабирования, известные для больших языковых и визуальных моделей, к фундаментальным моделям, обучаемым на данных секвенирования одноклеточной РНК (scRNA-seq). Авторы показывают, что loss при предобучении систематически снижается с ростом размера модели и вычислительных затрат, демонстрируя степенную зависимость от размера модели. Однако сила и регулярность этих трендов различаются в зависимости от архитектуры модели. Также выявлены эмпирические соотношения, связывающие оптимальную скорость обучения и соотношение глубины к ширине с размером модели и вычислительными ресурсами. Эти результаты подтверждают, что принципы масштабирования применимы к моделированию транскриптомных данных, и предоставляют количественную основу для оценки ожидаемой отдачи от дополнительных ресурсов и выбора подходящих гиперпараметров и архитектур. Работа важна для разработки более мощных фундаментальных моделей в омиксных исследованиях, что может ускорить прогресс в понимании биологии клеток и заболеваний.