¿Qué es?

Se refiere a entrenar un modelo desde cero: los pesos del modelo se inicializan al azar. El preentrenamiento es, con mucho, el que más recursos y tiempo consume. Un pequeño error durante el preentrenamiento puede acarrear una pérdida financiera significativa y retrasar el proyecto de manera considerable. Debido a la naturaleza intensiva en recursos del preentrenamiento, esto se ha convertido en un arte que solo unos pocos practican.