¿Qué son?
Un modelo de lenguaje autorregresivo se entrena para predecir el siguiente token en una secuencia, utilizando solo los tokens anteriores. Puede generar continuamente un token tras otro.
Hoy en día, los modelos de lenguaje autorregresivos son los modelos de elección para la generación de texto, y por esta razón, son mucho más populares que los modelos de lenguaje enmascarados.