Definición completa

Un modelo borrador predice una secuencia corta de tokens y el modelo principal verifica cuáles acepta. Cuando funciona bien, se generan más tokens por paso sin cambiar el resultado que habría producido el modelo principal, aunque la ganancia depende de la compatibilidad entre ambos modelos y de la carga de trabajo.

Ejemplo en contexto empresarial

Un modelo pequeño propone las siguientes palabras y el modelo de producción las valida en paralelo.