Howdy

Nucleus Sampling (Top-p)

Es una técnica avanzada para controlar la generación de texto en modelos de IA, ofreciendo una alternativa más dinámica que el Top-k. En lugar de seleccionar las ""k"" palabras más probables, Top-p elige de un conjunto de palabras cuya probabilidad acumulada suma un valor ""p"". Esto permite que el número de opciones varíe según el contexto, generando respuestas más naturales y menos repetitivas. Se utiliza para obtener resultados útiles y confiables, combinando datos internos con el criterio del modelo de una forma más sofisticada y menos restrictiva.

Atrás
Nucleus Sampling (Top-p) | Howdy