Lectura sobre clasificación

RLHF entrena un modelo para coincidir con lo que la gente prefiere. Eso no es lo mismo que hacer el trabajo. El punto del clip es que la decepción viene de fábrica: la nota es preferencia, no el trabajo.

Los agentes de código parecen un bucle simple con pocas herramientas. Aun así la caché crece, así que mandar un turno a un modelo más barato y volver puede costar más que quedarse. Esta nota dice que TypeSafe puede etiquetar cada trozo de contexto y reconstruir la ventana para el trabajo, en vez de compactar un estado compartido.

Si entrenas un modelo enorme en el trabajo equivocado, se vuelve bueno en el trabajo equivocado. El punto de Diogo es que alguien todavía tiene que nombrar el trabajo. Classify también empieza ahí. Qué debería decidir Jev.