RLHF te dice lo que quieres oír.
2026-09-19
RLHF entrena un modelo para coincidir con lo que la gente prefiere. Eso no es lo mismo que hacer el trabajo. El punto del clip es que la decepción viene de fábrica: la nota es preferencia, no el trabajo.
Jev creator @CompleteSkeptic on why RLHF is guaranteed to disappoint
Jev creator @CompleteSkeptic on why RLHF is guaranteed to disappoint - because it tells you what you want to hear.
we want to automate everything and yet our models are literally tuned to optimize for human feedback.