RLHFは聞きたいことを言う。
2026-09-19
RLHFは、人が好む答えにモデルを寄せます。それは仕事をすることとは違います。このクリップの論点は、失望が組み込まれている、ということです。点数は好みであり、仕事ではありません。
Jev creator @CompleteSkeptic on why RLHF is guaranteed to disappoint
Jev creator @CompleteSkeptic on why RLHF is guaranteed to disappoint - because it tells you what you want to hear.
we want to automate everything and yet our models are literally tuned to optimize for human feedback.