RLHF는 듣고 싶은 말을 한다.
2026-09-19
RLHF는 사람들이 좋아하는 답에 맞춰 모델을 훈련합니다. 그건 일을 하는 것과 다릅니다. 이 클립의 요점은, 실망이 처음부터 들어가 있다는 것입니다. 점수는 선호이지 일이 아닙니다.
Jev creator @CompleteSkeptic on why RLHF is guaranteed to disappoint
Jev creator @CompleteSkeptic on why RLHF is guaranteed to disappoint - because it tells you what you want to hear.
we want to automate everything and yet our models are literally tuned to optimize for human feedback.