分類についての読書

RLHFは、人が好む答えにモデルを寄せます。それは仕事をすることとは違います。このクリップの論点は、失望が組み込まれている、ということです。点数は好みであり、仕事ではありません。

コーディングエージェントは、少数のツールを回す単純なループに見えます。それでもキャッシュは増え続けるので、安いモデルに渡して戻す方が高くつくことがあります。このメモは、共有状態を圧縮する代わりに、文脈の各塊にラベルを付けて仕事向けに窓を組み直せ、と TypeSafe に言っています。

巨大なモデルを間違った仕事向けに訓練すると、間違った仕事が上手になります。Diogo の論点は、誰かがまだ仕事の名を付ける必要がある、ということです。Classify もそこから始めます。Jev は何を決めるべきか。