Jev convierte 2,000 notas de vino en features de CatBoost con RMSE 1.77

Autor: TypeSafe

Investigación

How the loop works

Misses rewrite the questions
  • Answers
  • Misses
1 of 5
1Note2,000 reviewsask2QuestionsClaude writes 183NumbersJev answersguess4Scoreguess critic pointsseen error 1.903hidden error 1.869lower is better5no misses yet60 notes across rangeClaude

This round's changes

New, reword, or remove
ChangeQuestionWhy
newcomplexity
newfruit_intensity
newtannin_structure
newacidity_intensity
newoak_intensity
newfinish_length
newbalance_harmony
newaging_potential
newpositive_superlative_language
newnegative_critical_language
newdrinkability_easiness
newbody_richness
newsweetness_level
newtexture_descriptors
newearthy_savory_notes
newflaw_or_defect_mentioned
newsingle_vineyard_or_prestige_signal
newvarietal_blend_detail

Clasificar este caso de uso

  • Research1.00
  • Shipped0.94
  • Measured0.99
  • Usefulness0.54
  • Cookbook1.00
  • Ready0.90
  • Measured result0.56
  • Copy quality0.28
  • Creativity0.71
  • Distinct intent0.89
Resultado
RMSE reservado 1.77 tras cinco rondas, frente a 3.09 de la media baseline

Pregunta a Jev Score y Noul que convierten notas de cata en features numéricos para CatBoost.

Este caso de investigación de Jev parte de 2,000 notas de cata de vino y un puntaje de crítico. CatBoost solo puede entrenar con números, así que el bucle tiene que inventar preguntas de Jev que conviertan cada nota en una fila de respuestas.

En cada ronda Claude escribe Score y Noul. Jev los responde para cada nota. CatBoost adivina el puntaje del crítico. Los 30 peores errores y los 30 mejores aciertos vuelven para que Claude sume, reformule o quite preguntas.

La ronda 1 usó 18 preguntas y llegó a RMSE 1.87 en 800 reseñas reservadas. Tras cinco rondas el conjunto es 38 preguntas y el RMSE reservado es 1.77, frente a 3.09 al adivinar la media. El molino de la izquierda es ese bucle. La fuente original es el cookbook.

Cómo funciona

  1. Un LLM propone acciones add, revise o drop
  2. Jev responde cada pregunta nueva en las 2,000 notas
  3. CatBoost entrena con las respuestas codificadas
  4. Las peores y mejores predicciones alimentan la siguiente ronda de propuestas