Jev가 와인 메모 2,000건을 CatBoost 특징으로 만들고 RMSE 1.77로 만듭니다

작성자: TypeSafe

리서치

How the loop works

Misses rewrite the questions
  • Answers
  • Misses
1 of 5
1Note2,000 reviewsask2QuestionsClaude writes 183NumbersJev answersguess4Scoreguess critic pointsseen error 1.903hidden error 1.869lower is better5no misses yet60 notes across rangeClaude

This round's changes

New, reword, or remove
ChangeQuestionWhy
newcomplexity
newfruit_intensity
newtannin_structure
newacidity_intensity
newoak_intensity
newfinish_length
newbalance_harmony
newaging_potential
newpositive_superlative_language
newnegative_critical_language
newdrinkability_easiness
newbody_richness
newsweetness_level
newtexture_descriptors
newearthy_savory_notes
newflaw_or_defect_mentioned
newsingle_vineyard_or_prestige_signal
newvarietal_blend_detail

이 사용 사례 분류

  • Research1.00
  • Shipped0.94
  • Measured0.99
  • Usefulness0.54
  • Cookbook1.00
  • Ready0.90
  • Measured result0.56
  • Copy quality0.28
  • Creativity0.71
  • Distinct intent0.89
결과
다섯 라운드 뒤 남겨 둔 RMSE는 1.77입니다. 평균 기준선은 3.09입니다

테이스팅 메모를 CatBoost용 숫자 특징으로 바꾸는 Score와 Noul을 Jev에 묻습니다.

이 Jev 연구 사용 사례는 와인 테이스팅 메모 2,000건과 비평점에서 시작합니다. CatBoost는 숫자로만 훈련하므로, 루프는 각 메모를 답 행으로 바꾸는 Jev 질문을 만들어야 합니다.

각 라운드에서 Claude가 Score와 Noul을 씁니다. Jev는 모든 메모에 답합니다. CatBoost가 비평점을 맞춥니다. 가장 나쁜 빗나감 30과 가장 좋은 맞춤 30이 돌아가고, Claude가 질문을 더하거나, 다시 쓰거나, 떨어뜨립니다.

라운드 1은 질문 18개이고, 남겨 둔 리뷰 800건에서 RMSE 1.87입니다. 다섯 라운드 뒤 집합은 질문 38개, 남겨 둔 RMSE는 1.77입니다. 평균을 맞추는 것은 3.09입니다. 왼쪽 맷돌이 그 루프입니다. 원래 출처는 쿡북입니다.

작동 방식

  1. LLM이 더하기, 고치기, 떨어뜨리기 조작을 제안합니다
  2. Jev가 새 질문 모두에, 메모 2,000건에서 답합니다
  3. CatBoost가 부호화한 답으로 훈련합니다
  4. 가장 나쁜 예측과 가장 좋은 예측이 다음 제안 라운드에 들어갑니다