Page Cost 12 KO - teamswyg/laya-tools GitHub Wiki

νŽ˜μ΄μ§€ λΉ„μš© μ‹œν—˜ 12

2,948개의 μ„œλ‘œ λ‹€λ₯Έ μ„€λͺ… μ§ˆλ¬Έμ„ 3,009개 ν•¨μˆ˜μ—μ„œ κ²€μƒ‰ν–ˆλ‹€. 24개 λͺ¨λΈ νŒŒμΌμ΄λ‚˜ 반볡 싀행을 질문 수둜 μ„Έμ§€ μ•ŠλŠ”λ‹€. 기쑴에 κ΄€μ°°ν•œ μ„Έ μ €μž₯μ†Œμ˜ λ¬Έμ„œ μ„€λͺ…μ΄λ―€λ‘œ 독립적인 μ‹€μ œ μ‚¬μš©μž μ΅œμ’… 평가가 μ•„λ‹ˆλ‹€.

κ²°κ³Ό

μ£Ό 쑰건은 κ²°κ³Ό 확인 전에 κ³ μ •ν•œ νŽ˜μ΄μ§€λ‹Ή 20κ°œλ‹€. κΈ°μ‘΄ BM25와 μ‹λ³„μž 뢄리 검색을 κΈ°μ‘΄ 후보 μš°μ„ μœΌλ‘œ κ΅μ°¨ν•˜λŠ” 정책을 λΉ„κ΅ν–ˆλ‹€.

μ§€ν‘œ (전체 질문 합계) κΈ°μ‘΄ 검색 보쑰 검색
첫 μ•Œλ €μ§„ 정닡을 ν¬ν•¨ν•œ νŽ˜μ΄μ§€κΉŒμ§€ μš”μ²­ 수 9,488 6,287
ν•΄λ‹Ή νŽ˜μ΄μ§€κΉŒμ§€ 좜λ ₯ν•œ 후보 수 189,760 125,740
동일 λΉ„μš©μ„ κ°€μ •ν•œ 검색 μž‘μ—… μ§€ν‘œ 9,488 12,574

νŽ˜μ΄μ§€Β·ν›„λ³΄ 좜λ ₯은 μ•½ 33.7% κ°μ†Œν–ˆμ§€λ§Œ 검색 μž‘μ—… μ§€ν‘œλŠ” μ•½ 32.5% μ¦κ°€ν–ˆλ‹€. νŽ˜μ΄μ§€κ°€ κ°μ†Œν•œ μ§ˆλ¬Έμ€ 332개, 증가 146개, 동일 2,470κ°œλ‹€. 검색 μž‘μ—… μ§€ν‘œκ°€ κ°μ†Œν•œ μ§ˆλ¬Έμ€ 183개, 증가 2,661개, 동일 104κ°œλ‹€. λ”°λΌμ„œ λͺ¨λ“  μ§ˆλ¬Έμ— 보쑰 검색을 켜면 CPU도 μ ˆμ•½λœλ‹€κ³  μ£Όμž₯ν•  수 μ—†λ‹€.

ν˜„μž¬ CLIλŠ” 각 νŽ˜μ΄μ§€ μš”μ²­μ—μ„œ μΈλ±μŠ€μ™€ μˆœμœ„λ₯Ό λ‹€μ‹œ κ³„μ‚°ν•œλ‹€. κΈ°μ‘΄ 검색은 ν•œ 인덱슀, 보쑰 검색은 두 인덱슀λ₯Ό μ‚¬μš©ν•œλ‹€. μž‘μ—… μ§€ν‘œλŠ” 각각 νŽ˜μ΄μ§€ μˆ˜μ™€ 두 배의 νŽ˜μ΄μ§€ μˆ˜λ‹€. μ‹€μ œ 인덱슀 κ΅¬μΆ•Β·μ •κ·œν™”Β·μ •λ ¬Β·μž…μΆœλ ₯ λΉ„μš©μ€ κ°™μ§€ μ•Šλ‹€. 이 μˆ˜μΉ˜λŠ” μΈ‘μ • CPU μ‹œκ°„, μ§€μ—°, μ „λ ₯, GPU λΉ„μš© λ˜λŠ” 과금 토큰이 μ•„λ‹ˆλ‹€.

정닡을 μ•Œμ•„λ³΄λŠ” 이상적인 검증기λ₯Ό κ°€μ •ν–ˆλ‹€. λ§ˆμ§€λ§‰ νŽ˜μ΄μ§€ μ „μ²΄μ˜ 후보 수λ₯Ό μ„Έλ©°, μ‹€μ œ μ—μ΄μ „νŠΈκ°€ 정닡을 ν™•μΈν•˜κ³  μž‘μ—…μ„ μ™„λ£Œν–ˆλŠ”μ§€λŠ” μΈ‘μ •ν•˜μ§€ μ•Šμ•˜λ‹€. λ‹€λ₯Έ 유효 정닡이 λ―Έν‘œκΈ°λμ„ 수 μžˆλ‹€. 1/5/10/20/50개 νŽ˜μ΄μ§€ 민감도 κ²°κ³ΌλŠ” results-12.json에 μžˆλ‹€. μ–΄λ–€ μ‘°κ±΄μ—μ„œλ„ 이 λ‹¨μˆœ μž‘μ—… μ§€ν‘œμ˜ ν•©κ³„λŠ” μ¦κ°€ν–ˆλ‹€.

λ‹€μŒ ν•™μŠ΅μ— μ£ΌλŠ” κ·Όκ±°

기쑴의 'μˆœμœ„κ°€ μ‘°κΈˆμ΄λΌλ„ μ’‹μ•„μ‘ŒλŠ”κ°€' 라벨은 νŽ˜μ΄μ§€ 경계와 μΆ”κ°€ 계산을 λ°˜μ˜ν•˜μ§€ λͺ»ν•œλ‹€. λ‹€μŒ μ†μ‹€ν•¨μˆ˜λŠ” 후보 좜λ ₯ λΉ„μš©κ³Ό μΈ‘μ •ν•œ 검색 λΉ„μš©μ„ λ³„λ„λ‘œ 닀뀄야 ν•œλ‹€. 두 λΉ„μš©μ˜ κ΅ν™˜ λΉ„μœ¨μ„ μž„μ˜λ‘œ μ •ν•΄ μ„±λŠ₯ κ°œμ„ μ΄λΌκ³  λΆ€λ₯΄μ§€ μ•ŠλŠ”λ‹€. λ¨Όμ € μˆœμœ„ μž¬μ‚¬μš© μ„Έμ…˜μ˜ μ‹€μ œ λΉ„μš©μ„ μΈ‘μ •ν•˜κ³ , κ·Έ κ΅¬μ‘°μ—μ„œ 라벨을 κ³ μ •ν•œ λ’€ μ €μž₯μ†Œλ³„ 뢄리 ν•™μŠ΅μ„ λΉ„κ΅ν•œλ‹€. ν˜„μž¬ ν†΅κ³„λ‘œλΆ€ν„° 졜적 정책을 ν•™μŠ΅Β·ν‰κ°€ν–ˆλ‹€λŠ” μ£Όμž₯은 ν•˜μ§€ μ•ŠλŠ”λ‹€.

μž¬ν˜„

07의 κ³ μ • μ›μ²œ 파일과 ZIP 검증 쑰건을 κ·ΈλŒ€λ‘œ μ‚¬μš©ν•œλ‹€. 원문은 Git에 ν¬ν•¨ν•˜μ§€ μ•ŠλŠ”λ‹€.

go run ./cmd/riido-interleaveprobe --page-cost > results.json
go test ./internal/retrievalbench

plan-12.json은 첫 평가 전에 μ»€λ°‹ν–ˆλ‹€. νŽ˜μ΄μ§€ 경계, λ§ˆμ§€λ§‰ λΆˆμ™„μ „ νŽ˜μ΄μ§€, λΉ„μš© λ°©ν–₯ μ—­μ „, λ²”μœ„ λ°– μ •λ‹΅ μˆœμœ„λ₯Ό ν…ŒμŠ€νŠΈν•œλ‹€. 좜λ ₯ κ²°κ³ΌλŠ” μž¬μ‹€ν–‰κ³Ό λ°”μ΄νŠΈ λ‹¨μœ„λ‘œ λΉ„κ΅ν•œλ‹€. λͺ¨λΈ ν•™μŠ΅Β·λ°°ν¬ λ˜λŠ” κΈ°λ³Έ μ •μ±… 변경은 μ—†λ‹€.