Bias37 KO - teamswyg/laya-tools GitHub Wiki

37개 개발 μš”μ²­μ˜ 후보 μˆœμ„œ 비ꡐ

λ‹€μŒ μ½”ν˜ΈνŠΈμ˜ μž…λ ₯ κ²½λ‘œλŠ” 별도 Go μ‚¬μš© μ•ˆλ‚΄μ— μžˆμŠ΅λ‹ˆλ‹€. 후보5/8κ°œμ™€ T/F/UΒ·λͺ¨ν˜Έν•¨μ„ λ³΄μ‘΄ν•˜κ³ , μ™„μ „νžˆ μ•Œλ €μ§„ μš”μ²­λ§Œ κΈ°μ‘΄ ν•™μŠ΅ λ³€ν™˜κΈ°μ— μ—°κ²°ν•©λ‹ˆλ‹€. 감사 μ „μš© μ—°κ²°μ˜ λΆˆν•„μš”ν•œ4KiB νž™ 할당을 μ—†μ•΄μŠ΅λ‹ˆλ‹€. 초기/λ³€κ²½ ν›„ κ·Όκ±°λ₯Ό λ³΄μ„Έμš”. μƒˆ μ½”ν˜ΈνŠΈ 관츑·라벨·λͺ¨λΈ ν•™μŠ΅μ€0이고 μ•„λž˜37개 κ²°κ³ΌλŠ” λ°”κΎΈμ§€ μ•Šμ•˜μŠ΅λ‹ˆλ‹€.

riidolaya의 μž‘μ€ μ£Όμž₯·힌트 λͺ¨λΈμ€ 검증할 ν›„λ³΄μ˜ μˆœμ„œλ₯Ό μ œμ•ˆν•˜λŠ” 것이 λͺ©ν‘œμž…λ‹ˆλ‹€. λ¨Όμ € ν•™μŠ΅ μ—†λŠ” μ €λ ΄ν•œ 방법을 κΈ°μ€€μœΌλ‘œ μ‚Όμ•˜μŠ΅λ‹ˆλ‹€. ν˜„μž¬ μ–΄νœ˜ μˆœμ„œ 비ꡐ가 κ°€μž₯ 쒋은 기쀀이며, μƒˆ λͺ¨λΈμ΄ 이보닀 μœ μš©ν•˜λ‹€λŠ” μ¦κ±°λŠ” 아직 μ—†μŠ΅λ‹ˆλ‹€.

ν•™μŠ΅ μ—†λŠ” 방법 ν˜„μž¬ μˆœμ„œμ˜ 첫 후보가 μ •λ‹΅ 첫 μ •λ‹΅κΉŒμ§€ λ‹¨μœ„ 검사 수 μˆœμ—΄μ˜ μš”μ²­λ³„ 평균 검사 수
μž…λ ₯ μˆœμ„œ μœ μ§€ 6/37 71 1.9595
BM25 26/37 51 1.3784
μ–΄νœ˜ μˆœμ„œ 비ꡐ 29/37 48 1.3378
μ œν•œλœ κ·œμΉ™ 26/37 51 1.3784

ν‘œλŠ” λ³΄μ‘΄ν•œ Mac μ‹€ν–‰μ˜ κ²°κ³Όμž…λ‹ˆλ‹€. Linux BM25Β·μ œν•œλœ κ·œμΉ™μ˜ μˆœμ—΄ 평균은 동점 반올림 영ν–₯으둜1.3649μ˜€μŠ΅λ‹ˆλ‹€. μ–‘μͺ½ λͺ¨λ‘ μ–΄νœ˜ μˆœμ„œ 비ꡐ가 κ°€μž₯ μ’‹μ•˜μœΌλ©°, ν™˜κ²½ 차이λ₯Ό μ„±λŠ₯ ν–₯μƒμœΌλ‘œ κ³„μ‚°ν•˜μ§€ μ•ŠμŠ΅λ‹ˆλ‹€.

λ‘˜μ§Έ ν›„λ³΄λ§Œ κ³ λ₯΄λ©΄ ν˜„μž¬ μžλ£Œμ—μ„œ 28/37μž…λ‹ˆλ‹€. μ •λ‹΅ μœ„μΉ˜κ°€ [6,28,3]으둜 치우쳐 μžˆμœΌλ―€λ‘œ ν˜„μž¬ μˆœμ„œμ˜ 적쀑λ₯ λ§Œ 보고 ν•™μŠ΅ 효과라고 λ§ν•˜λ©΄ μ•ˆ λ©λ‹ˆλ‹€. μ œν•œλœ κ·œμΉ™μ€ 이 자료의 λ¬Έμž₯을 μ§€μ›ν•˜μ§€ μ•Šμ•„ 247회 λͺ¨λ‘ BM25둜 λ˜λŒμ•„κ°”μŠ΅λ‹ˆλ‹€. 독립적인 κ·œμΉ™ μ„±λŠ₯이 μ•„λ‹™λ‹ˆλ‹€.

37개 μš”μ²­μ˜ κΈ°λ³Έ μˆœμ„œμ™€ 전체 μˆœμ—΄210개λ₯Ό 각각 λΉ„κ΅ν–ˆμŠ΅λ‹ˆλ‹€. μ‹€μ œ 호좜247회, μˆœμœ„988개, ν™œμ„± 점수2,928κ°œμž…λ‹ˆλ‹€. 독립 ν‘œλ³Έμ€247κ°œκ°€ μ•„λ‹™λ‹ˆλ‹€. 2후보 μš”μ²­κ³Ό3후보 μš”μ²­μ˜ μˆœμ—΄ μˆ˜κ°€ λ‹€λ₯΄λ―€λ‘œ μš”μ²­λ³„ 평균을 λ™μΌν•˜κ²Œ κ°€μ€‘ν–ˆμŠ΅λ‹ˆλ‹€. λ™μ μ—μ„œλŠ” ν˜„μž¬ ν‘œμ‹œ μˆœμ„œλ₯Ό μœ μ§€ν•˜κ³  후보λ₯Ό μ œκ±°ν•˜μ§€ μ•ŠμŠ΅λ‹ˆλ‹€. μš”μ²­λ§ˆλ‹€ μœ λ¦¬ν•œ 방법을 골라 κΈ°μ€€μœΌλ‘œ 삼지도 μ•ŠμŠ΅λ‹ˆλ‹€.

검사당 λΉ„μš©1을 κ°€μ •ν•œ μ§„λ‹¨μž…λ‹ˆλ‹€. μ–΄νœ˜ λΉ„κ΅μ˜ μš”μ²­λ³„ 합계49.5와 μ™„λ²½ν•œ μˆœμ„œμ˜ ν•˜ν•œ37 μ‚¬μ΄μ—λŠ” μ•½25.25%의 가상 μ—¬μ§€κ°€ μžˆμŠ΅λ‹ˆλ‹€. μ™„λ²½ν•œ λͺ¨λΈμ„ μ–»μ—ˆλ‹€λŠ” 뜻이 μ•„λ‹™λ‹ˆλ‹€. μ‹€μ œ κ²€μ¦κΈ°Β·μ „μ²˜λ¦¬Β·μΆ”λ‘ Β·λ˜λŒμ•„κ°€κΈ° λΉ„μš©μ„ λͺ¨λ‘ μž¬μ•Ό 전체 μž‘μ—…λŸ‰5% κ°œμ„ μ„ μ£Όμž₯ν•  수 μžˆμŠ΅λ‹ˆλ‹€. μ‹œκ°„Β·ν† ν°Β·κΈˆμ•‘Β·CPU/GPU κ°œμ„ μ€ 이 μ‹€ν—˜μ—μ„œ μΈ‘μ •ν•˜μ§€ μ•Šμ•˜μŠ΅λ‹ˆλ‹€.

μ‹€ν–‰ κ²°κ³ΌλŠ” results.json, μ‹€ν–‰ ν›„ 파일 λŒ€μ‘°λŠ” POSTCLOSE, 별도 Node κ΅¬ν˜„μ˜ 전체 ν–‰λ ¬ μž¬κ³„μ‚°μ€ INDEPENDENT-READBACK에 μžˆμŠ΅λ‹ˆλ‹€. 별도 κ΅¬ν˜„μ€ μ €μž₯된 점수λ₯Ό μ΄μš©ν•œ μˆœμ„œΒ·μˆœμ—΄Β·μ§‘κ³„ κ²€μ¦μž…λ‹ˆλ‹€. BM25 점수 μ‚°μΆœ μžμ²΄λ‚˜ μ‹€μ œ 검증 λΉ„μš©μ„ 독립 μΈ‘μ •ν•œ 것은 μ•„λ‹™λ‹ˆλ‹€. κΈ°μ‘΄ 쑰건별 미상 값은 μ›λž˜ 근거에 λ³΄μ‘΄ν•˜λ©° λΆ€μ • μ •λ‹΅μœΌλ‘œ λ°”κΎΈμ§€ μ•ŠμŠ΅λ‹ˆλ‹€.

Node μž¬κ³„μ‚°μ΄ ν™•μΈν•œ 집계와 ν™•μΈν•˜μ§€ μ•Šμ€ JSON ν•„λ“œλŠ” λ²”μœ„ 보좩에 λͺ…μ‹œν•©λ‹ˆλ‹€.

Go1.27.1이 μžˆλŠ” μ €μž₯μ†Œμ—μ„œ μž¬ν˜„ν•˜μ„Έμš”.

bash scripts/verify-next60-bias37.sh

이 λͺ…령은 자체 λŒ€μ‘° 사둀λ₯Ό κ²€μ‚¬ν•˜κ³ , 곡개37행을 읽어 ν•™μŠ΅ μ—†λŠ” 비ꡐλ₯Ό ν•œ 번 μ‹€ν–‰ν•©λ‹ˆλ‹€. μƒˆ 좜λ ₯만 μƒμ„±ν•˜λ©° 원본 라이브러리·λͺ¨λΈΒ·Fit은 μ‹€ν–‰ν•˜μ§€ μ•ŠμŠ΅λ‹ˆλ‹€. Linux/macOS 점수의 μ ˆλŒ€Β·μƒλŒ€ 였차 기쀀은 각각1e-12μž…λ‹ˆλ‹€. 각 ν™˜κ²½μ—μ„œ μ €μž₯ν•œ μ‹€μ œ 점수둜 전체 μˆœμ—΄μ˜ μˆœμœ„Β·λ™μ Β·λΉ„μš©Β·ν–‰λ ¬ ν•΄μ‹œλ₯Ό λ‹€μ‹œ 계산해 μ •ν™•νžˆ λŒ€μ‘°ν•©λ‹ˆλ‹€. 데이터·라벨·뢄λͺ¨Β·ν•™μŠ΅ μ—†μŒ λ“±μ˜ 곡톡 사싀은 동일해야 ν•©λ‹ˆλ‹€. 였차 ν—ˆμš©μœΌλ‘œ μ‹€μ œ μ μˆ˜λ‚˜ μˆœμœ„λ₯Ό λ°”κΎΈμ§€ μ•ŠμŠ΅λ‹ˆλ‹€.

첫 Linux CIλŠ” Mac 결과와 λͺ¨λ“  μ§‘κ³„κΉŒμ§€ κ°™μ•„μ•Ό ν•œλ‹€λŠ” κ²€μ‚¬μ—μ„œ μ‹€νŒ¨ν–ˆμŠ΅λ‹ˆλ‹€. Linux μ‹€μ œ 결과의 μ΅œλŒ€ 점수 μ°¨μ΄λŠ” μ•½5.33e-15μ˜€μ§€λ§Œ, ν•œ μš”μ²­μ˜ BM25 두 μ μˆ˜κ°€ 같은 값이 λ˜μ–΄ μˆœμ—΄λ³„ 검사 νšŸμˆ˜κ°€ λ‹¬λΌμ‘ŒμŠ΅λ‹ˆλ‹€. 독립 μž¬κ³„μ‚°μ€ Linux 자체 ν–‰λ ¬κ³Ό 집계가 정확함을 ν™•μΈν–ˆμŠ΅λ‹ˆλ‹€. 차이 기둝에 μ‹€νŒ¨μ™€ μ–‘μͺ½ κ²°κ³Όλ₯Ό λ³΄μ‘΄ν•©λ‹ˆλ‹€. 이 μ°¨μ΄λŠ” λͺ¨λΈ μ„±λŠ₯ ν–₯μƒμ΄λ‚˜ μ‹€μ œ μž‘μ—…λŸ‰ κ°μ†Œμ˜ 증거가 μ•„λ‹™λ‹ˆλ‹€. μ μˆ˜κ°€ μΆ©λΆ„νžˆ λ–¨μ–΄μ§„ 후보 쌍의 μˆœμ„œ μΌμΉ˜λŠ” 계속 κ²€μ‚¬ν•˜κ³ , 맀우 κ°€κΉŒμš΄ 점수의 μˆœμ„œ λ³€ν™”λŠ” λ³„λ„λ‘œ λ³΄κ³ ν•©λ‹ˆλ‹€.

κ²°κ³Ό 파일이 λ„ˆλ¬΄ 크면 성곡을 λ°˜ν™˜ν•˜μ§€ μ•ŠμŠ΅λ‹ˆλ‹€. μ €μž₯이 μ •μƒμ μœΌλ‘œ λλ‚œ κ²½μš°μ— ν•œν•΄ μ‹€νŒ¨ 원인·싀행 횟수λ₯Ό μž‘μ€ 기둝에 λ³΄μ‘΄ν•©λ‹ˆλ‹€. 쓰기·동기화 μ‹€νŒ¨λŠ” 별도 였λ₯˜μž…λ‹ˆλ‹€. 이 μœ μ§€λ³΄μˆ˜ μ†ŒμŠ€λŠ” κΈ°λ³Έ CLIλ‚˜ Codex에 μžλ™ λ“±λ‘λ˜μ§€ μ•ŠμŠ΅λ‹ˆλ‹€.

λ‹€μŒμ€ 별도20β†’60 μˆ˜μ§‘ κ³„νšμž…λ‹ˆλ‹€. κΈ°μ‘΄37ν–‰Β·μƒˆ μˆ˜μ§‘ μ§‘λ‹¨Β·λ³΄ν˜Έλœ 도메인별2,400개 평가λ₯Ό κ΅¬λΆ„ν•©λ‹ˆλ‹€. 이번 μƒˆ ν•™μŠ΅Β·λ…λ¦½ κ·Έλ£ΉΒ·λͺ¨λΈ ν™œμ„±ν™”λŠ”0μž…λ‹ˆλ‹€.

English Β· HF37 κ²Œμ‹œ 기둝

HF37 κ²Œμ‹œ 검증과 후속 Linux/macOSΒ·λ³΄μ•ˆΒ·quality CIκ°€ λͺ¨λ‘ ν†΅κ³Όν–ˆμŠ΅λ‹ˆλ‹€. PR133은 μžλ™ 병합됐고, κ²€μ‚¬ν•œ μ½”λ“œμ™€ 병합 μ½”λ“œμ˜ 전체 Git νŠΈλ¦¬κ°€ λ™μΌν•©λ‹ˆλ‹€. 첫 비ꡐ CI의 μ‹€νŒ¨μ™€ μ–‘μͺ½ κ²°κ³ΌλŠ” λ³΄μ‘΄ν–ˆμŠ΅λ‹ˆλ‹€.

PR #133 Β· μƒˆ CI / Fresh CI.

λ‹€μŒ μˆ˜μ§‘μ˜ xxhash 단일 λΆ€λͺ¨ 감사λ₯Ό μ‹€ν–‰ν–ˆμŠ΅λ‹ˆλ‹€.75회 관츑은 독립 사둀75κ°œκ°€ μ•„λ‹™λ‹ˆλ‹€. 같은 μž…λ ₯μ—μ„œλ„ ν•΄μ‹œκ°’ λΉ„κ΅λŠ”7/15, 전체 μƒνƒœ λΉ„κ΅λŠ”15/15λ₯Ό λ§Œμ‘±ν–ˆμŠ΅λ‹ˆλ‹€. 계보가 미확인인 이 λΆ€λͺ¨λŠ” ν•™μŠ΅μ—μ„œ μ œμ™Έν•˜λ©° κΈ°μ‘΄37행을 μœ μ§€ν•©λ‹ˆλ‹€. 둜컬 μž¬ν˜„κ³Ό μ €μž₯ 자료 λŒ€μ‘°λŠ” ν†΅κ³Όν–ˆκ³  PR135은 Linux/macOSΒ·secretsΒ·quality CIλ₯Ό 톡과해 봇이 λ³‘ν•©ν–ˆμŠ΅λ‹ˆλ‹€.

μ‹€μ œ 힌트 μ‹œν—˜μ—μ„œλŠ” κΈ°μ‘΄ λΉ„ν™œμ„± λͺ¨λΈμ΄7/15 후보 legacyλ₯Ό1μœ„λ‘œ μΆ”μ²œν–ˆκ³  BM25Β·μ–΄νœ˜ λΉ„κ΅λŠ”15/15 directλ₯Ό κ³¨λžμŠ΅λ‹ˆλ‹€. 사후 λ°˜λ‘€ μ„€λͺ…에 전체 μ μˆ˜μ™€ 선택적 μž¬μ‹€ν–‰μ„ λ³΄μ‘΄ν–ˆμŠ΅λ‹ˆλ‹€. ν•œ 사둀이며 κΈ°λ³Έ ν™œμ„±ν™”/μƒˆ ν•™μŠ΅μ€ μ—†μŠ΅λ‹ˆλ‹€. PR136은 Linux/macOSΒ·secretsΒ·quality CIλ₯Ό 톡과해 봇이 λ³‘ν•©ν–ˆμŠ΅λ‹ˆλ‹€.