Score Spread 21 KO - teamswyg/laya-tools GitHub Wiki
์ ๋น์ฉ ์ ์ ๋ถํฌ ํน์ง ์คํ 21
๊ฐ์ ๋น์ฉ ๋ชฉํ์์ ์ ๋ ฅ ํน์ง 4๊ฐ๋ฅผ ์ถ๊ฐํ์ ํ์ด์ง์ ํธ์ถ์ด ๋ชจ๋ ์ค์์ง๋ง ์ฌ์ ๊ธฐ์ค์ ์์ง ๋ฏธ๋ฌ์ด๋ค. ์ฃผ ์คํ์ ๊ธฐ์กด 12๊ฐ ํน์ง ๋๋น ํ์ด์ง 6,337โ6,326, ๋ณด์กฐ ํธ์ถ 2,470โ2,408์ด์๋ค. ๊ฐ๋จํ ์ ์ ์ฐจ์ด ๊ท์น๋ณด๋ค 140ํ ์ ๊ฒ ํธ์ถํ์ง๋ง 3ํ์ด์ง ๋ ์ฝ๋๋ค. ๊ธฐ๋ณธ ๋ผ์ฐํ ์ ์ ์ฉํ์ง ์๋๋ค.
๋ฐ๊พผ ๊ฒ๊ณผ ๊ณ ์ ํ ๊ฒ
๊ธฐ์กด 12๊ฐ ํน์ง์ ๊ธฐ๋ณธ ๊ฒ์ ์์ 20๊ฐ ์ ์์ ํ๊ท ยทํ์คํธ์ฐจยท์ฒซ ํ๋ณด ์ ์ ์จยท๋ง์ง๋ง/์ฒซ ์ ์ ๋น์จ์ ์ถ๊ฐํ๋ค. ํ๊ท ยทํ์คํธ์ฐจ๋ ๊ฐ ์ ์๋ฅผ ์ฒซ ์ ์๋ก ๋๋ ๊ฐ์ผ๋ก ๊ณ์ฐํ๋ค. ํ๋ณด๊ฐ 20๊ฐ๋ณด๋ค ์ ์ผ๋ฉด ์ค์ ๊ฐ์๋ฅผ ์ฐ๊ณ , ์ต๊ณ ์ ์๊ฐ 0์ด๋ฉด ๋ค ๊ฐ ๋ชจ๋ 0์ด๋ค. ํฐ ๊ฐ์ ํฉ์ผ๋ก ์ธํ overflow๋ฅผ ํผํ๋๋ก ์ ์ ๋น์จ๋ถํฐ ๊ณ์ฐํ๋ค.
์
๋ ฅ์ ์ด๋ฏธ ๊ณ์ฐ๋ ๊ธฐ๋ณธ ๊ฒ์ ์์๋ง ๋ฐ๋๋ค. ์ถ๊ฐ ๊ฒ์ยท์ ๋ตยท์ ์ฅ์ ์๋ณ์๋ฅผ ํน์ง์ ๋ฃ์ง ์๋๋ค. ํน์ง์ ๋ณด์กฐ ์์์ ์ ๋ต ์์๋ฅผ ๊ณ์ฐํ๊ธฐ ์ ์ ๊ณ ์ ํ๋ค. ์ถ๊ฐ ํน์ง์ ๋ณ๋ ์ฐ์ ๋ฐฐ์ด์ ์ ์ฅํด ๊ธฐ์กด ์์ ๊ตฌ์กฐ์ 12์ฐจ์ ๋ชจ๋ธ ํ์์ ์ ์งํ๋ค. ์ ๋ชจ๋ธ์ riido-spread-claim-v1, ๊ณ์ 16๊ฐ์ด๋ฉฐ ๊ธฐ์กด ํค๋๋ก ์ค์ธํด ์ฝ์ง ๋ชปํ๋๋ก ๋ฐฐํฌ ๊ฒ์ฆ์ ๋ถ๋ฆฌํ๋ค.
๊ณํ์ ์คํ ์ ์ ๊ณ ์ ํ๋ค. ๋น์ฉ ํ๋ํฐ {0, 0.25, 1, 4, 16}, ๋ seed, ํ์ต๊ธฐยท์ธ ์ ์ฅ์ ๋ถ๋ฆฌยท๊ฒ์ฆ์์์ 90% ํธ์ถ ์ํ ๋ฐ ํ๋ํฐ ์ ํ์ ์คํ 20๊ณผ ๋์ผํ๊ฒ ์ ์งํ๋ค. ์ 16์ฐจ์ ์กฐ๊ฑด์์ 30๊ฐ ํค๋๋ฅผ ํ์ตํ๋ค. ํ๋ํฐ๋ ์คํ์ฉ ํ์ด์ง ๋จ์์ด๋ฉฐ ์ค์ ํ ํฐยท์๊ธ ํ์ฐ๊ฐ์ด ์๋๋ค.
๊ฒฐ๊ณผ
๊ฐ ํ์ ๋์ผํ ๋ฌธ์ ์ค๋ช ๊ธฐ๋ฐ ๊ณ ์ ์ง๋ฌธ 2,948๊ฐ๋ฅผ ํ ๋ฒ์ฉ ์ง๊ณํ๋ค. ์ฒซ ํ๋ณด๋ฅผ ๋ณด์กดํด Recall@1์ ๊ธฐ๋ณธ ๊ฒ์๊ณผ ๊ฐ๋ค.
| ์ ์ฑ | seed | ํธ์ถ | ํ์ด์ง | Recall@10 |
|---|---|---|---|---|
| ๊ธฐ๋ณธ ๊ฒ์ | โ | 0 | 9,488 | 0.7483 |
| ํญ์ ๋ณด์กฐ ๊ฒ์ | โ | 2,948 | 6,287 | 0.8138 |
| ์ ์ ์ฐจ์ด ๊ท์น | โ | 2,548 | 6,323 | 0.8097 |
| ๊ธฐ์กด 12๊ฐ ํน์ง + ๋น์ฉ ์ ํ | 1729 | 2,470 | 6,337 | 0.8094 |
| ๊ธฐ์กด 12๊ฐ ํน์ง + ๋น์ฉ ์ ํ | 2718 | 2,489 | 6,338 | 0.8094 |
| ์ 16๊ฐ ํน์ง + ๋น์ฉ ์ ํ | 1729 | 2,408 | 6,326 | 0.8100 |
| ์ 16๊ฐ ํน์ง + ๋น์ฉ ์ ํ | 2718 | 2,317 | 6,331 | 0.8094 |
| ์ 16๊ฐ ํน์ง, ฮป=0 | 1729 | 2,434 | 6,348 | 0.8083 |
| ์ 16๊ฐ ํน์ง, ฮป=0 | 2718 | 2,339 | 6,342 | 0.8073 |
๋ seed ๋ชจ๋ ํ๊ฐ ์ ์ฅ์ etcd/test-infra/lxd ์์์์ ฮป=4/0/0.25๊ฐ ์ ํ๋๋ค. ๊ฒฐ๊ณผ๋ฅผ ๋ณด๊ณ penalty๋ฅผ ๊ณ ๋ฅด์ง ์์๋ค. ๋ seed๋ ๋ ๋ฆฝ์ ์ธ ๋ฐ์ดํฐ ์ํ์ด ์๋๋ค.
์ ์ฃผ ์ ์ฑ ์ ๊ธฐ์กด ํ์ต ์ ์ฑ ๋ณด๋ค ๋ ์งํ๋ฅผ ๊ฐ์ ํ์ง๋ง, ํญ์ ๋ณด์กฐ ๊ฒ์๋ณด๋ค 39ํ์ด์ง๋ฅผ ๋ ์ฝ๊ณ ์ ์ ์ฐจ์ด ๊ท์น๋ณด๋ค๋ 3ํ์ด์ง ๋ง๋ค. ์คํ 20์ ๊ธฐ์ค(ํ์ด์งโคํญ์ ๋ณด์กฐ ๊ฒ์, ํธ์ถโค90%, Recall@1/10โฅ๊ธฐ๋ณธ ๊ฒ์, ํ์ต ์ ์ฑ ์ ์ ์ ์ฐจ์ด ๊ท์น์ ํ์ด์งยทํธ์ถ์์ ๋์ ๊ฐ์ )์ ์ถฉ์กฑํ์ง ๋ชปํ๋ค. ๊ธฐ์ค์ ๋ฎ์ถ๊ฑฐ๋ ์ข์ seed๋ง ์ ํํ์ง ์๋๋ค.
๊ณ์ฐ ๋น์ฉยท์ฌํ
Apple M4 Pro/macOS/Go 1.27.1. ์ ํ์ตยทํ๊ฐ ์ ์ฒด๋ ํ ๋ฒ์ ์ธ๋ถ ์ธก์ ์์ wall 2.09์ด, user CPU 1.71์ด, ์ต๋ RSS 92,291,072๋ฐ์ดํธ(์ฝ 88.0MiB)์๋ค. ์ค๋นยทํ๋ณด ๊ตฌ์ฑยท30ํ ํ์ตยท๊ฒ์ฆยทํ๊ฐยท์ ์ฅ์ ํฌํจํ๋ฉฐ ๊ฐ๋ณ ์ถ๋ก ๋ฉ๋ชจ๋ฆฌ๊ฐ ์๋๋ค.
์ถ๊ฐ ํน์ง ํจ์์ ํฉ์ฑ ๋ฒค์น๋งํฌ 3ํ๋ 42.27/39.31/39.65ns, 0 B/op, 0 allocs/op์ด์๋ค. ์ ํจ ์
๋ ฅ์ ๋ฌดํ ๋น ๊ฒ์ฌ๋ ํต๊ณผํ๋ค. pprof CPU ์ํ์ ํน์ง ํจ์์ ๊ทธ ๋ด๋ถ ๊ฒ์ฆ ๊ณ์ฐ์ 96.3%๊ฐ ์ง์ค๋๋ค. ์ด๋ ํด๋น ํจ์๋ฅผ ๋ฐ๋ณตํ ๋ง์ดํฌ๋ก๋ฒค์น๋งํฌ์ ๋ถํฌ์ด๋ฉฐ ์ ์ฒด ์ฑ์ ๋ณ๋ชฉ์ด๋ GPU ์ธก์ ์ด ์๋๋ค. ์์ ํ๋กํ์ผ์ ๋ก์ปฌ์๋ง ๋ณด๊ดํ๋ค.
๊ธฐ์กด 12๊ฐ ํน์ง๊ณผ ํฉ์ณ ์ฐ ๊ณ ์ ์์ ๋ฒค์น๋งํฌ์์๋ ์คํ๋ ค ์ ์ชฝ์ด ๋ ์งง๊ฒ ๋์๋ค. ์ด๋ฐ ํ์ด๋ฐ ์ฐจ์ด๋ฅผ ์๋ ํฅ์์ผ๋ก ํด์ํ์ง ์๋๋ค. ์ถ๊ฐ ํจ์ ๋น์ฉ์ ๋ฒ์์ ํ ๋น ๊ฒฐ๊ณผ๋ง ๊ทผ๊ฑฐ๋ก ์ผ์ผ๋ฉฐ ์ ์ฒด ์๋น์ค ์ง์ฐ์ ๋ณ๋ ๊ฒ์ฆ์ด ํ์ํ๋ค.
์ 30๊ฐ ํค๋์ ๊ฒฐ๊ณผ JSON์ด ์ฌ์คํ์์ 31/31 ํ์ผ ๋ชจ๋ ๋ฐ์ดํธ ์ผ์นํ๋ค. ๊ณตํต ํ์ต ์ฝ๋๋ฅผ ๋ฐ๊พผ ๋ค์ ์คํ 20๋ ๊ธฐ์กด 31๊ฐ ํ์ผ๊ณผ ๋ฐ์ดํธ ์ผ์นํ๋ค. ๊ธฐ์กด HF 20/14 ์์นด์ด๋ธ์ ๊ฒ์ฆ๋ ํต๊ณผํ๋ค. ๋จ์ ๊ฒ์ฌ๋ก 0์ ยท๊ท ์ผยท์ง์ค ์ ์, ํฐ ์, ์๋ชป๋ ์์ยท์ธ๋ฑ์คยท๋น์ ํ ์, ์์ 20๊ฐ ์ ๊ทผ ๋ฒ์, ํ์ต ๋ถ๋ฆฌ, 12/16์ฐจ์ ํ์ ๊ตฌ๋ถ์ ํ์ธํ๋ค.
go run ./cmd/riido-spreadclaim --out .cache/spread-claim-21
go test ./internal/searchclaim -run '^$' -bench 'Benchmark(SpreadExtra|FeatureVariants)' -benchmem -benchtime=300ms -count=3
์ ์ฒด ๊ฒฐ๊ณผ, ๊ณ์ฐ ๋น์ฉ ์ง๊ณ. ์ฐ๊ตฌ์ฉ ์์น ํค๋๋ CIยทํ์ผ ๊ฒ์ฆ ํ HF์๋ง ๋ฐฐํฌํ๋ฉฐ ์๋ฌธยท์ง๋ฌธยท๊ฐ๋ณ ์ ๋ตยท๊ฐ์ค์นยทํ๋กํ์ผ์ Git์ ๋ฃ์ง ์๋๋ค. ํ์ฌ ์ ์๋ ๋น์ฉ ๋ชฉํ์ ๋๋ฆฌ๊ฐ์ด๋ฉฐ ๋ณด์ ๋ ํ๋ฅ ์ด๋ ํ๋ ๊ถํ์ด ์๋๋ค.
์ด ์๋ฃ๋ ์ด๋ฏธ ๊ด์ฐฐํ ์ธ ์ ์ฅ์์ ๋ฌธ์ ์ค๋ช ๋ฌธ์ ์ด๋ฏ๋ก ์ ๋ ๋ฆฝ ์ต์ข ์ํ์ด ์๋๋ค. ์ค์ ์ฌ์ฉ์ ์์ฒญยท์์ด์ ํธ ์๋ฃ์จยทLLM ์ ๊ฐ์ ๋ฏธ๊ฒ์ฆ์ด๋ค. CoSQA reserve๋ ์ฌ์ฉํ์ง ์์๊ณ , ๊ทธ ์ ๊ด๋ จ์ฑ ์๋ฃ๊ฐ ์ด ๊ฒ์ ์ ์ฑ ์ ์ต์ข ํ๊ฐ๋ฅผ ์๋์ผ๋ก ๋์ ํ์ง ์๋๋ค. ๋ค์ ๋จ๊ณ์์๋ ๊ฐ์ผ ์ ๋ ฅ ์ ๋ณด์ ์ถ๊ฐ ๊ฐ์น์ ์ค์ ์์ ๋น์ฉ์ ๋ถ๋ฆฌํด ํ์ธํด์ผ ํ๋ค.
Source / ์์ค ยท PR and CI / ๋ณ๊ฒฝ ๋ฐ ๊ฒ์ฌ
Publication / ๋ฐฐํฌ: https://huggingface.co/JooYoon/riidolaya-score-spread-research-v0.1. Public immutable revision, 37/37 files byte-identical after download; exact-source CI passed. MANIFEST SHA-256: d718de763f93d19adca8c6d18b77dcb091057434b29d5a34c1eda459b3032637. PR #44 merged; research-only, not activated.