Score Spread 21 KO - teamswyg/laya-tools GitHub Wiki

์ €๋น„์šฉ ์ ์ˆ˜ ๋ถ„ํฌ ํŠน์ง• ์‹คํ—˜ 21

๊ฐ™์€ ๋น„์šฉ ๋ชฉํ‘œ์—์„œ ์ž…๋ ฅ ํŠน์ง• 4๊ฐœ๋ฅผ ์ถ”๊ฐ€ํ•˜์ž ํŽ˜์ด์ง€์™€ ํ˜ธ์ถœ์ด ๋ชจ๋‘ ์ค„์—ˆ์ง€๋งŒ ์‚ฌ์ „ ๊ธฐ์ค€์€ ์•„์ง ๋ฏธ๋‹ฌ์ด๋‹ค. ์ฃผ ์‹คํ—˜์€ ๊ธฐ์กด 12๊ฐœ ํŠน์ง• ๋Œ€๋น„ ํŽ˜์ด์ง€ 6,337โ†’6,326, ๋ณด์กฐ ํ˜ธ์ถœ 2,470โ†’2,408์ด์—ˆ๋‹ค. ๊ฐ„๋‹จํ•œ ์ ์ˆ˜ ์ฐจ์ด ๊ทœ์น™๋ณด๋‹ค 140ํšŒ ์ ๊ฒŒ ํ˜ธ์ถœํ•˜์ง€๋งŒ 3ํŽ˜์ด์ง€ ๋” ์ฝ๋Š”๋‹ค. ๊ธฐ๋ณธ ๋ผ์šฐํŒ…์— ์ ์šฉํ•˜์ง€ ์•Š๋Š”๋‹ค.

๋ฐ”๊พผ ๊ฒƒ๊ณผ ๊ณ ์ •ํ•œ ๊ฒƒ

๊ธฐ์กด 12๊ฐœ ํŠน์ง•์— ๊ธฐ๋ณธ ๊ฒ€์ƒ‰ ์ƒ์œ„ 20๊ฐœ ์ ์ˆ˜์˜ ํ‰๊ท ยทํ‘œ์ค€ํŽธ์ฐจยท์ฒซ ํ›„๋ณด ์ ์œ ์œจยท๋งˆ์ง€๋ง‰/์ฒซ ์ ์ˆ˜ ๋น„์œจ์„ ์ถ”๊ฐ€ํ–ˆ๋‹ค. ํ‰๊ท ยทํ‘œ์ค€ํŽธ์ฐจ๋Š” ๊ฐ ์ ์ˆ˜๋ฅผ ์ฒซ ์ ์ˆ˜๋กœ ๋‚˜๋ˆˆ ๊ฐ’์œผ๋กœ ๊ณ„์‚ฐํ•œ๋‹ค. ํ›„๋ณด๊ฐ€ 20๊ฐœ๋ณด๋‹ค ์ ์œผ๋ฉด ์‹ค์ œ ๊ฐœ์ˆ˜๋ฅผ ์“ฐ๊ณ , ์ตœ๊ณ  ์ ์ˆ˜๊ฐ€ 0์ด๋ฉด ๋„ค ๊ฐ’ ๋ชจ๋‘ 0์ด๋‹ค. ํฐ ๊ฐ’์˜ ํ•ฉ์œผ๋กœ ์ธํ•œ overflow๋ฅผ ํ”ผํ•˜๋„๋ก ์ ์ˆ˜ ๋น„์œจ๋ถ€ํ„ฐ ๊ณ„์‚ฐํ•œ๋‹ค.

์ž…๋ ฅ์€ ์ด๋ฏธ ๊ณ„์‚ฐ๋œ ๊ธฐ๋ณธ ๊ฒ€์ƒ‰ ์ˆœ์œ„๋งŒ ๋ฐ›๋Š”๋‹ค. ์ถ”๊ฐ€ ๊ฒ€์ƒ‰ยท์ •๋‹ตยท์ €์žฅ์†Œ ์‹๋ณ„์ž๋ฅผ ํŠน์ง•์— ๋„ฃ์ง€ ์•Š๋Š”๋‹ค. ํŠน์ง•์€ ๋ณด์กฐ ์ˆœ์œ„์™€ ์ •๋‹ต ์ˆœ์œ„๋ฅผ ๊ณ„์‚ฐํ•˜๊ธฐ ์ „์— ๊ณ ์ •ํ•œ๋‹ค. ์ถ”๊ฐ€ ํŠน์ง•์€ ๋ณ„๋„ ์—ฐ์† ๋ฐฐ์—ด์— ์ €์žฅํ•ด ๊ธฐ์กด ์˜ˆ์ œ ๊ตฌ์กฐ์™€ 12์ฐจ์› ๋ชจ๋ธ ํ˜•์‹์„ ์œ ์ง€ํ•œ๋‹ค. ์ƒˆ ๋ชจ๋ธ์€ riido-spread-claim-v1, ๊ณ„์ˆ˜ 16๊ฐœ์ด๋ฉฐ ๊ธฐ์กด ํ—ค๋“œ๋กœ ์˜ค์ธํ•ด ์ฝ์ง€ ๋ชปํ•˜๋„๋ก ๋ฐฐํฌ ๊ฒ€์ฆ์„ ๋ถ„๋ฆฌํ–ˆ๋‹ค.

๊ณ„ํš์„ ์‹คํ–‰ ์ „์— ๊ณ ์ •ํ–ˆ๋‹ค. ๋น„์šฉ ํŽ˜๋„ํ‹ฐ {0, 0.25, 1, 4, 16}, ๋‘ seed, ํ•™์Šต๊ธฐยท์„ธ ์ €์žฅ์†Œ ๋ถ„๋ฆฌยท๊ฒ€์ฆ์—์„œ์˜ 90% ํ˜ธ์ถœ ์ƒํ•œ ๋ฐ ํŽ˜๋„ํ‹ฐ ์„ ํƒ์„ ์‹คํ—˜ 20๊ณผ ๋™์ผํ•˜๊ฒŒ ์œ ์ง€ํ–ˆ๋‹ค. ์ƒˆ 16์ฐจ์› ์กฐ๊ฑด์—์„œ 30๊ฐœ ํ—ค๋“œ๋ฅผ ํ•™์Šตํ–ˆ๋‹ค. ํŽ˜๋„ํ‹ฐ๋Š” ์‹คํ—˜์šฉ ํŽ˜์ด์ง€ ๋‹จ์œ„์ด๋ฉฐ ์‹ค์ œ ํ† ํฐยท์š”๊ธˆ ํ™˜์‚ฐ๊ฐ’์ด ์•„๋‹ˆ๋‹ค.

๊ฒฐ๊ณผ

๊ฐ ํ–‰์€ ๋™์ผํ•œ ๋ฌธ์„œ ์„ค๋ช… ๊ธฐ๋ฐ˜ ๊ณ ์œ  ์งˆ๋ฌธ 2,948๊ฐœ๋ฅผ ํ•œ ๋ฒˆ์”ฉ ์ง‘๊ณ„ํ•œ๋‹ค. ์ฒซ ํ›„๋ณด๋ฅผ ๋ณด์กดํ•ด Recall@1์€ ๊ธฐ๋ณธ ๊ฒ€์ƒ‰๊ณผ ๊ฐ™๋‹ค.

์ •์ฑ… seed ํ˜ธ์ถœ ํŽ˜์ด์ง€ Recall@10
๊ธฐ๋ณธ ๊ฒ€์ƒ‰ โ€” 0 9,488 0.7483
ํ•ญ์ƒ ๋ณด์กฐ ๊ฒ€์ƒ‰ โ€” 2,948 6,287 0.8138
์ ์ˆ˜ ์ฐจ์ด ๊ทœ์น™ โ€” 2,548 6,323 0.8097
๊ธฐ์กด 12๊ฐœ ํŠน์ง• + ๋น„์šฉ ์„ ํƒ 1729 2,470 6,337 0.8094
๊ธฐ์กด 12๊ฐœ ํŠน์ง• + ๋น„์šฉ ์„ ํƒ 2718 2,489 6,338 0.8094
์ƒˆ 16๊ฐœ ํŠน์ง• + ๋น„์šฉ ์„ ํƒ 1729 2,408 6,326 0.8100
์ƒˆ 16๊ฐœ ํŠน์ง• + ๋น„์šฉ ์„ ํƒ 2718 2,317 6,331 0.8094
์ƒˆ 16๊ฐœ ํŠน์ง•, ฮป=0 1729 2,434 6,348 0.8083
์ƒˆ 16๊ฐœ ํŠน์ง•, ฮป=0 2718 2,339 6,342 0.8073

๋‘ seed ๋ชจ๋‘ ํ‰๊ฐ€ ์ €์žฅ์†Œ etcd/test-infra/lxd ์ˆœ์„œ์—์„œ ฮป=4/0/0.25๊ฐ€ ์„ ํƒ๋๋‹ค. ๊ฒฐ๊ณผ๋ฅผ ๋ณด๊ณ  penalty๋ฅผ ๊ณ ๋ฅด์ง€ ์•Š์•˜๋‹ค. ๋‘ seed๋Š” ๋…๋ฆฝ์ ์ธ ๋ฐ์ดํ„ฐ ์‹œํ—˜์ด ์•„๋‹ˆ๋‹ค.

์ƒˆ ์ฃผ ์ •์ฑ…์€ ๊ธฐ์กด ํ•™์Šต ์ •์ฑ…๋ณด๋‹ค ๋‘ ์ง€ํ‘œ๋ฅผ ๊ฐœ์„ ํ•˜์ง€๋งŒ, ํ•ญ์ƒ ๋ณด์กฐ ๊ฒ€์ƒ‰๋ณด๋‹ค 39ํŽ˜์ด์ง€๋ฅผ ๋” ์ฝ๊ณ  ์ ์ˆ˜ ์ฐจ์ด ๊ทœ์น™๋ณด๋‹ค๋„ 3ํŽ˜์ด์ง€ ๋งŽ๋‹ค. ์‹คํ—˜ 20์˜ ๊ธฐ์ค€(ํŽ˜์ด์ง€โ‰คํ•ญ์ƒ ๋ณด์กฐ ๊ฒ€์ƒ‰, ํ˜ธ์ถœโ‰ค90%, Recall@1/10โ‰ฅ๊ธฐ๋ณธ ๊ฒ€์ƒ‰, ํ•™์Šต ์ •์ฑ…์€ ์ ์ˆ˜ ์ฐจ์ด ๊ทœ์น™์„ ํŽ˜์ด์ง€ยทํ˜ธ์ถœ์—์„œ ๋™์‹œ ๊ฐœ์„ )์„ ์ถฉ์กฑํ•˜์ง€ ๋ชปํ•œ๋‹ค. ๊ธฐ์ค€์„ ๋‚ฎ์ถ”๊ฑฐ๋‚˜ ์ข‹์€ seed๋งŒ ์„ ํƒํ•˜์ง€ ์•Š๋Š”๋‹ค.

๊ณ„์‚ฐ ๋น„์šฉยท์žฌํ˜„

Apple M4 Pro/macOS/Go 1.27.1. ์ƒˆ ํ•™์Šตยทํ‰๊ฐ€ ์ „์ฒด๋Š” ํ•œ ๋ฒˆ์˜ ์™ธ๋ถ€ ์ธก์ •์—์„œ wall 2.09์ดˆ, user CPU 1.71์ดˆ, ์ตœ๋Œ€ RSS 92,291,072๋ฐ”์ดํŠธ(์•ฝ 88.0MiB)์˜€๋‹ค. ์ค€๋น„ยทํ›„๋ณด ๊ตฌ์„ฑยท30ํšŒ ํ•™์Šตยท๊ฒ€์ฆยทํ‰๊ฐ€ยท์ €์žฅ์„ ํฌํ•จํ•˜๋ฉฐ ๊ฐœ๋ณ„ ์ถ”๋ก  ๋ฉ”๋ชจ๋ฆฌ๊ฐ€ ์•„๋‹ˆ๋‹ค.

์ถ”๊ฐ€ ํŠน์ง• ํ•จ์ˆ˜์˜ ํ•ฉ์„ฑ ๋ฒค์น˜๋งˆํฌ 3ํšŒ๋Š” 42.27/39.31/39.65ns, 0 B/op, 0 allocs/op์ด์—ˆ๋‹ค. ์œ ํšจ ์ž…๋ ฅ์˜ ๋ฌดํ• ๋‹น ๊ฒ€์‚ฌ๋„ ํ†ต๊ณผํ–ˆ๋‹ค. pprof CPU ์ƒ˜ํ”Œ์€ ํŠน์ง• ํ•จ์ˆ˜์™€ ๊ทธ ๋‚ด๋ถ€ ๊ฒ€์ฆ ๊ณ„์‚ฐ์— 96.3%๊ฐ€ ์ง‘์ค‘๋๋‹ค. ์ด๋Š” ํ•ด๋‹น ํ•จ์ˆ˜๋ฅผ ๋ฐ˜๋ณตํ•œ ๋งˆ์ดํฌ๋กœ๋ฒค์น˜๋งˆํฌ์˜ ๋ถ„ํฌ์ด๋ฉฐ ์ „์ฒด ์•ฑ์˜ ๋ณ‘๋ชฉ์ด๋‚˜ GPU ์ธก์ •์ด ์•„๋‹ˆ๋‹ค. ์›์‹œ ํ”„๋กœํŒŒ์ผ์€ ๋กœ์ปฌ์—๋งŒ ๋ณด๊ด€ํ•œ๋‹ค.

๊ธฐ์กด 12๊ฐœ ํŠน์ง•๊ณผ ํ•ฉ์ณ ์žฐ ๊ณ ์ • ์ˆœ์„œ ๋ฒค์น˜๋งˆํฌ์—์„œ๋Š” ์˜คํžˆ๋ ค ์ƒˆ ์ชฝ์ด ๋” ์งง๊ฒŒ ๋‚˜์™”๋‹ค. ์ด๋Ÿฐ ํƒ€์ด๋ฐ ์ฐจ์ด๋ฅผ ์†๋„ ํ–ฅ์ƒ์œผ๋กœ ํ•ด์„ํ•˜์ง€ ์•Š๋Š”๋‹ค. ์ถ”๊ฐ€ ํ•จ์ˆ˜ ๋น„์šฉ์˜ ๋ฒ”์œ„์™€ ํ• ๋‹น ๊ฒฐ๊ณผ๋งŒ ๊ทผ๊ฑฐ๋กœ ์‚ผ์œผ๋ฉฐ ์ „์ฒด ์„œ๋น„์Šค ์ง€์—ฐ์€ ๋ณ„๋„ ๊ฒ€์ฆ์ด ํ•„์š”ํ•˜๋‹ค.

์ƒˆ 30๊ฐœ ํ—ค๋“œ์™€ ๊ฒฐ๊ณผ JSON์ด ์žฌ์‹คํ–‰์—์„œ 31/31 ํŒŒ์ผ ๋ชจ๋‘ ๋ฐ”์ดํŠธ ์ผ์น˜ํ–ˆ๋‹ค. ๊ณตํ†ต ํ•™์Šต ์ฝ”๋“œ๋ฅผ ๋ฐ”๊พผ ๋’ค์˜ ์‹คํ—˜ 20๋„ ๊ธฐ์กด 31๊ฐœ ํŒŒ์ผ๊ณผ ๋ฐ”์ดํŠธ ์ผ์น˜ํ–ˆ๋‹ค. ๊ธฐ์กด HF 20/14 ์•„์นด์ด๋ธŒ์˜ ๊ฒ€์ฆ๋„ ํ†ต๊ณผํ–ˆ๋‹ค. ๋‹จ์œ„ ๊ฒ€์‚ฌ๋กœ 0์ ยท๊ท ์ผยท์ง‘์ค‘ ์ ์ˆ˜, ํฐ ์ˆ˜, ์ž˜๋ชป๋œ ์ˆœ์„œยท์ธ๋ฑ์Šคยท๋น„์œ ํ•œ ์ˆ˜, ์ƒ์œ„ 20๊ฐœ ์ ‘๊ทผ ๋ฒ”์œ„, ํ•™์Šต ๋ถ„๋ฆฌ, 12/16์ฐจ์› ํ˜•์‹ ๊ตฌ๋ถ„์„ ํ™•์ธํ–ˆ๋‹ค.

go run ./cmd/riido-spreadclaim --out .cache/spread-claim-21
go test ./internal/searchclaim -run '^$' -bench 'Benchmark(SpreadExtra|FeatureVariants)' -benchmem -benchtime=300ms -count=3

์ „์ฒด ๊ฒฐ๊ณผ, ๊ณ„์‚ฐ ๋น„์šฉ ์ง‘๊ณ„. ์—ฐ๊ตฌ์šฉ ์ˆ˜์น˜ ํ—ค๋“œ๋Š” CIยทํŒŒ์ผ ๊ฒ€์ฆ ํ›„ HF์—๋งŒ ๋ฐฐํฌํ•˜๋ฉฐ ์›๋ฌธยท์งˆ๋ฌธยท๊ฐœ๋ณ„ ์ •๋‹ตยท๊ฐ€์ค‘์น˜ยทํ”„๋กœํŒŒ์ผ์„ Git์— ๋„ฃ์ง€ ์•Š๋Š”๋‹ค. ํ˜„์žฌ ์ ์ˆ˜๋Š” ๋น„์šฉ ๋ชฉํ‘œ์˜ ๋Œ€๋ฆฌ๊ฐ’์ด๋ฉฐ ๋ณด์ •๋œ ํ™•๋ฅ ์ด๋‚˜ ํ–‰๋™ ๊ถŒํ•œ์ด ์•„๋‹ˆ๋‹ค.

์ด ์ž๋ฃŒ๋Š” ์ด๋ฏธ ๊ด€์ฐฐํ•œ ์„ธ ์ €์žฅ์†Œ์˜ ๋ฌธ์„œ ์„ค๋ช… ๋ฌธ์ œ์ด๋ฏ€๋กœ ์ƒˆ ๋…๋ฆฝ ์ตœ์ข… ์‹œํ—˜์ด ์•„๋‹ˆ๋‹ค. ์‹ค์ œ ์‚ฌ์šฉ์ž ์š”์ฒญยท์—์ด์ „ํŠธ ์™„๋ฃŒ์œจยทLLM ์ ˆ๊ฐ์€ ๋ฏธ๊ฒ€์ฆ์ด๋‹ค. CoSQA reserve๋Š” ์‚ฌ์šฉํ•˜์ง€ ์•Š์•˜๊ณ , ๊ทธ ์Œ ๊ด€๋ จ์„ฑ ์ž๋ฃŒ๊ฐ€ ์ด ๊ฒ€์ƒ‰ ์ •์ฑ…์˜ ์ตœ์ข… ํ‰๊ฐ€๋ฅผ ์ž๋™์œผ๋กœ ๋Œ€์‹ ํ•˜์ง€ ์•Š๋Š”๋‹ค. ๋‹ค์Œ ๋‹จ๊ณ„์—์„œ๋„ ๊ฐ’์‹ผ ์ž…๋ ฅ ์ •๋ณด์˜ ์ถ”๊ฐ€ ๊ฐ€์น˜์™€ ์‹ค์ œ ์ž‘์—… ๋น„์šฉ์„ ๋ถ„๋ฆฌํ•ด ํ™•์ธํ•ด์•ผ ํ•œ๋‹ค.

Source / ์†Œ์Šค ยท PR and CI / ๋ณ€๊ฒฝ ๋ฐ ๊ฒ€์‚ฌ

Publication / ๋ฐฐํฌ: https://huggingface.co/JooYoon/riidolaya-score-spread-research-v0.1. Public immutable revision, 37/37 files byte-identical after download; exact-source CI passed. MANIFEST SHA-256: d718de763f93d19adca8c6d18b77dcb091057434b29d5a34c1eda459b3032637. PR #44 merged; research-only, not activated.