Shallow Claim 22 KO - teamswyg/laya-tools GitHub Wiki

์ž‘์€ ํšŒ๊ท€ ํŠธ๋ฆฌ๋กœ ํ˜ธ์ถœ์„ ๊ณ ๋ฅด๋Š” ์‹คํ—˜ 22

ํ˜ธ์ถœ์„ ๋” ์ค„์˜€์ง€๋งŒ, ํŽ˜์ด์ง€ยท๊ฒ€์ƒ‰ ํ’ˆ์งˆ์—์„œ ์†ํ•ด๊ฐ€ ์žˆ์–ด ์‚ฌ์ „ ๊ธฐ์ค€์„ ํ†ต๊ณผํ•˜์ง€ ๋ชปํ–ˆ๋‹ค. ๊ธฐ์กด 16๊ฐœ ํŠน์ง• ๋ชจ๋ธ(์‹คํ—˜ 21, seed 1729) ๋Œ€๋น„ ํ˜ธ์ถœ 2,408โ†’1,884, ํŽ˜์ด์ง€ 6,326โ†’6,333์ด๋‹ค. ๊ธฐ๋ณธ ์ ์šฉํ•˜์ง€ ์•Š๋Š”๋‹ค. ์‹ค์ œ LLM ์ ˆ๊ฐ์€ ์ž…์ฆํ•˜์ง€ ์•Š์•˜๋‹ค.

๋ฌด์—‡์„ ์‹œํ—˜ํ–ˆ๋‚˜

๋ณด์กฐ ๊ฒ€์ƒ‰์ด ํŽ˜์ด์ง€๋ฅผ ์ค„์ด๋Š” ์งˆ๋ฌธ์€ 2,948๊ฐœ ์ค‘ 332๊ฐœ๋ฟ์ด๊ณ , 146๊ฐœ์—์„œ๋Š” ํŽ˜์ด์ง€๋ฅผ ๋Š˜๋ฆฌ๋ฉฐ 2,470๊ฐœ์—์„œ๋Š” ๊ฐ™๋‹ค. ์ด๋Ÿฐ ์กฐ๊ฑด๋ถ€ ์ฐจ์ด๋ฅผ ์•„์ฃผ ์ž‘์€ ๋ชจ๋ธ์ด ๊ตฌ๋ถ„ํ•  ์ˆ˜ ์žˆ๋Š”์ง€ ์‹œํ—˜ํ–ˆ๋‹ค. ์›๋ž˜ 16๊ฐœ ๊ธฐ๋ณธ ๊ฒ€์ƒ‰ ํŠน์ง•์„ ์œ ์ง€ํ•˜๊ณ , ๊ธฐ๋ณธ ํŽ˜์ด์ง€โˆ’๋ณด์กฐ ํŽ˜์ด์ง€๋ฅผ ์˜ˆ์ธกํ•˜๋Š” ํšŒ๊ท€ ํŠธ๋ฆฌ๋ฅผ Go๋กœ ์ง์ ‘ ํ•™์Šตํ–ˆ๋‹ค. ์–‘์ˆ˜๋Š” ์˜ˆ์ƒ ์ ˆ๊ฐ, ์Œ์ˆ˜๋Š” ์˜ˆ์ƒ ์†ํ•ด๋‹ค. ํ™•๋ฅ ์ด๋‚˜ ํ–‰๋™ ๊ถŒํ•œ์ด ์•„๋‹ˆ๋‹ค.

๊ธฐ์กด ์„ ํ˜• ๋ถ„๋ฅ˜์™€ ๋น„๊ตํ•ด ๋ชจ๋ธ ๊ตฌ์กฐ์™€ ํ•™์Šต ๋ชฉํ‘œ๊ฐ€ ๋ชจ๋‘ ๋ฐ”๋€๋‹ค. ๊ฒฐ๊ณผ ์ฐจ์ด๋ฅผ ๋น„์„ ํ˜• ๊ตฌ์กฐ ํ•˜๋‚˜์˜ ํšจ๊ณผ๋กœ ํ•ด์„ํ•˜์ง€ ์•Š๋Š”๋‹ค. ์ตœ๋Œ€ ๊นŠ์ด 1/2/3/4 ร— ๋ง๋‹จ ์ตœ์†Œ ํ‘œ๋ณธ 16/64 ร— ์ €์žฅ์†Œ ๋ถ„ํ•  3๊ฐœ = 24๊ฐœ ๋ชจ๋ธ ์กฐ๊ฑด์ด๋ฉฐ, ์งˆ๋ฌธ ์ˆ˜๋Š” ๊ทธ๋Œ€๋กœ ๊ณ ์œ  ์งˆ๋ฌธ 2,948๊ฐœ๋‹ค. ๊ฒฐ์ •์ ์ธ ์•Œ๊ณ ๋ฆฌ์ฆ˜์ด๋ผ seed๊ฐ€ ์—†๊ณ  ์žฌ์‹คํ–‰์€ ์žฌํ˜„ ํ™•์ธ์ผ ๋ฟ ๋…๋ฆฝ ์‹œํ—˜์ด ์•„๋‹ˆ๋‹ค.

๊ณ„ํš์„ ํ•™์Šต ์ „์— ์ปค๋ฐ‹ํ–ˆ๋‹ค. ํ•™์Šต ์ €์žฅ์†Œ์—์„œ ์ œ๊ณฑ์˜ค์ฐจ๋ฅผ ์ค„์ด๋Š” ๋ถ„ํ• ์„ ์„ ํƒํ•˜๊ณ , ๋ง๋‹จ์—๋Š” ํ•™์Šต ํ‘œ๋ณธ์˜ ํ‰๊ท  ์ ˆ๊ฐ์„ ์ €์žฅํ•œ๋‹ค. ๊ฒ€์ฆ ์ €์žฅ์†Œ์—์„œ ๊ธฐ์กด 90% ํ˜ธ์ถœ ์˜ˆ์‚ฐ ์ž„๊ณ„๊ฐ’๊ณผ ํ›„๋ณด ๋ชจ๋ธ์„ ๊ณ ๋ฅธ๋‹ค. ์„ ํƒ ์šฐ์„ ์ˆœ์œ„๋Š” ๊ฒ€์ฆ ํŽ˜์ด์ง€, ํ˜ธ์ถœ, ์ž‘์€ ๊นŠ์ด, ํฐ ์ตœ์†Œ ํ‘œ๋ณธ ์ˆ˜๋‹ค. ํ‰๊ฐ€ ๊ฒฐ๊ณผ๋Š” ์„ ํƒ์— ์‚ฌ์šฉํ•˜์ง€ ์•Š๋Š”๋‹ค. ๊ธฐ์กด ๋ชจ๋ธ์€ ๊ฒ€์ฆ๋œ HF 21 ํŒŒ์ผ ๊ทธ๋Œ€๋กœ ์ฝ๊ณ  ๋‹ค์‹œ ํ•™์Šตํ•˜์ง€ ์•Š์•˜๋‹ค.

๊ฒฐ๊ณผ

์ •์ฑ… ํ˜ธ์ถœ ํŽ˜์ด์ง€ Recall@10
๊ธฐ๋ณธ ๊ฒ€์ƒ‰ 0 9,488 0.7483
ํ•ญ์ƒ ๋ณด์กฐ ๊ฒ€์ƒ‰ 2,948 6,287 0.8138
๊ฐ„๋‹จํ•œ ์ ์ˆ˜ ์ฐจ์ด ๊ทœ์น™ 2,548 6,323 0.8097
์‹คํ—˜ 21, seed 1729 2,408 6,326 0.8100
์‹คํ—˜ 21, seed 2718 2,317 6,331 0.8094
์ƒˆ ํšŒ๊ท€ ํŠธ๋ฆฌ 1,884 6,333 0.8039
์ •๋‹ต ๊ธฐ๋ฐ˜ ํŽ˜์ด์ง€ oracle 332 6,014 0.7948

๋ชจ๋“  ์ •์ฑ…์˜ Recall@1์€ ๊ธฐ๋ณธ ๊ฒ€์ƒ‰๊ณผ ๊ฐ™์€ 0.4179๋‹ค. ํŠธ๋ฆฌ์˜ ๊ฒ€์ฆ ์„ ํƒ์€ etcd์—์„œ ๊นŠ์ด 4/์ตœ์†Œ 16, test-infra์™€ lxd์—์„œ ๊นŠ์ด 4/์ตœ์†Œ 64์˜€๋‹ค. ์ด 2,948๊ฐœ ์งˆ๋ฌธ์„ ๊ฐ ์ •์ฑ…์—์„œ ํ•œ ๋ฒˆ์”ฉ ์ง‘๊ณ„ํ–ˆ๋‹ค. ํ•ญ์ƒ ๋ณด์กฐ ๊ฒ€์ƒ‰๋ณด๋‹ค 46ํŽ˜์ด์ง€, ๊ฐ„๋‹จํ•œ ๊ทœ์น™๋ณด๋‹ค 10ํŽ˜์ด์ง€ ๋งŽ์•„ ๊ณ ์ •๋œ ๊ธฐ์ค€์„ ํ†ต๊ณผํ•˜์ง€ ๋ชปํ–ˆ๋‹ค. ํ˜ธ์ถœ ๊ฐ์†Œ๋งŒ์œผ๋กœ ์„ฑ๊ณต์œผ๋กœ ๋ฐ”๊พธ์ง€ ์•Š๋Š”๋‹ค.

์–ด๋””์„œ ์†ํ•ด๋ฅผ ๋ณด๋Š”๊ฐ€

์ •์ฑ… ์ด๋“ ์žˆ๋Š” ํ˜ธ์ถœ / 332 ๋†“์นœ ์ ˆ๊ฐ ํŽ˜์ด์ง€ ํ•ด๋กœ์šด ํ˜ธ์ถœ / 146 ๋ฐœ์ƒํ•œ ์†ํ•ด ํŽ˜์ด์ง€ ํŽ˜์ด์ง€ ๋™๋ฅ  ํ˜ธ์ถœ / 2,470
์ ์ˆ˜ ์ฐจ์ด ๊ทœ์น™ 319 39 144 270 2,085
์‹คํ—˜ 21, seed 1729 315 53 139 259 1,954
์‹คํ—˜ 21, seed 2718 313 58 139 259 1,865
ํšŒ๊ท€ ํŠธ๋ฆฌ 299 62 135 257 1,450

ํŠธ๋ฆฌ๋Š” ํŽ˜์ด์ง€ ๋™๋ฅ  ํ˜ธ์ถœ์„ ๋งŽ์ด ์ค„์˜€์ง€๋งŒ, ํ•ด๋กœ์šด 146๊ฐœ ์ค‘ 135๊ฐœ๋ฅผ ์—ฌ์ „ํžˆ ํ˜ธ์ถœํ–ˆ๋‹ค. ์ด ์ž๋ฃŒ์—์„œ ํŽ˜์ด์ง€ ๋น„์šฉ์€ 6,014(oracle) + ๋†“์นœ ์ ˆ๊ฐ + ๋ฐœ์ƒํ•œ ์†ํ•ด๋กœ ์„ค๋ช…๋œ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด ํŠธ๋ฆฌ๋Š” 6,014+62+257=6,333์ด๋‹ค. ์ง€๊ธˆ์€ ๋ถˆํ•„์š”ํ•œ ํ˜ธ์ถœ์„ ์ค„์ด๋Š” ์‹ ํ˜ธ๋ณด๋‹ค ํ•ด๋กœ์šด ๋ณด์กฐ ๊ฒ€์ƒ‰์„ ๊ตฌ๋ณ„ํ•˜๋Š” ์‹ ํ˜ธ๋ฅผ ๋” ์ ๊ฒ€ํ•  ๊ทผ๊ฑฐ๊ฐ€ ์ƒ๊ฒผ๋‹ค. ์ด ํ‘œ๋งŒ์œผ๋กœ ๊ธฐ์กด ํŠน์ง•์— ๊ทธ๋Ÿฐ ์ •๋ณด๊ฐ€ ์ „ํ˜€ ์—†๋‹ค๊ณ  ๊ฒฐ๋ก  ๋‚ด๋ฆฌ์ง€๋Š” ์•Š๋Š”๋‹ค.

Oracle์€ ์ •๋‹ต์„ ๋ฏธ๋ฆฌ ์ฝ๋Š” ๊ณ„์‚ฐ์ƒ ํ•˜ํ•œ์ด๋ฉฐ ์‹คํ–‰ ๊ฐ€๋Šฅํ•œ ์ •์ฑ…์ด ์•„๋‹ˆ๋‹ค. ํŽ˜์ด์ง€๊ฐ€ ๊ฐ™์•„๋„ 20๊ฐœ ๋ฌถ์Œ ์•ˆ์—์„œ ์ •๋‹ต ์ˆœ์œ„๊ฐ€ ๋‹ฌ๋ผ์ ธ Recall@10์€ ๋‹ฌ๋ผ์งˆ ์ˆ˜ ์žˆ๋‹ค. ๋”ฐ๋ผ์„œ ํŽ˜์ด์ง€ ๋™๋ฅ  2,470๊ฐœ๋ฅผ ๋ชจ๋“  ๊ด€์ ์—์„œ ๋ฌด๊ฐ€์น˜ํ•œ ํ˜ธ์ถœ์ด๋ผ๊ณ  ๋ถ€๋ฅด๋ฉด ์•ˆ ๋œ๋‹ค. Oracle์˜ ์ž๋™ ์Šน๊ฒฉ๋„ ๋ช…์‹œ์ ์œผ๋กœ ๊ธˆ์ง€ํ•œ๋‹ค.

์ž์›๊ณผ ๊ตฌํ˜„

Go ๋ชจ๋ธ์€ ์ตœ๋Œ€ 31๊ฐœ ๋…ธ๋“œ์˜ ํŠน์ง• ๋ฒˆํ˜ธยท์ขŒ์šฐ ์ž์‹ยท๋ถ„ํ• ๊ฐ’ยท์˜ˆ์ธก๊ฐ’์„ ๋ณ„๋„ ๊ณ ์ • ๋ฐฐ์—ด๋กœ ์ €์žฅํ•œ๋‹ค. ๊ฒ€์ฆ ํ›„ ์ฝ๊ธฐ๋งŒ ํ•˜๋ฏ€๋กœ ๊ณต์œ  ์ž ๊ธˆ์ด ํ•„์š” ์—†๋‹ค. ์ ์ˆ˜ ๊ณ„์‚ฐ์€ ์ตœ๋Œ€ 4๋ฒˆ ๋น„๊ตํ•˜๋ฉฐ ํ• ๋‹นํ•˜์ง€ ์•Š๋Š”๋‹ค. ํ•™์Šต ๋‹จ๊ณ„์—๋Š” ์ •๋ ฌยท๋ถ„ํ• ์„ ์œ„ํ•œ ์ž„์‹œ ๋ฐฐ์—ด ํ• ๋‹น์ด ์žˆ๋‹ค. ํ•™์Šต๊นŒ์ง€ ๋ฌดํ• ๋‹น์ด๋ผ๊ณ  ์ฃผ์žฅํ•˜์ง€ ์•Š๋Š”๋‹ค. SIMDยทGPU๋Š” ์‚ฌ์šฉํ•˜์ง€ ์•Š์•˜๋‹ค. float64 ์ˆ˜์น˜ ํŠธ๋ฆฌ์ด๋ฉฐ 3์ง„ ์••์ถ• ์‹คํ—˜์€ ๋ณ„๋„๋‹ค.

Apple M4 Pro/macOS/Go 1.27.1์—์„œ ๊ณ ์ •๋œ ํ•ฉ์„ฑ ๊นŠ์ด 4 ๊ฒฝ๋กœ๋ฅผ ๋ฐ˜๋ณตํ•œ ์ธก์ •์€ 2.501/2.483/2.407ns, 0 B/op, 0 allocs/op์ด์—ˆ๋‹ค. ๋ถ„๊ธฐ ์˜ˆ์ธก๊ณผ ์บ์‹œ์— ์œ ๋ฆฌํ•œ ๋งˆ์ดํฌ๋กœ๋ฒค์น˜๋งˆํฌ๋‹ค. ํŠน์ง• ์ถ”์ถœยท๊ฒ€์ƒ‰ยทJSONยทํ”„๋กœ์„ธ์Šค ์‹คํ–‰์€ ํฌํ•จํ•˜์ง€ ์•Š์œผ๋ฉฐ ์‹ค์ œ ์งˆ์˜ ์ง€์—ฐ์œผ๋กœ ์“ฐ์ง€ ์•Š๋Š”๋‹ค. CPU ํ”„๋กœํŒŒ์ผ์˜ 75.19%๊ฐ€ ์ ์ˆ˜ ๊ณ„์‚ฐ์— ํฌํ•จ๋๊ณ , ์ด๊ฒƒ๋„ ์ด ํ•ฉ์„ฑ ๋ฐ˜๋ณต ๋ฒ”์œ„๋‹ค.

์ „์ฒด ์›์ฒœ ๊ฒ€์ฆยท์ค€๋น„ยท24ํšŒ ํ•™์Šตยทํ‰๊ฐ€ยท์ถœ๋ ฅ ํ•œ ๋ฒˆ์€ wall 1.80์ดˆ, user CPU 1.43์ดˆ, ์ตœ๋Œ€ RSS 99,008,512๋ฐ”์ดํŠธ(์•ฝ 94.4MiB)์˜€๋‹ค. ์ „์ฒด ํ”„๋กœ์„ธ์Šค ์ธก์ •์ด๋ฉฐ ๊ฐœ๋ณ„ ๋ชจ๋ธ์ด๋‚˜ GPU ๋ฉ”๋ชจ๋ฆฌ๊ฐ€ ์•„๋‹ˆ๋‹ค. JSON ๋ชจ๋ธ ํ•˜๋‚˜๋Š” 2,059โ€“2,562๋ฐ”์ดํŠธ๋‹ค. ๋” ์ž‘์€ ์ง๋ ฌํ™”๋Š” ํ’ˆ์งˆ์ด ํ™•์ธ๋œ ๋’ค ๋ณ„๋„๋กœ ๋น„๊ตํ•œ๋‹ค.

24๊ฐœ ๋ชจ๋ธ๊ณผ ๊ฒฐ๊ณผ 1๊ฐœ๊ฐ€ ์žฌ์‹คํ–‰์—์„œ 25/25 ๋ฐ”์ดํŠธ ์ผ์น˜ํ–ˆ๊ณ , ๊ณ ์ •๋œ ์‹คํ—˜ 21 ๋‘ ์ •์ฑ…์˜ ์ „์ฒด ์ง€ํ‘œ๋„ ๊ธฐ์กด ๊ฒฐ๊ณผ์™€ ์ •ํ™•ํžˆ ์ผ์น˜ํ–ˆ๋‹ค. ๋ถ„ํ•  ์ตœ์†Œ ํฌ๊ธฐยท๋™์ผ ํŠน์ง• ์ฒ˜๋ฆฌยท๊ฒฐ์ •์  ์„ ํƒยท์ž˜๋ชป๋œ ํŠธ๋ฆฌยทํ‰๊ฐ€ ๋ฐ์ดํ„ฐ ๊ฒฉ๋ฆฌ๋ฅผ ๊ฒ€์‚ฌํ–ˆ๋‹ค.

go run ./cmd/riido-shallowclaim --control .cache/spread-claim-hf-verified-21 --out .cache/shallow-claim-22
go test ./internal/claimtree -run '^$' -bench BenchmarkScoreDepth4 -benchmem

์ „์ฒด ๊ฒฐ๊ณผ. ์ œ๊ณฑ์˜ค์ฐจ ๋ถ„ํ• ยท๋ง๋‹จ ํ‰๊ท ยท๊นŠ์ด ์ œํ•œ ์›๋ฆฌ๋Š” ํšŒ๊ท€ ํŠธ๋ฆฌ ๋ฌธ์„œ๋ฅผ ์ฐธ๊ณ ํ–ˆ๋‹ค. ์™ธ๋ถ€ ๊ตฌํ˜„์„ ๋ณต์‚ฌํ•˜๊ฑฐ๋‚˜ Python ๋Ÿฐํƒ€์ž„์„ ์ถ”๊ฐ€ํ•˜์ง€ ์•Š์•˜๋‹ค.

์ด๋Š” ๋ฐ˜๋ณต ๊ด€์ฐฐํ•œ ์„ธ ์ €์žฅ์†Œ ์„ค๋ช… ์งˆ๋ฌธ์˜ ๊ฐœ๋ฐœ ์‹œํ—˜์ด๋‹ค. ์ƒˆ๋กœ์šด ์‹ค์ œ ์‚ฌ์šฉ์ž ์š”์ฒญ 2,400๊ฐœ, ์ €์žฅ์†Œ ์„ ํƒยท์ž‘์—… ๋ถ„ํ• , ์‹ค์ œ ์—์ด์ „ํŠธ ์™„๋ฃŒ์œจยท์ด๋น„์šฉ์€ ๋ฏธ๊ฒ€์ฆ์ด๋‹ค. CoSQA reserve๋Š” ์‚ฌ์šฉํ•˜์ง€ ์•Š์•˜๋‹ค. ๋‹ค์Œ์€ ์œ ํ•ด ํ˜ธ์ถœ์˜ ์ž…๋ ฅ ์‹ ํ˜ธ์™€ ํ’ˆ์งˆยท๋น„์šฉ์˜ ๊ด€๊ณ„๋ฅผ ๋ณ„๋„ ๊ณ„ํš์œผ๋กœ ๊ฒ€์ฆํ•œ๋‹ค. ์‹คํŒจํ•œ ๋ชจ๋ธ๋„ ์žฌํ˜„์šฉ ์—ฐ๊ตฌ ์ž๋ฃŒ๋กœ๋งŒ ๋ณด๊ด€ํ•˜๋ฉฐ ์›๋ฌธยท๊ฐœ๋ณ„ ์งˆ๋ฌธยท์ •๋‹ตยท์›์‹œ ํ”„๋กœํŒŒ์ผ์€ ๊ณต๊ฐœํ•˜์ง€ ์•Š๋Š”๋‹ค.

Source / ์†Œ์Šค

Publication / ๋ฐฐํฌ: immutable research archive. 31/31 files byte-identical after download; exact-source CI passed. MANIFEST SHA-256: a7e7831e52aeb2ca64ec247414332aab91d65263c7fac27cdaf7c55123301290. PR #45 merged as 90a3949b578f7ece957ed8997a7412b1d9170fc1; research-only, not activated.