Shallow Claim 22 KO - teamswyg/laya-tools GitHub Wiki
์์ ํ๊ท ํธ๋ฆฌ๋ก ํธ์ถ์ ๊ณ ๋ฅด๋ ์คํ 22
ํธ์ถ์ ๋ ์ค์์ง๋ง, ํ์ด์งยท๊ฒ์ ํ์ง์์ ์ํด๊ฐ ์์ด ์ฌ์ ๊ธฐ์ค์ ํต๊ณผํ์ง ๋ชปํ๋ค. ๊ธฐ์กด 16๊ฐ ํน์ง ๋ชจ๋ธ(์คํ 21, seed 1729) ๋๋น ํธ์ถ 2,408โ1,884, ํ์ด์ง 6,326โ6,333์ด๋ค. ๊ธฐ๋ณธ ์ ์ฉํ์ง ์๋๋ค. ์ค์ LLM ์ ๊ฐ์ ์ ์ฆํ์ง ์์๋ค.
๋ฌด์์ ์ํํ๋
๋ณด์กฐ ๊ฒ์์ด ํ์ด์ง๋ฅผ ์ค์ด๋ ์ง๋ฌธ์ 2,948๊ฐ ์ค 332๊ฐ๋ฟ์ด๊ณ , 146๊ฐ์์๋ ํ์ด์ง๋ฅผ ๋๋ฆฌ๋ฉฐ 2,470๊ฐ์์๋ ๊ฐ๋ค. ์ด๋ฐ ์กฐ๊ฑด๋ถ ์ฐจ์ด๋ฅผ ์์ฃผ ์์ ๋ชจ๋ธ์ด ๊ตฌ๋ถํ ์ ์๋์ง ์ํํ๋ค. ์๋ 16๊ฐ ๊ธฐ๋ณธ ๊ฒ์ ํน์ง์ ์ ์งํ๊ณ , ๊ธฐ๋ณธ ํ์ด์งโ๋ณด์กฐ ํ์ด์ง๋ฅผ ์์ธกํ๋ ํ๊ท ํธ๋ฆฌ๋ฅผ Go๋ก ์ง์ ํ์ตํ๋ค. ์์๋ ์์ ์ ๊ฐ, ์์๋ ์์ ์ํด๋ค. ํ๋ฅ ์ด๋ ํ๋ ๊ถํ์ด ์๋๋ค.
๊ธฐ์กด ์ ํ ๋ถ๋ฅ์ ๋น๊ตํด ๋ชจ๋ธ ๊ตฌ์กฐ์ ํ์ต ๋ชฉํ๊ฐ ๋ชจ๋ ๋ฐ๋๋ค. ๊ฒฐ๊ณผ ์ฐจ์ด๋ฅผ ๋น์ ํ ๊ตฌ์กฐ ํ๋์ ํจ๊ณผ๋ก ํด์ํ์ง ์๋๋ค. ์ต๋ ๊น์ด 1/2/3/4 ร ๋ง๋จ ์ต์ ํ๋ณธ 16/64 ร ์ ์ฅ์ ๋ถํ 3๊ฐ = 24๊ฐ ๋ชจ๋ธ ์กฐ๊ฑด์ด๋ฉฐ, ์ง๋ฌธ ์๋ ๊ทธ๋๋ก ๊ณ ์ ์ง๋ฌธ 2,948๊ฐ๋ค. ๊ฒฐ์ ์ ์ธ ์๊ณ ๋ฆฌ์ฆ์ด๋ผ seed๊ฐ ์๊ณ ์ฌ์คํ์ ์ฌํ ํ์ธ์ผ ๋ฟ ๋ ๋ฆฝ ์ํ์ด ์๋๋ค.
๊ณํ์ ํ์ต ์ ์ ์ปค๋ฐํ๋ค. ํ์ต ์ ์ฅ์์์ ์ ๊ณฑ์ค์ฐจ๋ฅผ ์ค์ด๋ ๋ถํ ์ ์ ํํ๊ณ , ๋ง๋จ์๋ ํ์ต ํ๋ณธ์ ํ๊ท ์ ๊ฐ์ ์ ์ฅํ๋ค. ๊ฒ์ฆ ์ ์ฅ์์์ ๊ธฐ์กด 90% ํธ์ถ ์์ฐ ์๊ณ๊ฐ๊ณผ ํ๋ณด ๋ชจ๋ธ์ ๊ณ ๋ฅธ๋ค. ์ ํ ์ฐ์ ์์๋ ๊ฒ์ฆ ํ์ด์ง, ํธ์ถ, ์์ ๊น์ด, ํฐ ์ต์ ํ๋ณธ ์๋ค. ํ๊ฐ ๊ฒฐ๊ณผ๋ ์ ํ์ ์ฌ์ฉํ์ง ์๋๋ค. ๊ธฐ์กด ๋ชจ๋ธ์ ๊ฒ์ฆ๋ HF 21 ํ์ผ ๊ทธ๋๋ก ์ฝ๊ณ ๋ค์ ํ์ตํ์ง ์์๋ค.
๊ฒฐ๊ณผ
| ์ ์ฑ | ํธ์ถ | ํ์ด์ง | Recall@10 |
|---|---|---|---|
| ๊ธฐ๋ณธ ๊ฒ์ | 0 | 9,488 | 0.7483 |
| ํญ์ ๋ณด์กฐ ๊ฒ์ | 2,948 | 6,287 | 0.8138 |
| ๊ฐ๋จํ ์ ์ ์ฐจ์ด ๊ท์น | 2,548 | 6,323 | 0.8097 |
| ์คํ 21, seed 1729 | 2,408 | 6,326 | 0.8100 |
| ์คํ 21, seed 2718 | 2,317 | 6,331 | 0.8094 |
| ์ ํ๊ท ํธ๋ฆฌ | 1,884 | 6,333 | 0.8039 |
| ์ ๋ต ๊ธฐ๋ฐ ํ์ด์ง oracle | 332 | 6,014 | 0.7948 |
๋ชจ๋ ์ ์ฑ ์ Recall@1์ ๊ธฐ๋ณธ ๊ฒ์๊ณผ ๊ฐ์ 0.4179๋ค. ํธ๋ฆฌ์ ๊ฒ์ฆ ์ ํ์ etcd์์ ๊น์ด 4/์ต์ 16, test-infra์ lxd์์ ๊น์ด 4/์ต์ 64์๋ค. ์ด 2,948๊ฐ ์ง๋ฌธ์ ๊ฐ ์ ์ฑ ์์ ํ ๋ฒ์ฉ ์ง๊ณํ๋ค. ํญ์ ๋ณด์กฐ ๊ฒ์๋ณด๋ค 46ํ์ด์ง, ๊ฐ๋จํ ๊ท์น๋ณด๋ค 10ํ์ด์ง ๋ง์ ๊ณ ์ ๋ ๊ธฐ์ค์ ํต๊ณผํ์ง ๋ชปํ๋ค. ํธ์ถ ๊ฐ์๋ง์ผ๋ก ์ฑ๊ณต์ผ๋ก ๋ฐ๊พธ์ง ์๋๋ค.
์ด๋์ ์ํด๋ฅผ ๋ณด๋๊ฐ
| ์ ์ฑ | ์ด๋ ์๋ ํธ์ถ / 332 | ๋์น ์ ๊ฐ ํ์ด์ง | ํด๋ก์ด ํธ์ถ / 146 | ๋ฐ์ํ ์ํด ํ์ด์ง | ํ์ด์ง ๋๋ฅ ํธ์ถ / 2,470 |
|---|---|---|---|---|---|
| ์ ์ ์ฐจ์ด ๊ท์น | 319 | 39 | 144 | 270 | 2,085 |
| ์คํ 21, seed 1729 | 315 | 53 | 139 | 259 | 1,954 |
| ์คํ 21, seed 2718 | 313 | 58 | 139 | 259 | 1,865 |
| ํ๊ท ํธ๋ฆฌ | 299 | 62 | 135 | 257 | 1,450 |
ํธ๋ฆฌ๋ ํ์ด์ง ๋๋ฅ ํธ์ถ์ ๋ง์ด ์ค์์ง๋ง, ํด๋ก์ด 146๊ฐ ์ค 135๊ฐ๋ฅผ ์ฌ์ ํ ํธ์ถํ๋ค. ์ด ์๋ฃ์์ ํ์ด์ง ๋น์ฉ์ 6,014(oracle) + ๋์น ์ ๊ฐ + ๋ฐ์ํ ์ํด๋ก ์ค๋ช
๋๋ค. ์๋ฅผ ๋ค์ด ํธ๋ฆฌ๋ 6,014+62+257=6,333์ด๋ค. ์ง๊ธ์ ๋ถํ์ํ ํธ์ถ์ ์ค์ด๋ ์ ํธ๋ณด๋ค ํด๋ก์ด ๋ณด์กฐ ๊ฒ์์ ๊ตฌ๋ณํ๋ ์ ํธ๋ฅผ ๋ ์ ๊ฒํ ๊ทผ๊ฑฐ๊ฐ ์๊ฒผ๋ค. ์ด ํ๋ง์ผ๋ก ๊ธฐ์กด ํน์ง์ ๊ทธ๋ฐ ์ ๋ณด๊ฐ ์ ํ ์๋ค๊ณ ๊ฒฐ๋ก ๋ด๋ฆฌ์ง๋ ์๋๋ค.
Oracle์ ์ ๋ต์ ๋ฏธ๋ฆฌ ์ฝ๋ ๊ณ์ฐ์ ํํ์ด๋ฉฐ ์คํ ๊ฐ๋ฅํ ์ ์ฑ ์ด ์๋๋ค. ํ์ด์ง๊ฐ ๊ฐ์๋ 20๊ฐ ๋ฌถ์ ์์์ ์ ๋ต ์์๊ฐ ๋ฌ๋ผ์ ธ Recall@10์ ๋ฌ๋ผ์ง ์ ์๋ค. ๋ฐ๋ผ์ ํ์ด์ง ๋๋ฅ 2,470๊ฐ๋ฅผ ๋ชจ๋ ๊ด์ ์์ ๋ฌด๊ฐ์นํ ํธ์ถ์ด๋ผ๊ณ ๋ถ๋ฅด๋ฉด ์ ๋๋ค. Oracle์ ์๋ ์น๊ฒฉ๋ ๋ช ์์ ์ผ๋ก ๊ธ์งํ๋ค.
์์๊ณผ ๊ตฌํ
Go ๋ชจ๋ธ์ ์ต๋ 31๊ฐ ๋ ธ๋์ ํน์ง ๋ฒํธยท์ข์ฐ ์์ยท๋ถํ ๊ฐยท์์ธก๊ฐ์ ๋ณ๋ ๊ณ ์ ๋ฐฐ์ด๋ก ์ ์ฅํ๋ค. ๊ฒ์ฆ ํ ์ฝ๊ธฐ๋ง ํ๋ฏ๋ก ๊ณต์ ์ ๊ธ์ด ํ์ ์๋ค. ์ ์ ๊ณ์ฐ์ ์ต๋ 4๋ฒ ๋น๊ตํ๋ฉฐ ํ ๋นํ์ง ์๋๋ค. ํ์ต ๋จ๊ณ์๋ ์ ๋ ฌยท๋ถํ ์ ์ํ ์์ ๋ฐฐ์ด ํ ๋น์ด ์๋ค. ํ์ต๊น์ง ๋ฌดํ ๋น์ด๋ผ๊ณ ์ฃผ์ฅํ์ง ์๋๋ค. SIMDยทGPU๋ ์ฌ์ฉํ์ง ์์๋ค. float64 ์์น ํธ๋ฆฌ์ด๋ฉฐ 3์ง ์์ถ ์คํ์ ๋ณ๋๋ค.
Apple M4 Pro/macOS/Go 1.27.1์์ ๊ณ ์ ๋ ํฉ์ฑ ๊น์ด 4 ๊ฒฝ๋ก๋ฅผ ๋ฐ๋ณตํ ์ธก์ ์ 2.501/2.483/2.407ns, 0 B/op, 0 allocs/op์ด์๋ค. ๋ถ๊ธฐ ์์ธก๊ณผ ์บ์์ ์ ๋ฆฌํ ๋ง์ดํฌ๋ก๋ฒค์น๋งํฌ๋ค. ํน์ง ์ถ์ถยท๊ฒ์ยทJSONยทํ๋ก์ธ์ค ์คํ์ ํฌํจํ์ง ์์ผ๋ฉฐ ์ค์ ์ง์ ์ง์ฐ์ผ๋ก ์ฐ์ง ์๋๋ค. CPU ํ๋กํ์ผ์ 75.19%๊ฐ ์ ์ ๊ณ์ฐ์ ํฌํจ๋๊ณ , ์ด๊ฒ๋ ์ด ํฉ์ฑ ๋ฐ๋ณต ๋ฒ์๋ค.
์ ์ฒด ์์ฒ ๊ฒ์ฆยท์ค๋นยท24ํ ํ์ตยทํ๊ฐยท์ถ๋ ฅ ํ ๋ฒ์ wall 1.80์ด, user CPU 1.43์ด, ์ต๋ RSS 99,008,512๋ฐ์ดํธ(์ฝ 94.4MiB)์๋ค. ์ ์ฒด ํ๋ก์ธ์ค ์ธก์ ์ด๋ฉฐ ๊ฐ๋ณ ๋ชจ๋ธ์ด๋ GPU ๋ฉ๋ชจ๋ฆฌ๊ฐ ์๋๋ค. JSON ๋ชจ๋ธ ํ๋๋ 2,059โ2,562๋ฐ์ดํธ๋ค. ๋ ์์ ์ง๋ ฌํ๋ ํ์ง์ด ํ์ธ๋ ๋ค ๋ณ๋๋ก ๋น๊ตํ๋ค.
24๊ฐ ๋ชจ๋ธ๊ณผ ๊ฒฐ๊ณผ 1๊ฐ๊ฐ ์ฌ์คํ์์ 25/25 ๋ฐ์ดํธ ์ผ์นํ๊ณ , ๊ณ ์ ๋ ์คํ 21 ๋ ์ ์ฑ ์ ์ ์ฒด ์งํ๋ ๊ธฐ์กด ๊ฒฐ๊ณผ์ ์ ํํ ์ผ์นํ๋ค. ๋ถํ ์ต์ ํฌ๊ธฐยท๋์ผ ํน์ง ์ฒ๋ฆฌยท๊ฒฐ์ ์ ์ ํยท์๋ชป๋ ํธ๋ฆฌยทํ๊ฐ ๋ฐ์ดํฐ ๊ฒฉ๋ฆฌ๋ฅผ ๊ฒ์ฌํ๋ค.
go run ./cmd/riido-shallowclaim --control .cache/spread-claim-hf-verified-21 --out .cache/shallow-claim-22
go test ./internal/claimtree -run '^$' -bench BenchmarkScoreDepth4 -benchmem
์ ์ฒด ๊ฒฐ๊ณผ. ์ ๊ณฑ์ค์ฐจ ๋ถํ ยท๋ง๋จ ํ๊ท ยท๊น์ด ์ ํ ์๋ฆฌ๋ ํ๊ท ํธ๋ฆฌ ๋ฌธ์๋ฅผ ์ฐธ๊ณ ํ๋ค. ์ธ๋ถ ๊ตฌํ์ ๋ณต์ฌํ๊ฑฐ๋ Python ๋ฐํ์์ ์ถ๊ฐํ์ง ์์๋ค.
์ด๋ ๋ฐ๋ณต ๊ด์ฐฐํ ์ธ ์ ์ฅ์ ์ค๋ช ์ง๋ฌธ์ ๊ฐ๋ฐ ์ํ์ด๋ค. ์๋ก์ด ์ค์ ์ฌ์ฉ์ ์์ฒญ 2,400๊ฐ, ์ ์ฅ์ ์ ํยท์์ ๋ถํ , ์ค์ ์์ด์ ํธ ์๋ฃ์จยท์ด๋น์ฉ์ ๋ฏธ๊ฒ์ฆ์ด๋ค. CoSQA reserve๋ ์ฌ์ฉํ์ง ์์๋ค. ๋ค์์ ์ ํด ํธ์ถ์ ์ ๋ ฅ ์ ํธ์ ํ์งยท๋น์ฉ์ ๊ด๊ณ๋ฅผ ๋ณ๋ ๊ณํ์ผ๋ก ๊ฒ์ฆํ๋ค. ์คํจํ ๋ชจ๋ธ๋ ์ฌํ์ฉ ์ฐ๊ตฌ ์๋ฃ๋ก๋ง ๋ณด๊ดํ๋ฉฐ ์๋ฌธยท๊ฐ๋ณ ์ง๋ฌธยท์ ๋ตยท์์ ํ๋กํ์ผ์ ๊ณต๊ฐํ์ง ์๋๋ค.
Publication / ๋ฐฐํฌ: immutable research archive. 31/31 files byte-identical after download; exact-source CI passed. MANIFEST SHA-256: a7e7831e52aeb2ca64ec247414332aab91d65263c7fac27cdaf7c55123301290. PR #45 merged as 90a3949b578f7ece957ed8997a7412b1d9170fc1; research-only, not activated.