Training Scope 41 KO - teamswyg/laya-tools GitHub Wiki

ํ›„์† ์ˆซ์ž ๋ชจ๋ธ์˜ ํ•™์Šต ๋ฒ”์œ„์™€ ์ž…๋ ฅ ๊ณ„์•ฝ โ€” ์‹คํ—˜ 41

์‹ค์ œ ํŒŒ์ผ ๊ฒ€์ƒ‰์šฉ ์ˆซ์ž ๋ชจ๋ธ์˜ ์ž…๋ ฅ 16๊ฐœ๋ฅผ ๊ณ ์ •ํ•˜๊ณ , ๊ธด ์งˆ๋ฌธยทํฐ ํ›„๋ณด ๋ชฉ๋ก์„ ์ฒ˜๋ฆฌํ•˜๋Š” ๋ณ„๋„ Go ๊ฒฝ๋กœ๋ฅผ ์ถ”๊ฐ€ํ–ˆ๋‹ค. ๊ธฐ์กด ๊ธฐ๋ณธ API ํ•œ๋„๋Š” ์œ ์ง€ํ•œ๋‹ค. ์ด๋ฒˆ ๋‹จ๊ณ„๋Š” ์ž…๋ ฅ ๊ณ„์•ฝ๊ณผ ์ด์šฉ ๋ฒ”์œ„ ์ •๋ฆฌ์ด๋ฉฐ ์‹ค์ œ ์ƒˆ ๋ชจ๋ธ ํ•™์Šต์ด๋‚˜ ๋ฒ•์  ์ผ๊ด„ ์Šน์ธ, HF ๋ฐฐํฌ๊ฐ€ ์•„๋‹ˆ๋‹ค.

๋ฒ”์œ„ ๊ณ„ํš๊ณผ ํŠน์ง• ๊ณ„ํš์€ ๊ตฌํ˜„ ์ „์— ์ปค๋ฐ‹ํ–ˆ๋‹ค. ํ›„์† ํ•™์Šต์€ ์ถ”๋ก  ์‹œ ๊ณ„์‚ฐ ๊ฐ€๋Šฅํ•œ ์ˆซ์ž๋ฅผ ์‚ฌ์šฉํ•ด ๋ณด์กฐ ๊ฒ€์ƒ‰์ด ๋„์›€์ด ๋  ๊ฐ€๋Šฅ์„ฑ์„ ์ œ์•ˆํ•˜๋Š” ๋ชฉ์ ์ด๋‹ค. ๊ฒฐ์ •์„ ๊ฐ•์ œํ•˜๊ฑฐ๋‚˜ ํ›„๋ณด๋ฅผ ์‚ญ์ œํ•˜๋Š” ๋ชจ๋ธ์ด ์•„๋‹ˆ๋‹ค.

์ถœ์ฒ˜์—์„œ ํ™•์ธํ•œ ์‚ฌ์‹ค๊ณผ ๋‚จ์€ ์กฐ๊ฑด

๊ณต์‹ SWE-bench ๊ณ ์ • README๋Š” ์ „์ฒ˜๋ฆฌ ์ž๋ฃŒ๋ฅผ ์ด์šฉํ•œ ํ•™์Šต์„ ์•ˆ๋‚ดํ•˜๊ณ  MIT๋ฅผ ํ‘œ๊ธฐํ•œ๋‹ค. ์‹ค์ œ LICENSE์™€ ๊ณ ์ • ํ•™์Šต ์นด๋“œยทParquetยท์†Œ์† ๋ชฉ๋ก์˜ ํ•ด์‹œ๋ฅผ ์žฌ๊ฒ€์ฆํ–ˆ๋‹ค. ๊ทผ๊ฑฐ ๋ชฉ๋ก.

ํ˜„ํ–‰ GitHub ์•ฝ๊ด€ D.6์€ ์ €์žฅ์†Œ ๋ผ์ด์„ ์Šค ์•„๋ž˜ ๊ธฐ์—ฌ์™€ ๋ณ„๋„ ๊ณ„์•ฝ์˜ ์šฐ์„  ์ ์šฉ์„ ์„ค๋ช…ํ•œ๋‹ค. GitHub ์ž์‹ ์—๊ฒŒ ์ฃผ์–ด์ง„ AI ํ•™์Šต ๊ถŒ๋ฆฌ๋ฅผ ์šฐ๋ฆฌ ๊ถŒ๋ฆฌ๋กœ ๊ฐ€์ ธ์˜ค์ง€ ์•Š์œผ๋ฉฐ, ํ˜„ํ–‰ ์กฐํ•ญ์„ ๊ณผ๊ฑฐ ์ด์Šˆ ์ „๋ถ€์˜ ๊ถŒ๋ฆฌ ์ฆ๋ช…์œผ๋กœ ์†Œ๊ธ‰ํ•˜์ง€ ์•Š๋Š”๋‹ค.

์ด๋Š” ์นด๋“œ์˜ ๋นˆ ๋ผ์ด์„ ์Šค ํ•„๋“œ๋งŒ์œผ๋กœ ํ•™์Šต ๊ธˆ์ง€๋ฅผ ๋‹จ์ •ํ•  ๊ทผ๊ฑฐ๊ฐ€ ์—†๋‹ค๋Š” ํŒ๋‹จ์„ ๋’ท๋ฐ›์นจํ•œ๋‹ค. ๋‹ค๋งŒ ๊ฐ ์› ์ €์žฅ์†Œ/์ž‘์„ฑ์ž์˜ ์กฐ๊ฑด์„ ์ผ๊ด„ ๋Œ€์‹ ํ•˜์ง€ ์•Š๋Š”๋‹ค. Prefect์˜ ๋ฌธ์ œ๋œ ๊ณผ๊ฑฐ ์‹œ์ ์€ README๊นŒ์ง€ ํ™•์ธํ–ˆ์œผ๋‚˜ ํ—ˆ๊ฐ€ ๋ฌธ๊ตฌ๋ฅผ ์ฐพ์ง€ ๋ชปํ–ˆ๋‹ค. ํ˜„์žฌ Apache ๋ถ„๋ฅ˜๋กœ ์ด ๊ณต๋ฐฑ์„ ๋ฉ”์šฐ์ง€ ์•Š๋Š”๋‹ค. ์› README๋ฅผ ๋ณต์‚ฌยท๊ฒŒ์‹œํ•˜์ง€ ์•Š๊ณ  ์ฐธ์กฐ์™€ ์‹๋ณ„์ž๋งŒ ๋‚จ๊ธด๋‹ค.

์ง„ํ–‰ ๋ฒ”์œ„

๊ธฐ๊ณ„ ํŒ๋… ์ •์ฑ…์€ ๊ธฐ์ˆ ์  ์ง„ํ–‰ ํŒ๋‹จ๊ณผ ๊ถŒ๋ฆฌ ํ™•์ธ์„ ๋ถ„๋ฆฌํ•œ๋‹ค.

๋Œ€์ƒ ์ด๋ฒˆ ํŒ๋‹จ
๊ณ ์ • ๊ฐœ๋ฐœ ์ž๋ฃŒ์˜ ๊ฒ€์‚ฌยท์ˆซ์ž ์ž…๋ ฅ ๊ตฌํ˜„ ์ง„ํ–‰
์ž์ฒด ์ˆซ์ž ํ—ค๋“œ์˜ ๋กœ์ปฌ ํ•™์Šต ์ถœ์ฒ˜ ์ ๊ฒฉ์„ฑ๊ณผ ์‚ฌ์ „ ์‹คํ—˜ ๊ทœ์น™์„ ํ™•์ธํ•œ ์ž๋ฃŒ์— ํ•œํ•ด ์ง„ํ–‰ ๊ฐ€๋Šฅํ•œ ๋ฒ”์œ„๋กœ ์ •์˜; ์•„์ง ์ƒˆ ํ•™์Šต ์‹คํ–‰ ์ „
๊ถŒ๋ฆฌ๊ฐ€ ๋ฏธํ™•์ธ/์ถฉ๋Œํ•˜๋Š” ์‹œ์  ๋ฏธํ™•์ธ ์ƒํƒœ ์œ ์ง€, ํ•™์Šต ๊ฐ€๋Šฅ์œผ๋กœ ์กฐ์šฉํžˆ ๋ฐ”๊พธ์ง€ ์•Š์Œ
์ด์Šˆยท์ฝ”๋“œยทํŒจ์น˜ ์›๋ฌธ ์žฌ๋ฐฐํฌ ์Šน์ธํ•˜์ง€ ์•Š์Œ
์›๋ฌธ ์ƒ์„ฑ ๋ชจ๋ธ/์› ์ธ์ฝ”๋” ํŒŒ์ธํŠœ๋‹ ์ด ์ข์€ ๊ฒ€ํ† ์˜ ๋ฒ”์œ„ ๋ฐ–
์ƒˆ ๋ชจ๋ธ์˜ HF ๊ณต๊ฐœยท๊ธฐ๋ณธ ํ™œ์„ฑํ™” ๋ณ„๋„ ์ถœ์ฒ˜/์‚ฐ์ถœ๋ฌผ/ํ’ˆ์งˆ ๊ฒ€์ฆ ์ „ ์Šน์ธํ•˜์ง€ ์•Š์Œ

์—ญํ•  ์†Œ์†์€ ํ•™์Šต 7,335๊ฐœยท๊ฒ€์ฆ 5,686๊ฐœยท์ตœ์ข… 2,402๊ฐœ ๊ทธ๋Œ€๋กœ๋‹ค. ๊ถŒ๋ฆฌยท๋ชฉ๋กยท์ •๋‹ต ๋ฏธํ™•๋ณด๋ฅผ ์ด์œ ๋กœ ํ–‰์„ ๋ถ„๋ชจ์—์„œ ์ง€์šฐ๊ฑฐ๋‚˜ ๋‹ค๋ฅธ ์—ญํ• ๋กœ ์˜ฎ๊ธฐ์ง€ ์•Š๋Š”๋‹ค. ํ•™์Šต์—์„œ ์ œ์™ธ๋˜๋Š” ๊ฒฝ์šฐ์—๋Š” ๋ชจ๋ธ ๊ฒฐ๊ณผ๋ฅผ ๋ณด๊ธฐ ์ „์— ์ด์œ ๋ฅผ ๊ธฐ๋กํ•œ๋‹ค. CI๋Š” ๊ธฐ์ˆ  ๊ฒ€์ฆ ๊ด€๋ฌธ์ด๋ฉฐ ๋ชจ๋“  ๊ถŒ๋ฆฌ์— ๋Œ€ํ•œ ๋ฒ•์  ๋ณด์ฆ์ด ์•„๋‹ˆ๋‹ค.

Go ์ž…๋ ฅ ๊ณ„์•ฝ

์ƒˆ searchclaim.PathFeatures๋Š” riido-path-claim-v1 ์ „์šฉ API๋‹ค. 128KiB๊นŒ์ง€์˜ ์œ ํšจํ•œ UTF-8 ์งˆ๋ฌธ๊ณผ ์ตœ๋Œ€ 100,000๊ฐœ ๊ฒฝ๋กœ ํ›„๋ณด์˜ ๊ธฐ๋ณธ ๊ฒ€์ƒ‰ ์ ์ˆ˜๋ฅผ ๋ฐ›๋Š”๋‹ค. ๊ธฐ์กด Features์˜ 8KiB/4,096๊ฐœ ํ•œ๋„์™€ ScoreSpread์˜ 4,096๊ฐœ ํ•œ๋„๋Š” ์œ ์ง€ํ•œ๋‹ค.

16๊ฐœ๋Š” ๊ธฐ์กด 12๊ฐœ ์ˆซ์ž์™€ ์ƒ์œ„ 20๊ฐœ ์ ์ˆ˜ ๋ถ„ํฌ 4๊ฐœ๋‹ค: ์ƒ์ˆ˜, ๋‹จ์–ด/๋ฐ”์ดํŠธ ์ˆ˜, ๋Œ€๋ฌธ์žยท์ˆซ์žยท๋ฐ‘์ค„ ๋น„์œจ, ๋‹จ์–ด๋‹น camel ๊ฒฝ๊ณ„, ๊ณ ์œ  ๋‹จ์–ด ๋น„์œจ, ์ƒ์œ„ ์ ์ˆ˜ยท์ ์ˆ˜ ์ฐจ์ด, ์ƒ์œ„ 10๊ฐœ/์ „์ฒด ์–‘์ˆ˜ ์ ์ˆ˜ ๋น„์œจ, ์ƒ์œ„ 20๊ฐœ ์ƒ๋Œ€ ํ‰๊ท ยทํ‘œ์ค€ํŽธ์ฐจยท์ฒซ ์ ์ˆ˜ ์ ์œ ์œจยท๋งˆ์ง€๋ง‰/์ฒซ ์ ์ˆ˜ ๋น„๋‹ค. ๋ชจ๋“  ๊ฐ’์€ ์œ ํ•œํ•œ [0,1]์ด๋‹ค. ๊ธด ์งˆ๋ฌธ์˜ ๋ฐ”์ดํŠธ ํŠน์ง•์€ ๊ธฐ์กด 8KiB ์Šค์ผ€์ผ์—์„œ 1๋กœ ํฌํ™”ํ•˜๋ฉฐ ์› ์งˆ๋ฌธ์„ ์ž˜๋ผ๋‚ด์ง€ ์•Š๋Š”๋‹ค.

์ •๋‹ต ๊ฒฝ๋กœยท์ •๋‹ต ์ˆœ์œ„ยท๋ณด์กฐ ๊ฒ€์ƒ‰ ๊ฒฐ๊ณผยท์ €์žฅ์†Œ ID๋Š” ํ•จ์ˆ˜ ์ž…๋ ฅ์— ์—†๋‹ค. ๋‹จ์–ด/๊ฒฝ๋กœ์˜ ์‹๋ณ„์ž๋ฅผ ๋ชจ๋ธ ํŠน์ง•์œผ๋กœ ๋„˜๊ธฐ์ง€ ์•Š๋Š”๋‹ค. ๊ธฐ๋ณธ ๊ฒ€์ƒ‰ ์ธ๋ฑ์Šค๊ฐ€ ์ƒ์„ฑํ•œ ์ˆœ์œ„๋ฅผ ์ „์ œ๋กœ ํ•˜๋ฉฐ, ์ด ํ•จ์ˆ˜๊ฐ€ ์ž„์˜ ์™ธ๋ถ€ ์ˆœ์—ด ์ „์ฒด๋ฅผ ์ธ์ฆํ•˜๋Š” ๊ฒƒ์€ ์•„๋‹ˆ๋‹ค. ์ƒˆ ๊ฒฝ๋กœ๋ฅผ ๋งŒ๋“ค์—ˆ๋‹ค๊ณ  ์ด์ „ ๋„๋ฉ”์ธ์˜ ๊ฐ€์ค‘์น˜๋ฅผ ์ž๋™ ์ ์šฉํ•˜์ง€ ์•Š๋Š”๋‹ค.

ํ•ฉ์„ฑ ๊ฒ€์‚ฌ์—์„œ ์งง์€ ์ž…๋ ฅ์˜ 16๊ฐœ ๊ฐ’์ด ๊ธฐ์กด ๋‘ ํ•จ์ˆ˜ ์กฐํ•ฉ๊ณผ ์ •ํ™•ํžˆ ์ผ์น˜ํ–ˆ๊ณ , ๊ธด ํ•œ๊ธ€ ์งˆ๋ฌธ/10,000๊ฐœ ์ ์ˆ˜, 128KiB/100,000๊ฐœ ๊ฒฝ๊ณ„, ์ž˜๋ชป๋œ UTF-8ยท์ ์ˆ˜ยท๋ฒ”์œ„, ํ˜ธ์ถœ์ž ๋ฐฐ์—ด ๋ณด์กด์„ ํ™•์ธํ–ˆ๋‹ค. ์ „์ฒด race/vet/ํ˜•์‹/redacted scan์„ ํ†ต๊ณผํ•œ ๋’ค ๊ณต๊ฐœํ•œ๋‹ค. ์ˆ˜์ง‘๊ณผ ๋™์‹œ ์ง„ํ–‰ํ–ˆ์œผ๋ฏ€๋กœ ์‹œ๊ฐ„ยท๋ฉ”๋ชจ๋ฆฌ ๊ฐœ์„ ์ด๋‚˜ SIMD ํšจ๊ณผ๋ฅผ ์ฃผ์žฅํ•˜์ง€ ์•Š๋Š”๋‹ค.

๋‹ค์Œ ํ•™์Šต ์ „์—๋Š” ์ถœ์ฒ˜ ์ ๊ฒฉ์„ฑ ํ‘œ, ๋น„์šฉ ๋ชฉํ‘œ, ๊ธฐ์ค€์„ , ์ดˆ๊ธฐ๊ฐ’, ์ž์› ์˜ˆ์‚ฐ ๋ฐ ๊ฒ€์ฆ ์„ ํƒ ๊ทœ์น™์„ ๊ณ ์ •ํ•œ๋‹ค. FP32์—์„œ ์œ ์šฉํ•œ ์‹ ํ˜ธ๋ฅผ ๋จผ์ € ํ™•์ธํ•˜๊ณ  3์ง„ ๋ณ€ํ˜•์€ ๋…๋ฆฝ ์ธก์ •ํ•œ๋‹ค. ์ตœ์ข… ํ‰๊ฐ€๋ฅผ ๋ฐ˜๋ณตํ•ด์„œ ๋ณด๋ฉฐ ํŠœ๋‹ํ•˜์ง€ ์•Š๋Š”๋‹ค. ํ˜„์žฌ ์‹ค์ œ ๋น„์šฉ ์ ˆ๊ฐ๊ณผ ๋ชจ๋ธ ์œ ์šฉ์„ฑ์€ ์—ฌ์ „ํžˆ ๋ฏธ์ž…์ฆ์ด๋‹ค.

Source / ์›๋ณธ ยท PR #64