Path Cost Data 45 KO - teamswyg/laya-tools GitHub Wiki

์‹คํ—˜ 45: ๋” ๋„“์€ ์ฒดํฌํฌ์ธํŠธ์˜ ๋น„์šฉ๊ณผ ์ถœ์ฒ˜ ์ค€๋น„

3,369๊ฐœ ์ž‘์—…์˜ ์‹ค์ œ ๊ฒ€์ƒ‰ ๋น„์šฉ์„ ๋น„๊ตํ–ˆ๋‹ค. ์ด ํ›„๋ณด ํŽ˜์ด์ง€๋Š” 33,897โ†’31,921๋กœ ์ค„์—ˆ์ง€๋งŒ ๊ฒ€์ฆ 107๊ฐœ์—์„œ๋Š” 499โ†’506์œผ๋กœ ๋Š˜์—ˆ๋‹ค. ํ•™์Šต์„ ์‹œ์ž‘ํ•  ๋…๋ฆฝ ๊ฒ€์ฆ ๊ทœ๋ชจ๊ฐ€ ๋ถ€์กฑํ•˜๊ณ , ์ผ๋ถ€ ์—ญ์‚ฌ์  ์ถœ์ฒ˜์—๋Š” ์ œํ•œ ์กฐ๊ฑด๋„ ์žˆ์–ด ๊ธฐ๋ณธ ์ •์ฑ…ยท๋ชจ๋ธ ๊ณต๊ฐœ๋ฅผ ์Šน์ธํ•˜์ง€ ์•Š๋Š”๋‹ค.

๊ณ„ํš์€ ์ƒˆ ๋น„์šฉ ๊ฒฐ๊ณผ๋ฅผ ๋ณด๊ธฐ ์ „์— ๊ณ ์ •ํ–ˆ๋‹ค. ๊ฒฐ๊ณผ๋Š” ์‹คํ—˜ 44 ์ฒซ ์ˆœํ™˜ ๋ฐฐ์น˜ ๋’ค์˜ ํŒŒ์ผ ๋ชฉ๋ก 3,388๊ฐœ๋งŒ ์‚ฌ์šฉํ•œ๋‹ค. ์ง„ํ–‰ ์ค‘์ธ ๋‹ค์Œ ์ˆ˜์ง‘์˜ ์ƒˆ ์บ์‹œ๋Š” ์ด๋ฒˆ ์ฒดํฌํฌ์ธํŠธ์— ์ถ”๊ฐ€ํ•˜์ง€ ์•Š๋Š”๋‹ค. ์‹คํ—˜ 43์˜ ์ˆ˜์น˜์™€ ์ฒดํฌํฌ์ธํŠธ๋„ ๋ณด์กดํ•œ๋‹ค.

๋ถ„๋ชจ์™€ ์‹ค์ œ ๋น„๊ต

์—ญํ•  ์ „์ฒด ์ž‘์—… ๋ชฉ๋ก ํ™•๋ณด ๋น„์šฉ ํ‰๊ฐ€ ๊ฐ€๋Šฅ ๊ธฐ๋ณธ ํŽ˜์ด์ง€ ๋ณด์กฐ ํŽ˜์ด์ง€
ํ•™์Šต 7,335 3,281 3,262 33,398 31,415
๊ฒ€์ฆ 5,686 107 107 499 506
ํ•ฉ๊ณ„ 13,021 3,388 3,369 33,897 31,921

๋ชฉ๋ก ๋ฏธํ™•๋ณด 9,633๊ฐœ, ํ™•๋ณด ์ž‘์—…์˜ ์ •๋‹ต ํŒŒ์‹ฑ ์‹คํŒจ 1๊ฐœ์™€ ๊ธฐ์กด ํŒŒ์ผ ์ •๋‹ต ์—†์Œ 18๊ฐœ๋ฅผ ๋ถ„๋ชจ์— ๋‚จ๊ฒผ๋‹ค. ์ „์ฒด ์ •๋‹ต ์ž๋ฃŒ์˜ ํŒŒ์‹ฑ ์‹คํŒจ 294๊ฐœ ์ค‘ ๋‚˜๋จธ์ง€๋Š” ์ด ์ฒดํฌํฌ์ธํŠธ์—์„œ ๋ฏธํ™•๋ณด ์ƒํƒœ๋‹ค. ์ •๋‹ต ํŒŒ์ผ ์—ฐ๊ฒฐ ๊ฒ€์‚ฌ์—์„œ๋Š” 3,369๊ฐœ ์ž‘์—…์˜ 10,640๊ฐœ ๊ฒฝ๋กœ๊ฐ€ ๋ชจ๋‘ ํ•ด๋‹น ์Šค๋ƒ…์ƒท์˜ ์ผ๋ฐ˜ ํŒŒ์ผ๊ณผ ์—ฐ๊ฒฐ๋๋‹ค. ์ •๋‹ต์„ ๊ฒ€์ƒ‰ ์ž…๋ ฅ์— ๋„ฃ์ง€๋Š” ์•Š๋Š”๋‹ค.

๊ฐœ์„  171 / ์•…ํ™” 417 / ๋™์ผ 2,781์ด๋‹ค. ๊ฒ€์ฆ์—์„œ๋Š” ๊ฐœ์„  5 / ์•…ํ™” 13 / ๋™์ผ 89์ด๋ฉฐ, Hit10๋„ 39โ†’38์ด๋‹ค. ์ „์ฒด ํ•ฉ๊ณ„ ๊ฐ์†Œ๋กœ ์ผ๋ฐ˜ํ™”๋‚˜ ์‹ค์ œ LLM ์ ˆ๊ฐ์„ ์ฃผ์žฅํ•˜์ง€ ์•Š๋Š”๋‹ค. ํ›„๋ณด ํŽ˜์ด์ง€๋Š” ์ฒซ ์ •๋‹ต์„ ๋งŒ๋‚  ๋•Œ๊นŒ์ง€ 20๊ฐœ์”ฉ ์ฝ๋Š” ๋Œ€๋ฆฌ ๋น„์šฉ์ด๋‹ค. ๋ณด์กฐ ๊ฒ€์ƒ‰์„ ํ•ญ์ƒ ์‹คํ–‰ํ•œ ์ž๋ฃŒ์ด๋ฉฐ ํ•™์Šต ๋ชจ๋ธ์˜ ์‹คํ–‰ ๊ฒฐ๊ณผ๊ฐ€ ์•„๋‹ˆ๋‹ค.

์ถœ์ฒ˜๋ณ„ ์กฐ๊ฑด์„ ๋น„์šฉ ์ž๋ฃŒ์— ์—ฐ๊ฒฐ

์ถœ์ฒ˜ ๊ฒ€ํ† ๋Š” ๊ณ ์ • ๋ฐฐํฌ์™€ 132๊ฐœ ์—ญ์‚ฌ์  ๋ฌธ์„œ ๊ธฐ๋ก์˜ ์ง€๋ฌธยท11,269๊ฐœ ์Šค๋ƒ…์ƒท ์ฐธ์กฐ๋ฅผ ํ™•์ธํ–ˆ๋‹ค. ์ €์žฅ์†Œ ์ง‘๊ณ„์™€ ์ค€๋น„ ๊ฒ€์‚ฌ๋Š” ๊ณต๊ฐœ ์ˆซ์ž ์ž๋ฃŒ์ด๋ฉฐ ๊ฐœ๋ณ„ ์ž‘์—…ยท์›๋ฌธยท๊ฒฝ๋กœยท๋ฌธ์„œ ๋ณธ๋ฌธ์€ ๋น„๊ณต๊ฐœ๋‹ค.

๊ณต์‹ SWE-bench README๋Š” ์ „์ฒ˜๋ฆฌ ์ž๋ฃŒ์˜ ๋ชจ๋ธ ํ•™์Šต ์šฉ๋„์™€ ํ”„๋กœ์ ํŠธ MIT๋ฅผ ์„ค๋ช…ํ•œ๋‹ค. ์ด๊ฒƒ์€ ์ •์ฑ…41์˜ ์ž‘์€ ๋กœ์ปฌ ์ˆซ์ž ์‹คํ—˜์„ ๊ฒ€ํ† ํ•  ๊ทผ๊ฑฐ์ด๋ฉฐ, ๋ชจ๋“  ๊ณผ๊ฑฐ ์ด์Šˆ ์ž‘์„ฑ์ž์˜ ๊ถŒ๋ฆฌ๋ฅผ ์ž…์ฆํ•˜์ง€๋Š” ์•Š๋Š”๋‹ค. ์ „์—ญ IssueTextLicenseResolved์™€ SourceEligibilityComplete๋Š” ๊ณ„์† false๋‹ค.

Prefect์˜ ๊ณผ๊ฑฐ ์ž๋ฃŒ๋Š” ํ˜„์žฌ Apache ํ‘œ์‹œ๋กœ ์ผ๊ด„ ๋ถ„๋ฅ˜ํ•˜์ง€ ์•Š์•˜๋‹ค. ์ดˆ๊ธฐ EULA ์กฐ๊ฑด 112๊ฐœ์™€ ์„œ๋ฒ„ ๋ฒ”์œ„๋ณ„ ์กฐ๊ฑด 90๊ฐœ๋ฅผ ๋ณด๋ฅ˜ํ–ˆ๊ณ , ๋ฌธ์„œ ํ›„๋ณด๋ฅผ ์ฐพ์ง€ ๋ชปํ•œ Prefect 12๊ฐœยทDagster 2๊ฐœ๋„ ๋ณด๋ฅ˜ํ–ˆ๋‹ค. ๋ผ์ด์„ ์Šค ๋‹จ์–ด ๊ฒ€์ƒ‰ ๊ฒฐ๊ณผ๋ฅผ ํŒ์ •์œผ๋กœ ์‚ฌ์šฉํ•˜์ง€ ์•Š์•˜๋‹ค.

์กฐ๊ฑด๋ถ€ ๋กœ์ปฌ ์ˆซ์ž ํ›„๋ณด ์ค‘ ๋ชฉ๋ก์ด ์žˆ๋Š” ์ˆ˜๋Š” 3,172๊ฐœ๋‹ค. ์„ฑ๊ณตํ•œ ๋น„์šฉยทํŠน์ง• ์ž๋ฃŒ์™€ ์—ฐ๊ฒฐํ•œ ํ›„์˜ ์ˆ˜๋Š” ํ•™์Šต 3,048, ๊ฒ€์ฆ 107์ด๋‹ค. ์ด๊ฒƒ์€ ๊ณต๊ฐœ ๋ชจ๋ธ ๋ฐฐํฌ ๊ฐ€๋Šฅ ์ˆ˜๊ฐ€ ์•„๋‹ˆ๋ฉฐ, ์ฝ”๋“œ/ํ…์ŠคํŠธ ์ƒ์„ฑ์ด๋‚˜ ์›๋ณธ ์žฌ๋ฐฐํฌ๋ฅผ ํ—ˆ์šฉํ•˜์ง€ ์•Š๋Š”๋‹ค. ๋‹ค์Œ FP32 ๊ณ„ํš์˜ ํ•™์Šตยท๊ฒ€์ฆ ๊ฐ๊ฐ ์ตœ์†Œ 2,400๊ฐœ ์กฐ๊ฑด์—์„œ ๊ฒ€์ฆ์ด ๋ฏธ๋‹ฌํ•˜๋ฏ€๋กœ ์•„์ง ํ•™์Šตํ•˜์ง€ ์•Š์•˜๋‹ค.

ํ›„์† ๋‘ ๋ฒˆ์งธ ์ˆœํ™˜ ์ˆ˜์ง‘ ๋ฐฐ์น˜๋Š” ์š”์ฒญ 2,000ํšŒ์—์„œ ์ •์ƒ ์ข…๋ฃŒํ–ˆ๊ณ , ์˜คํ”„๋ผ์ธ ์žฌ์‹คํ–‰์—์„œ ์ง‘๊ณ„ยท๋น„๊ณต๊ฐœ ๊ฐ์ฒด/์‹คํŒจ ๋ชฉ๋ก์ด ์ผ์น˜ํ–ˆ๋‹ค. ํŒŒ์ผ ๋ชฉ๋ก์€ 4,378๊ฐœ: ํ•™์Šต 3,614 / ๊ฒ€์ฆ 764๋กœ ๋Š˜์—ˆ๋‹ค. ์ด์–ด ์„ธ ๋ฒˆ์งธ ๋ฐฐ์น˜๋„ ์š”์ฒญ 2,000ํšŒ์—์„œ ์ •์ƒ ์ข…๋ฃŒยท์˜คํ”„๋ผ์ธ ์ผ์น˜๋ฅผ ํ™•์ธํ–ˆ์œผ๋ฉฐ, 5,369๊ฐœ: ํ•™์Šต 3,971 / ๊ฒ€์ฆ 1,398๋ฅผ ํ™•๋ณดํ–ˆ๋‹ค.

์ด๋Š” ๋ชฉ๋ก ํ™•๋ณด ์ˆ˜์ด๋ฉฐ ์•„์ง ์ƒˆ ์ถœ์ฒ˜ยท์ •๋‹ตยท๋น„์šฉ์„ ์—ฐ๊ฒฐํ•œ ํ•™์Šต ๊ฐ€๋Šฅ ์ˆ˜๊ฐ€ ์•„๋‹ˆ๋‹ค. ์œ„์˜ ์‹คํ—˜ 45 ์ˆ˜์น˜๋‚˜ ์ถœ์ฒ˜ ๊ฒ€ํ† ๋ฅผ ํ›„์† ์ˆ˜์ง‘ ๊ฒฐ๊ณผ๋กœ ๋ฎ์–ด์“ฐ์ง€ ์•Š๋Š”๋‹ค. ๊ฒ€์ฆ ๋ถ€์กฑ ๋•Œ๋ฌธ์— ํ•™์Šต ์‹œ์ž‘ ์กฐ๊ฑด์€ ์—ฌ์ „ํžˆ ๋ฏธ์ถฉ์กฑ์ด๋‹ค.

์žฌ์‹คํ–‰ ๋ฐฉ๋ฒ•๊ณผ ๊ตฌํ˜„

์ƒˆ ์ฒดํฌํฌ์ธํŠธ๋ฅผ ์ง€์ •ํ•  ๋•Œ ๊ณ„ํš ํŒŒ์ผยท๊ณ„ํš ํ•ด์‹œยท์ฒดํฌํฌ์ธํŠธ ํŒŒ์ผยท์ฒดํฌํฌ์ธํŠธ ํ•ด์‹œ ๋„ค ์˜ต์…˜์„ ํ•จ๊ป˜ ์ง€์ •ํ•œ๋‹ค. ์ผ๋ถ€๋งŒ ๋ฐ”๊พธ๋ฉด ๊ฑฐ๋ถ€ํ•˜๋ฉฐ ๊ธฐ๋ณธ ์‹คํ–‰์€ ์‹คํ—˜ 43 ๊ทธ๋Œ€๋กœ๋‹ค.

go run ./cmd/riido-pathcostdata \
  --out .cache/path-cost-data-45-new \
  --plan experiments/path-cost-data/plan-45.json \
  --plan-sha256 ed9e766d3c456573cc42df96566a69aed3e544f06cf4884653ce056948dd7617 \
  --checkpoint .cache/development-join-45/evidence.json \
  --checkpoint-sha256 382ce75674e32a2e0adb7e8908d6cab92ff7e768f4f4ed63823952c03c957766

๊ณ ์ • ๋น„๊ณต๊ฐœ ์ž๋ฃŒ๊ฐ€ ์‚ฌ์ „์— ํ•„์š”ํ•˜๋‹ค. ๊ณ„ํš์˜ source ์ง€๋ฌธยทschemaยทproduction=false๋ฅผ ๊ฒ€์‚ฌํ•˜๊ณ , ๊ฒฐ๊ณผ์— ์‹ค์ œ ์ฝ์€ ์ง€๋ฌธ์„ ๊ธฐ๋กํ•œ๋‹ค. root๋งŒ ์žˆ๊ณ  ์™„์ „ํ•œ ๋ชฉ๋ก์ด ์—†๋Š” ํ–‰๋„ root ์ง€๋ฌธ์„ ๊ฒ€์ฆํ•˜๋ฉฐ ์ƒˆ ๋ชฉ๋ก์„ ๋Œ€์‹  ์ฝ์ง€ ์•Š๋Š”๋‹ค. ์งˆ๋ฌธ streaming, 16๊ฐœ ํŠน์ง•, ํŽ˜์ด์ง€20๊ฐœ, ์ตœ์ข… ํ‰๊ฐ€ ๋ณดํ˜ธ๋Š” ์œ ์ง€ํ•œ๋‹ค.

์›๋ณธ ์ •๋‹ต ์—ฐ๊ฒฐ, ์ƒˆ ๋น„์šฉ ์ž๋ฃŒ, ์ถœ์ฒ˜ ๊ฒ€ํ† ๋ฅผ ๊ฐ๊ฐ ์˜คํ”„๋ผ์ธ ์žฌ์‹คํ–‰ํ•ด ๊ฒฐ๊ณผ๋ฅผ ํ™•์ธํ–ˆ๋‹ค. ๋น„์šฉ ์ž๋ฃŒ๋Š” ์ผ๋ฐ˜ ์žฌ์‹คํ–‰๊ณผ race ์‹คํ–‰์—์„œ ๊ณต๊ฐœ ์ง‘๊ณ„ยท๋น„๊ณต๊ฐœ ์ˆซ์ž ์‚ฌ๋ก€๊ฐ€ ๋ฐ”์ดํŠธ ๋‹จ์œ„๋กœ ์ผ์น˜ํ–ˆ๋‹ค. ํ•ฉ์„ฑ ํ…Œ์ŠคํŠธ๋Š” override ์กฐํ•ฉยท์ž˜๋ชป๋œ ์ง€๋ฌธ/๊ณ„ํšยท๋ˆ„๋ฝ/๋ณ€์กฐ rootยทcatalog ๋น„์ ‘๊ทผ์„ ํ™•์ธํ•œ๋‹ค. ์ˆ˜์ง‘๊ณผ ๋™์‹œ์— ์‹คํ–‰ํ–ˆ์œผ๋ฏ€๋กœ ๋…๋ฆฝ ์ง€์—ฐ/RSS ๊ฒฐ๊ณผ๋กœ ๋ณด๊ณ ํ•˜์ง€ ์•Š๋Š”๋‹ค.

Hugging Face ์—ฐ๊ตฌ ์ปฌ๋ ‰์…˜์— ๊ณ ์ • upstream ๋ฐ์ดํ„ฐ ์ฐธ๊ณ  ํ•ญ๋ชฉ์„ ์ถ”๊ฐ€ํ–ˆ๋‹ค. ์ƒˆ ๋ชจ๋ธ ๊ฐ€์ค‘์น˜๋ฅผ ๋ฐฐํฌํ•œ ์ž‘์—…์€ ์•„๋‹ˆ๋‹ค. ๋‹ค์Œ์€ ๊ฒ€์ฆ ํ™•๋ณด ํ™•๋Œ€, ์ƒˆ ์ถœ์ฒ˜ ๊ฒ€ํ† ์™€ 10๊ฐœ FP32 ํ›„๋ณด runner ์ค€๋น„์ด๋ฉฐ, ์œ ์šฉ์„ฑ์ด ํ™•์ธ๋œ ๋‹ค์Œ์— 3์ง„ ๋น„๊ต๋ฅผ ๋ณ„๋„๋กœ ์ง„ํ–‰ํ•œ๋‹ค.