Path Cost Data 45 KO - teamswyg/laya-tools GitHub Wiki
์คํ 45: ๋ ๋์ ์ฒดํฌํฌ์ธํธ์ ๋น์ฉ๊ณผ ์ถ์ฒ ์ค๋น
3,369๊ฐ ์์ ์ ์ค์ ๊ฒ์ ๋น์ฉ์ ๋น๊ตํ๋ค. ์ด ํ๋ณด ํ์ด์ง๋ 33,897โ31,921๋ก ์ค์์ง๋ง ๊ฒ์ฆ 107๊ฐ์์๋ 499โ506์ผ๋ก ๋์๋ค. ํ์ต์ ์์ํ ๋ ๋ฆฝ ๊ฒ์ฆ ๊ท๋ชจ๊ฐ ๋ถ์กฑํ๊ณ , ์ผ๋ถ ์ญ์ฌ์ ์ถ์ฒ์๋ ์ ํ ์กฐ๊ฑด๋ ์์ด ๊ธฐ๋ณธ ์ ์ฑ ยท๋ชจ๋ธ ๊ณต๊ฐ๋ฅผ ์น์ธํ์ง ์๋๋ค.
๊ณํ์ ์ ๋น์ฉ ๊ฒฐ๊ณผ๋ฅผ ๋ณด๊ธฐ ์ ์ ๊ณ ์ ํ๋ค. ๊ฒฐ๊ณผ๋ ์คํ 44 ์ฒซ ์ํ ๋ฐฐ์น ๋ค์ ํ์ผ ๋ชฉ๋ก 3,388๊ฐ๋ง ์ฌ์ฉํ๋ค. ์งํ ์ค์ธ ๋ค์ ์์ง์ ์ ์บ์๋ ์ด๋ฒ ์ฒดํฌํฌ์ธํธ์ ์ถ๊ฐํ์ง ์๋๋ค. ์คํ 43์ ์์น์ ์ฒดํฌํฌ์ธํธ๋ ๋ณด์กดํ๋ค.
๋ถ๋ชจ์ ์ค์ ๋น๊ต
| ์ญํ | ์ ์ฒด ์์ | ๋ชฉ๋ก ํ๋ณด | ๋น์ฉ ํ๊ฐ ๊ฐ๋ฅ | ๊ธฐ๋ณธ ํ์ด์ง | ๋ณด์กฐ ํ์ด์ง |
|---|---|---|---|---|---|
| ํ์ต | 7,335 | 3,281 | 3,262 | 33,398 | 31,415 |
| ๊ฒ์ฆ | 5,686 | 107 | 107 | 499 | 506 |
| ํฉ๊ณ | 13,021 | 3,388 | 3,369 | 33,897 | 31,921 |
๋ชฉ๋ก ๋ฏธํ๋ณด 9,633๊ฐ, ํ๋ณด ์์ ์ ์ ๋ต ํ์ฑ ์คํจ 1๊ฐ์ ๊ธฐ์กด ํ์ผ ์ ๋ต ์์ 18๊ฐ๋ฅผ ๋ถ๋ชจ์ ๋จ๊ฒผ๋ค. ์ ์ฒด ์ ๋ต ์๋ฃ์ ํ์ฑ ์คํจ 294๊ฐ ์ค ๋๋จธ์ง๋ ์ด ์ฒดํฌํฌ์ธํธ์์ ๋ฏธํ๋ณด ์ํ๋ค. ์ ๋ต ํ์ผ ์ฐ๊ฒฐ ๊ฒ์ฌ์์๋ 3,369๊ฐ ์์ ์ 10,640๊ฐ ๊ฒฝ๋ก๊ฐ ๋ชจ๋ ํด๋น ์ค๋ ์ท์ ์ผ๋ฐ ํ์ผ๊ณผ ์ฐ๊ฒฐ๋๋ค. ์ ๋ต์ ๊ฒ์ ์ ๋ ฅ์ ๋ฃ์ง๋ ์๋๋ค.
๊ฐ์ 171 / ์ ํ 417 / ๋์ผ 2,781์ด๋ค. ๊ฒ์ฆ์์๋ ๊ฐ์ 5 / ์ ํ 13 / ๋์ผ 89์ด๋ฉฐ, Hit10๋ 39โ38์ด๋ค. ์ ์ฒด ํฉ๊ณ ๊ฐ์๋ก ์ผ๋ฐํ๋ ์ค์ LLM ์ ๊ฐ์ ์ฃผ์ฅํ์ง ์๋๋ค. ํ๋ณด ํ์ด์ง๋ ์ฒซ ์ ๋ต์ ๋ง๋ ๋๊น์ง 20๊ฐ์ฉ ์ฝ๋ ๋๋ฆฌ ๋น์ฉ์ด๋ค. ๋ณด์กฐ ๊ฒ์์ ํญ์ ์คํํ ์๋ฃ์ด๋ฉฐ ํ์ต ๋ชจ๋ธ์ ์คํ ๊ฒฐ๊ณผ๊ฐ ์๋๋ค.
์ถ์ฒ๋ณ ์กฐ๊ฑด์ ๋น์ฉ ์๋ฃ์ ์ฐ๊ฒฐ
์ถ์ฒ ๊ฒํ ๋ ๊ณ ์ ๋ฐฐํฌ์ 132๊ฐ ์ญ์ฌ์ ๋ฌธ์ ๊ธฐ๋ก์ ์ง๋ฌธยท11,269๊ฐ ์ค๋ ์ท ์ฐธ์กฐ๋ฅผ ํ์ธํ๋ค. ์ ์ฅ์ ์ง๊ณ์ ์ค๋น ๊ฒ์ฌ๋ ๊ณต๊ฐ ์ซ์ ์๋ฃ์ด๋ฉฐ ๊ฐ๋ณ ์์ ยท์๋ฌธยท๊ฒฝ๋กยท๋ฌธ์ ๋ณธ๋ฌธ์ ๋น๊ณต๊ฐ๋ค.
๊ณต์ SWE-bench README๋ ์ ์ฒ๋ฆฌ ์๋ฃ์ ๋ชจ๋ธ ํ์ต ์ฉ๋์ ํ๋ก์ ํธ MIT๋ฅผ ์ค๋ช
ํ๋ค. ์ด๊ฒ์ ์ ์ฑ
41์ ์์ ๋ก์ปฌ ์ซ์ ์คํ์ ๊ฒํ ํ ๊ทผ๊ฑฐ์ด๋ฉฐ, ๋ชจ๋ ๊ณผ๊ฑฐ ์ด์ ์์ฑ์์ ๊ถ๋ฆฌ๋ฅผ ์
์ฆํ์ง๋ ์๋๋ค. ์ ์ญ IssueTextLicenseResolved์ SourceEligibilityComplete๋ ๊ณ์ false๋ค.
Prefect์ ๊ณผ๊ฑฐ ์๋ฃ๋ ํ์ฌ Apache ํ์๋ก ์ผ๊ด ๋ถ๋ฅํ์ง ์์๋ค. ์ด๊ธฐ EULA ์กฐ๊ฑด 112๊ฐ์ ์๋ฒ ๋ฒ์๋ณ ์กฐ๊ฑด 90๊ฐ๋ฅผ ๋ณด๋ฅํ๊ณ , ๋ฌธ์ ํ๋ณด๋ฅผ ์ฐพ์ง ๋ชปํ Prefect 12๊ฐยทDagster 2๊ฐ๋ ๋ณด๋ฅํ๋ค. ๋ผ์ด์ ์ค ๋จ์ด ๊ฒ์ ๊ฒฐ๊ณผ๋ฅผ ํ์ ์ผ๋ก ์ฌ์ฉํ์ง ์์๋ค.
์กฐ๊ฑด๋ถ ๋ก์ปฌ ์ซ์ ํ๋ณด ์ค ๋ชฉ๋ก์ด ์๋ ์๋ 3,172๊ฐ๋ค. ์ฑ๊ณตํ ๋น์ฉยทํน์ง ์๋ฃ์ ์ฐ๊ฒฐํ ํ์ ์๋ ํ์ต 3,048, ๊ฒ์ฆ 107์ด๋ค. ์ด๊ฒ์ ๊ณต๊ฐ ๋ชจ๋ธ ๋ฐฐํฌ ๊ฐ๋ฅ ์๊ฐ ์๋๋ฉฐ, ์ฝ๋/ํ ์คํธ ์์ฑ์ด๋ ์๋ณธ ์ฌ๋ฐฐํฌ๋ฅผ ํ์ฉํ์ง ์๋๋ค. ๋ค์ FP32 ๊ณํ์ ํ์ตยท๊ฒ์ฆ ๊ฐ๊ฐ ์ต์ 2,400๊ฐ ์กฐ๊ฑด์์ ๊ฒ์ฆ์ด ๋ฏธ๋ฌํ๋ฏ๋ก ์์ง ํ์ตํ์ง ์์๋ค.
ํ์ ๋ ๋ฒ์งธ ์ํ ์์ง ๋ฐฐ์น๋ ์์ฒญ 2,000ํ์์ ์ ์ ์ข ๋ฃํ๊ณ , ์คํ๋ผ์ธ ์ฌ์คํ์์ ์ง๊ณยท๋น๊ณต๊ฐ ๊ฐ์ฒด/์คํจ ๋ชฉ๋ก์ด ์ผ์นํ๋ค. ํ์ผ ๋ชฉ๋ก์ 4,378๊ฐ: ํ์ต 3,614 / ๊ฒ์ฆ 764๋ก ๋์๋ค. ์ด์ด ์ธ ๋ฒ์งธ ๋ฐฐ์น๋ ์์ฒญ 2,000ํ์์ ์ ์ ์ข ๋ฃยท์คํ๋ผ์ธ ์ผ์น๋ฅผ ํ์ธํ์ผ๋ฉฐ, 5,369๊ฐ: ํ์ต 3,971 / ๊ฒ์ฆ 1,398๋ฅผ ํ๋ณดํ๋ค.
์ด๋ ๋ชฉ๋ก ํ๋ณด ์์ด๋ฉฐ ์์ง ์ ์ถ์ฒยท์ ๋ตยท๋น์ฉ์ ์ฐ๊ฒฐํ ํ์ต ๊ฐ๋ฅ ์๊ฐ ์๋๋ค. ์์ ์คํ 45 ์์น๋ ์ถ์ฒ ๊ฒํ ๋ฅผ ํ์ ์์ง ๊ฒฐ๊ณผ๋ก ๋ฎ์ด์ฐ์ง ์๋๋ค. ๊ฒ์ฆ ๋ถ์กฑ ๋๋ฌธ์ ํ์ต ์์ ์กฐ๊ฑด์ ์ฌ์ ํ ๋ฏธ์ถฉ์กฑ์ด๋ค.
์ฌ์คํ ๋ฐฉ๋ฒ๊ณผ ๊ตฌํ
์ ์ฒดํฌํฌ์ธํธ๋ฅผ ์ง์ ํ ๋ ๊ณํ ํ์ผยท๊ณํ ํด์ยท์ฒดํฌํฌ์ธํธ ํ์ผยท์ฒดํฌํฌ์ธํธ ํด์ ๋ค ์ต์ ์ ํจ๊ป ์ง์ ํ๋ค. ์ผ๋ถ๋ง ๋ฐ๊พธ๋ฉด ๊ฑฐ๋ถํ๋ฉฐ ๊ธฐ๋ณธ ์คํ์ ์คํ 43 ๊ทธ๋๋ก๋ค.
go run ./cmd/riido-pathcostdata \
--out .cache/path-cost-data-45-new \
--plan experiments/path-cost-data/plan-45.json \
--plan-sha256 ed9e766d3c456573cc42df96566a69aed3e544f06cf4884653ce056948dd7617 \
--checkpoint .cache/development-join-45/evidence.json \
--checkpoint-sha256 382ce75674e32a2e0adb7e8908d6cab92ff7e768f4f4ed63823952c03c957766
๊ณ ์ ๋น๊ณต๊ฐ ์๋ฃ๊ฐ ์ฌ์ ์ ํ์ํ๋ค. ๊ณํ์ source ์ง๋ฌธยทschemaยทproduction=false๋ฅผ ๊ฒ์ฌํ๊ณ , ๊ฒฐ๊ณผ์ ์ค์ ์ฝ์ ์ง๋ฌธ์ ๊ธฐ๋กํ๋ค. root๋ง ์๊ณ ์์ ํ ๋ชฉ๋ก์ด ์๋ ํ๋ root ์ง๋ฌธ์ ๊ฒ์ฆํ๋ฉฐ ์ ๋ชฉ๋ก์ ๋์ ์ฝ์ง ์๋๋ค. ์ง๋ฌธ streaming, 16๊ฐ ํน์ง, ํ์ด์ง20๊ฐ, ์ต์ข ํ๊ฐ ๋ณดํธ๋ ์ ์งํ๋ค.
์๋ณธ ์ ๋ต ์ฐ๊ฒฐ, ์ ๋น์ฉ ์๋ฃ, ์ถ์ฒ ๊ฒํ ๋ฅผ ๊ฐ๊ฐ ์คํ๋ผ์ธ ์ฌ์คํํด ๊ฒฐ๊ณผ๋ฅผ ํ์ธํ๋ค. ๋น์ฉ ์๋ฃ๋ ์ผ๋ฐ ์ฌ์คํ๊ณผ race ์คํ์์ ๊ณต๊ฐ ์ง๊ณยท๋น๊ณต๊ฐ ์ซ์ ์ฌ๋ก๊ฐ ๋ฐ์ดํธ ๋จ์๋ก ์ผ์นํ๋ค. ํฉ์ฑ ํ ์คํธ๋ override ์กฐํฉยท์๋ชป๋ ์ง๋ฌธ/๊ณํยท๋๋ฝ/๋ณ์กฐ rootยทcatalog ๋น์ ๊ทผ์ ํ์ธํ๋ค. ์์ง๊ณผ ๋์์ ์คํํ์ผ๋ฏ๋ก ๋ ๋ฆฝ ์ง์ฐ/RSS ๊ฒฐ๊ณผ๋ก ๋ณด๊ณ ํ์ง ์๋๋ค.
Hugging Face ์ฐ๊ตฌ ์ปฌ๋ ์ ์ ๊ณ ์ upstream ๋ฐ์ดํฐ ์ฐธ๊ณ ํญ๋ชฉ์ ์ถ๊ฐํ๋ค. ์ ๋ชจ๋ธ ๊ฐ์ค์น๋ฅผ ๋ฐฐํฌํ ์์ ์ ์๋๋ค. ๋ค์์ ๊ฒ์ฆ ํ๋ณด ํ๋, ์ ์ถ์ฒ ๊ฒํ ์ 10๊ฐ FP32 ํ๋ณด runner ์ค๋น์ด๋ฉฐ, ์ ์ฉ์ฑ์ด ํ์ธ๋ ๋ค์์ 3์ง ๋น๊ต๋ฅผ ๋ณ๋๋ก ์งํํ๋ค.