First Claim Fit 71 KO - teamswyg/laya-tools GitHub Wiki

์ฒซ ์ž‘์€ ์ฃผ์žฅ ๋ชจ๋ธ์€ ์–ด๋””๊นŒ์ง€ ์™”๋‚˜

research

ํ•™์Šต์€ ํ•œ ๋ฒˆ ์™„๋ฃŒํ–ˆ์ง€๋งŒ ํ˜„์žฌ ๋ชจ๋ธ์€ ๊ธฐ์กด ๊ทœ์น™๋ณด๋‹ค ๋„์›€์ด ๋˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค. ๋ชฉํ‘œ๋Š” โ€œ์ด ํ›„๋ณด๋ถ€ํ„ฐ ํ™•์ธํ•ด ๋ณด๋ฉด ์ข‹๊ฒ ๋‹คโ€๋ผ๋Š” ์•„์ฃผ ์ž‘์€ ์ˆœ์„œ ํžŒํŠธ์ž…๋‹ˆ๋‹ค. ๋ชจ๋“  ํ›„๋ณด๋ฅผ ๋ณด์กดํ•˜๊ณ  ์‚ฌ๋žŒยท์—์ด์ „ํŠธ๊ฐ€ ์‹ค์ œ ๊ทผ๊ฑฐ๋ฅผ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค. ์ž‘์—… ์Šน์ธ์ด๋‚˜ ํ›„๋ณด ์‚ญ์ œ์— ์‚ฌ์šฉํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

์ •๋‹ต์„ ์•„๋Š” ๊ฒ€์ฆ ์š”์ฒญ15๊ฐœ์—์„œ ๋‹จ์–ดยท์ˆœ์„œ ๊ทœ์น™์€27๋ฒˆ, ํ•™์Šต ๋ชจ๋ธ์€31๋ฒˆ ํ™•์ธํ–ˆ์Šต๋‹ˆ๋‹ค. ์•ฝ14.8% ์•…ํ™”ํ–ˆ๊ณ  ์ •๋‹ต์ด ์žˆ๋Š”10๊ฐœ ์š”์ฒญ ์ค‘ ์ฒซ ํ›„๋ณด๊ฐ€ ์ •๋‹ต์ธ ๊ฒฝ์šฐ๋„5โ†’2์˜€์Šต๋‹ˆ๋‹ค. ๊ธฐ์กด5% ๊ฐœ์„  ์กฐ๊ฑด์€ ๊ทธ๋Œ€๋กœ ๋‘๊ณ  ์‹คํŒจ๋ฅผ ๊ธฐ๋กํ–ˆ์Šต๋‹ˆ๋‹ค. ๋ฏธํ™•์ •5๊ฐœ๋Š” ๋ณ„๋„ ๋ณด์กดํ•˜๊ณ  ์ •๋‹ต ์—†์Œ5๊ฐœ๋Š” ์ „์ฒด ํ›„๋ณด ํ™•์ธ ๋น„์šฉ์„ ์œ ์ง€ํ•ฉ๋‹ˆ๋‹ค.

์ „์ฒด ๊ฐœ๋ฐœ ์ž๋ฃŒ76๊ฐœ ์ค‘ train44/validation20/calibration12๋ฅผ ์›์ฒœ ๊ทธ๋ฃน ๋‹จ์œ„๋กœ ๋ถ„๋ฆฌํ–ˆ์Šต๋‹ˆ๋‹ค. ํ•™์Šต์—๋Š”91/45ํ–‰์„ ์‚ฌ์šฉํ•˜๋ฉฐ0๊ฐ€์ค‘์น˜18/1ํ–‰๋„ ๋ฌผ๋ฆฌ์ ์œผ๋กœ ๋ณด์กดํ–ˆ์Šต๋‹ˆ๋‹ค. ๋ชจ๋ธ์€ Go์˜8192๊ฐœ FP32 ๊ณ„์ˆ˜๋ฅผ ๊ฐ€์ง€๋ฉฐ Laya ์ธ์ฝ”๋”ยทGPU ์—†์ด ์‹คํ–‰ํ–ˆ์Šต๋‹ˆ๋‹ค. ํŒŒ์ผ32,792B์™€ ์ „์ฒด ํ•™์Šต ์ตœ๋Œ€RSS์•ฝ26.98MiB๋Š” ๋‹ค๋ฅธ ์ˆ˜์น˜์ž…๋‹ˆ๋‹ค. ์•ฝ0.805์ดˆ๋Š” ์ „์ฒด ํ•™์Šต ๊ณผ์ •์˜ ํ•œ ๋ฒˆ ๊ด€์ธก์ด๊ณ  ์ƒ์‹œ ์ถ”๋ก  ์ง€์—ฐยทCodex ํ† ํฐ ์ ˆ๊ฐ์ด ์•„๋‹™๋‹ˆ๋‹ค.

flowchart LR
  A[๊ณต๊ฐœ ๊ฐœ๋ฐœ ์ž๋ฃŒ72๊ฐœ] --> B[์ƒˆ ์œ ํ•œ ์‚ฌ๋ก€4๊ฐœ์™€ ๋ฌถ์–ด ์ „์ฒด76๊ฐœ]
  B --> C[์ „์ฒด ์›์ฒœ ๊ทธ๋ฃน ๋ถ„๋ฆฌ์™€ Go ๋ฐฐ์—ด]
  C --> D[์ฒซ BCE ๋ชจ๋ธ: ํšจ์šฉ ์‹คํŒจ]
  C --> E[BCE + ๊ฐ™์€ ์š”์ฒญ์˜ ์ˆœ์„œ ์†์‹ค: ํ˜•์ œ ์‹คํ—˜ ์ค€๋น„]
  E --> F[ํšจ์šฉ ํ™•์ธ ํ›„ ๋ณ„๋„ ์••์ถ• ์‹คํ—˜]

์ฒซ ๋ชจ๋ธ์˜ ํ‰๊ท  ์†์‹ค์€ ์ค„์—ˆ์ง€๋งŒ ํš๋“ยทํ•ด์ œยท๊ฒฐ๊ณผ ์ „๋‹ฌ ์ˆœ์„œ์˜ ๊ฒ€์ฆ ์š”์ฒญ ์„ธ ๊ฐœ์—์„œ ์ˆœ์„œ๊ฐ€ ์•…ํ™”ํ–ˆ์Šต๋‹ˆ๋‹ค. ์†์‹ค ํ•˜๋‚˜์˜ ๋ฌธ์ œ๋กœ ๋‹จ์ •ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ๋‹ค์Œ ํ•œ ๋ฒˆ์€ ๊ธฐ์กด BCE๋ฅผ ์œ ์ง€ํ•˜๋ฉด์„œ ๊ฐ™์€ ์š”์ฒญ์˜ ์ •๋‹ต ์ ์ˆ˜๊ฐ€ ์˜ค๋‹ต๋ณด๋‹ค ๋†’์•„์ง€๋„๋ก ํ•˜๋Š” ์ƒ๋Œ€ ์ˆœ์„œ ์†์‹ค์„ ์ถ”๊ฐ€ํ•ฉ๋‹ˆ๋‹ค. ๊ณ„์ˆ˜1ยท์›๋ž˜seedยท๋งˆ์Šคํฌยทvalidation BCE epoch ์„ ํƒยท๊ฒ€์ฆ ๊ธฐ์ค€์„ ๋ฏธ๋ฆฌ ๊ณ ์ •ํ•˜๊ณ  ํƒ์ƒ‰ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์ด ๋ชจ๋ธ์€ ์••์ถ• ์ž์‹์ด ์•„๋‹ˆ๋ผ ๋ชฉ์ ์„ ๋ฐ”๊พผ ํ˜•์ œ ์‹คํ—˜์ž…๋‹ˆ๋‹ค.

์ง€๊ธˆ์€ ๊ธฐ์กด ๋„๊ตฌ๋ฅผ ์ƒ์ฃผ ํ”„๋กœ์„ธ์Šค๋กœ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

riido-shortclaim --stream --baseline lexical_ordered < requests.jsonl

์ž…๋ ฅ์€ ์งง์€ ์š”์ฒญ๊ณผ ํ›„๋ณด1..8๊ฐœ์ด๋ฉฐ512๋ฐ”์ดํŠธ/์ •๊ทœํ™”32๋‹จ์–ด ํ•œ๋„๋ฅผ ์œ ์ง€ํ•ฉ๋‹ˆ๋‹ค. ์ถœ๋ ฅ์€ ๋ชจ๋“  ํ›„๋ณด์˜ ํ™•์ธ ์ˆœ์„œ์™€ unverified_heuristic ์ƒํƒœ์ž…๋‹ˆ๋‹ค. JSONL ์ŠคํŠธ๋ฆผ์œผ๋กœ ์‚ฌ๋žŒยท์—์ด์ „ํŠธ๊ฐ€ ๋ฐ˜๋ณต ํ˜ธ์ถœํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๋ช…๋ น์€ ์ฒซ ํ•™์Šต ๊ฐ€์ค‘์น˜๋ฅผ ์ฝ์ง€ ์•Š์œผ๋ฉฐ ๊ธฐ๋ณธ Codex ์„ค์ •์„ ๋ฐ”๊พธ์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

์›๋ž˜72๊ฐœ ์ค€๋น„ ๋ฐ์ดํ„ฐ๋Š” HF exact commit์— ๊ณต๊ฐœํ–ˆ๊ณ 20๊ฐœ ํŒŒ์ผ์„ ๋‹ค์‹œ ๋‚ด๋ ค๋ฐ›์•„ ๋Œ€์กฐํ–ˆ์Šต๋‹ˆ๋‹ค. ๋ชจ๋ธ ๊ณ„์ˆ˜๋Š” ์—†์Šต๋‹ˆ๋‹ค. ์ฒซ ํ•™์Šต์˜ ์ „์ฒด ๊ธฐ๋ก, ์‹ค์ œ ๋ฐฐ์—ด ์ค€๋น„, CIยทWikiยทHF ํ™•์ธ์„ ๊ตฌ๋ถ„ํ•ด ์ฝ์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๊ฐ™์€ validation์„ ๋ณด๋ฉฐ ํ›„์†์„ ์„ ํƒํ–ˆ์œผ๋ฏ€๋กœ ๊ฐœ์„ ๋ผ๋„ ๊ฐœ๋ฐœ ์‹ ํ˜ธ์ž…๋‹ˆ๋‹ค. 76๊ฐœ๋Š” ๊ด€๊ณ„๊ฐ€ ๋ฌถ์ธ19๊ทธ๋ฃน์˜ ๊ฐœ๋ฐœ ์ž๋ฃŒ์ด๊ณ  ๋„๋ฉ”์ธ๋ณ„ ์ตœ์†Œ2,400๊ฐœ ๋…๋ฆฝ ์š”์ฒญ์˜ ๋ณดํ˜ธ๋œ ์ตœ์ข… ๊ณจ๋“ ์…‹์„ ๋Œ€์‹ ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ํ˜‘์—… AI ๋น„์šฉ๊ณผ ์‹ค์ œ LLM ์ ˆ๊ฐ์€ ์•„์ง ๋ฏธ์ธก์ •์ด๋ฉฐ source ๋‹ค์–‘์„ฑยทproduction ์Šน์ธ์€ ํ•˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค.

English