Evaluation - YounghwanKil/haean GitHub Wiki
ํ๊ฐ์ ๊ฐ์
evals/protocol.md์ ํ๊ฐ๊ธฐ๋ฅผ ๊ณ ์ ํ๊ณ baseline๊ณผ candidate๋ฅผ ๋น๊ตํฉ๋๋ค. ํ
์คํธ ํผ๋๋ฐฑ์์ ์คํจ ์์ธ์ ์ถ์ถํด ์ถ์ ์ง์นจยท๊ฒ์ยท์ค๋ฌธยท์์
ํ๋ฆ์ ๊ฐ์ ๊ฐ์ค์ ๋ง๋ญ๋๋ค. ๋ชจ๋ธ ๊ฐ์ค์น๋ฅผ ํ๋ จํ๋ ๋ฐฉ์์ด ์๋๋๋ค.
๊ณ ์ ๊ณผ์ ยท๋ถํ ยท์ค์ ๋ชจ๋ธยทํ๋ค์ค ํด์ยท๋ฌธํญ๊ณผ ๊ฒํ ์๋ฌธยท์์ ๋ด์ญยท์ฌ์ฉ๋์ ๋ณด์กดํฉ๋๋ค. ํ๊ฐ๊ธฐ ๋ณ๊ฒฝ์ผ๋ก ์ ์๋ฅผ ์ฌ๋ฆฌ์ง ์์ต๋๋ค. ํ๋ณด๊ฐ ๊ฐ์ ๋์ง ์์ผ๋ฉด ์ฑํํ์ง ์์ต๋๋ค. ํ ์ ํ์ ์์ ์ฌ๋ก๋ก PSATยทLEET ์ ์ฒด ์ ๋ฌธ๊ฐ ์์ค์ ์ ์ฆํ๋ค๊ณ ํ์ง ์์ต๋๋ค.
๋ ๋ฆฝ ๋ชจ๋ธ ํ์ด, ํธ์ง ์๊ฒฌ, ํ์ ๊ฒ์ฌ, ์ค์ ์ฌ๋ ์น์ธ, ์ค์ธก ํ์ด ์๊ฐ, ํ๊ธ ๋ ๋ ๊ฒ์ฆ์ ์๋ก ๋ค๋ฅธ ์ฆ๊ฑฐ์ ๋๋ค. ๊ฐ๋ฐ ํผ๋๋ฐฑ์ ๋ก์ปฌ ์ง์ ์ํค์ ์ถ์ ํ ์ ์์ง๋ง ๋ด์ธ ํ๊ฐยทholdout ์ ๋ต์ ์ ์ธํฉ๋๋ค.
์ค์ ๋ก ์คํํ ๊ฒฐ๊ณผ์ ํ๊ณ๋ ์ฒซ ์ ํ๊ตฐ๋ณ ํ์ผ๋ฟ๊ณผ LEET ๊ฒํ ์๊ฒฌ ๋ฐ์ ์ ํ ๋น๊ต์ ๊ณต๊ฐํฉ๋๋ค. ํ์๋ ํ ๊ณผ์ ์ ๊ฐ 3ํ ์คํ์์ ๋์จ ๋ชจ๋ธ ํ๊ฐ์ ๊ฐ์ ์ ํธ์ด๋ฉฐ, ์ ๋ฌธ๊ฐ ์น์ธ์ด๋ ๋ค๋ฅธ ๊ณผ๋ชฉยทํ๊ธ ์ถ๋ ฅ ํ์ง์ ์ฆ๊ฑฐ๋ ์๋๋๋ค. ์๋ฌธ ๋ฌธํญ๊ณผ ํ ๊ฒํ ์๋ฃ๋ ๋ก์ปฌ์ ๋ณด๊ดํฉ๋๋ค.