Evaluation - YounghwanKil/haean GitHub Wiki

ํ‰๊ฐ€์™€ ๊ฐœ์„ 

evals/protocol.md์™€ ํ‰๊ฐ€๊ธฐ๋ฅผ ๊ณ ์ •ํ•˜๊ณ  baseline๊ณผ candidate๋ฅผ ๋น„๊ตํ•ฉ๋‹ˆ๋‹ค. ํ…์ŠคํŠธ ํ”ผ๋“œ๋ฐฑ์—์„œ ์‹คํŒจ ์›์ธ์„ ์ถ”์ถœํ•ด ์ถœ์ œ ์ง€์นจยท๊ฒ€์ƒ‰ยท์œค๋ฌธยท์ž‘์—… ํ๋ฆ„์˜ ๊ฐœ์„  ๊ฐ€์„ค์„ ๋งŒ๋“ญ๋‹ˆ๋‹ค. ๋ชจ๋ธ ๊ฐ€์ค‘์น˜๋ฅผ ํ›ˆ๋ จํ•˜๋Š” ๋ฐฉ์‹์ด ์•„๋‹™๋‹ˆ๋‹ค.

๊ณ ์ • ๊ณผ์ œยท๋ถ„ํ• ยท์‹ค์ œ ๋ชจ๋ธยทํ•˜๋„ค์Šค ํ•ด์‹œยท๋ฌธํ•ญ๊ณผ ๊ฒ€ํ†  ์›๋ฌธยท์ˆ˜์ • ๋‚ด์—ญยท์‚ฌ์šฉ๋Ÿ‰์„ ๋ณด์กดํ•ฉ๋‹ˆ๋‹ค. ํ‰๊ฐ€๊ธฐ ๋ณ€๊ฒฝ์œผ๋กœ ์ ์ˆ˜๋ฅผ ์˜ฌ๋ฆฌ์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ํ›„๋ณด๊ฐ€ ๊ฐœ์„ ๋˜์ง€ ์•Š์œผ๋ฉด ์ฑ„ํƒํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ํ•œ ์œ ํ˜•์˜ ์†Œ์ˆ˜ ์‚ฌ๋ก€๋กœ PSATยทLEET ์ „์ฒด ์ „๋ฌธ๊ฐ€ ์ˆ˜์ค€์„ ์ž…์ฆํ–ˆ๋‹ค๊ณ  ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

๋…๋ฆฝ ๋ชจ๋ธ ํ’€์ด, ํŽธ์ง‘ ์˜๊ฒฌ, ํ˜•์‹ ๊ฒ€์‚ฌ, ์‹ค์ œ ์‚ฌ๋žŒ ์Šน์ธ, ์‹ค์ธก ํ’€์ด ์‹œ๊ฐ„, ํ•œ๊ธ€ ๋ Œ๋” ๊ฒ€์ฆ์€ ์„œ๋กœ ๋‹ค๋ฅธ ์ฆ๊ฑฐ์ž…๋‹ˆ๋‹ค. ๊ฐœ๋ฐœ ํ”ผ๋“œ๋ฐฑ์€ ๋กœ์ปฌ ์ง€์‹ ์œ„ํ‚ค์— ์ถ•์ ํ•  ์ˆ˜ ์žˆ์ง€๋งŒ ๋ด‰์ธ ํ‰๊ฐ€ยทholdout ์ •๋‹ต์€ ์ œ์™ธํ•ฉ๋‹ˆ๋‹ค.

์‹ค์ œ๋กœ ์‹คํ–‰ํ•œ ๊ฒฐ๊ณผ์™€ ํ•œ๊ณ„๋Š” ์ฒซ ์ œํ’ˆ๊ตฐ๋ณ„ ํŒŒ์ผ๋Ÿฟ๊ณผ LEET ๊ฒ€ํ† ์˜๊ฒฌ ๋ฐ˜์˜ ์ „ํ›„ ๋น„๊ต์— ๊ณต๊ฐœํ•ฉ๋‹ˆ๋‹ค. ํ›„์ž๋Š” ํ•œ ๊ณผ์ œ์˜ ๊ฐ 3ํšŒ ์‹คํ–‰์—์„œ ๋‚˜์˜จ ๋ชจ๋ธ ํ‰๊ฐ€์ƒ ๊ฐœ์„  ์‹ ํ˜ธ์ด๋ฉฐ, ์ „๋ฌธ๊ฐ€ ์Šน์ธ์ด๋‚˜ ๋‹ค๋ฅธ ๊ณผ๋ชฉยทํ•œ๊ธ€ ์ถœ๋ ฅ ํ’ˆ์งˆ์˜ ์ฆ๊ฑฐ๋Š” ์•„๋‹™๋‹ˆ๋‹ค. ์›๋ฌธ ๋ฌธํ•ญ๊ณผ ํŒ€ ๊ฒ€ํ†  ์ž๋ฃŒ๋Š” ๋กœ์ปฌ์— ๋ณด๊ด€ํ•ฉ๋‹ˆ๋‹ค.