LM Studio - olabi/ChatGee GitHub Wiki

LM Studio ์„œ๋ฒ„์—์„œ API ์ด์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•

LM Studio ์„œ๋ฒ„๋ฅผ ํ†ตํ•ด API๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ์ฒ˜๋ฆฌํ•˜๋Š” ๋ฐฉ๋ฒ•์— ๋Œ€ํ•ด ์•Œ์•„๋ณด๊ฒ ์Šต๋‹ˆ๋‹ค! LM Studio๋ฅผ ์ด์šฉํ•˜๋ฉด OpenAI์˜ API์— ๋Œ€ํ•œ ๋Œ€์ฒด์ ์ธ ๋ฐฉ๋ฒ•์œผ๋กœ ์ฑ—๋ด‡ ๋“ฑ ๋‹ค์–‘ํ•œ ์„œ๋น„์Šค๋ฅผ ๋งŒ๋“ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๐Ÿ˜Š


LM Studio ์„œ๋ฒ„ ์„ค์ •

  • ์„ค์ • ๋ฐฉ๋ฒ•: LM Studio ์„œ๋ฒ„๋ฅผ ์„ค์ •ํ•˜๊ธฐ ์œ„ํ•ด์„  ์ฒ˜์Œ์— ์˜คํ”ˆ ์†Œ์Šค ๋Œ€์ฒด ์˜คํ”ˆ API๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์ดํ•ดํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ์ด ๊ณผ์ •์—์„œ๋Š” ์ฑ—๋ด‡ ์ƒ์„ฑ ๋ฐฉ๋ฒ•๋„ ํฌํ•จ๋ฉ๋‹ˆ๋‹ค. 1(https://www.toolify.ai/ko/ai-news-kr/lm-studio-llm-api-984584)
  • ํ”Œ๋žซํผ ์ง€์›: LM Studio๋Š” ๋กœ์ปฌ์—์„œ LLM(์–ธ์–ด๋ชจ๋ธ)์„ ์ฐพ๊ณ , ๋‹ค์šด๋กœ๋“œํ•˜๋ฉฐ, ์˜คํ”„๋ผ์ธ์œผ๋กœ ์‹คํ–‰์ด ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. ํ”Œ๋žซํผ ์ง€์›์€ ๋งฅ, ์œˆ๋„์šฐ, ๊ทธ๋ฆฌ๊ณ  ๋ฆฌ๋ˆ…์Šค(๋ฒ ํƒ€)๋ฅผ ํฌํ•จํ•ฉ๋‹ˆ๋‹ค. ๋‚ด์žฅ ์ฑ„ํŒ… UI ๋˜๋Š” OpenAI ํ˜ธํ™˜ ๋กœ์ปฌ ์„œ๋ฒ„๋ฅผ ํ†ตํ•ด ๋ชจ๋ธ ์‚ฌ์šฉ์ด ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. 2(https://news.hada.io/topic?id=11987)

API ์ด์šฉ ๋ฐฉ๋ฒ•

  • ์„œ๋ฒ„ ์‹œ์ž‘: ์‚ฌ์šฉ์ž๊ฐ€ ์„ ํƒํ•œ ๋ชจ๋ธ๋กœ ์„œ๋ฒ„๋ฅผ ์‹œ์ž‘ํ•˜๋Š” ๊ฒƒ์€ ๊ฐ„๋‹จํ•ฉ๋‹ˆ๋‹ค. ์‚ฌ์šฉํ•˜๋ ค๋Š” ๋ชจ๋ธ์„ ์„ ํƒํ•œ ํ›„, โ€˜Start Serverโ€™ ๋ฒ„ํŠผ์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค. ์ด ๋‹จ๊ณ„์—์„œ ๋กœ์ปฌ์— ์„œ๋ฒ„๋ฅผ ์‰ฝ๊ฒŒ ์‹œ์ž‘ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. 3(https://note.com/mikiokubo/n/nb61e5b558ef8)
  • API ํ˜ธ์ถœ: ์„œ๋ฒ„๊ฐ€ ์‹œ์ž‘๋˜๋ฉด, ๊ฐœ๋ฐœํ•œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์—์„œ LM Studio ์„œ๋ฒ„์— API ์š”์ฒญ์„ ๋ณด๋‚ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. API๋ฅผ ํ†ตํ•ด ๋ฐ์ดํ„ฐ๋ฅผ ์ฃผ๊ณ ๋ฐ›์œผ๋ฉฐ ํ•„์š”ํ•œ ์ •๋ณด๋ฅผ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ด๋Ÿฐ ๋ฐฉ์‹์œผ๋กœ LM Studio ์„œ๋ฒ„๋ฅผ ์„ค์ •ํ•˜๊ณ  API๋ฅผ ์ด์šฉํ•˜์—ฌ ๋‹ค์–‘ํ•œ ์„œ๋น„์Šค๋ฅผ ๊ฐœ๋ฐœํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค! ๋” ๋งŽ์€ ์ •๋ณด์™€ ์ž์„ธํ•œ ์„ค๋ช…์ด ํ•„์š”ํ•˜๋‹ค๋ฉด, ์ œ๊ณต๋œ ๋งํฌ๋ฅผ ์ฐธ์กฐํ•ด๋ณด์„ธ์š”. ์ƒˆ๋กœ์šด ํ”„๋กœ์ ํŠธ์— LM Studio๋ฅผ ํ™œ์šฉํ•ด ๋ณด๋Š” ๊ฒƒ๋„ ์ข‹์€ ๊ฒฝํ—˜์ด ๋  ๊ฒƒ์ž…๋‹ˆ๋‹ค! ๐Ÿš€

๋ณธ ๋‚ด์šฉ์€ ์ตœ์‹  ์ •๋ณด๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ์ œ๊ณต๋˜๋‚˜, ์ƒ์„ธํ•œ ๊ตฌํ˜„๊ณผ ๊ด€๋ จํ•˜์—ฌ ๊ณต์‹ ๋ฌธ์„œ๋‚˜ ์ปค๋ฎค๋‹ˆํ‹ฐ์˜ ์ตœ์‹  ๊ฐ€์ด๋“œ๋ผ์ธ์„ ํ™•์ธํ•˜๋Š” ๊ฒƒ์„ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค.

by WRTN