๋ณธ ํ๋ก์ ํธ๋ LLM ๊ธฐ๋ฐ ์ฌ์ฉ์ ๋ง์ถค ์ฅ์ ์ถ์ฒ ์๋น์ค๋ก ์ฌ์ฉ์์ ์์ฐ์ด ์์ฒญ์ ๋ถ์ํ์ฌ ์ฌ์ฉ์์ ์ทจํฅ๊ณผ ์กฐ๊ฑด์ ๋ถํฉํ๋ ์ฅ์๋ฅผ ๋ด๋ถ ๋ฐ์ดํฐ๋ก๋ถํฐ ์ถ์ฒํ๋ ๋ฉ์ปค๋์ฆ์ ๊ฐ์ง๊ณ ์์
๋ฐ๋ผ์ ํ๋ก์ ํธ์ ๋ชฉ์ ์ ๋ฌธ์ ๊ธฐ๋ฐ ์ ๋ณด ์์ฑ์ด ์๋, ์ ์ ๋ ์ฅ์ ๋ฐ์ดํฐ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํ ์ ๋ฐํ ์ถ์ฒ์ด ํต์ฌ
RAG๋ฅผ ์ ์ฉํ์ง ์๋ ์ด์
1. ์ธ๋ถ ๋ฐ์ดํฐ ๊ฒ์์ ๋ถํ์์ฑ
- ์ถ์ฒ์ ์ฌ์ฉ๋๋ ์ฅ์ ๋ฐ์ดํฐ๋ ์ฌ์ ์ ์์ง ๋ฐ ์ ์ฒ๋ฆฌ๋์ด ๋ด๋ถ์ ์ ์ฅ๋์ด ์์ผ๋ฉฐ, ์ธ๋ถ ๋ฌธ์๋ฅผ ๊ฒ์ํ์ฌ ๋์ ์ผ๋ก ์ ๋ณด๋ฅผ ๊ฐ์ ธ์ฌ ํ์๊ฐ ์์
- ๋ฐ๋ผ์ LLM์ด ์ธ๋ถ ์ง์ ์์ค์์ ๋ฌธ์๋ฅผ ๊ฒ์ํ์ฌ ์๋ต์ ์์ฑํ๋ RAG ๋ฐฉ์์ ๋ณธ ์์คํ
์ ๋ชฉ์ ๊ณผ ๋ง์ง ์์
2. LLM์ ํ์ฉ ๋ชฉ์ ์ฐจ์ด
- ๋ณธ ํ๋ก์ ํธ์์ LLM์ ์์ฐ์ด ์์ฒญ์ ๋ถ์ํ๊ณ ์ฌ์ฉ์ ์กฐ๊ฑด์ ์ถ์ถํ๋ ๋ฐ์ ์ฌ์ฉ
- ์ค์ ์ถ์ฒ์ ํ์ ์ฒ๋ฆฌ ๋ก์ง(์: ๋ฒกํฐ ์ ์ฌ๋ ๊ฒ์ + ์กฐ๊ฑด ํํฐ๋ง)์ ํตํด ์ด๋ฃจ์ด์ง๋ฏ๋ก, LLM์ด ์ง์ ์ ๋ณด๋ฅผ ์์ฑํ๊ฑฐ๋ ์ฆ๊ฐ๋ ๋ฌธ์๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์๋ตํ ํ์๊ฐ ์์
๋์ฒด ์ค๊ณ: ์ ์ฌ๋ ๊ฒ์ ๊ธฐ๋ฐ ์ํคํ
์ฒ
๊ตฌ์ฑ ์์ |
์ค๋ช
|
๋ฒกํฐ DB |
์ฅ์ ์ค๋ช
, ํ๊ทธ ๋ฑ์ ์๋ฒ ๋ฉํ์ฌ ์ ์ฅ. FAISS ๋๋ ChromaDB ํ์ฉ |
์ ํ DB |
PostgreSQL ๋ฑ์ ์ด์ฉํด ์์น, ํ์ ๋ฑ ์ฅ์ ๋ฉํ์ ๋ณด ์ ์ฅ |
LLM |
์ฌ์ฉ์ ์
๋ ฅ ๋ถ์ (ํค์๋ ์ถ์ถ, ์กฐ๊ฑด ์ ๋ฆฌ ๋ฑ) ์ฉ๋์๋ง ํ์ฉ |
- ์ฌ์ฉ์ ์ง์ ์
๋ ฅ (์์ฐ์ด)
- LLM์ ํตํด ์ง์์์ ์กฐ๊ฑด ์ถ์ถ (์: ์ฅ์ ์ ํ, ๋ถ์๊ธฐ ๋ฑ)
- ์กฐ๊ฑด์ ๊ธฐ๋ฐ์ผ๋ก ๋ฒกํฐ DB์์ ์ ์ฌ๋ ๊ฒ์ ์คํ
- ์ ํ DB์ ์ฐ๊ณํ์ฌ ํํฐ๋ง ๋ฐ ๋ญํน ์ ์ฉ
- ์ต์ข
์ถ์ฒ ๊ฒฐ๊ณผ ๋ฐํ
query = "์กฐ์ฉํ๊ณ ์ฑ
์ฝ๊ธฐ ์ข์ ์นดํ"
โ LLM ๋ถ์ ๊ฒฐ๊ณผ: {์กฐ์ฉํ, ์ฑ
,์นดํ}
โ ์๋ฒ ๋ฉ ์์ฑ ํ ๋ฒกํฐ DB์์ ๊ฒ์
โ ์ ์ฌ๋ ๋์ ์ฅ์ Top-K ์ถ์ถ
โ ๋ฉํ ์ ๋ณด์ ํจ๊ป ์ ๋ ฌ ํ ์ถ์ฒ
RAG ๋๋น ํ ๊ตฌ์กฐ์ ์ฅ๋จ์ ๋น๊ต
ํญ๋ชฉ |
RAG ๋ฐฉ์ |
ํ์ฌ ๊ตฌ์กฐ |
์ธ๋ถ ๋ฌธ์ ํ์ฉ |
ํ์ํจ |
๋ถํ์ํจ |
์์ฑ ๊ธฐ๋ฐ ์๋ต |
์์ |
์์ (์ ํ ์ถ์ฒ) |
์๋ต ์ ์ด์ฑ |
๋ฎ์ |
๋์ |
๊ตฌํ ๋ณต์ก๋ |
๋์ |
์๋์ ์ผ๋ก ๋จ์ํจ |
์ต์ ์ ๋ณด ๋ฐ์ |
์ธ๋ถ ๋ฌธ์ ๊ฐฑ์ ํ์ |
๋ด๋ถ DB ๊ฐฑ์ ๋ฐ ์ฌ์๋ฒ ๋ฉ์ผ๋ก ์ถฉ๋ถํจ |
๋ฐ์ดํฐ ์ต์ ์ฑ ๋ฐ ๊ด๋ฆฌ ์ ๋ต
- ์ฅ์ ๋ฐ์ดํฐ๋ ์ ๊ธฐ์ ์ผ๋ก ์์ง ๋ฐ ๊ฐฑ์ ๋๋ฉฐ, ๋ณ๊ฒฝ ์ฌํญ์ DB์ ์ฆ์ ๋ฐ์
- ๋ฒกํฐ ์๋ฒ ๋ฉ์ ์ ๊ธฐ ๋๋ ์ด๋ฒคํธ ๊ธฐ๋ฐ์ผ๋ก ์ฌ์์ฑํ์ฌ ๊ฒ์ ์ ํ๋ ์ ์ง
- ์ ๊ท ์ฅ์ ๋ฑ๋ก ์, ํด๋น ๋ ์ฝ๋๋ง ๋ถ๋ถ ์๋ฒ ๋ฉํ์ฌ ํจ์จ์ ์ผ๋ก ์ฒ๋ฆฌ
์ ํ ๊ตฌ์กฐ์ ์๋น์ค ๋ชฉํ ์ ํฉ์ฑ
๋ชฉํ |
๋์ ๋ฐฉ์ |
์ ํํ ์ถ์ฒ |
์ ์ฌ๋ ๊ธฐ๋ฐ + ์กฐ๊ฑด ํํฐ๋ง์ผ๋ก ์ ๋ฐ ์ถ์ฒ ๊ฐ๋ฅ |
์๋ต ์ผ๊ด์ฑ |
LLM ์์ฑ์ด ์๋ ๊ณ ์ ๋ ์ถ์ฒ ๋ก์ง์ผ๋ก ์ผ๊ด์ฑ ์ ์ง |
์ต์ ์ ๋ณด ๋ฐ์ |
DB ๋ฐ ์๋ฒ ๋ฉ ์ฃผ๊ธฐ์ ๊ฐฑ์ ์ผ๋ก ๊ฐ๋ฅ |
์๋น์ค ์์ ์ฑ |
์ธ๋ถ API ์์กด์ฑ ์์ด ์์ธก ๊ฐ๋ฅํ ์ด์ ๊ฐ๋ฅ |