๋ก์ปฌ AI ๊ตฌ์ถ๊ณผ ๋ฐ์ดํฐ ์์ฐํ์ ์ค์์ฑ
์ธ๊ณต์ง๋ฅ ๊ธฐ์ ์ด ๋น ๋ฅด๊ฒ ๋ฐ์ ํ๋ฉด์ ChatGPT๋ ์ ๋ฏธ๋์ด์ ๊ฐ์ ํด๋ผ์ฐ๋ ์๋น์ค ํ์ฉ์ ๋์ด, ์ด์ ๋ ์์ ๋ง์ ์ง์๊ณผ ๋ฐ์ดํฐ๋ฅผ ๊ด๋ฆฌํ๋ '๋ก์ปฌ AI' ๊ตฌ์ถ์ด ํ์์ ์ธ ์ญ๋์ด ๋๊ณ ์์ต๋๋ค. ๊ธฐ์ ์ด ์ผ์๊ณผ ์์ ์ ๋ฐ์ผ๋ก ํ์ฐ๋จ์ ๋ฐ๋ผ, ์ด๋ฅผ ์ ๋๋ก ์ดํดํ์ง ๋ชปํ๋ฉด ์ ๋ณด ๊ฒฉ์ฐจ๊ฐ ํฌ๊ฒ ๋ฒ์ด์ง ์ ์์ต๋๋ค. ๋ณธ ๊ฐ์ด๋๋ ๊ฐ์ธํ๋ AI ํ๊ฒฝ์ ๊ตฌ์ถํ๊ณ ์ง์์ ์์ฐํํ๋ ๋ฐฉ๋ฒ์ ๋ค๋ฃน๋๋ค.
๋๋ง์ AI ํ๊ฒฝ ๊ตฌ์ถ: ์ํฐ๊ทธ๋๋นํฐ์ ๋ก์ปฌ LLM
๋ก์ปฌ AI ํ๊ฒฝ์ ํด๋ผ์ฐ๋ ๊ธฐ๋ฐ์ ์ธ๊ณต์ง๋ฅ๊ณผ ๋ฌ๋ฆฌ ๋ณธ์ธ์ ์ปดํจํฐ ์์์ ํ์ฉํ์ฌ ๋๋ง์ ์ง์์ ํ์ต์ํค๊ณ ์ด์ฉํ ์ ์๋ค๋ ์ฅ์ ์ด ์์ต๋๋ค. ์ด๋ฅผ ์ํด ์ํฐ๊ทธ๋๋นํฐ(Anti-Gravity)์ LM ์คํ๋์ค(LM Studio) ๊ฐ์ ๋๊ตฌ๊ฐ ์ฃผ๋ก ํ์ฉ๋ฉ๋๋ค.
- LM ์คํ๋์ค: ๋ค์ํ ๋ก์ปฌ ๊ฑฐ๋์ธ์ด๋ชจ๋ธ(LLM)์ ๋ค์ด๋ก๋ํ๊ณ ๊ตฌ๋ํ๊ธฐ ์ํ ํ๋ซํผ์ ๋๋ค. ์ ฌ๋ง(Gemma) 2, 4B ๋ชจ๋ธ ๋ฑ์ ๋ก์ปฌ ํ๊ฒฝ์์ ์คํํ ์ ์์ต๋๋ค.
- ์ํฐ๊ทธ๋๋นํฐ์ ์ปค๋ฅํธ AI: ๋ก์ปฌ ํ๊ฒฝ์์ AI๊ฐ ์ฌ์ฉ์์ ์ง์์ ์ฐธ์กฐํ ์ ์๋๋ก ์ฐ๊ฒฐํด ์ฃผ๋ ์ธํฐํ์ด์ค ์ญํ ์ ํฉ๋๋ค.
ํ๊ฒฝ ์ค์ ์ ๊ธฐํฐ๋ธ(GitHub) ๋๊ธฐํ ๊ธฐ๋ฅ์ ํ์ฉํ๋ฉด, ์ง์์ ์จ๋ผ์ธ ์ ์ฅ ๊ณต๊ฐ์ ๋ฐฑ์ ํ ์ ์์ด ์ปดํจํฐ๋ฅผ ๊ต์ฒดํ๊ฑฐ๋ ์ฌ์ค์นํ๋๋ผ๋ ๊ธฐ์กด์ ์ง์ ๋ฐ์ดํฐ๋ฅผ ๊ทธ๋๋ก ์ ์งํ ์ ์์ต๋๋ค.
์ง์ ์ฃผ์ ๊ณผ ๋ฐ์ดํฐ ์์ฐํ ์ ๋ต
๋ก์ปฌ AI์ ํต์ฌ์ ๋ชจ๋ธ ์์ฒด๊ฐ ์๋๋ผ '๋๋ง์ ๋ฐ์ดํฐ'๋ฅผ ์ผ๋ง๋ ์ฒด๊ณ์ ์ผ๋ก ์๋๋์ ์์ต๋๋ค. ๋ฒ์ฉ์ ์ธ ์ง์์ด ์๋, ๊ฐ์ธ์ ๋ ธํ์ฐ๋ ํน์ ๋ถ์ผ์ ์ ๋ฌธ ๋ฌธ์๋ฅผ AI์ ์ฃผ์ ํ๋ ์ ์ฐจ๋ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.
- ๋ฐ์ดํฐ ์ค๋น: ์์ฑํ ์ฝํ ์ธ ๋ ์์งํ ์ ๋ฌธ ์ง์์ ๋งํฌ๋ค์ด ํ์ผ์ด๋ ํ ์คํธ ๋ฌธ์ ํํ๋ก ์ค๋นํฉ๋๋ค.
- ์ง์ ์ฃผ์ : ์ํฐ๊ทธ๋๋นํฐ ๋ด ํ์ผ ์ ๋ก๋ ๊ธฐ๋ฅ์ ํตํด ๋ฐ์ดํฐ๋ฅผ ๋ก์ปฌ AI ์์คํ ์ ์ ๋ ฅํฉ๋๋ค.
- ์ง์ ๋๊ธฐํ: ๊ธฐํฐ๋ธ ๋๊ธฐํ ๋ฒํผ์ ๋๋ฌ ๋ก์ปฌ์ ์ ์ฅ๋ ์ง์ ๋ฐ์ดํฐ๋ฅผ ํด๋ผ์ฐ๋ ๊ธฐ๋ฐ์ ์ ์ฅ์๋ก ํธ์ํ์ฌ ๋๊ธฐํํฉ๋๋ค.
์ด ๊ณผ์ ์ ํตํด AI๋ ์ฌ์ฉ์๊ฐ ํ์ต์ํจ ์ ๋ณด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์ต์ ํ๋ ๋ต๋ณ์ ์ ๊ณตํ๊ฒ ๋ฉ๋๋ค. ํ ์คํธ ๊นจ์ง ํ์์ด ๋ฐ์ํ๋๋ผ๋ AI๋ ๋ด๋ถ์ ์ผ๋ก ์ฒ๋ฆฌํ ์ ์์ผ๋ฏ๋ก, ๋ฐ์ดํฐ์ ๋ณธ์ง์ธ '์ง์ ํจํดํ'์ ์ง์คํ๋ ๊ฒ์ด ์ค์ํฉ๋๋ค.
๊ธฐ์ ์ ์ค๋ฅ ํด๊ฒฐ ๋ฐ ์ต์ ํ ํ
๋ก์ปฌ AI๋ฅผ ์ด์ฉํ๋ค ๋ณด๋ฉด ๋ฐ์ํ ์ ์๋ ์ผ๋ฐ์ ์ธ ๋ฌธ์ ๋ค์ ๋ํ ํด๊ฒฐ ๋ฐฉ๋ฒ์ ๋๋ค.
- ์ฐ๊ฒฐ ์ค๋ฅ ํด๊ฒฐ: ์ต์คํ ์ (Extension) ์ ๋ฐ์ดํธ๋ฅผ ํตํด ๋ฒ์ ์ ํ์ธํ๊ณ , ์ต์ ๋ฆด๋ฆฌ์ฆ ํ์ผ์ ํ์ธํ์ญ์์ค. ์ ๋ฐ์ดํธ ํ์๋ ๋ฆฌ๋ก๋ ์๋์ฐ(Reload Window)๋ฅผ ํตํด ํ๊ฒฝ์ ์ฌ์์ํด์ผ ๋ณ๊ฒฝ ์ฌํญ์ด ์ ์ฉ๋ฉ๋๋ค.
- ์ปจํ ์คํธ ๋ญ์ค(Context Length) ์กฐ์ : ๊ธด ๋ฌธ์๋ฅผ ์ฒ๋ฆฌํ ๋ ๋ต๋ณ์ด ๋๊ธฐ๋ ํ์์ ๋ชจ๋ธ์ด ํ ๋ฒ์ ๋ณผ ์ ์๋ ์ ๋ณด๋์ ํ๊ณ ๋๋ฌธ์ ๋๋ค. LM ์คํ๋์ค ์ค์ ์์ ์ปจํ ์คํธ ๋ญ์ค ์์น๋ฅผ ์ต๋๋ก ๋๋ฆฌ๋ฉด ๋ณด๋ค ๋ฐฉ๋ํ ๋ด์ฉ์ ์ฒ๋ฆฌํ ์ ์์ต๋๋ค.
- ๋ชจ๋ธ ํธํ์ฑ: ์ฌ์ฉ ์ค์ธ LM ์คํ๋์ค์ ๋ชจ๋ธ๊ณผ ์ํฐ๊ทธ๋๋นํฐ ์ค์ ๋ชจ๋ธ๋ช ์ด ์ผ์นํ๋์ง ํ์ธํด์ผ ํฉ๋๋ค. 'Load Model' ๋จ๊ณ์์ ์ด๋ก์ ์ํ(Running)๋ก ํ์ฑํ๋์ด ์๋์ง ์ ๊ฒํ์ญ์์ค.
๋จ๊ณ๋ณ ํ์ต ๊ฐ์ด๋
์ธ๊ณต์ง๋ฅ ํ์ต์ ์ฒ์ ์์ํ๋ ๋ถ๋ค์ ํ์ด์ฌ(Python) ๊ฐ์ ํ๋ก๊ทธ๋๋ฐ ์ธ์ด๋ถํฐ ๊ณต๋ถํ๊ธฐ๋ณด๋ค, ์ค์ ๋๊ตฌ๋ฅผ ์ฌ์ฉํ๋ฉฐ AI์ ์ํธ์์ฉํ๋ ๊ฒฝํ์ ์๋ ๊ฒ์ด ํจ์จ์ ์ ๋๋ค. ํ์ต ๊ณผ์ ์ ์ผ๋ฐ์ ์ผ๋ก ๋ค์๊ณผ ๊ฐ์ ๋จ๊ณ๋ก ๋๋ฉ๋๋ค.
ํ์ต ๋จ๊ณ ๊ตฌ์ฑ
- ์คํ 1: ์ด๋ฏธ์ง ์์ฑ ๋ฐ ๊ธฐ๋ณธ ํ๊ฒฝ ์ค์
- ์คํ 2: ์๋ํ ์์ด์ ํธ ๋ฐ ๊ตฌ๊ธ 58(ํน์ ๊ด๋ จ ๋๊ตฌ) ์ฐ๋
- ์คํ 3: ๋ฐ์ด๋ธ ์ฝ๋ฉ ๋ฐ ๋ ผ๋ฆฌ ๊ตฌ์กฐ ํ์ต
- ์คํ 4: ํ๋ก์ ํธ ๊ธฐ๋ฐ ํตํฉ ์ด์ฉ
๋ชจ๋ ๊ณผ์ ์ ์์ฐจ์ ์ผ๋ก ์๊ฐํ ํ์๋ ์์ผ๋ฉฐ, ๋ณธ์ธ์ ๋ถ์กฑํ ๋ถ๋ถ์ ์ฑ์ฐ๋ ๋ฐฉ์์ผ๋ก ํ์ตํ๋ ๊ฒ์ด ์ข์ต๋๋ค. ๊ธฐ์ ์ ๊ณ์ ๋ฐ์ ํ๋ฏ๋ก, ํน์ ๋ชจ๋ธ์ ๊ณ ์ฐฉ๋๊ธฐ๋ณด๋ค ์๋ก์ด ํ๊ฒฝ์ ์ ์ฐํ๊ฒ ๊ฐ์ํ ์ ์๋ '๋ฐ์ดํฐ ๊ด๋ฆฌ ์ญ๋'์ ๊ธฐ๋ฅด๋ ๊ฒ์ ์ด์ ์ ๋ง์ถ์๊ธธ ๋ฐ๋๋๋ค.