내 컴퓨터에서 무료로 돌리는 작은 AI 모델을 한눈에 비교하고, 어떻게 합쳐서(진화) 나만의 AI를 만드는지 보여드립니다.
모델 카드를 읽기 전에 알아두면 좋은 핵심 개념이에요.
내 컴퓨터에서 직접 돌리는 작은 AI. 구독료 0원, 데이터가 밖으로 안 나갑니다.
두뇌 크기. 클수록 똑똑하지만 무겁고 메모리를 더 씁니다.
💻 8GB→1~3B · 16GB→4~7B · 그 이상→더 큰 모델
상업 사용 가능 여부. Apache·MIT=자유, Llama·Gemma=조건부.
작은 모델 두 개를 합쳐 새 능력을 만드는 것. 같은 계열·크기끼리만, GPU 학습 없이 가능.
HuggingFace에 올라온 실제 모델들이에요. 검색·정렬로 내게 맞는 작은 AI를 찾아보세요.
학습(GPU)이 아니라, 두 모델의 가중치를 수식으로 합쳐(SLERP) 새 능력을 만드는 기술입니다.
두 모델의 가중치를 공처럼 둥글게 섞어 양쪽 장점을 자연스럽게 합칩니다. (Shoemake 1985 · mergekit)
합성 자체는 GPU 학습이 필요 없어 무료·빠릅니다. 가중치 계산만 하면 되니까요.
Llama↔Llama, Qwen↔Qwen 처럼 같은 아키텍처·같은 크기끼리만 합쳐집니다.
-GGUF는 합칠 수 없어요합성에는 safetensors(원본)만 됩니다. 모델 이름 끝에 -GGUF가 붙은 건 실행 전용이라 합성이 안 돼요. 이름에서 -GGUF를 떼고 원본을 쓰세요.
예: ❌ Llama-Deepsync-1B-GGUF → ✅ Llama-Deepsync-1B