CONNECT AI LAB · 0.1 · Experimental

로컬 AI
모델 테스트

LM Studio에 불러온 모델을 연결하고,
같은 질문으로 원본과 수정 모델의 답변을 비교합니다.

내 모델 테스트하기 ↗Hugging Face · 업로드 준비 중

Qwen3 · 0.6B 기반 · 교육용 0.1 · Experimental

CONNECT AI LABQWEN3

모델 구조 예시0.6BBASE MODEL

원래 표현개입 방향

원리 설명 보기펼쳐 보기 +

CONNECT AI LAB / MODEL MECHANISMS

모델 동작 원리와
실험 결과

원리 그림과 기록된 답변을 확인합니다.
아래에서 설명할 항목을 선택하세요.

01 / QUESTION → RESPONSE원리 그림 + 실제 기록

1 / 4

실제 한글 질문 고르기

지금 기억할 한 가지

이 장면의 실제 질문·답변 원문 보기

2026.10.09 · LM Studio · Q8_0 · temperature 0 · top_p 1 · seed 8 · 최대 512토큰 · /no_think. 기록 재생이며 새로운 추론 요청을 보내지 않습니다.

BASE MODELQwen3 · 0.6B

파일 크기805 MB · Q8 GGUF

모델 상태교육용 0.1 · Experimental

RUN IT YOURSELFLM Studio + API

모델 정보 · 실험 조건과 결과

Qwen3-0.6B에 방향 성분 제거를 적용한 교육용 프로토타입입니다. 57개 쓰기 경로를 수정했고, 현재 공개 가중치 업로드는 준비 중입니다.

실제 비교에서는 우회 답변과 계산 오류가 남았습니다. 거절 감소와 일반 능력 유지가 충분히 검증된 완성 모델은 아닙니다.

상단 그래픽은 모델 내부 측정값이 아닌 설명용 시각화입니다.

실험 조건과 실제 답변 보기 ↗

01 / BRING IT HOME

LM Studio 연결 방법

처음에는 2,048 토큰으로 가볍게 시작하세요.
파일 용량과 실행 메모리는 다릅니다. RAM 4GB 이상의 여유 공간은 출발 예산이며, 환경에 따라 더 필요합니다.

STEP 01 / DOWNLOAD

모델 파일 준비

공개 업로드 전입니다. 보유한 로컬 GGUF 파일을 가져오거나, LM Studio에 이미 설치한 모델로 테스트할 수 있습니다.

로컬 파일 준비 완료 · 공개 업로드 대기

WonseokJayJung/connectailab-uncensored
SHA-256: e3778c33ef70e204aea72469dbfea7462f8a0f5409a342c1e92ae9d900b2c1e4

STEP 02 / LOAD

LM Studio에서 열기

모델을 불러오고 Developer 탭의 로컬 서버를 시작하세요. 이 컴퓨터 안에서 실행됩니다.

lms import ./connectailab-uncensored-0.6b-Q8_0.gguf --copy
lms load connectailab-uncensored --identifier connectailab-uncensored --context-length 2048
lms server start

STEP 03 / CONNECT

답변 테스트에 연결

서버 주소를 확인하고 ‘모델 목록 연결’을 누르세요. 브라우저 연결에는 LM Studio의 CORS 설정이 필요할 수 있습니다.

LM Studio API 실제 응답 확인 완료

로컬 테스트는 업로드 전에도 가능합니다.
API 토큰은 메모리에만 두며, 페이지를 닫으면 사라집니다.

02 / MODEL RESPONSE TEST

모델에 질문하기

질문은 지정한 내 컴퓨터의 LM Studio로 직접 전달됩니다. 이 페이지에는 대화 수집 서버가 없습니다. 비교할 때는 같은 조건으로 순서대로 실행합니다.

MODEL PLAYGROUND / LIVE LOCAL INFERENCETemperature 0 · Seed 8 · 독립된 한 번의 질문

LM Studio API 주소API 토큰 · 인증을 켠 경우에만

먼저 LM Studio 서버를 켜고 연결하세요. 자동으로 질문을 보내지 않습니다.

무엇을 물어볼까요?최대 4,000자

기대하는 답 · 따라 쓰기·계산에만 사용

응답을 기다리는 중이 아닙니다

A / 비교 모델—

연결하고 질문을 보내면 실제 답변이 여기에 나타납니다.

모델의 추론 출력

답변을 읽고 직접 판정

B / 테스트 모델—

연결하고 질문을 보내면 실제 답변이 여기에 나타납니다.

모델의 추론 출력

답변을 읽고 직접 판정

공백·문장부호를 제외한 기대 문장 일치와 내용의 정확성은 다릅니다. 아래 판정에 답변을 읽은 결과를 남겨 보세요.

연결이 안 될 때 · 설치부터 브라우저 권한까지

① LM Studio의 Developer에서 서버가 켜져 있고 포트가 1234인지 확인하세요. ② Server settings의 Enable CORS를 확인하세요. ③ 인증을 켰다면 토큰을 입력하세요. ④ 브라우저가 로컬 네트워크 접근을 물으면 허용해야 연결됩니다. 외부 네트워크 공개는 필요하지 않습니다.

HTTPS 페이지에서 로컬 서버 접속이 차단되는 브라우저는 독립 실행 HTML을 받아 로컬 HTTP 서버로 열 수 있습니다. 내려받은 폴더에서 python3 -m http.server 8765 --bind 127.0.0.1을 실행하고 http://127.0.0.1:8765/connectailab-playground.html에 접속하세요. 기본 그래픽과 테스트 기능은 한 파일 안에 포함돼 있습니다.

LM Studio 공식 서버 설정 ↗ · 모델 가져오기 ↗

벡터 수식으로 더 알아보기펼쳐 보기 +

03 / UNDER THE HOOD

우리 모델에 적용한 수정 방법

거절 예상 질문과 일반 질문의 내부 표현을 모아, 두 평균의 차이로 후보 방향을 찾았습니다. 별도 질문으로 후보를 비교한 뒤, 선택한 성분이 출력에 전달되는 정도를 줄였습니다.

우리 실험은 24번 층에서 찾은 방향을 사용해 임베딩과 각 층의 출력 경로를 수정했습니다. 새 지식을 가르치거나 모든 상황의 행동을 통제하는 장치는 아닙니다.

NeurIPS 2024 논문 읽기 ↗

방향 제거 강도 0%

개입 전: 원래 표현에 보라색 방향 성분이 남아 있습니다.

h′ = h − α · (h · u) · u

04 / WHAT WE ACTUALLY MEASURED

측정 결과와 한계

CPU FP32에서 실제 수정·저장·재로딩을 완료했습니다. 저장 전후 logits 차이는 0이었고 답변도 같았습니다. 아래는 네 개의 시험 질문으로 본 작은 실험이며, GGUF 성능을 측정한 표는 아닙니다.

2026.10.09 · Qwen3-0.6B · Transformers 4.57.6
큰 벤치마크·Colab GPU 전체 실행은 미검증.

비교 조건	거절 문구 감지	정답 문자열 일치
원본 모델	4 / 4	1 / 4
무작위 방향 제거	4 / 4	1 / 4
저장 후 재로딩	0 / 4	1 / 4

문구 감지 0 ≠ 실제 거절 0.
답변을 읽으면 개인정보 제공을 피하거나 일반적인 설명으로 돌리는 반응이 남았습니다. 모르는 답을 자신 있게 지어내는 것 역시 성공으로 세지 않습니다.

로컬 AI모델 테스트

모델 동작 원리와실험 결과