Connect AI v2.7 업데이트 개요
Connect AI가 버전 2.7로 새롭게 업데이트되었습니다. 이번 업데이트의 핵심은 외부 프로그램 없이도 로컬 AI를 직접 구동하고 관리할 수 있는 환경을 구축한 점입니다. 기존 사용자는 프로그램 실행 시 나타나는 업그레이드 버튼을 통해 즉시 최신 버전으로 전환할 수 있습니다.
로컬 AI 구동 방식의 변화
기존에는 로컬 AI를 사용하기 위해 LM Studio나 Ollama와 같은 외부 프로그램을 거쳐야 했습니다. 하지만 Connect AI v2.7부터는 이러한 외부 도구 없이 자체 인터페이스 내에서 로컬 AI 모델을 직접 불러오고 실행할 수 있습니다.
- 직접 실행: 우측 상단의 로봇 아이콘을 클릭하여 보유한 인공지능 모델을 선택하고 바로 사용할 수 있습니다.
- 외부 도구 미사용: LM Studio나 Ollama를 완전히 종료한 상태에서도 다운로드된 모델을 구동할 수 있습니다.
- 모델 확장성: 허깅페이스(Hugging Face)에 등록된 모델을 직접 다운로드할 수 있으며, 필요 시 특정 모델(예: Gemma 등)을 검색하여 추가 가능합니다.
생성 파라미터 및 성능 최적화 설정
사용자는 생성 파라미터를 조절하여 AI의 답변 스타일을 정교하게 제어할 수 있습니다. 해당 설정은 생성되는 답변의 창의성, 다양성, 어휘 선택의 폭 등을 결정합니다.
주요 기능 및 설정:
- 생성 파라미터: 답변의 창의성과 어휘 다양성을 조절합니다.
- 패스트 플래시 어텐션(Fast Flash Attention): 활성화 시 인공지능의 응답 속도를 향상할 수 있습니다.
- 메모리 설정: 기억 범위와 응답 길이를 사전에 설정하여 최적의 결과값을 도출합니다.
단기 기억과 장기 기억의 연동
Connect AI v2.7은 단순한 답변 생성을 넘어 지식의 학습과 축적을 지원합니다. 인터페이스 내 두뇌 버튼을 활용해 기억 기능을 제어할 수 있습니다.
기억 저장소의 구분:
- 단기 기억: 대화 과정에서 발생한 정보를 깃허브(GitHub)에 저장하여 즉각적인 문맥 파악에 활용합니다.
- 장기 기억: 획득한 지식 네트워크를 허깅페이스(Hugging Face)에 저장하며, 나만의 인공지능 모델 학습 데이터로 자동 변환 및 학습을 수행합니다.
향후 개발 방향 및 테스트 안내
Connect AI는 1인 기업가를 위한 최적의 로컬 AI 전용 도구를 지향합니다. 이번 버전은 개발자 혼자서 대규모 기업의 솔루션과 경쟁하며 연구한 결과물로, 현재 사용자들의 실사용 테스트와 피드백을 통해 안정성을 확보하고자 합니다. 사용자는 로컬 환경에서 구축된 AI 모델의 동작을 점검하여 프로그램의 완성도를 높이는 과정에 기여할 수 있습니다.