로컬 AI LM Studio 사용법, Windows에서 첫 채팅까지 10분

로컬 AI LM Studio 사용법, 처음엔 설치보다 모델 고르기에서 갈립니다

LM Studio 사용법을 찾는 사람은 보통 두 가지가 궁금하더라구요. 내 PC에서 진짜 돌아가는지, 그리고 깔아놓고 어디까지 써먹을 수 있는지입니다. LM Studio는 집이든 회사든 무료로 쓸 수 있고, Windows는 x64와 ARM을 둘 다 받습니다. 대신 x64는 AVX2가 필요하고, 권장 메모리는 RAM 16GB 이상, VRAM 4GB 이상이라서 설치 전에 이 숫자부터 보는 게 맞습니다.

제가 크게 보는 지점도 여기예요. 구독형 AI는 카드만 있으면 바로 시작되는데, 로컬 AI는 내 컴퓨터 사양이 곧 사용감이거든요. 그래서 LM Studio 사용법은 앱 버튼 설명보다 먼저, 어떤 모델을 얼마나 작게 시작하느냐가 더 중요합니다.

Step 1: 설치 전에 내 PC부터 짚기

Windows에서 LM Studio를 깔기 전에 CPU와 메모리부터 확인하세요. 오래된 데스크톱이나 사내 지급 노트북은 설치는 되는데 모델 로드에서 멈추는 경우가 꽤 있습니다. 설치 자체는 10분 안쪽으로 끝나도, 여기서 헛돌면 체감상 한 시간 갑니다.

Step 2: Discover 탭에서 첫 모델 받기

LM Studio 사용법에서 가장 많이 틀어지는 장면이 이 단계예요. 처음부터 큰 모델을 잡으면 다운로드도 길고, 로드도 느리고, 답변도 버벅입니다. 시작은 Qwen, Gemma, gpt-oss처럼 문서에 자주 보이는 계열에서 4B~8B급 Instruct 모델로 가는 편이 안전합니다.

Step 3: Chat 탭에서 로드하고 첫 질문 넣기

모델을 받았으면 Chat 탭으로 가서 로드합니다. Windows에서는 Ctrl+L로 모델 로더를 빨리 열 수 있어서 이 단축키를 알아두면 편하구요. 로드는 모델 파일을 RAM이나 VRAM에 올리는 과정이라서, 이 순간에 PC 사양 차이가 바로 드러납니다.

Step 4: 로컬 API까지 열어두면 활용 폭이 확 넓어짐

LM Studio 사용법을 굳이 찾는 이유는 채팅창 하나 때문만은 아니죠. 이 앱은 로컬 API 서버도 열 수 있어서 다른 앱이나 스크립트에서 붙이기 좋습니다. 기본 주소는 localhost:1234이고, 터미널에 명령 한 줄이면 바로 켜집니다.

메모리에서 갈리는 체감

매달 구독료 내는 입장에선 무료라는 말이 먼저 들어오는데, 로컬 AI는 돈 나가는 자리가 조금 다릅니다. 월 결제 대신 메모리와 저장공간이 먼저 걸려요. 문서 요약, 초안 작성, 간단한 코드 보조 정도면 작은 모델로도 생각보다 쓸 만합니다. 반대로 긴 문맥이나 무거운 추론을 기대하면, 앱보다 하드웨어 업그레이드를 먼저 고민하게 되더라구요.

회사 자료를 외부 서비스에 올리기 어려운 사람한텐 이 차이가 꽤 큽니다. 인터넷 연결 없이 테스트할 수 있고, API 비용표를 매번 계산하지 않아도 되니까요.

어떤 사람한테 바로 맞나

브라우저 탭에서만 AI를 쓰다가 한 단계 내려와 보고 싶은 사람, 사내 문서나 개인 파일을 외부에 올리기 찜찜한 사람, 그리고 나중에 로컬 API까지 붙여보고 싶은 사람한텐 LM Studio가 꽤 잘 맞습니다. 반대로 설치 없이 바로 최고 성능만 원하면 클라우드 도구가 더 편할 때도 있구요.

LM Studio 사용법은 복잡한 툴 익히기라기보다, 내 컴퓨터에서 어디까지 돌릴 수 있는지 감 잡는 과정에 더 가깝습니다.