Ollama CLI로 모델 지우기, C드라이브 꽉 찼을 때 바로 정리하는 순서

Ollama CLI로 먼저 정리해야 덜 꼬인다
로컬 LLM을 이것저것 받아보다 보면 가장 먼저 막히는 건 속도보다 저장공간입니다. qwen3, gemma3, DeepSeek-R1처럼 이름이 다른 모델을 몇 개만 받아도 C드라이브 여유가 빠르게 줄어듭니다. 특히 8B, 14B, 32B를 섞어 두면 어느 항목이 공간을 크게 먹는지 바로 감이 안 옵니다. 이럴 때는 감으로 지우기보다 순서를 나눠서 보는 편이 훨씬 안전합니다.
헷갈리는 이유도 단순합니다. 지금 메모리에 올라간 상태와 디스크에 남아 있는 파일을 같은 일로 생각하기 쉽기 때문입니다. Ollama 모델 삭제는 명령어 자체보다 순서가 중요합니다. 이름 확인, 실행 상태 정리, 불필요한 항목 삭제, 다음 저장 경로 분리. 이 네 가지를 따로 처리하면 C드라이브 정리도 훨씬 덜 꼬입니다.
Step 1: 설치된 이름과 태그를 먼저 맞춘다
가장 먼저 할 일은 설치 목록을 보는 겁니다. 이름이 비슷해도 태그가 다르면 다른 파일이라서, qwen3와 qwen3-coder를 같은 것으로 보고 지우면 다시 받아야 하는 상황이 생길 수 있습니다. 8B와 14B도 용량 차이가 크기 때문에 이름만 보고 넘기면 실수가 잦아집니다.
여기서는 어떤 모델이 있는지 확인하는 데 집중하면 됩니다. 목록이 길다면 최근에 자주 쓰는 작은 모델은 남기고, 한동안 손대지 않은 큰 모델부터 정리 후보로 잡는 방식이 현실적입니다. Ollama 모델 삭제를 서두를수록 오타 하나 때문에 한 번 더 멈추게 되니, 이 단계는 짧아 보여도 꼭 거치는 편이 낫습니다.
Step 2: 실행 중인 항목은 메모리에서 먼저 내린다
디스크에서 파일을 지우는 일과 현재 실행 중인 모델을 멈추는 일은 별개입니다. 터미널을 닫았다고 바로 정리되는 건 아니고, 에디터나 다른 앱이 백그라운드에서 호출 중이면 그대로 남아 있을 수 있습니다. 그래서 저장공간 문제를 볼 때도 현재 어떤 모델이 떠 있는지 한 번 분리해서 보는 게 좋습니다.
ollama stop qwen3:8b
ollama ps는 지금 메모리에 올라간 모델을 보여주고, ollama stop은 그 항목을 내리는 역할입니다. 여기서 한 가지를 분명히 구분하면 좋습니다. stop은 실행 상태를 정리하는 명령이고, 파일을 없애는 명령은 아닙니다. 속도나 RAM 점유는 달라졌는데 SSD 공간이 그대로라면 두 작업을 섞어서 본 경우가 많습니다.
Step 3: 안 쓰는 모델은 rm으로 지운다
이제 실제 삭제 단계입니다. 이름과 태그만 정확하면 복잡하게 돌아갈 이유가 없습니다. 개인 PC에서 관리할 때는 필요한 것만 남기고 정리하는 편이 가장 깔끔합니다.
지운 뒤에는 ollama ls를 다시 한 번 확인하면 됩니다. 목록에서 사라졌다면 그 항목은 정리된 겁니다. 어떤 것부터 비울지 고민되면 4B처럼 자주 돌리는 작은 모델은 남기고, 14B나 32B처럼 공간을 크게 차지하는 쪽부터 손보는 방식이 보통 편합니다. 같은 계열을 여러 개 받아둔 상황이라면 최근에 쓰지 않은 변형부터 줄이는 쪽이 판단하기 쉽습니다. 이 구간이 바로 Ollama 모델 삭제의 핵심이고, 여기서 용량 확보 폭이 가장 크게 갈립니다.
Step 4: 다음 다운로드 위치를 다른 드라이브로 돌린다
한 번 비웠는데도 며칠 지나 다시 C드라이브가 찬다면, 삭제만 반복할 일이 아니라 저장 위치부터 바꿔야 합니다. 보조 SSD나 외장 NVMe가 있다면 새로 받는 파일을 처음부터 다른 드라이브에 두는 편이 훨씬 편합니다.
이 명령은 이후에 받을 모델 경로를 바꾸는 데 의미가 큽니다. 이미 받아 둔 파일을 자동으로 옮겨 주는 건 아니기 때문에, 지금 공간 비우기와 앞으로의 저장 위치 변경은 따로 생각하는 편이 덜 헷갈립니다. 값을 넣은 뒤에는 Ollama를 완전히 종료한 다음 새 터미널이나 새 세션에서 다시 시작해야 반영을 확인하기 쉽습니다.
Step 5: 코딩툴에서 만든 별칭도 같이 본다
요즘은 Ollama를 채팅창보다 코딩툴 뒤에 붙여 쓰는 경우가 많습니다. 이때는 원본 모델 외에 별칭이 추가로 남을 수 있습니다. 목록에 익숙한 이름이 아닌 claude-3-5-sonnet 같은 항목이 보인다면, 실제로는 같은 기반 모델을 다른 이름으로 복사해 둔 경우일 수 있습니다.
ollama rm claude-3-5-sonnet
오픈소스 예시에서 ollama cp qwen3-coder claude-3-5-sonnet처럼 이름을 바꿔 두는 흐름이 자주 보입니다. 그래서 기본 모델만 정리하고 별칭을 그대로 남겨두면 목록은 줄었는데 공간이 기대만큼 비지 않는 일이 생깁니다. 설치 목록이 예상보다 길거나 삭제 뒤에도 여유가 작다면 원본과 별칭이 함께 남아 있는지 마지막으로 확인해 두는 편이 좋습니다.
정리는 짧게, 기준은 분명하게
정리 순서는 길지 않습니다. ollama ls로 이름을 확인하고, ollama ps와 ollama stop으로 실행 상태를 떼어내고, ollama rm으로 불필요한 항목을 지우면 됩니다. 여기에 OLLAMA_MODELS까지 따로 잡아 두면 다음 다운로드부터는 같은 문제를 반복할 가능성이 크게 줄어듭니다. 로컬 LLM을 오래 써야 하는 사람일수록 한 번에 많이 받기보다, 필요한 모델만 남기고 주기적으로 정리하는 습관이 훨씬 실용적입니다.
이런 글도 있어요
관련 검색어
- 🔍 Ollama 사용법
- 🔍 Ollama 비교
- 🔍 Ollama 모델 삭제 사용법
- 🔍 Ollama 모델 삭제 비교
- 🔍 로컬 LLM 사용법
- 🔍 로컬 LLM 비교