GGUF

LM Studio 활용한 로컬 LLM 5분 만에 구동하는 방법

LM Studio 활용한 로컬 LLM 5분 만에 구동하는 방법 2026-08-09 외부 네트워크 연결 없이 개인용 컴퓨터에서 대형 언어 모델을 운영해야 하는 이유 기업의 보안 규정이나 민감 정보 보호 정책으로 인해 외부 클라우드 기반 API 서비스에 소스 코드나 내부 문서를 전송하기 어려운 상황이 빈번하게 발생합니다. 매월 정기적으로 청구되는 클라우드 인공지능 서비스의 구독 비용을 고려할 때, 고성능 하드웨어를 한 번 구축하여…

Vibe on•

내 GPU VRAM 8GB로 ComfyUI FLUX 설치 가이드, OOM 에러 피하는 법

내 GPU VRAM 8GB로 ComfyUI FLUX 설치 가이드, OOM 에러 피하는 법 2026-06-14 요즘 AI 이미지 생태계에서 FLUX가 대세로 자리 잡은 지는 꽤 되었습니다. 다만 이 모델은 용량이 워낙 커서 일반적인 VRAM 8GB 그래픽카드로는 구동 자체가 버거운 편입니다. 기본 FP16 모델을 그대로 올리면 터미널 창에 바로 Out of Memory 에러가 뜨면서 멈추는 일이 흔하지요. 다행히 GGUF 양자화…

Vibe on•

로컬 AI LM Studio 사용법 2026, 처음 켤 때 덜 막히는 순서

로컬 AI LM Studio 사용법 2026, 처음 켤 때 덜 막히는 순서 2026-04-24 LM Studio 사용법, 설치보다 먼저 보는 것 LM Studio 사용법을 찾는 사람 대부분은 로컬 AI를 집이나 회사 PC에서 바로 돌리고 싶어서 들어옵니다. 그런데 처음 막히는 곳은 버튼이 아니라 컴퓨터 사양이더라구요. 2026년 4월 24일 기준 문서를 보면 Mac은 Apple Silicon만 지원하고 macOS 14.0 이상…

Vibe on•
게시물 더보기
검색결과 없음