내 GPU VRAM 8GB로 ComfyUI FLUX 설치 가이드, OOM 에러 피하는 법

2026-06-14

요즘 AI 이미지 생태계에서 FLUX가 대세로 자리 잡은 지는 꽤 되었습니다. 다만 이 모델은 용량이 워낙 커서 일반적인 VRAM 8GB 그래픽카드로는 구동 자체가 버거운 편입니다. 기본 FP16 모델을 그대로 올리면 터미널 창에 바로 Out of Memory 에러가 뜨면서 멈추는 일이 흔하지요. 다행히 GGUF 양자화 포맷이 널리 쓰이면서 저사양 그래픽카드 환경에서도 충분히 실시간 생성에 가까운 속도로 돌릴 수 있게 되었습니다. 사양이 낮은 PC를 위한 ComfyUI FLUX 설치 과정을 단계별로 차근차근 정리해 드립니다.

8GB VRAM 환경의 돌파구, GGUF 양자화 포맷

본격적인 작업에 들어가기 전에 왜 GGUF 포맷이 필요한지 먼저 짚어야 합니다. FLUX 모델은 텍스트 인코더인 T5-XXL의 크기만 해도 수십 기가바이트에 달해서 시스템 메모리와 VRAM을 동시에 크게 잡아먹습니다. 이걸 가볍게 압축한 버전이 GGUF인데, 화질 저하는 최소화하면서 필요한 메모리 용량을 절반 이하로 낮춰 주는 편입니다. 8GB VRAM 컴퓨터라면 Q4_K_M 이나 Q5_K_M 등급의 GGUF 파일을 쓰는 쪽이 속도와 화질 사이에서 가장 현실적인 선택이 됩니다. 설치에 필요한 핵심 구성품은 ComfyUI 본체, 매니저 플러그인, GGUF 지원 노드, 그리고 모델 파일들로 정리됩니다. 아래 표를 보면서 자신의 하드웨어에 맞는 방식을 골라 보세요.

포맷 종류	추천 VRAM	화질 손실	생성 속도
FLUX.1 FP16 (원본)	24GB 이상	없음 (기준점)	매우 느림 (8GB 기준 대기 발생)
FLUX.1 FP8 (기본)	12GB ~ 16GB	거의 없음	느림 (8GB에서 OOM 빈번)
FLUX.1 GGUF Q5_K_M	8GB ~ 12GB	매우 미미함	보통 (권장 타협안)
FLUX.1 GGUF Q4_K_S	8GB 이하	미세하게 있음	빠름 (가장 원활함)

Step 1: ComfyUI 매니저 설치와 업데이트

ComfyUI 설치는 이미 끝났다고 가정하고, 먼저 확장 기능을 자유롭게 추가할 수 있는 ComfyUI-Manager부터 확보해야 합니다. 터미널을 열고 custom_nodes 폴더로 이동한 뒤 아래 명령어를 실행하면 됩니다.

다운로드가 끝난 뒤 ComfyUI를 다시 실행하면 화면 우측 하단 제어판에 Manager 버튼이 새로 생긴 것을 볼 수 있습니다. 이 버튼을 눌러 매니저 창을 띄운 다음, 가장 먼저 Update ComfyUI를 실행해 프로그램을 최신 상태로 갱신해 두는 편이 좋습니다. 구버전에서는 최신 양자화 모델 로더가 오작동하는 경우가 종종 있기 때문입니다.

Step 2: ComfyUI-GGUF 커스텀 노드 추가

GGUF 포맷의 FLUX 모델을 불러오려면 전용 로더 노드가 필요합니다. 이 역시 매니저를 통해 간단히 설치할 수 있습니다. Manager 창에서 Install Custom Nodes 메뉴를 선택한 뒤 검색창에 GGUF를 입력해 보세요. 리스트에 나오는 ComfyUI-GGUF 항목의 Install 버튼을 눌러 설치를 마치고, 프로그램을 완전히 종료했다가 다시 켜면 준비가 끝납니다. 수동으로 받고 싶다면 custom_nodes 디렉토리 아래에 직접 리포지토리를 복사해 넣어도 됩니다.

이렇게 노드를 올리고 나면 기존의 일반 체크포인트 로더 대신 GGUF 전용 모델 로더를 작업 영역에 띄울 수 있습니다. ComfyUI-GGUF 노드가 정상적으로 활성화되어야 비로소 ComfyUI FLUX 설치 과정의 핵심 단계가 완성됩니다.

Step 3: 저용량 FLUX 및 T5-XXL GGUF 파일 배치

이제 핵심이 되는 모델 파일들을 받아서 제 위치에 넣을 차례입니다. 8GB VRAM 그래픽카드 환경에서는 경량화된 GGUF 버전을 골라야 훨씬 편합니다. city96의 Hugging Face 저장소에서 FLUX.1-dev-gguf 모델 중 Q4_K_S 혹은 Q4_K_M 버전을 선택해 내려받아 주세요. 텍스트 인코더도 일반 버전은 용량이 너무 크므로 t5-v1_1-xxl-encoder-gguf 저장소에서 Q4_K_M 버전을 내려받는 쪽이 안전합니다. 다운로드한 FLUX.1 GGUF 파일은 아래 경로에 넣으면 됩니다.

그리고 인코더 파일인 T5-XXL GGUF는 다음 경로에 정확히 배치해야 합니다.

이 단계에서 파일을 알맞게 넣는 것이 ComfyUI FLUX 설치 성능을 좌우하는 핵심입니다. 경로를 잘못 지정하면 모델 로더에서 파일이 잡히지 않으니 철자를 한 번 더 점검해 보는 편이 좋습니다.

Step 4: GGUF 전용 노드 연결과 이미지 생성

모든 리소스 준비가 끝났다면 이제 빈 워크플로우 화면에서 마우스 우클릭을 한 다음 노드를 직접 구성해 볼 차례입니다. 일반 로더가 아니라 Unet Loader (GGUF) 노드를 검색해 추가하고, 방금 저장한 FLUX GGUF 모델을 선택해 주셔야 합니다. 이어서 DualCLIP Loader (GGUF) 노드를 띄운 뒤 clip1 슬롯에는 기존의 clip_l 파일을, clip2 슬롯에는 다운로드해 둔 t5-xxl GGUF 파일을 지정해 주세요. 그다음 VAE Loader를 추가해 기본 FLUX VAE 파일을 연결하고, KSampler 노드와 최종 이미지 저장 노드를 순서대로 엮으면 됩니다. 이 상태로 화면 우측의 Queue Prompt 버튼을 클릭하면 첫 번째 렌더링이 시작됩니다.

에러 없이 작동시키는 GGUF 문제 해결 요령

첫 이미지 생성 시점에는 시스템 메모리가 모델을 로드하느라 약간의 랙이 발생할 수 있습니다. 8GB VRAM 그래픽카드 기준으로는 보통 첫 장을 뽑는 데 30초에서 40초 정도 소요되는데, 이는 기존 FP8 모델을 올렸을 때보다 속도 면에서 체감이 훨씬 나아진 수치입니다. 만약 프롬프트를 입력하고 실행했는데 중간에 멈추거나 꺼진다면 컴퓨터 메모리(RAM) 용량이 부족해 가상 메모리 페이징이 꼬였을 가능성이 큽니다. 제어판에서 윈도우 가상 메모리 크기를 최소 32GB 이상으로 넉넉하게 확장해 두는 조치만으로도 대부분의 튕김 현상을 줄일 수 있습니다. 저사양 PC를 위한 ComfyUI FLUX 설치 절차와 요령을 제대로 익혀 두면 하드웨어 제약이 있어도 원하는 이미지를 계속 만들어 나갈 수 있습니다.