다중 GPU 시대, 하드웨어보다 앞서가는 소프트웨어 혁신 – LM Studio와 Stable Diffusion 생태계의 변화

최근 LM Studio(버전 0.3.14 이상)가 SLI, NVLink 등 하드웨어 연결 방식 없이도 소프트웨어만으로 다중 GPU(Dual/Multi GPU) 지원을 본격적으로 시작했습니다. 이 변화는 대형 언어모델(LLM)뿐 아니라 이미지 생성 AI(Stable Diffusion 등) 분야에도 본격적으로 확산되고 있습니다.

LM Studio의 Multi-GPU 혁신

LM Studio의 최신 버전에서는 사용자에게 다음과 같은 강력한 GPU 관리 기능이 제공됩니다:

GPU별 사용 여부 지정: 각 GPU의 사용/비사용을 쉽게 전환, 혼합 환경에서도 유리.

분배 전략 선택: 균등 분배(evenly) 또는 우선 순위(priority order) 방식 설정 지원.

모델 오프로드 전략: 모델 가중치를 전용 GPU 메모리에 한정해 배분하거나, 필요시 시스템 RAM으로 확장 가능.

실시간 GPU 모니터링 및 제어: 키 조합 한 번으로 컨트롤 창 진입(Ctrl+Shift+H 등), 모델 로드 중에도 제어 가능.

특히 여러 GPU의 VRAM을 합쳐 매우 큰 모델을 로드하거나, 모델별로 최적의 GPU를 할당할 수 있게 하여 대규모 LLM/AI 모델 환경에서 획기적인 성능 개선을 이룹니다.
Stable Diffusion 분야의 소프트웨어 기반 Multi-GPU 동향

Stable Diffusion과 같은 이미지 생성 AI도 점차 소프트웨어 기반 멀티 GPU 지원이 확산되고 있습니다.

Easy Diffusion: LM Studio에 필적하는 원클릭 브라우저 UI로, 복잡한 설정 없이 자동으로 여러 GPU를 감지·분배합니다. 별도 설정 없이 설치만 해도 Multi-GPU 환경이 바로 적용됩니다.

Stable Swarm UI: 네트워크 렌더링까지 지원, 여러 대의 머신·GPU를 묶어 분산 생성이 가능합니다. 소규모 팀/취미 사용자에게 특히 유익합니다.

ComfyUI (확장 사용시): 기본은 단일 GPU지만, ComfyUI-MultiGPU, ComfyUI_NetDist 등의 확장 모듈을 설치하면 노드별로 장치 지정 및 병렬 실행, 여러 머신 협업까지 가능합니다.

InvokeAI (Multi-GPU Fork): 메인 버전은 인스턴스별 GPU 분배(배치 처리), 커뮤니티 포크 버전은 보다 진보된 네이티브 다중 GPU 분할 처리.

AUTOMATIC1111 Stable Diffusion WebUI: 가장 많이 쓰이는 UI이지만, 공식 Multi-GPU는 미지원 상태. 대신 인스턴스별 병렬 처리, 커뮤니티 스크립트 등을 통해 일부 분산 작업은 가능합니다.

 

하드웨어 한계와 소프트웨어의 중요성

과거 다중 GPU는 NVLink, SLI와 같은 하드웨어 연결성에 크게 의존했습니다. 그러나 최근 주요 GPU 제조사는 오히려 이러한 기능을 축소시키며, 'VRAM이 큰 신규 GPU 구매'를 강요하는 시장전략으로 전환 중입니다. 이에 대한 반발로, 사용자는 오래된 GPU도 효율적으로 활용할 수 있는 SW 솔루션의 등장을 더욱 갈망하고 있습니다.

플랫폼 차원의 통합 멀티 GPU 관리 기능(예: Pinokio Launcher 등)이 등장한다면, 다양한 AI 파이썬 앱들이 자동으로 멀티 GPU를 활용하는 미래도 머지않아 보입니다. 혁신의 중심이 하드웨어가 아닌, 소프트웨어 플랫폼으로 이동하는 결정적 변곡점이 될 것으로 보입니다.
결론

하드웨어 한계를 뛰어넘는 소프트웨어 혁신이 실현되고 있으며, 그 중심에는 LM Studio와 Stable Diffusion 생태계가 있습니다. 앞으로는 AI·LLM·이미지 생성 등 GPU 집약적 작업에서 소프트웨어 차원의 멀티 GPU 지원이 새로운 표준이 될 전망입니다.