NVIDIA DGX Spark 64GB, 살 만한가 4,999달러짜리 로컬 AI 기기와 시간 단위 클라우드 GPU는 다른 청구서입니다

모니터 옆에 두는 로컬 AI 기기와 시간당 빌리는 클라우드 GPU는 같은 종류의 돈을 쓰지 않습니다. 아래에서는 이 64GB 구성의 메모리, 대역폭, 소프트웨어를 먼저 나누고, 하루 4시간·8시간·상시 가동 세 가지로 3년 비용을 RTX 4090, L40S, A100, H100 임대와 한 표에 놓습니다. 어떤 모델이 올라가는지, 생성 속도가 어디서 멈추는지, Mac 워크스테이션이 맡는 구간은 그다음 절에 있습니다.

64GB 구성에서 같은 것과 반으로 줄어든 것

2026년 10월 NVIDIA는 DGX Spark에 64GB 구성을 더했습니다. 칩은 그대로 GB10 Grace Blackwell 슈퍼칩입니다. Arm CPU 20코어(Cortex-X925 10개와 Cortex-A725 10개, MediaTek과 공동 설계), Blackwell GPU, 5세대 Tensor Core, 보드 위 ConnectX-7 200Gbps. 시스템 메모리는 CPU와 GPU가 같은 주소로 보는 64GB LPDDR5X이고 대역폭은 273GB/s입니다. 전원은 240W, GB10 TDP는 140W, 크기는 약 150×150×50.5mm, 무게 1.2kg. 운영체제는 DGX OS이고 그 위는 CUDA 스택입니다. Windows 데스크톱도 macOS도 아닙니다.

2026년 10월 23일부터 Acer, ASUS, Dell, Gigabyte, HP, MSI가 판매합니다. NVIDIA가 적은 시작가는 4,999달러입니다. NVIDIA 브랜드 64GB Founders는 없습니다. 128GB 모델은 계속 팔리고, The Register는 2026년 10월 2일 그 가격이 6,950달러로 움직였다고 전했습니다. 출시가 3,999달러보다 꽤 높습니다. 여러 보도는 64GB 모델의 저장장치도 절반이라고 합니다. 드라이브 수와 용량은 각 제조사 사양을 봐야 합니다. “최대 4TB”는 제품군 상한이지, 모든 기기가 가득 찬다는 뜻이 아닙니다.

64GB에 남는 모델

NVIDIA의 말은, 64GB 한 대가 약 1,000억 파라미터까지 로컬 추론·미세조정·에이전트에 쓰고, ConnectX-7로 두 대를 직결하면 메모리 풀이 128GB가 되어 상한이 약 2,000억 파라미터라는 것입니다. 정밀도와 같이 읽어야 합니다. 가중치 크기는 대략 파라미터 수 곱하기 파라미터당 바이트입니다. GGUF Q4는 약 0.55–0.6바이트, FP8이나 Q8은 약 1바이트, BF16은 약 2바이트입니다. OS, 런타임, KV 캐시에 8–12GB를 더 남기세요. 표는 용량 판단이지 특정 저장소의 실측 토큰 속도가 아닙니다.

미세조정은 추론보다 메모리를 더 씁니다. 8B에서 14B QLoRA가 이 기기가 편한 구간입니다. 32B QLoRA는 시도할 수 있지만 배치는 매우 작아집니다. 70B 전 파라미터 미세조정이나 높은 랭크 어댑터는 64GB에 맞지 않습니다. NVIDIA가 64GB 용도에 미세조정을 넣은 것은 메모리에 들어가는 크기 이야기이지, 70B를 마음대로 학습한다는 뜻이 아닙니다.

생성 속도는 대역폭에서 먼저 멈춥니다

배치가 1인 단일 스트림에서는 토큰마다 가중치를 거의 한 번 읽습니다. 상한은 메모리 대역폭을 가중치 크기로 나눈 값입니다. 천장이지 벤치마크가 아닙니다. 커널 오버헤드, KV, CPU 때문에 실측은 더 낮습니다.

• 8B Q4, 약 5GB — 273 ÷ 5 ≈ 초당 55토큰이 대역폭 상한
• 32B Q4, 약 18GB — 273 ÷ 18 ≈ 초당 15토큰
• 70B Q4, 약 40GB — 273 ÷ 40 ≈ 초당 6.8토큰

같은 식을 H100 SXM 약 3.35TB/s에 놓으면 40GB 가중치의 상한은 초당 약 80토큰 규모입니다. 4090 대역폭은 약 1TB/s지만 24GB에는 70B Q4가 들어가지 않습니다. Spark의 자리는 이 틈입니다. 소비자 GPU보다 큰 모델을 H100 처리량 값 없이 책상에 둡니다. 사는 것은 “올라간다”와 “데이터가 여기에 남는다”이지 “데이터센터 GPU와 같다”가 아닙니다.

3년 청구서: 일시불과 시간 요금은 단위가 다릅니다

4,999달러는 첫 줄입니다. 전기료는 추론 중 시스템 160W, kWh당 0.15달러로 잡았습니다. 160W는 칩 TDP 140W와 전원 240W 사이의 계획값이며 측정된 전력 곡선이 아닙니다. 3년 시간은 365.25일 기준입니다. 하루 4시간은 4,383시간, 8시간은 8,766시간, 상시는 26,298시간입니다.

클라우드 단가는 2026년 9월 말 RunPod 공개 시간 요금에 아직 대응되던 값을 계획가로 썼고, 시장 최저가는 쓰지 않았습니다. RTX 4090은 시간당 0.50달러(커뮤니티 0.34달러와 시큐어 0.74달러 사이), L40S는 0.90달러(0.79달러와 1.09달러 사이), A100 80GB는 1.39달러, H100 SXM은 커뮤니티 2.69달러입니다. 스토리지, 아웃바운드, 대기 시간은 표에 없습니다. 단가는 매주 움직입니다. 주문 당일 가격으로 다시 계산하세요.

# hours: 3년 동안 실제로 추론한 시간
hours = hours_per_day * 365.25 * 3
cloud = hours * hourly_usd
# 0.160 kW와 0.15달러/kWh는 가정
spark = 4999 + (0.160 * hours * 0.15)

4,999달러를 시간 단가로 나누면 대략의 분기점은 4090 대비 하루 약 9시간, L40S 약 5시간, A100 약 3.3시간, H100 약 1.7시간입니다. 전기료와 3년 뒤 잔존가치가 선을 움직입니다. 잔존가치의 예측 숫자는 두지 않습니다. 기기는 남고 임대 시간은 남지 않습니다. 나중에 1,500달러에 넘긴다면 잠긴 하드웨어는 3,499달러가 되고 분기점은 더 빨리 옵니다. 민감도이지 매각가 약속이 아닙니다.

64GB, 128GB, 케이블로 잇는 두 대

64GB와 128GB는 칩, 대역폭, DGX OS, ConnectX-7이 같습니다. 다른 것은 용량과, 보도에서 절반이라고 한 저장장치입니다. 128GB 모델 6,950달러에서 늘어난 1,951달러가 사는 것은 70B FP8이 올라가고, Q4 70B에 KV 여유가 있으며, 미세조정 배치를 키울 수 있다는 점입니다. 가중치가 이미 55GB 근처라면 64GB를 사고 “나중에 양자화를 더 세게 하면 된다”고 기대하지 마세요.

64GB 두 대는 QSFP 케이블로 직결합니다. 스위치는 없고 NVIDIA 클러스터 도우미가 발견과 ConnectX-7 설정을 맡습니다. 풀은 128GB, 연산과 대역폭은 대략 두 배, 시작가는 9,998달러입니다. 128GB 한 대 6,950달러와 나란히 놓으면 작은 기기를 두 대 사는 것은 메모리를 싸게 사는 길이 아닙니다. 32B–70B Q4를 한 대로 돌려 본 뒤 두 번째 연산이 필요할 때 더하는 길입니다.

4,999달러를 쓸 조건

살 만한 경우는 네 가지가 같이 성립할 때입니다. 상주 가중치가 대략 20–45GB라 24GB 카드에 안 들어갑니다. 한 달에 몇 밤이 아니라 평일 대부분 켜 둡니다. 데이터가 방을 나갈 수 없습니다. 그리고 70B Q4 생성이 초당 한 자릿수 토큰 근처여도 일이 됩니다. 이때 사는 것은 상주와 데이터 경계입니다. A100이나 H100을 3년 빌리면 자릿수가 하나 올라갑니다.

사지 말아야 할 때도 구체적입니다. 8B–32B를 하루 몇 시간이면 3년은 4090 임대가 더 싸고 대역폭도 높습니다. 학습, 높은 동시성, 70B FP8, 긴 컨텍스트는 64GB와 273GB/s 둘 다 부족합니다. 80GB를 시간으로 빌리거나 6,950달러 128GB를 보세요. 필요한 것이 macOS, Xcode, Core ML이면 이 Arm Linux 기기는 가격 이전에 계통이 다릅니다.

macOS 개발 머신을 대신하지 못합니다

DGX Spark가 푸는 문제는 CUDA 모델을 로컬에 두되 소비자 GPU보다 큰 경우입니다. Claude Code와 Cursor의 실행 환경, Xcode 빌드, 시뮬레이터, Core ML은 다른 문제입니다. 필요한 것은 Apple Silicon 위의 실제 macOS이지 GB10이 아닙니다. 4,999달러 Spark를 더 강한 Mac mini로 보면 양쪽을 놓칩니다. CUDA 스택은 다 못 쓰고 iOS 파이프라인은 시작하지 않습니다.

무거운 일이 야간 CI, 저장소 인덱싱, 긴 에이전트 실행이라면 데스크톱 GPU를 하나 더 사는 것보다 전용 원격 Mac이 일에 더 가깝습니다. ZavCloud 요금 페이지에서 Mac mini M4 16GB 월 참고가는 약 99.3달러, 24GB는 약 199.3달러입니다. 36개월 연속이면 약 3,575달러와 7,175달러이고, 확정은 주문 시점 가격입니다. 이 두 구간은 70B를 돌리지 못하고 Spark와 CUDA 처리량을 비교할 대상도 아닙니다. 대응하는 글은 Mac mini 구매와 Cloud Mac의 3년 비용, 그리고 로컬 Mac과 원격 macOS의 역할 분담입니다. 모델은 Spark나 클라우드 GPU에, 패키징과 서명은 Mac에 두는 편이 한 기기에 다 맡기는 것보다 깔끔합니다.

질문

DGX Spark 64GB에서 70B가 돌아가나요?
Q4는 약 40GB라 올라갑니다. 컨텍스트 예산은 좁습니다. FP8은 약 70GB라 안 됩니다.

3년 기준으로 무엇이 더 싼가요?
24GB에 들어가고 하루 몇 시간이면 4090 임대가 대체로 더 쌉니다. 40GB 안팎을 평일 대부분 올려 두면 Spark 구매가 A100이나 H100 시간 요금보다 낮습니다. H100을 3년 내내 켜 두면 7만 달러 근처가 되어 이 기기와는 다른 질문입니다.

1 PFLOP를 데이터센터 GPU보다 빠르다는 뜻으로 볼 수 있나요?
없습니다. FP4 피크입니다. 단일 스트림은 273GB/s에 막히고, 70B Q4의 대역폭 상한은 초당 약 7토큰입니다.

64GB 두 대로 128GB를 만드는 편이 이득인가요?
메모리를 사려는 목적이라면 이득이 아닙니다. 9,998달러와 128GB 한 대 6,950달러의 차이는 두 번째 연산 세트입니다. 연산이 필요할 때 두 번째를 사세요.

Xcode나 macOS의 Claude Code에 쓸 수 있나요?
없습니다. 시스템은 DGX OS입니다. macOS 도구 체인은 Mac에 두거나, 빌드와 에이전트 실행을 받는 전용 원격 Mac에 둡니다.

• 사양과 시작가 — NVIDIA DGX Spark. 64GB는 OEM 구성
• 가격과 판매 시작일 — Tom's Hardware, 2026년 10월
• 128GB 가격 조정과 저장장치 절반 — The Register, 2026-10-02
• 클라우드 GPU 단가 — RunPod 가격. 표는 2026년 9월 말에 보이던 공개 구간