폭이 다른 세 갈래 홈이 엠보싱된 흰 종이. 아래에서 올라온 파란 선이 가장 넓은 홈을 따라 사각 점으로 이어집니다

학습부터 서빙까지 한 팀이 맡는 GPU 인프라

GPU Cloud로 오늘 시간 단위로 시작하고, 규모가 커지면 Cluster Build로 전용 클러스터의 설계와 구축, 운영까지 맡길 수 있습니다.

AI 인프라 도입이 막히는 여섯 가지 이유

도입 검토 단계에서 가장 자주 나오는 질문과, PacketStream이 각각을 해결하는 방식입니다.

  • 필요한 시점에 확보하기 어려운 GPU

    GPU Cloud는 가용 자원이 있는 경우 Portal에서 즉시 생성할 수 있습니다. 반드시 필요한 기간은 1개월 이상 예약으로 자원을 먼저 확보합니다.

    도입 방식
  • GPU만으로는 부족한 학습 속도

    노드 간 통신은 InfiniBand NDR/XDR로 처리합니다. 같은 패브릭에 NVMe 기반 병렬 스토리지를 제공합니다.

    구성 요소
  • 지정 위치 밖으로 반출할 수 없는 데이터

    데이터 보관 위치 제약이 있는 경우 해당 지역 안에 폐쇄망 클러스터를 구성합니다. 암호화 키는 고객이 직접 관리하도록 구성할 수 있습니다.

    보안
  • 클러스터 운영 인력 부족

    Cluster Build 운영 계약에 장애 대응과 부품 교체가 포함됩니다. 모니터링 알람 기준은 인계 시점에 함께 정합니다.

    도입 절차
  • 사전에 예측하기 어려운 비용

    온디맨드는 GPU 1장의 시간당 단가가 공개되어 있습니다. 꾸준히 쓰는 경우 예약 단가와 Cluster Build 견적을 나란히 비교합니다.

    비용
  • 기존 도구와의 호환성

    메트릭은 Prometheus, Grafana, Datadog으로 내보냅니다. Object Storage는 S3 API와 호환되어 사용하던 SDK와 CLI를 그대로 이용합니다.

    연동

세 가지 도입 방식

세 방식 모두 같은 GPU 라인업을 쓰므로, 작게 시작한 뒤 스택을 바꾸지 않고 옮겨 갈 수 있습니다.

  • GPU Cloud

    온디맨드, 시간 단위

    적합한 경우

    실험과 PoC, 짧은 학습, 수요 변동이 큰 추론

    도입 기간
    즉시 ~ 수일
    과금
    생성부터 삭제까지 시간 단위, 약정 없음
    인프라 점유
    공용 클러스터 내 인스턴스
    네트워크·토폴로지
    표준 구성
    위치
    제공 리전 중 선택
    GPU Server 요금 보기
  • GPU Cloud

    예약, 1개월 이상

    적합한 경우

    일정이 정해진 학습과 상시 운영하는 추론

    도입 기간
    대량·리전 지정 시 배정에 수일
    과금
    기간·사용 자원에 따라 단가 협의, 길고 클수록 낮아짐
    인프라 점유
    자원 우선 확보
    네트워크·토폴로지
    표준 구성
    위치
    제공 리전 중 선택
    예약 견적 문의
  • Cluster Build

    전용 클러스터, 설계부터 운영까지

    적합한 경우

    수개월 이상 상시 대규모 학습, 규제 데이터, 고객 데이터센터 배치

    도입 기간
    보유 자원이면 수 주, 새로 발주하면 수개월
    과금
    구축 + 운영 계약
    인프라 점유
    고객 전용 클러스터
    네트워크·토폴로지
    요건에 맞춰 설계
    위치
    리전 지정 또는 고객 사이트
    Cluster Build 상담

GPU 주변 인프라까지 포함한 통합 설계

학습 속도는 GPU만큼 네트워크와 스토리지에서도 자주 발목을 잡힙니다. 여섯 계층을 함께 설계합니다.

  • GPU

    B300 · B200 · GB300 · H200 SXM · RTX PRO 6000

    워크로드에 맞춰 Blackwell 또는 Hopper 세대를 선택할 수 있습니다. GB300과 RTX PRO 6000은 예약 전용이며, RTX PRO 5500은 도입 준비 중입니다.

  • 인터커넥트

    InfiniBand NDR / XDR

    노드 간 통신을 처리합니다. 토폴로지는 규모와 통신 패턴에 따라 정합니다.

  • 스토리지

    PFS + Object Storage

    POSIX 마운트를 지원하는 NVMe 기반 병렬 파일 스토리지와 S3 호환 Object Storage를 제공합니다.

  • 네트워크

    자체 백본 AS139648

    데이터 반입과 반출은 PacketStream 백본과 ISP 직접 연결을 거칩니다.

  • 관측성

    Prometheus · Grafana · Datadog

    GPU, 노드, 패브릭 메트릭을 이미 쓰는 모니터링 스택으로 내보냅니다.

  • 인계 방식

    베어메탈 또는 Kubernetes

    OS와 드라이버까지 올린 베어메탈, 또는 Kubernetes와 스케줄러를 구성한 상태로 넘겨드립니다.

워크로드별 구성 예시

첫 상담에서 함께 검토하는 기본 구성입니다. 최종 구성은 모델, 데이터, 일정에 맞춰 정합니다.

워크로드별 구성 예시
대표 작업GPU네트워크·스토리지권장 방식
모델 학습파운데이션 모델 사전학습, 파인튜닝과 정렬, 멀티노드 분산 학습노드당 메모리가 가장 큰 B300, Blackwell 기본 선택 B200, NVL 랙 단위 GB300InfiniBand 인터커넥트, PFS 스토리지예약 또는 Cluster Build
추론 서비스LLM 서빙, 긴 컨텍스트 처리, 배치 추론공급이 안정적인 H200 SXM, 추론과 렌더링용 RTX PRO 6000백본과 ISP 직접 연결로 사용자 트래픽 전달온디맨드 또는 예약
데이터 처리전처리와 임베딩, 벡터 인덱싱, RAG 파이프라인배치 크기에 맞춰 선택, 온디맨드 자원으로 시작PFS, Object Storage온디맨드
규제 환경데이터 보관 위치 요건, 폐쇄망 구성, 감사 로그사이트 전력·냉각 조건에 맞춰 설계 단계에서 선정지역 내 폐쇄망, 고객 직접 키 관리Cluster Build

도입 후 달라지는 것

GPU 인프라를 갖추면 준비 기간, 비용, 운영 방식이 달라집니다.

  • 즉시

    시간 · 가용 자원이 있는 경우 GPU Cloud 생성

    GPU 대기 시간 단축

    온디맨드는 가용 자원이 있는 경우 생성 즉시 이용할 수 있습니다. Cluster Build는 보유 자원으로 구성하면 수개월이 아닌 수 주가 걸립니다.

  • 시간 단위

    비용 · 온디맨드 과금, 약정 없음

    사용량 기반 과금, 장기 이용 시 단가 인하

    온디맨드는 시간 단위로 과금합니다. 예약 단가는 기간과 사용 자원에 따라 낮아지고, 몇 달 이상 꾸준히 이용하면 Cluster Build의 총비용이 더 낮아집니다.

  • 포함

    안정성 · 운영 계약의 부품 교체

    장애 시에도 중단 없는 학습

    GPU 장애가 나면 해당 노드를 격리하고 다른 노드로 재배치합니다. 운영 계약에는 부품 교체가 포함됩니다.

문의부터 운영까지 네 단계

GPU Cloud는 이 절차 없이 Portal에서 즉시 생성해 시작할 수 있습니다.

  1. 1

    요건 정리

    모델, 데이터 규모, 일정, 규제 조건을 함께 정리합니다.

    고객이 준비할 것
    워크로드, 목표 일정, 데이터 위치 조건
    받는 결과물
    요건 정리서
    예상 기간
    1주
  2. 2

    설계·견적

    GPU와 노드, 인터커넥트, PFS 용량과 대역폭, 전력과 냉각을 산정합니다. 필요한 항목만 골라 맡길 수 있습니다.

    고객이 준비할 것
    구성안 검토, 고객 사이트 배치 시 전력 조건
    받는 결과물
    구성안과 견적
    예상 기간
    2주
  3. 3

    발주·구축

    보유 자원이면 수 주, 새로 발주하면 수개월이 걸립니다. 전력 증설이나 신규 사이트가 필요하면 더 늘어납니다.

    고객이 준비할 것
    계약, 접근 계정과 네트워크 정보
    받는 결과물
    설치와 검증을 마친 클러스터
    예상 기간
    4~6주
  4. 4

    인계·운영

    베어메탈 또는 Kubernetes 상태로 인계하고, 알람 기준을 함께 정한 뒤 부품 교체까지 포함해 운영합니다.

    고객이 준비할 것
    알람 수신자와 기준
    받는 결과물
    운영 계약과 모니터링
    기간
    계약 기간

문의 후 영업일 기준 24시간 이내에 답변합니다.

보안과 데이터 통제

구축 전에 누가 클러스터에 접근하고 데이터가 어디로 가는지부터 문서로 정합니다.

네트워크 경계
네트워크 경계와 접근 경로를 설계 문서에 명시합니다.
키 관리
암호화 키를 고객이 직접 관리하도록 구성할 수 있습니다.
로그
접근 로그와 변경 이력을 제공합니다.
데이터 보관 위치
소재지 제약이 있는 경우 해당 지역 안에서 폐쇄망으로 운영합니다.
점유
Cluster Build는 한 고객이 단독으로 이용합니다.
심사 문서
규제 산업 심사에 필요한 문서 범위는 계약 전에 함께 확인합니다.

인증 현황은 영업 문의로 안내해 드립니다.

기존 시스템 연동

새 도구를 익힐 필요가 없습니다. 각 층이 지금 쓰는 표준에 연결됩니다.

  • 모니터링

    Prometheus · Grafana · Datadog

    GPU, 노드, 패브릭 메트릭을 내보냅니다.

  • 오케스트레이션

    Kubernetes

    Kubernetes와 스케줄러 구성 상태, 또는 베어메탈로 인계합니다.

  • 오브젝트 스토리지

    S3 API

    AWS SDK, CLI, 도구를 그대로 쓰고 엔드포인트만 바꿉니다.

  • 파일 스토리지

    POSIX

    PFS를 모든 GPU 노드에 일반 파일시스템처럼 마운트합니다.

  • 퍼블릭 클라우드

    Cloud Connect

    AWS Direct Connect, Azure ExpressRoute, Google Cloud Interconnect, Oracle FastConnect와 전용으로 연결합니다.

  • 고객 데이터센터

    Colocation

    사이트 전력 조건을 확인한 뒤 고객이 지정한 데이터센터에 Cluster Build를 배치합니다.

비용

온디맨드 단가는 공개되어 있습니다. 예약과 Cluster Build는 기간과 사용 자원에 맞춰 견적을 드립니다.

비용
항목내용가격
GPU Cloud 온디맨드GPU 1장 기준NVIDIA B300288GB · Blackwell$7.38/시간
NVIDIA B200192GB · Blackwell$5.88/시간
NVIDIA H200 SXM141GB · Hopper$4.38/시간
예약·전용견적GPU Cloud 예약전 모델, 최소 1개월. GB300과 RTX PRO 6000은 예약 전용견적
Cluster Build구축 + 운영 계약견적
스토리지별도 과금PFS Cluster StorageNVMe 기반 병렬 파일시스템$0.20/GiB/월
  • GPU 1장 기준 단가입니다.
  • 스토리지와 데이터 전송은 시간당 요금에 포함되지 않습니다.
GPU Server 비용 계산기 열기

도입 전에 자주 묻는 질문

작게 시작해서 나중에 전용 클러스터로 옮길 수 있나요?

가능합니다. GPU Cloud와 Cluster Build는 같은 GPU 라인업을 이용합니다. 온디맨드로 검증한 뒤 사용량이 정해지면 예약이나 Cluster Build로 옮깁니다.

Cluster Build는 얼마나 걸리나요?

보유 자원으로 구성하면 수 주, 새로 발주하면 수개월이 걸립니다. 전력 증설이나 신규 사이트가 필요하면 더 늘어납니다.

우리 데이터센터에 설치할 수 있나요?

가능합니다. 먼저 사이트의 전력 조건을 확인하고 그에 맞춰 설계합니다. PacketStream 데이터센터는 전력, 냉각, 회선이 준비되어 있습니다.

GPU에 장애가 나면 어떻게 되나요?

해당 노드를 격리하고 다른 노드로 재배치합니다. Cluster Build는 부품 교체가 운영 계약에 포함되며, 예비 자원은 설계 단계에서 정합니다.

스토리지와 데이터 전송 비용이 포함되나요?

포함되지 않습니다. 둘 다 GPU 시간당 요금과 별도로 과금합니다. PFS는 GiB당 월 $0.20입니다.

필요한 부분만 맡길 수 있나요?

가능합니다. GPU·노드 선정, 인터커넥트, 스토리지, 전력·냉각, 인계, 운영 중 필요한 항목만 고를 수 있습니다.

관련 제품

AI 인프라 구성이 필요하신가요?

모델, 데이터 규모, 일정을 알려 주세요. 영업일 기준 24시간 이내에 구성안과 다음 단계를 회신합니다.

먼저 통화로 상의하고 싶다면

평일 09:00 ~ 18:00

검토 중인 방식
내용 보기
수집 항목
이름, 이메일, 회사명, 연락처, 문의 내용, 접속 IP, 문의한 페이지 주소
목적
문의 확인과 답변
보유 기간
문의 처리 후 지체 없이 파기합니다. 관계 법령에 보존 의무가 있으면 해당 기간 동안 보관합니다.
개인정보처리방침

개인정보 설정

허용 항목을 관리하세요

필수 쿠키 및 유사 기술(로컬 스토리지 등)은 항상 활성화됩니다. 그 외 항목은 아래에서 선택할 수 있으며, 사이트 하단의 '쿠키 설정'에서 언제든지 바꿀 수 있습니다. 자세한 내용은 개인정보 처리방침을 참고하세요.

필수

항상 활성

사이트 동작과 보안에 필요하며 끌 수 없습니다.

예시: 화면 테마 설정, 동의 기록, 문의 폼 보안 확인(Cloudflare Turnstile)

분석 및 성능

선택

방문 경로와 페이지 이용 방식을 파악해 사이트를 개선하는 데 사용됩니다.

예시: Google Analytics, Microsoft Clarity

마케팅

선택

광고 성과를 측정하고 다른 사이트에서 더 관련성 높은 광고를 보여주는 데 사용됩니다.

예시: Google Ads