글로벌 상용 AI와 자체 GPU 모델을 하나의 API로
OpenGate는 멀티 LLM 플랫폼으로, OpenAI·Claude·Gemini 같은 글로벌 모델부터 PacketStream 자체 GPU 인프라 기반 오픈소스 모델까지 하나의 API로 제공합니다. 각 AI 서비스에 개별 가입하고 API Key를 따로 관리할 필요 없이, 하나의 API Key만으로 원하는 모델을 자유롭게 사용할 수 있습니다. 외부 상용 AI뿐 아니라 자체 GPU에서 운영되는 고성능 오픈소스 모델도 함께 제공해 비용 부담을 줄이고, 서비스 목적에 맞는 AI 운영 환경을 구성할 수 있습니다.
One API Key
OpenAI, Claude, Gemini 등 다양한 AI 서비스를 하나의 API Key로 통합 제공합니다. OpenAI SDK와 호환되어 기존 코드를 그대로 사용할 수 있습니다.
비용 효율성
여러 AI 서비스를 각각 계약하고 관리할 필요 없이 하나의 통합 과금으로 운영합니다. 사용량 기반 과금으로 불필요한 고정 비용을 줄입니다.
자체 GPU 모델
PacketStream GPU 인프라에서 직접 운영하는 오픈소스 LLM을 상용 API보다 낮은 단가로 제공합니다. 추론은 국내 리전에서 처리됩니다.
실시간 대시보드
API Key별 실시간 사용량과 비용을 한눈에 확인하고, 예산 설정과 원화 기반 통합 결제로 AI 비용을 효율적으로 관리합니다.
작동 방식
단일 엔드포인트로 요청을 받아 가드레일 정책을 통과시킨 뒤, 실시간 공급자 상태와 가격을 기반으로 스마트 라우팅을 통해 최적의 공급자로 전달합니다. 모든 요청은 감사 로그에 기록되고 장애 발생 시 자동 페일오버됩니다.
OpenAI 호환
PII · 인젝션
상태 + 가격
전건 기록
기존 코드 그대로, 하나의 API
공급자마다 SDK를 따로 관리할 필요가 없습니다. base_url만 OpenGate로 바꾸면 기존 OpenAI SDK 코드가 그대로 모든 모델에 연결됩니다.
OpenAI SDK Compatible
base_url 변경만으로 즉시 사용
Single Endpoint
모든 공급자를 하나의 엔드포인트로
Per-Request Overrides
요청 단위로 공급자·정렬 기준 지정
Custom Data Policies
승인된 공급자에게만 프롬프트 전달
코드 예시
from openai import OpenAI
client = OpenAI(
base_url="https://opengate.packet.stream/v1",
api_key="OPENGATE_API_KEY",
)
response = client.chat.completions.create(
model="anthropic/claude-opus-4.7",
messages=[{"role": "user", "content": "Hello, OpenGate!"}],
)Python — base_url을 OpenGate로 지정한 기본 호출
curl https://opengate.packet.stream/v1/chat/completions \
-H "Authorization: Bearer $OPENGATE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "packetstream/qwen3.6-27b",
"messages": [{"role": "user", "content": "Hello!"}]
}'curl — model 문자열만 바꾸면 자체 GPU 모델로 즉시 전환
최적의 공급자로 자동 라우팅
OpenGate는 모든 공급자의 응답 시간·오류율·가용성을 실시간으로 추적하고, 기본적으로 가격을 우선해 가용한 상위 공급자에 요청을 분산합니다. 요청 단위로 처리량을 우선하거나 특정 공급자를 지정할 수도 있습니다.
장애 공급자 제외
최근 30초 내 의미 있는 장애가 있었던 공급자는 후보에서 제외하여 안정성을 확보합니다.
가격 기반 가중 선택
안정적인 공급자 중 더 낮은 가격에 가중치(가격의 역제곱)를 두어 비용을 최적화합니다.
나머지는 자동 폴백
선택되지 않은 공급자는 자동 폴백으로 유지해 가용성을 극대화합니다.