여러 AI 공급자의 LLM을 하나의 API로 통합하는 게이트웨이
OpenGate는 단일 엔드포인트의 AI 게이트웨이로 작동하여, OpenAI·Anthropic·Google 등 주요 공급자의 모델에 자동 페일오버와 가격 기반 라우팅을 제공합니다. OpenAI SDK와 그대로 호환되어 코드 변경 없이 바로 도입할 수 있습니다.
하나의 API로 모든 모델
단일 엔드포인트로 모든 주요 모델을 호출합니다. 기존 OpenAI SDK를 코드 변경 없이 그대로 사용할 수 있습니다.
더 높은 가용성
한 공급자에 장애가 발생하면 요청이 자동으로 정상 공급자로 페일오버되어 서비스 가동 시간을 높입니다.
가격과 성능
가격 기반 라우팅과 엣지 처리로 속도를 포기하지 않으면서 추론 비용을 최적화합니다.
작동 방식
단일 엔드포인트로 요청을 받아, 실시간 공급자 상태와 가격을 기반으로 스마트 라우팅을 통해 최적의 공급자로 전달합니다. 장애 발생 시 자동으로 페일오버됩니다.
OpenAI 호환
상태 + 가격
자동
기존 코드 그대로, 하나의 API
공급자마다 SDK를 따로 관리할 필요가 없습니다. base_url만 OpenGate로 바꾸면 기존 OpenAI SDK 코드가 그대로 모든 모델에 연결됩니다.
OpenAI SDK Compatible
base_url 변경만으로 즉시 사용
Single Endpoint
모든 공급자를 하나의 엔드포인트로
Per-Request Overrides
요청 단위로 공급자·정렬 기준 지정
Custom Data Policies
승인된 공급자에게만 프롬프트 전달
코드 예시
from openai import OpenAI
client = OpenAI(
base_url="https://opengate.packet.stream/v1",
api_key="OPENGATE_API_KEY",
)
response = client.chat.completions.create(
model="anthropic/claude-opus-4.8",
messages=[{"role": "user", "content": "Hello, OpenGate!"}],
)base_url을 OpenGate로 지정한 기본 호출 예시
model 문자열만 바꾸면 다른 공급자·모델로 즉시 전환
최적의 공급자로 자동 라우팅
OpenGate는 모든 공급자의 응답 시간·오류율·가용성을 실시간으로 추적하고, 기본적으로 가격을 우선해 가용한 상위 공급자에 요청을 분산합니다. 요청 단위로 처리량을 우선하거나 특정 공급자를 지정할 수도 있습니다.
장애 공급자 제외
최근 30초 내 의미 있는 장애가 있었던 공급자는 후보에서 제외하여 안정성을 확보합니다.
가격 기반 가중 선택
안정적인 공급자 중 더 낮은 가격에 가중치(가격의 역제곱)를 두어 비용을 최적화합니다.
나머지는 자동 폴백
선택되지 않은 공급자는 자동 폴백으로 유지해 가용성을 극대화합니다.