어떤 모델 API가 OpenAI SDK와 호환되나요?
"OpenAI 호환 모델 API"를 검색하는 것은 보통 한 가지를 의미합니다: OpenAI 클라이언트 코드를 그대로 유지하고 지시하는 위치만 변경하고 싶다는 것입니다. 호환성은 정도에 따라 다르므로 확인해야 할 사항과 이를 자동으로 확인하는 스크립트를 아래에 정리했습니다.

실제 상황에서의 호환성 의미
OpenAI SDK는 구성 가능합니다. base_url와 API 키를 받아 알려진 형태의 요청을 생성하고 알려진 형태의 응답을 구문 분석합니다. 해당 형태를 받아 해당 형태로 응답하는 모든 서비스는 SDK와 함께 작동합니다. 이것이 핵심 아이디어이며, 많은 공급업체가 이 형식을 복사하는 이유입니다.
문제는 하나의 메서드 형태를 복사한다고 해서 다른 메서드들도 복사되는 것은 아니라는 점입니다. 엔드포인트는 /chat/completions은 잘 처리하지만 툴 호출은 건너뛰거나, 최종 사용량 청크 없이 스트리밍하거나, 재시도 코드에서 인식할 수 없는 다른 구조의 오류를 반환할 수 있습니다. SDK는 경고하지 않습니다. 프로덕션에서 단순히 예외를 발생시킵니다.
따라서 호환성을 별도의 기능 목록으로 취급하고 각각을 테스트하십시오.
테스트할 가치 있는 기능
이 표를 후보 목록 확인용으로 사용하세요. 오른쪽 열은 이 서비스의 문서화된 내용을 보여주므로, 실제 확인 시 어떻게 읽히는지 확인할 수 있습니다.
| 기능 | 중요성 | 이 서비스 |
|---|---|---|
| 채팅 완성 | 대부분의 앱이 사용하는 핵심 메서드 | 네, POST /v1/chat/completions |
| Responses 메서드 | 더 최신의 OpenAI 클라이언트에서 사용 | 네, POST /v1/responses |
| 모델 목록 | 많은 도구가 시작 시 호출 | 예, GET /v1/models |
| 스트리밍 (SSE) | 채팅 UI에 필요 | 네, 사용량 정보는 끝에 도착합니다 |
| 함수 호출 | 에이전트 및 함수 호출 | 네, 스트리밍 툴 호출 포함 |
| JSON 모드 | 파서를 위한 구조화된 출력 | 네, json_object |
| 샘플링 파라미터 | 튜닝 스타일 및 반복 | temperature, top_p, stop, seed, penalties |
| 속도 제한 신호 | 클라이언트가 요청 간격 조절을 올바르게 수행하도록 함 | HTTP 429, 코드 rate_limited 및 concurrency |
| 잔액 가시성 | 예기치 않은 중단 방지 | X-Balance-USD 헤더 및 잔액 엔드포인트 |
표에서 확인할 수 없는 두 가지를 추가하세요: 컨텍스트 창과 모델이 사용자 프롬프트에서 보이는 동작입니다. 여기서 창은 프롬프트와 completion을 합쳐 100,000 토큰입니다.
모든 엔드포인트를 테스트하는 스크립트
아래 스크립트는 제공한 기본 URL에 대해 다섯 가지 확인을 실행합니다: 모델 목록, 일반 채팅 호출, 스트리밍, JSON 모드 및 강제 툴 호출. 기본값은 이 서비스를 가리키며, 두 환경 변수는 다른 공급업체를 사용하도록 설정하여 각 후보에서 동일한 테스트를 실행할 수 있게 합니다.
import json
import os
from openai import OpenAI
BASE_URL = os.environ.get("API_BASE", "https://api.modelapis.cc/v1")
MODEL = os.environ.get("API_MODEL", "uncensored")
client = OpenAI(base_url=BASE_URL, api_key=os.environ["API_KEY"])
ASK = [{"role": "user", "content": "Reply with the single word: ready"}]
def check_models():
assert client.models.list().data, "empty model list"
def check_chat():
r = client.chat.completions.create(model=MODEL, messages=ASK, max_tokens=20)
assert r.choices[0].message.content
assert r.usage and r.usage.total_tokens > 0, "no usage block"
def check_stream():
s = client.chat.completions.create(model=MODEL, messages=ASK, stream=True)
text = "".join(c.choices[0].delta.content or "" for c in s if c.choices)
assert text
def check_json():
r = client.chat.completions.create(
model=MODEL,
messages=[{"role": "user", "content": "Return a JSON object with key ok set to true."}],
response_format={"type": "json_object"},
)
assert json.loads(r.choices[0].message.content)
def check_tools():
tools = [{"type": "function", "function": {
"name": "get_time", "description": "Get the current time",
"parameters": {"type": "object", "properties": {}}}}]
r = client.chat.completions.create(
model=MODEL, messages=ASK, tools=tools,
tool_choice={"type": "function", "function": {"name": "get_time"}})
assert r.choices[0].message.tool_calls, "no tool call returned"
for fn in (check_models, check_chat, check_stream, check_json, check_tools):
try:
fn()
print("ok ", fn.__name__)
except Exception as e:
print("FAIL", fn.__name__, type(e).__name__, str(e)[:100])
API_KEY=... python check.py로 실행하세요. 한 줄에서 실패하면 제공업체에 문의해야 할 기능을 정확히 알 수 있습니다. 에러 없이 성공적으로 완료된 실행은 품질을 증명하지는 않지만, 클라이언트 코드가 중단되지 않음을 증명합니다.
결과 읽는 방법
모든 줄에서 ok이 표시되면 SDK가 오류 없이 모든 응답 형식을 구문 분석했다는 의미입니다. check_tools에서만 실패하면 일반적으로 엔드포인트가 tools을 무시하거나 모델이 이를 신뢰할 수 있게 호출하지 않기 때문입니다. check_json에서 실패하면 답변이 텍스트나 코드 블록을 감싸는 마크다운 표시로 감싸져서 반환되었을 가능성이 높습니다. check_stream에서 실패하면 이벤트를 버퍼링하는 프록시, 누락된 마지막 청크 또는 delta 콘텐츠를 전혀 전송하지 않는 엔드포인트 때문일 수 있습니다.
스크립트를 두 번 실행하세요. 첫 번째 실행은 지원 여부를, 두 번째 실행(몇 초의 지연을 두고)은 안정성을 알려줍니다. 또한 앱이 위치할 컴퓨터에서 실행하세요. 네트워크와 프록시는 스트리밍 동작 방식을 변경할 수 있습니다.
Responses 메서드 테스트
최신 OpenAI 클라이언트 코드는 채팅 완성 대신 Responses 메서드를 점점 더 많이 호출합니다. 이 서비스는 POST /v1/responses를 수락하므로 동일한 클라이언트는 둘 중 하나를 사용할 수 있습니다. 모든 호환 제공업체가 이를 구현하는 것은 아니므로 별도의 확인이 필요합니다:
from openai import OpenAI
client = OpenAI(base_url="https://api.modelapis.cc/v1", api_key="YOUR_API_KEY")
r = client.responses.create(
model="uncensored",
input="List three checks for an OpenAI-compatible endpoint.",
)
print(r.output_text)
공급업체가 여기서 404를 반환하지만 채팅 테스트를 통과하면, 사용자의 이전 코드는 괜찮고 이 메서드에 의존하는 더 최신의 SDK 기능은 그렇지 않을 것입니다. 선택하기 전에 어떤 도구가 이를 필요로 하는지 결정하세요.
호환 엔드포인트가 일반적으로 다른 부분
오류 처리
속도 제한은 가장 흔한 놀라움입니다. 이 API는 분당 요청이 너무 많으면 HTTP 429와 rate_limited 오류 코드를, 동시에 너무 많으면 concurrency 오류 코드를 반환합니다. 일시적 과부하 시 Retry-After: 5와 함께 429를 반환합니다. 다른 공급업체는 다른 코드를 사용하거나 아예 사용하지 않을 수 있으므로 각 공급업체에 대해 대기 로직을 테스트하세요.
제한 사항
여기서 일반 키는 8개의 동시 요청과 분당 300개의 요청을 허용하며, 무료 체험 키는 2개와 60개를 허용합니다. 스트리밍 요청은 스트리밍이 끝날 때까지 동시 요청 슬롯을 유지하므로 채팅 앱에 중요합니다. 요청 본문은 8 MB로 제한됩니다.
모델 명명
일부 서비스는 모델 이름으로 어떤 문자열이든 받아 조용히 매핑합니다. 다른 서비스는 알려지지 않은 이름을 거부합니다. 여기서는 uncensored를 전달하고 문서에 세부 정보가 나열되어 있습니다.
동작
호환되는 두 엔드포인트는 동일한 프롬프트에 대해 매우 다르게 응답할 수 있습니다. 이 서비스는 합법적인 성인 사용에 대한 콘텐츠 거부 없이 응답하도록 조정된 단일 오픈 웨이트 모델을 실행하며, 미성년자가 관련된 성적 콘텐츠에는 엄격한 제한이 있습니다. 주요 벤더의 모델은 더 많은 내용을 거부할 것입니다. 둘 다 잘못이 아니지만 서로 다른 제품에 적합합니다.
실용적인 결정 방법은 스트리밍, 도구 호출, 식별 가능한 429 응답 등 반드시 충족해야 하는 세 가지 요구 사항을 기록한 후 각 후보에서 스크립트를 실행하고 실패하는 항목을 제외하는 것입니다. 남은 후보들 사이에서는 고유한 토큰 혼합에 대한 가격과 고유한 프롬프트에서의 동작을 비교하세요. 기능 격차는 빠르게 찾을 수 있으므로 이 순서가 시간을 절약합니다. 또한 코드 실행이 불가능한 엔드포인트의 경우 비용 비교는 가치가 없습니다.
다른 옵션이 더 적합한 경우
우리는 모든 쿼리에 대한 답변이 되려고 하지 않습니다. 다음 경우에는 다른 것을 선택하세요:
- 이미지, 오디오 또는 비디오 생성, 임베딩 또는 파인튜닝이 필요한 경우. 이 서비스는 텍스트 전용입니다.
- 특정 벤더의 모델 출력이 필요합니다. 우리는 어떤 벤더의 공식 API가 아니며 벤더 간 라우팅도 수행하지 않습니다.
- 귀하의 정책이 엔터프라이즈 계약이나 특정 준수 인증을 요구하는 경우. 우리는 이에 대해 어떤 주장도 하지 않습니다.
합법적인 성인 사용에 대한 콘텐츠 거부 없이 오픈 웨이트 채팅 모델, OpenAI 스타일의 인터페이스 및 토큰별 과금을 원할 때 이 엔드포인트를 선택하세요. 요금은 입력 토큰 100만 토큰당 $0.15, 출력 토큰 100만 토큰당 $0.50이며, 요금 페이지에서 자세히 확인할 수 있습니다.
체험 키로 시도해 보세요
Google 또는 이메일과 비밀번호로 계정을 생성한 후 API 키 페이지를 엽니다. 신규 사용자는 한 번의 클릭으로 $0.50의 체험 크레딧을 받을 수 있습니다. 7일 동안 유효하며 카드가 필요 없으므로 위의 스크립트를 여러 번 실행하기에 충분합니다.
결과가 나오면 나란히 비교하세요. 각 실행의 출력을 유지하고 샘플 프롬프트에 대한 거부 여부, 네트워크에서의 첫 번째 토큰 도달 시간, 각 공급업체의 현재 가격에서 동일한 프롬프트 세트의 비용 등 귀하에게 중요한 열을 추가하세요.
더 많은 가이드
자주 묻는 질문
OpenAI 호환이 OpenAI와 같은가요?
아니요. 이는 엔드포인트가 동일한 요청 형식을 받기 때문에 기본 URL과 키를 변경한 후에도 OpenAI SDK가 작동한다는 의미입니다. 해당 모델은 완전히 다를 수 있습니다.
여기서 OpenAI SDK에 사용할 기본 URL은 무엇인가요?
기본 URL로 https://api.modelapis.cc/v1을 사용하고, Bearer 토큰으로 키를 사용하며, 모델 ID로 uncensored를 사용하세요.
SDK의 stream 옵션과 함께 스트리밍이 작동하나요?
네. stream을 true로 설정하고 서버 전송 이벤트를 평소대로 읽으세요. 사용량은 스트림 끝에 전송됩니다.
코드에서 잔액을 어떻게 확인하나요?
모든 호출에서 X-Balance-USD 응답 헤더를 읽거나, GET /v1/balance 또는 /v1/dashboard/billing 아래의 OpenAI 스타일 credit_grants 경로를 요청하세요.