ES ▾

¿Qué APIs de modelos funcionan con el SDK de OpenAI?

Buscar "modelos apis compatibles con openai" suele significar una cosa: quieres mantener tu código del cliente de OpenAI y cambiar solo hacia dónde apunta. La compatibilidad tiene grados, así que aquí tienes qué verificar y un script que lo hace por ti.

Un adaptador único que conecta varios enchufes diferentes, representando endpoints compatibles con OpenAI

Última actualización

Qué significa compatible en la práctica

Los SDK de OpenAI son configurables. Aceptan una base_url y una clave de API, construyen una petición con una estructura conocida y analizan la respuesta con una estructura conocida. Cualquier servicio que acepte esa estructura y responda con esa estructura funcionará con el SDK. Esa es la idea completa, y es por eso que tantos proveedores copian el formato.

La pega es que copiar la forma de un método no significa copiar los demás. Un endpoint puede manejar bien /chat/completions y omitir las llamadas a funciones, hacer streaming sin un fragmento final de uso, o devolver errores con una estructura diferente que tu código de reintento no reconoce. El SDK no te avisará. Simplemente lanzará una excepción en producción.

Así que trata la compatibilidad como una lista de funciones separadas y prueba cada una.

Las características que vale la pena probar

Usa esta tabla como lista de verificación para cualquier candidato. La columna derecha muestra lo que este servicio documenta, para que veas cómo se lee el resultado de la verificación en la práctica.

CaracterísticaPor qué importaEste servicio
Completado de chatEl método principal que usan la mayoría de las aplicacionesSí, POST /v1/chat/completions
Método ResponsesLos clientes más nuevos de OpenAI lo usanSí, POST /v1/responses
Lista de modelosMuchas herramientas lo llaman al inicioSí, GET /v1/models
Streaming (SSE)Necesario para interfaces de chatSí, el uso llega al final
Llamadas a funcionesAgentes y llamadas a funcionesSí, incluyendo llamadas a herramientas en streaming
Modo JSONSalida estructurada para analizadoresSí, json_object
Parámetros de muestreoEstilo de ajuste y repeticióntemperature, top_p, stop, seed, penalizaciones
Señales de límite de peticionesPermite a los clientes reducir la carga correctamenteHTTP 429, los códigos rate_limited y concurrency
Visibilidad del saldoEvita interrupciones sorpresivasCabecera X-Balance-USD y un endpoint de saldo

Añade dos cosas que la tabla no puede mostrar: la ventana de contexto y el comportamiento del modelo con tus propios prompts. Aquí la ventana es de 100.000 tokens para prompt más completado.

Un script que prueba cualquier endpoint

El script a continuación ejecuta cinco comprobaciones contra cualquier base URL que le des: lista de modelos, una llamada de chat simple, streaming, modo JSON y una llamada a herramienta forzada. Los valores predeterminados apuntan a este servicio, y dos variables de entorno permiten cambiar a otro proveedor para que puedas ejecutar una prueba idéntica en cada candidato.

import json
import os

from openai import OpenAI

BASE_URL = os.environ.get("API_BASE", "https://api.modelapis.cc/v1")
MODEL = os.environ.get("API_MODEL", "uncensored")
client = OpenAI(base_url=BASE_URL, api_key=os.environ["API_KEY"])
ASK = [{"role": "user", "content": "Reply with the single word: ready"}]


def check_models():
    assert client.models.list().data, "empty model list"


def check_chat():
    r = client.chat.completions.create(model=MODEL, messages=ASK, max_tokens=20)
    assert r.choices[0].message.content
    assert r.usage and r.usage.total_tokens > 0, "no usage block"


def check_stream():
    s = client.chat.completions.create(model=MODEL, messages=ASK, stream=True)
    text = "".join(c.choices[0].delta.content or "" for c in s if c.choices)
    assert text


def check_json():
    r = client.chat.completions.create(
        model=MODEL,
        messages=[{"role": "user", "content": "Return a JSON object with key ok set to true."}],
        response_format={"type": "json_object"},
    )
    assert json.loads(r.choices[0].message.content)


def check_tools():
    tools = [{"type": "function", "function": {
        "name": "get_time", "description": "Get the current time",
        "parameters": {"type": "object", "properties": {}}}}]
    r = client.chat.completions.create(
        model=MODEL, messages=ASK, tools=tools,
        tool_choice={"type": "function", "function": {"name": "get_time"}})
    assert r.choices[0].message.tool_calls, "no tool call returned"


for fn in (check_models, check_chat, check_stream, check_json, check_tools):
    try:
        fn()
        print("ok  ", fn.__name__)
    except Exception as e:
        print("FAIL", fn.__name__, type(e).__name__, str(e)[:100])

Ejecútalo con API_KEY=... python check.py. Un fallo en una línea te dice exactamente qué característica preguntar al proveedor. Una ejecución limpia no prueba la calidad, pero prueba que tu código de cliente no se romperá.

Cómo leer los resultados

Un ok en cada línea significa que el SDK analizó correctamente la estructura de cada respuesta sin errores. Un fallo solo en check_tools suele indicar que el endpoint ignora tools o que el modelo no las llama de forma fiable. Un fallo en check_json suele indicar que la respuesta llegó envuelta en texto narrativo o en una valla de código. Un fallo en check_stream puede deberse a un proxy que almacena eventos, a la falta del último fragmento o a un endpoint que no envía contenido delta en absoluto.

Ejecuta el script dos veces. La primera ejecución te informa sobre la compatibilidad, la segunda, con unos segundos de retraso, sobre la estabilidad. Ejecútalo también desde la máquina donde vivirá tu aplicación, porque las redes y los proxies cambian cómo se ve el streaming.

Probando el método Responses

El código de cliente de OpenAI más reciente llama cada vez más al método Responses en lugar de chat completions. Este servicio acepta POST /v1/responses, por lo que el mismo cliente puede usar cualquiera de los dos. No todos los proveedores compatibles lo implementan, lo que hace que valga la pena una verificación separada:

from openai import OpenAI

client = OpenAI(base_url="https://api.modelapis.cc/v1", api_key="YOUR_API_KEY")

r = client.responses.create(
    model="uncensored",
    input="List three checks for an OpenAI-compatible endpoint.",
)
print(r.output_text)

Si un proveedor devuelve 404 aquí pero supera la prueba de chat, tu código más antiguo está bien y las nuevas características del SDK que dependen de este método no lo estarán. Decide qué herramientas tuyas lo necesitan antes de elegir.

Dónde suelen diferir los endpoints compatibles

Manejo de errores

Los límites de peticiones son la sorpresa más común. Esta API responde con HTTP 429 y un código de error de rate_limited por demasiadas peticiones por minuto, o concurrency por demasiadas a la vez. En caso de sobrecarga temporal devuelve 429 con Retry-After: 5. Otro proveedor puede usar códigos diferentes o ninguno, así que prueba tu lógica de reintento contra cada uno.

Límites

Una clave completa aquí permite 8 peticiones simultáneas y 300 peticiones por minuto, y una clave de prueba permite 2 y 60. Una petición en streaming mantiene su ranura de concurrencia hasta que termina el streaming, lo cual es importante para aplicaciones de chat. Los cuerpos de las peticiones se limitan a 8 MB.

Nomenclatura de modelos

Algunos servicios aceptan cualquier cadena como nombre de modelo y la mapean sin avisar. Otros rechazan nombres desconocidos. Aquí pasas uncensored, y la documentación enumera los detalles.

Comportamiento

Dos endpoints compatibles pueden responder al mismo prompt de formas muy distintas. Este servicio ejecuta un modelo de pesos abiertos ajustado para responder sin rechazos de contenido para uso adulto lícito, con un límite estricto en contenido sexual que involucre a menores de edad. El modelo de un proveedor principal se negará con más frecuencia. Ninguno es incorrecto, pero se adaptan a productos diferentes.

Una forma práctica de decidir es anotar tres requisitos que deben cumplirse (por ejemplo, streaming, llamadas a funciones y un 429 que puedas reconocer), ejecutar el script en cada candidato y descartar cualquiera que falle. Entre los que sobrevivan, compara el precio con tu propia mezcla de tokens y el comportamiento con tus propios prompts. Ese orden ahorra tiempo, porque las carencias de funciones son fáciles de detectar y las comparaciones de costes no valen la pena para un endpoint que no pueda ejecutar tu código.

Cuándo otra opción es la mejor adaptación

No intentamos ser la respuesta a todas las consultas. Elige otra opción cuando:

  • Necesites generación de imágenes, audio o vídeo, embeddings o ajuste fino. Este servicio es solo de texto.
  • Necesitas la salida de un modelo de un proveedor específico. No somos la API oficial de ningún proveedor y no enrutamos entre proveedores.
  • Tu política requiere un contrato empresarial o una certificación de cumplimiento específica. No hacemos afirmaciones sobre ninguno de los dos aquí.

Elige este endpoint cuando quieras un modelo de chat de pesos abiertos sin filtros de contenido para uso adulto lícito, una interfaz al estilo de OpenAI y facturación por token. Las tarifas son $0,15 por 1M de tokens de entrada y $0,50 por 1M de tokens de salida, detalladas en la página de precios.

Prueba con una clave de prueba

Crea una cuenta con Google o con correo electrónico y contraseña, luego abre la página de clave de API. Los nuevos usuarios pueden reclamar $0,50 de crédito de prueba con un solo clic. Dura 7 días y no requiere tarjeta, lo cual es suficiente para ejecutar el script anterior muchas veces.

Una vez que tengas los resultados, compáralos lado a lado. Guarda la salida de cada ejecución y añade las columnas que te importen: rechazos en tus prompts de muestra, tiempo hasta el primer token en tu red y el coste del mismo conjunto de prompts a los precios actuales de cada proveedor.

Preguntas frecuentes

¿Es compatible con OpenAI lo mismo que OpenAI?

No. Significa que el endpoint acepta el mismo formato de petición, por lo que los SDK de OpenAI funcionan tras cambiar la URL base y la clave. El modelo detrás de él puede ser completamente diferente.

¿Qué URL base uso para el SDK de OpenAI aquí?

Usa https://api.modelapis.cc/v1 como URL base, tu clave como token Bearer y uncensored como ID de modelo.

¿Funciona el streaming con la opción stream del SDK?

Sí. Establece stream en true y lee los eventos enviados por el servidor como de costumbre; el uso se envía al final del streaming.

¿Cómo verifico mi saldo desde el código?

Lee la cabecera de respuesta X-Balance-USD en cualquier petición, o solicita GET /v1/balance o la ruta credit_grants al estilo de OpenAI bajo /v1/dashboard/billing.

Accede a tu clave al instante

Regístrate, recupera tu clave, actualiza tu URL base. Eso es todo.

Crear claveVer documentación