Какие API моделей совместимы с OpenAI SDK?
Поиск «model apis api compatible with openai» обычно означает одно: вы хотите сохранить код клиента OpenAI и изменить только то, куда он указывает. Совместимость бывает разной степени, поэтому вот что нужно проверить и скрипт, который сделает это за вас.

Что означает совместимость на практике
SDK OpenAI настраиваемы. Они принимают base_url и API-ключ, формируют запрос в известном виде и парсят ответ в известном виде. Любой сервис, принимающий эту форму и отвечающий в этой форме, будет работать с SDK. В этом вся идея, и поэтому так много провайдеров копируют формат.
Подвох в том, что копирование формы одного метода не означает копирование других. Эндпоинт может хорошо обрабатывать /chat/completions, не поддерживать вызов функций, стримить без финального usage-чанка или возвращать ошибки в другой структуре, которую ваш код повторных попыток не распознает. SDK не предупредит вас. Он просто выдаст исключение в продакшене.
Поэтому рассматривайте совместимость как список отдельных функций и тестируйте каждую.
Функции, которые стоит протестировать
Используйте эту таблицу как чек-лист для любого кандидата. Правый столбец показывает, что документирует этот сервис, чтобы вы могли увидеть, как проверка выглядит на практике.
| Функция | Почему это важно | Этот сервис |
|---|---|---|
| Chat completions | Основной метод, который используют большинство приложений | Да, POST /v1/chat/completions |
| Метод Responses | Используется в новых клиентах OpenAI | Да, POST /v1/responses |
| Список моделей | Многие инструменты вызывают его при запуске | Да, GET /v1/models |
| Потоковая передача (SSE) | Необходимо для чат-интерфейсов | Да, данные об использовании приходят в конце |
| Вызов функций | Агенты и вызовы функций | Да, включая потоковые вызовы инструментов |
| JSON-режим | Структурированный вывод для парсеров | Да, json_object |
| Функцияы | Стиль тонкой настройки и повторения | temperature, top_p, stop, seed, penalties |
| Сигналы rate-limit | Позволяет клиентам корректно снизить нагрузку | HTTP 429, коды rate_limited и concurrency |
| Видимость баланса | Избегайте неожиданных сбоев | Заголовок X-Balance-USD и эндпоинт баланса |
Добавьте две вещи, которые таблица не может показать: контекстное окно и поведение модели на ваших собственных промптах. Здесь окно составляет 100 000 токенов для промпта и ответа.
Один скрипт, который тестирует любой эндпоинт
Скрипт ниже выполняет пять проверок против любого базового адреса, который вы ему дадите: список моделей, обычный вызов чата, потоковая передача, JSON-режим и принудительный вызов инструмента. Значения по умолчанию указывают на этот сервис, а две переменные среды заменяют провайдера, чтобы вы могли запустить идентичный тест для каждого кандидата.
import json
import os
from openai import OpenAI
BASE_URL = os.environ.get("API_BASE", "https://api.modelapis.cc/v1")
MODEL = os.environ.get("API_MODEL", "uncensored")
client = OpenAI(base_url=BASE_URL, api_key=os.environ["API_KEY"])
ASK = [{"role": "user", "content": "Reply with the single word: ready"}]
def check_models():
assert client.models.list().data, "empty model list"
def check_chat():
r = client.chat.completions.create(model=MODEL, messages=ASK, max_tokens=20)
assert r.choices[0].message.content
assert r.usage and r.usage.total_tokens > 0, "no usage block"
def check_stream():
s = client.chat.completions.create(model=MODEL, messages=ASK, stream=True)
text = "".join(c.choices[0].delta.content or "" for c in s if c.choices)
assert text
def check_json():
r = client.chat.completions.create(
model=MODEL,
messages=[{"role": "user", "content": "Return a JSON object with key ok set to true."}],
response_format={"type": "json_object"},
)
assert json.loads(r.choices[0].message.content)
def check_tools():
tools = [{"type": "function", "function": {
"name": "get_time", "description": "Get the current time",
"parameters": {"type": "object", "properties": {}}}}]
r = client.chat.completions.create(
model=MODEL, messages=ASK, tools=tools,
tool_choice={"type": "function", "function": {"name": "get_time"}})
assert r.choices[0].message.tool_calls, "no tool call returned"
for fn in (check_models, check_chat, check_stream, check_json, check_tools):
try:
fn()
print("ok ", fn.__name__)
except Exception as e:
print("FAIL", fn.__name__, type(e).__name__, str(e)[:100])
Запустите его с API_KEY=... python check.py. Сбой на одной строке точно скажет вам, о какой функции спросить провайдера. Чистый запуск не доказывает качество, но доказывает, что код вашего клиента не сломается.
Как читать результаты
ok на каждой строке означает, что SDK распарсил каждую форму ответа без ошибок. Сбой только на check_tools обычно означает, что эндпоинт игнорирует tools или модель не вызывает их надежно. Сбой на check_json часто означает, что ответ вернулся в виде текста или блока кода. Сбой на check_stream может быть прокси, буферизирующим события, отсутствующим финальным чанком или эндпоинтом, который вообще не отправляет delta контент.
Запустите скрипт дважды. Первый запуск расскажет о поддержке, второй, с небольшой задержкой, о стабильности. Также запустите его с машины, где будет работать ваше приложение, потому что сети и прокси меняют то, как выглядит потоковая передача.
Тестирование метода Responses
Новый код клиента OpenAI все чаще вызывает метод Responses вместо chat completions. Этот сервис принимает POST /v1/responses, поэтому тот же клиент может использовать любой из них. Не каждый совместимый провайдер его реализует, что делает отдельную проверку стоящей:
from openai import OpenAI
client = OpenAI(base_url="https://api.modelapis.cc/v1", api_key="YOUR_API_KEY")
r = client.responses.create(
model="uncensored",
input="List three checks for an OpenAI-compatible endpoint.",
)
print(r.output_text)
Если провайдер возвращает 404 здесь, но проходит тест чата, ваш старый код в порядке, а новые функции SDK, зависящие от этого метода, — нет. Решите, какие из ваших инструментов в нем нуждаются, прежде чем выбирать.
Где совместимые эндпоинты обычно отличаются
Обработка ошибок
Лимиты запросов — самая частая неожиданность. Этот API отвечает кодом HTTP 429 и кодом ошибки rate_limited при превышении количества запросов в минуту или кодом concurrency при превышении одновременных запросов. При временной перегрузке возвращается 429 с заголовком Retry-After: 5. У другого провайдера могут быть другие коды ошибок или их отсутствие, поэтому протестируйте логику повторных попыток для каждого случая.
Лимиты
Полный ключ позволяет 8 одновременных запросов и 300 запросов в минуту, а пробный ключ — 2 и 60. Потоковый запрос удерживает слот параллельности до завершения потока, что важно для чат-приложений. Тело запроса ограничено 8 МБ.
Именование моделей
Некоторые сервисы принимают любую строку в качестве имени модели и тихо отображают её. Другие отклоняют неизвестные имена. Здесь вы передаёте uncensored, а подробности приведены в документации.
Поведение
Два совместимых эндпоинта могут по-разному отвечать на один и тот же промпт. Этот сервис использует одну модель с открытыми весами, настроенную на ответы без отказов по контенту для законного использования взрослыми, с жёстким ограничением на сексуальный контент с участием несовершеннолетних. Модель от основного вендора откажет чаще. Ни один из вариантов не является неправильным, но они подходят для разных продуктов.
Практичный способ принять решение — записать три требования, которые должны выполняться (например, потоковая передача, вызовы функций и возможность распознать код 429), запустить скрипт для каждого кандидата и исключить те, которые не прошли проверку. Среди оставшихся сравните цены на вашем наборе токенов и поведение на ваших промптах. Такой порядок экономит время, так как нехватка функций легко обнаруживается, а сравнение стоимости не имеет смысла для эндпоинта, который не может выполнить ваш код.
Когда другой вариант подходит лучше
Мы не стремимся быть ответом на любой запрос. Выберите другой вариант, если:
- Вам нужна генерация изображений, аудио или видео, эмбеддинги или дообучение. Этот сервис работает только с текстом.
- Вам нужен вывод модели конкретного вендора. Мы не являемся официальным API ни одного вендора и не маршрутизируем запросы между вендорами.
- Ваша политика требует корпоративного договора или конкретной сертификации соответствия. Мы не делаем заявлений об этом здесь.
Выберите этот эндпоинт, если вам нужна модель с открытыми весами для чата без отказов по контенту для законного использования взрослыми, интерфейс в стиле OpenAI и оплата за токены. Тарифы: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов, подробно описаны на странице с ценами.
Попробовать с пробным ключом
Создайте аккаунт с помощью Google или по электронной почте и паролю, затем откройте страницу API-ключей. Новые пользователи могут получить $0,50 пробного баланса в один клик. Он действует 7 дней и не требует привязки карты, чего достаточно, чтобы многократно запустить скрипт выше.
Получив результаты, сравните их бок о бок. Сохраните вывод каждого запуска и добавьте столбцы, важные для вас: отказы на ваших тестовых промптах, время до первого токена в вашей сети и стоимость одного и того же набора промптов по текущим ценам каждого провайдера.
Дополнительные руководства
Часто задаваемые вопросы
Означает ли совместимость с OpenAI то же самое, что и OpenAI?
Нет. Это означает, что эндпоинт принимает тот же формат запроса, поэтому SDK от OpenAI работают после изменения базового URL и ключа. Модель, стоящая за ним, может быть совершенно другой.
Какой базовый URL использовать для SDK OpenAI здесь?
Используйте https://api.modelapis.cc/v1 в качестве базового URL, ваш ключ в качестве токена Bearer и uncensored в качестве идентификатора модели.
Работает ли потоковая передача с опцией stream в SDK?
Да. Установите stream в true и читайте события, отправляемые сервером, как обычно; использование отправляется в конце потока.
Как проверить баланс из кода?
Читайте заголовок ответа X-Balance-USD при любом запросе или отправляйте GET-запрос к /v1/balance или к пути credit_grants в стиле OpenAI по адресу /v1/dashboard/billing.
Получите ключ мгновенно
Зарегистрируйтесь, получите ключ, обновите базовый URL. Вот и всё.