どのモデルAPIがOpenAI SDKと互換性がありますか?
「openaiと互換性のあるモデルapis api」を検索することは、通常1つのことを意味します:OpenAIのクライアントコードを維持し、それが指す場所のみを変更したいということです。互換性には段階があるため、確認すべきことと、それをあなたのためにチェックするスクリプトを紹介します。

実務における互換性の意味
OpenAI SDKは構成可能です。それらはbase_urlとAPIキーを受け入れ、既知の形状でリクエストを構築し、既知の形状で返信を解析します。その形状を受け入れ、その形状で回答するサービスであれば、SDKと連携します。それが全体のアイデアであり、多くのプロバイダーがその形式をコピーする理由です。
落とし穴は、あるメソッドの形式をコピーしても、他のメソッドがコピーされるわけではないことです。あるエンドポイントは/chat/completionsを適切に処理できても、ツール呼び出しをスキップしたり、ストリーミング時に最終的な使用量チャンクなしで応答したり、リトライコードが認識できない異なる構造のエラーを返すことがあります。SDKは警告を出しません。本番環境では単に例外を発生させます。
したがって、互換性を個別の機能のリストとして扱い、それぞれをテストしてください。
テストする価値のある機能
この表を候補のチェックリストとして使用してください。右側の列はこのサービスが文書化している内容を示しており、チェックが実際にどのように表示されるかを確認できます。
| 項目 | なぜ重要なのか | このサービス |
|---|---|---|
| チャット補完 | ほとんどのアプリが使用するコアメソッド | はい、POST /v1/chat/completions |
| Responsesメソッド | 新しいOpenAIクライアントで使用 | はい、POST /v1/responses |
| モデル一覧 | 多くのツールが起動時に呼び出す | はい、GET /v1/models |
| ストリーミング(SSE) | チャットUIに必要 | はい、使用量は最後に到着します |
| ツール呼び出し | エージェントとツール呼び出し | はい、ストリーミングされたツール呼び出しを含む |
| JSON モード | パーサー用の構造化出力 | はい、json_object |
| パラメータ | チューニングスタイルと繰り返し | temperature、top_p、stop、seed、penalties |
| レート制限のシグナル | クライアントが正しくバックオフできるようにする | HTTP 429、コードrate_limitedおよびconcurrency |
| 残高の可視性 | 予期しない停止を回避 | X-Balance-USDヘッダーと残高エンドポイント |
表で示せない2つの要素を追加してください:コンテキストウィンドウと、独自のプロンプトに対するモデルの動作です。ここでウィンドウは、プロンプトと補完を合わせて100,000トークンです。
任意のエンドポイントをテストする1つのスクリプト
以下のスクリプトは、指定されたbase URLに対して5つのチェックを実行します:モデルリスト、通常のチャット呼び出し、ストリーミング、JSONモード、強制ツール呼び出し。デフォルトはこのサービスを指しており、2つの環境変数で別のプロバイダーに切り替えることで、各候補に対して同じテストを実行できます。
import json
import os
from openai import OpenAI
BASE_URL = os.environ.get("API_BASE", "https://api.modelapis.cc/v1")
MODEL = os.environ.get("API_MODEL", "uncensored")
client = OpenAI(base_url=BASE_URL, api_key=os.environ["API_KEY"])
ASK = [{"role": "user", "content": "Reply with the single word: ready"}]
def check_models():
assert client.models.list().data, "empty model list"
def check_chat():
r = client.chat.completions.create(model=MODEL, messages=ASK, max_tokens=20)
assert r.choices[0].message.content
assert r.usage and r.usage.total_tokens > 0, "no usage block"
def check_stream():
s = client.chat.completions.create(model=MODEL, messages=ASK, stream=True)
text = "".join(c.choices[0].delta.content or "" for c in s if c.choices)
assert text
def check_json():
r = client.chat.completions.create(
model=MODEL,
messages=[{"role": "user", "content": "Return a JSON object with key ok set to true."}],
response_format={"type": "json_object"},
)
assert json.loads(r.choices[0].message.content)
def check_tools():
tools = [{"type": "function", "function": {
"name": "get_time", "description": "Get the current time",
"parameters": {"type": "object", "properties": {}}}}]
r = client.chat.completions.create(
model=MODEL, messages=ASK, tools=tools,
tool_choice={"type": "function", "function": {"name": "get_time"}})
assert r.choices[0].message.tool_calls, "no tool call returned"
for fn in (check_models, check_chat, check_stream, check_json, check_tools):
try:
fn()
print("ok ", fn.__name__)
except Exception as e:
print("FAIL", fn.__name__, type(e).__name__, str(e)[:100])
API_KEY=... python check.pyで実行してください。1行の失敗は、プロバイダーに問い合わせるべき機能を正確に示します。クリーンな実行は品質を保証するわけではありませんが、クライアントコードが壊れないことを証明します。
結果の読み方
すべての行にokが表示されることは、SDKがエラーなしですべてのレスポンス形状を解析したことを意味します。check_toolsのみの失敗は、通常、エンドポイントがtoolsを無視しているか、モデルがそれらを確実に呼び出さないことを意味します。check_jsonの失敗は、回答が文章やコードフェンスでラップされて返されたことを意味することがよくあります。check_streamの失敗は、イベントをバッファリングするプロキシ、最終チャンクの欠如、またはdelta内容をまったく送信しないエンドポイントである可能性があります。
スクリプトを2回実行してください。1回目の実行はサポートについて、2回目の実行(数秒の遅延を設けて)は安定性について示します。また、アプリが稼働するマシンから実行してください。ネットワークやプロキシはストリーミングの見た目を変えます。
Responsesメソッドのテスト
新しいOpenAIクライアントコードは、チャット完了の代わりにResponsesメソッドを呼び出す傾向が強まっています。このサービスはPOST /v1/responsesを受け入れるため、同じクライアントはどちらかを使用できます。すべての互換プロバイダーがこれを実装しているわけではないため、別のチェックを行う価値があります:
from openai import OpenAI
client = OpenAI(base_url="https://api.modelapis.cc/v1", api_key="YOUR_API_KEY")
r = client.responses.create(
model="uncensored",
input="List three checks for an OpenAI-compatible endpoint.",
)
print(r.output_text)
プロバイダーがここで404を返すが、チャットテストに合格する場合、古いコードは問題なく、このメソッドに依存する新しいSDK機能は正しく動作しません。選択する前に、どのツールにそれが必要かを判断してください。
互換エンドポイントが通常異なる場所
エラー処理
レート制限は最も一般的な予期せぬ事象です。この API は、1 分あたりのリクエストが多すぎると HTTP 429 とエラーコード rate_limited を返し、一度に多すぎると concurrency を返します。一時的な過負荷時には、Retry-After: 5 を付けて 429 を返します。他のプロバイダーは異なるコードを使用する場合や、コードを返さない場合もあるため、バックオフロジックを各プロバイダーでテストしてください。
制限
フルキーでは同時8リクエスト、1分あたり300リクエストが可能で、トライアルキーでは同時2リクエスト、1分あたり60リクエストが可能です。ストリーミングリクエストはストリームが終了するまで同時リクエスト枠を保持するため、チャットアプリではこれが重要になります。リクエストボディは8 MBに制限されています。
モデルの命名
一部のサービスはモデル名として任意の文字列を受け入れ、エラーなくマッピングします。他のサービスは未知の名前を拒否します。ここでは uncensored を渡し、詳細は ドキュメント に記載されています。
動作
互換性のあるエンドポイントでも、同じプロンプトに対して非常に異なる回答を返すことがあります。このサービスは、法的な成人向け用途においてコンテンツ拒否なしで回答するようチューニングされた1つのオープンウェイトモデルを実行しており、未成年者が関わる性的コンテンツには厳格な制限があります。メジャーなベンダーのモデルはより多くの拒否を行います。どちらが間違っているわけでもありませんが、異なる製品に適しています。
判断するための実用的な方法は、満たすべき必須条件(例えばストリーミング、ツール呼び出し、識別可能な429など)を3つ書き出し、各候補でスクリプトを実行し、失敗したものを除外することです。生き残った候補の中で、独自のトークンミックスでの価格と、独自のプロンプトでの動作を比較します。この順序は時間を節約します。機能のギャップはすぐに発見できますが、あなたのコードを実行できないエンドポイントのコスト比較は価値がないからです。
他のオプションがより適している場合
私たちはすべてのクエリに対する答えになろうとはしていません。以下のような場合は、他のサービスを選んでください:
- 画像、音声、動画の生成、埋め込み、ファインチューニングが必要な場合。このサービスはテキストのみです。
- 特定のベンダーのモデルの出力が必要な場合。私たちはどのベンダーの公式APIでもなく、ベンダー間のルーティングも行いません。
- エンタープライズ契約や特定のコンプライアンス認証をポリシーで必要とする場合。私たちはそれらについてここで主張していません。
法的な成人利用に対してコンテンツ拒否のないオープンウェイトチャットモデル、OpenAI 互換のインターフェース、トークン単位の課金を求める場合は、このエンドポイントを選択してください。料金は入力トークン 1Mあたり $0.15、出力トークン 1Mあたり $0.50 で、詳細は 料金ページ に記載されています。
トライアルキーで試す
Google またはメールアドレスとパスワードでアカウントを作成し、APIキーページ を開きます。新規ユーザーはワンクリックで $0.50 のトライアルクレジットを受け取ることができます。これは 7 日間有効で、カード登録は不要です。上記のスクリプトを何度も実行するには十分な量です。
結果が出たら、並べて比較してください。各実行の出力を保持し、あなたにとって重要な列を追加してください:サンプルプロンプトでの拒否、ネットワークでの最初のトークン到達時間、各プロバイダーの現在の価格での同じプロンプトセットのコストなど。
その他のガイド
よくある質問
OpenAI互換とは、OpenAIと同じ意味ですか?
いいえ。これはエンドポイントが同じリクエスト形式を受け付けることを意味し、ベースURLとキーを変更するだけでOpenAI SDKが動作します。その背後にあるモデルは完全に異なる可能性があります。
OpenAI SDKでここで使用するBase URLはどれですか?
ベースURLとしてhttps://api.modelapis.cc/v1、Bearerトークンとしてあなたのキー、モデルIDとしてuncensoredを使用してください。
SDKのstreamオプションでストリーミングは機能しますか?
はい。streamをtrueに設定し、サーバー送信イベントを通常どおり読み取ってください。使用量はストリームの最後に送信されます。
コードから残高を確認するにはどうすればよいですか?
すべての呼び出しでX-Balance-USDレスポンスヘッダーを読み取るか、GET /v1/balance、または/v1/dashboard/billing配下のOpenAIスタイルのcredit_grantsパスをリクエストしてください。