Azure AI Foundry モデルにおけるAzure OpenAIのクォータと制限

この記事には、Azure OpenAI のクォータと制限のクイック リファレンスと詳細な説明が含まれています。

クォータのスコープ

クォータと制限は、テナント レベルでは適用されません。 代わりに、最高レベルのクォータ制限は、Azure サブスクリプション レベルでスコープ設定されます。

リージョン クォータの割り当て

1 分あたりのトークン (TPM) と 1 分あたりの要求数 (RPM) の制限は、リージョンごと、サブスクリプションごと、モデルまたはデプロイの種類ごとに定義されます。

たとえば、gpt-4.1 Global Standard モデルが 500 万 TPM と 5,000 RPM のクォータで一覧表示されている場合、そのモデルまたはデプロイの種類が使用可能な各リージョンには、Azure サブスクリプションごとにその量の専用クォータ プールがあります。 1 つの Azure サブスクリプション内で、リソースとモデルのデプロイが複数のリージョンに分散している限り、特定のモデルとデプロイの種類に対して、TPM と RPM の合計クォータを大量に使用できます。

クォータと制限のリファレンス

次のセクションでは、Azure OpenAI に適用される既定のクォータと制限に関するクイック ガイドを示します:

¹ 現在の API は最大 10 個のカスタム ヘッダーを許容しており、これらはパイプラインを通過して返されます。 一部のお客様はこのヘッダー数を超えるようになり、HTTP 431 エラーが発生します。 ヘッダー ボリュームを減らす以外に、このエラーの解決策は存在しません。 今後の API バージョンでは、カスタム ヘッダーを通過しません。 今後のシステム アーキテクチャでは、カスタム ヘッダーに依存しないことをお勧めします。

GPT-5 シリーズ

バッチ制限

バッチ クォータ

次の表はバッチ処理のクォータ制限値を示しています。 グローバル バッチのクォータ値は、エンキューされたトークンの数で表されます。 バッチ処理のためにファイルを送信すると、ファイル内のトークンの数がカウントされます。 バッチ ジョブが終了状態になるまで、これらのトークンは、エンキューされたトークンの合計制限に対してカウントされます。

グローバルバッチ

B = 10 億 | M = 100万 | K = 1,000

データ ゾーン バッチ

gpt-oss

GPT-4 レート制限

GPT-4.5 プレビュー グローバルスタンダード

GPT-4.1シリーズ グローバルスタンダード

GPT-4.1 シリーズ データ ゾーン標準

GPT-4 Turbo

gpt-4 (turbo-2024-04-09) には、特定の顧客の種類に対して高い制限を持つレート制限レベルがあります。

model-router のレート制限

computer-use-preview Global Standard のレート制限

o-series レート制限

o シリーズグローバル標準

oシリーズ データゾーン標準

o1-preview および o1-mini Standard

gpt-4o レート制限

gpt-4o と gpt-4o-mini には、特定の顧客の種類に対してより高い制限を持つレート制限レベルがあります。

gpt-4o Global Standard

gpt-4o データゾーンスタンダード

gpt-4o Standard

GPT-4オーディオ

プレビュー期間中、各 gpt-4o リアルタイム モデル デプロイのレート制限は、 Azure AI Foundry ポータルに下限が表示されている場合でも、1 分あたり少なくとも 100,000 トークンと 1 分あたり 1,000 要求です。

GPT-image-1 レート制限

GPT-image-1 Global Standard

使用量レベル

Global Standard デプロイでは、Azure のグローバル インフラストラクチャが使用されます。 顧客の推論要求に最適な可用性で、顧客のトラフィックをデータ センターに動的にルーティングします。 同様に、Data Zone Standard デプロイを使用すると、Azure のグローバル インフラストラクチャを使用して、要求ごとに最適な可用性を持つ Microsoft が定義したデータ ゾーン内のデータ センターにトラフィックを動的にルーティングできます。 この方法により、トラフィック レベルが低い方から中レベルの顧客に対して、一貫した待機時間を実現できます。 使用量が持続して高いレベルにあるお客様は、応答の待機時間のばらつきが大きくなる可能性があります。

使用制限は、その使用量レベルを超えると応答待ち時間にばらつきが増える可能性がある顧客を決定するものです。 顧客の使用状況はモデルごとに定義されます。 これは、特定のテナントのすべてのリージョンのすべてのサブスクリプションのすべてのデプロイで使用されるトークンの合計数です。

Global Standard、Data Zone Standard、および Standard

その他のプランの種類

Azure サブスクリプションが特定の オファーの種類にリンクされている場合、クォータの最大値は前の表で示した値よりも小さくなります。

• GPT-5-pro クォータは、MCA-E と既定のクォータ サブスクリプションでのみ使用できます。 他のすべてのオファーの種類には、デフォルトでこのモデルのクォータはゼロに設定されています。

• GPT-5 推論モデルのクォータは、MCA-E または既定のクォータにアクセスできないすべてのオファーの種類について 20,000 TPM と 200 RPM です。 GPT-5-chat は 50,000 と 50 RPM です。

• 一部のオファーの種類は、米国東部 2 とスウェーデン中部リージョンのグローバル標準デプロイのみに制限されます。

^*この制限は、少数のレガシ CSP サンドボックス サブスクリプションにのみ適用されます。 次のクエリを使用して、サブスクリプションに関連付けられている quotaId 値を確認します。

サブスクリプションに関連付けられているオファーの種類を確認するには、quotaId 値を確認します。 quotaId の値がこの表に表示されていない場合、サブスクリプションは既定のクォータの対象となります。

az login
access_token=$(az account get-access-token --query accessToken -o tsv)

curl -X GET "https://management.azure.com/subscriptions/{subscriptionId}?api-version=2020-01-01" \
  -H "Authorization: Bearer $access_token" \
  -H "Content-Type: application/json"

az rest --method GET --uri "https://management.azure.com/subscriptions/{sub-id}?api-version=2020-01-01"

アウトプット

{
  "authorizationSource": "Legacy",
  "displayName": "Pay-As-You-Go",
  "id": "/subscriptions/aaaaaa-bbbbb-cccc-ddddd-eeeeee",
  "state": "Enabled",
  "subscriptionId": "aaaaaa-bbbbb-cccc-ddddd-eeeeee",
  "subscriptionPolicies": {
    "locationPlacementId": "Public_2014-09-01",
    "quotaId": "PayAsYouGo_2014-09-01",
    "spendingLimit": "Off"
  }
}

レート制限内に収まるようにするための一般的なベスト プラクティス

レート制限に関連する問題を最小限に抑えるには、次の手法を使用することをお勧めします。

• アプリケーションで再試行ロジックを実装します。
• ワークロードが急激に変化しないようにします。 ワークロードは徐々に増やします。
• さまざまな負荷増加パターンをテストします。
• デプロイに割り当てられているクォータを増やします。 必要に応じて、別のデプロイからクォータを移動します。

クォータの増加を要求

クォータの引き上げ要求は、クォータ増加リクエスト フォームを使用して送信できます。 需要が高いため、クォータ増加のご依頼は、受け付け順に対応させていただきます。 既存のクォータ割り当てを使用するトラフィックを生成する顧客に優先順位が与えられます。 この条件が満たされていない場合、要求が拒否される可能性があります。

他のレート制限については、サービス要求を送信できます。

リージョンのクォータ容量の制限

Azure AI Foundry ポータルでは、サブスクリプションのリージョン別のクォータの可用性を表示できます。

特定のモデルまたはバージョンのリージョン別のクォータ容量を表示するには、サブスクリプションの Capacity API に対してクエリを実行します。 subscriptionId、model_name、model_version を指定すると、API はサブスクリプションのすべてのリージョンとデプロイの種類にわたって、そのモデルで使用可能な容量を返します。

API リファレンスを参照してください。

import requests
import json
from azure.identity import DefaultAzureCredential

subscriptionId = "Replace with your subscription ID" #replace with your subscription ID
model_name = "gpt-4o"     # Example value, replace with model name
model_version = "2024-08-06"   # Example value, replace with model version

token_credential = DefaultAzureCredential()
token = token_credential.get_token('https://management.azure.com/.default')
headers = {'Authorization': 'Bearer ' + token.token}

url = f"https://management.azure.com/subscriptions/{subscriptionId}/providers/Microsoft.CognitiveServices/modelCapacities"
params = {
    "api-version": "2024-06-01-preview",
    "modelFormat": "OpenAI",
    "modelName": model_name,
    "modelVersion": model_version
}

response = requests.get(url, params=params, headers=headers)
model_capacity = response.json()

print(json.dumps(model_capacity, indent=2))

関連コンテンツ

• Azure OpenAI デプロイのクォータを管理する方法を確認してください。
• Azure OpenAI をサポートする基になるモデルの詳細について説明します。