Azure Arc で有効になっている Edge RAG プレビューの拡張機能をデプロイする

Azure portal で、Azure Local 上の Azure Kubernetes クラスターに移動します。

[設定]、>、+ 追加、そして一覧から>を選択します。

[基本] タブで次の情報を指定します。

「Next: 構成」を選択します。

[構成] タブで、次の情報を指定します。

[ 次へ: 確認と作成] を選択します。

指定したパラメーターを確認して検証します。

[ 作成] を選択して、Edge RAG のデプロイを完了します。

デプロイが完了したら、[ 拡張機能] で、拡張機能の種類 microsoft.arc.rag と microsoft.extensiondiagnostics が一覧表示されていることを確認します。

次のコマンドでパラメーターの値を設定し、コマンドを実行します。

$gpu_enabled = "true"  # Mark it true if you have GPUs available for Edge RAG
$localextname = "edgeragdemo" # Once used do not change
$autoUpgrade = "false"
$tenantId = "<App Tenant ID>" # App registrations -> Your app -> Overview on Azure portal
$appId = "<App ID>" # App registrations -> Your app -> Overview on Azure portal
$domainName = "arcrag.contoso.com" # App redirect URI and this ___domain name should be the same
$sub = "<Subscription GUID>"
$rg = "<Resource Group name>"
$k8scluster = "<Azure Kubernetes Service (ASK) Arc cluster name>"
$extension = "microsoft.arc.rag" # do not change
$n = "arc-rag" # do not change

Microsoft が提供する言語モデルまたは独自の言語モデルに必要な値を設定します。

• Microsoft 提供の言語モデル オプション: 必要に応じて次のコマンドを編集し、コマンドを実行します。

  $modelName = "microsoft/Phi-3.5" # If you want to switch to Mistral 7B, change this variable to "mistralAI/Mistral-7B" 
  

• 独自の言語モデル オプションを使用する: 必要に応じて次のコマンドを編集し、コマンドを実行します。

  $apiEndpoint = <Endpoint URI> 
  $apiModel = <Model Name> 
  $maxTokensInK = <Max Tokens In K (e.g. 10, 20 etc.)> 
  

パラメーター値を設定した後、Microsoft が提供する言語モデルまたは独自の言語モデルのコマンドを実行して、Azure Arc 拡張機能をデプロイします。

• Microsoft 提供の言語モデル オプション: 次のコマンドを実行します。

  az provider register --namespace Microsoft.KubernetesConfiguration
  az feature register --namespace Microsoft.KubernetesConfiguration --name extensions 
  
  az k8s-extension create --cluster-type connectedClusters --cluster-name $k8scluster --resource-group $rg --name $localextname --extension-type $extension --debug --release-train preview --auto-upgrade $autoUpgrade `
     --configuration-settings isManagedIdentityRequired=true --configuration-settings gpu_enabled=$gpu_enabled --configuration-settings AgentOperationTimeoutInMinutes=30  `
     --configuration-settings model=$modelName --configuration-settings auth.tenantId=$tenantId --configuration-settings auth.clientId=$appId --configuration-settings ingress.domainname=$domainName
  

• 独自の言語モデル オプションを追加する: 次のコマンドを実行します。

  az k8s-extension create --cluster-type connectedClusters --cluster-name $k8scluster --resource-group $rg --name $localextname --extension-type $extension --debug --release-train preview --auto-upgrade $autoUpgrade ` 
      --configuration-settings isManagedIdentityRequired=true --configuration-settings gpu_enabled=$gpu_enabled --configuration-settings AgentOperationTimeoutInMinutes=30  `     
      --configuration-settings auth.tenantId=$tenantId --configuration-settings auth.clientId=$appId --configuration-settings ingress.domainname=$domainName `   
      --configuration-settings byom.enabled="true" --configuration-settings byom.apiEndpoint=$apiEndpoint --configuration-settings byom.apiModel=$apiModel --configuration-settings byom.maxTokensInK=$maxTokensInK