Azure Arc で有効になっている Edge RAG Preview の "BYOM" エンドポイント認証を構成する

この記事では、API キーベースの認証を必要とするローカルまたはクラウドベースの LLM エンドポイントに対して構成する方法について説明します。 Microsoft が提供するモデルではなく、独自の言語モデルを使用するように Edge RAG を構成した場合は、この記事の手順を実行します。

認証用に API キーを設定する

Edge RAG 拡張機能をインストールし、独自の言語モデルを使用するように構成した後、モデルの API キーを取得します。

1. Azure ローカル ノードで、拡張機能のインストール中に作成された "Bring Your Own Model" (BYOM) シークレットを取得します。

   [System.Text.Encoding]::UTF8.GetString([System.Convert]::FromBase64String(
   (.\kubectl.exe get secret byom-api-key -n arc-rag -o jsonpath="{.data.BYOM_API_KEY}")
   
   )) 
   
   Output:  
   byom-secret 
   

2. シークレットを削除して再作成して、シークレット値を LLM エンドポイント API キーに更新します。

   kubectl delete secret byom-api-key -n arc-rag 
   
   $apiKey = "<LLM endpoint API key>" 
   
   kubectl create secret generic byom-api-key --from-literal=BYOM_API_KEY=$apiKey -n arc-rag 
   

3. シークレットが目的の API キーに設定されているかどうかを確認する

   [System.Text.Encoding]::UTF8.GetString([System.Convert]::FromBase64String( 
   
       ( kubectl get secret byom-api-key -n arc-rag -o jsonpath="{.data.BYOM_API_KEY}" ) 
   
   )) 
   
   Output: 
   <Endpoint api key>
   

4. 推論フロー ポッドを削除して、シークレットの変更を適用します。

   kubectl.exe delete pods -n arc-rag -l app=inferencingflow 
   

関連コンテンツ

• Edge RAG 拡張機能をデプロイする