Azure Databricks コンピューティングとは、データ エンジニアリング、データ サイエンス、分析のワークロードを実行するために Azure Databricks で使用できるコンピューティング リソースの選択を指します。 オンデマンド スケーリング用のサーバーレス コンピューティング、カスタマイズ可能なリソース用のクラシック コンピューティング、最適化された分析用の SQL ウェアハウスから選択します。
コンピューティング リソースは、ワークスペースの [コンピューティング ] セクションで表示および管理できます。
サーバーレス コンピューティング
ワークロードの要件に基づいてスケーリングされる、オンデマンドで自動的に管理されるコンピューティング。
| トピック | Description |
|---|---|
| ノートブックのサーバーレス コンピューティング | 自動スケーリングとインフラストラクチャ管理を使用しないノートブックでの対話型の Python と SQL の実行。 |
| ジョブのサーバーレス コンピューティング | インフラストラクチャを構成またはデプロイせずに、Lakeflow ジョブを実行します。 コンピューティング リソースを自動的にプロビジョニングおよびスケーリングします。 |
| サーバーレス パイプライン | インフラストラクチャを構成またはデプロイせずに、Lakeflow 宣言パイプラインを実行します。 コンピューティング リソースを自動的にプロビジョニングおよびスケーリングします。 |
| サーバーレス コンピューティングの制限事項 | サーバーレス ワークロードとサポートされる構成の制限事項と要件について説明します。 |
クラシック コンピューティング
ワークロード用に作成、構成、管理するプロビジョニング済みのコンピューティング リソース。
| トピック | Description |
|---|---|
| クラシック コンピューティングの概要 | クラシック コンピューティング リソースにアクセスして作成できるユーザーの概要。 |
| コンピューティングの構成 | Lakeflow ジョブを使用して、ノートブックまたは自動化されたワークフローで対話型データ分析用のコンピューティングを作成して構成します。 |
| Standard コンピューティング | コスト効率の高いコラボレーションのための共有リソースを使用したマルチユーザー コンピューティング。 Lakeguard は、セキュリティで保護されたユーザー分離を提供します。 |
| 専用コンピューティング | 単一のユーザーまたはグループに割り当てられたコンピューティング リソース。 |
| インスタンス プール | コンピューティングの起動時間を短縮し、頻繁なワークロードのコスト削減を実現する事前構成済みインスタンス。 |
SQL倉庫
特定のユース ケースと高度な機能に合わせて最適化されたコンピューティング リソース。 SQL ウェアハウスは、サーバーレスまたはクラシックとして構成できます。
| トピック | Description |
|---|---|
| SQL ウェアハウス | サーバーレスまたはクラシック オプションを使用して、SQL クエリ、分析、ビジネス インテリジェンス ワークロード用に最適化されたコンピューティング。 |
| SQL ウェアハウスの種類 | サーバーレスと従来の SQL ウェアハウス オプションの違いを理解して、ワークロードに適した種類を選択します。 |
その他のトピック
| トピック | Description |
|---|---|
| Photon とは | SQL ワークロードを高速化し、より高速なデータ処理を提供する高パフォーマンスのクエリ エンジン。 |
| Lakeguard とは | コンピューティング リソースのデータ ガバナンスとアクセス制御を提供するセキュリティ フレームワーク。 |
コマンド ラインまたは API を使用したコンピューティングの操作の詳細については、「 Databricks CLI とは」 と Databricks REST API リファレンスを参照してください。
予約済みポート
特定のポートは、内部 Databricks サービス用にドライバー ノードに予約されています。 競合を回避するには、サービスを次のポートにバインドしないでください。
- 1023
- 6059
- 6060
- 6061
- 6062: 既定では ipywidget によって占有されます。 必要に応じてポートを変更できます。 ipywidgets を参照してください。
- 7071
- 7077
- 10000
- 15001
- 15002
- 36423
- 38841
- 39909
- 40000
- 40001
- 41063