次の方法で共有


Foundry Local の概要

Important

  • Foundry Local はプレビューで利用できます。 パブリック プレビュー リリースでは、デプロイ中の機能に早期にアクセスできます。
  • 一般提供 (GA) の前は、機能、アプローチ、プロセスが変更されたり、機能が制限されたりする場合があります。

このガイドでは、デバイスで AI モデルを実行するように Foundry Local を設定する手順について説明します。

Prerequisites

Foundry Local を実行するには、システムが次の要件を満たしている必要があります。

  • オペレーティング システム: Windows 10 (x64)、Windows 11 (x64/ARM)、Windows Server 2025、macOS。
  • ハードウェア: 8 GB 以上の RAM と 3 GB の空きディスク領域。 推奨される 16 GB の RAM と 15 GB の空きディスク領域。
  • ネットワーク: 初期モデルをダウンロードするためのインターネット接続 (オフラインで使用する場合は省略可能)。
  • アクセラレーション (省略可能):NVIDIA GPU (2,000 シリーズ以降)、AMD GPU (6,000 シリーズ以降)、AMD NPU、Intel iGPU、Intel NPU (32 GB 以上のメモリ)、Qualcomm Snapdragon X Elite (8 GB 以上のメモリ)、Qualcomm NPU、または Apple シリコン。

新しい NPU は、Windows 24H2 以降を実行しているシステムでのみサポートされます。 Windows で Intel NPU を使用する場合は、 Intel NPU ドライバー をインストールして Foundry Local で NPU アクセラレーションを有効にします。

ソフトウェアをインストールするための管理者権限があることを確認します。

Tip

インストール後にサービス接続エラー ("ローカル サービスへの要求に失敗しました" など) が表示された場合は、 foundry service restart実行します。

クイック スタート

Foundry Localをすぐに始めましょう。

オプション 1: CLI を使った簡易セットアップ

  1. Foundry Local をインストールします

    • Windows: ターミナルを開き、次のコマンドを実行します。
      winget install Microsoft.FoundryLocal
      
    • macOS: ターミナルを開き、次のコマンドを実行します。
      brew tap microsoft/foundrylocal
      brew install foundrylocal
      
      または、 Foundry Local GitHub リポジトリからインストーラーをダウンロードすることもできます。
  2. 最初のモデルを実行します。 ターミナルを開き、次のコマンドを実行します。

    foundry model run qwen2.5-0.5b
    

    Foundry Local はモデルをダウンロードします。これは、インターネットの速度に応じて数分かかる場合があります。その後、モデルを実行します。 モデルの開始後、コマンド ライン インターフェイス (CLI) を使用して操作します。 たとえば、次の質問を行うことができます。

    Why is the sky blue?
    

    ターミナルにモデルからの応答が表示されます。 Foundry Local run コマンドからの出力のスクリーンショット。

オプション 2: スターター プロジェクトをダウンロードする

実践的な学習のために、実際のユースケースを示すスターター プロジェクトのいずれかをダウンロードしてください。

各プロジェクトには以下が含まれます。

  • ステップバイステップのセットアップ手順
  • 完全なソース コード
  • 構成の例
  • ベスト プラクティス

Tip

これらのスターター プロジェクトは、 ハウツー ガイド のシナリオと一致し、すぐに実用的な価値を提供します。

Tip

qwen2.5-0.5bをカタログの任意のモデル名に置き換えます (使用可能なモデルを表示するには、foundry model list実行します)。 Foundry Local は、システムのハードウェアとソフトウェアの構成に最も一致するバリアントをダウンロードします。 たとえば、NVIDIA GPU を使用している場合、Foundry Local は CUDA バージョンをダウンロードします。 Qualcomm NPU がある場合は、Foundry Local によって NPU バリアントがダウンロードされます。 GPU または NPU がない場合は、Foundry Local によって CPU バージョンがダウンロードされます。

初めて foundry model list 実行すると、ダウンロードの進行状況バーが表示され、Foundry Local はハードウェアの実行プロバイダーをダウンロードします。

最新の OpenAI オープンソース モデルを実行する

次のコマンドを使用して、最新の OpenAI オープン ソース モデル ( GPT-OSS-20B) を実行します。

foundry model run gpt-oss-20b

Important

GPT-OSS-20B を実行するための要件:

  • 16 GB 以上の VRAM を搭載した NVIDIA GPU。
  • Foundry Local バージョン 0.6.87 以降。 以前のバージョンでは、モデルはサポートされていません。 次の方法でバージョンを確認します。
foundry --version

コマンドを探索する

Foundry CLI は、次の主要なカテゴリにコマンドを整理します。

  • モデル: モデルを管理および実行するためのコマンド。
  • サービス: Foundry Local サービスを管理するためのコマンド。
  • キャッシュ: ローカル モデル キャッシュを管理するためのコマンド (ローカル ディスクにダウンロードされたモデル)。

すべてのコマンドを表示します。

foundry --help

モデル コマンドの表示:

foundry model --help

サービス コマンドの表示:

foundry service --help

キャッシュ コマンドの表示:

foundry cache --help

Tip

すべての CLI コマンドの詳細については、 Foundry Local CLI リファレンスを参照してください

Foundry Local のアップグレード

OS のコマンドを実行して Foundry Local をアップグレードします。

  • Windows: ターミナルで、次のコマンドを実行します。
    winget upgrade --id Microsoft.FoundryLocal
    
  • macOS: ターミナルで、次のコマンドを実行します。
    brew upgrade foundrylocal
    

Foundry Local のアンインストール

Foundry Local をアンインストールするには、オペレーティング システムのコマンドを実行します。

  • Windows: ターミナルを開き、次のコマンドを実行します。
    winget uninstall Microsoft.FoundryLocal
    
  • macOS: ターミナルを開き、次のコマンドを実行します。
    brew rm foundrylocal
    brew untap microsoft/foundrylocal
    brew cleanup --scrub
    

トラブルシューティング

サービス接続の問題

foundry model listまたは同様のコマンドを実行すると、次のエラーが表示されます。

>foundry model list

🟢 Service is Started on http://127.0.0.1:0/, PID 11192!

Exception: Request to local service failed. Uri:http://127.0.0.1:0/foundry/list

The requested address is not valid in its context. (127.0.0.1:0)

Please check service status with 'foundry service status'.

サービスを再起動するには、次のコマンドを実行します。

foundry service restart

このコマンドは、サービスが実行されているが、ポート バインドの問題のためにアクセスできない場合を修正します。