コンテンツにスキップ

Ollama (ローカル) (Ollama (local))

Ollama を使用すると、自身のマシン上のローカル環境で AI モデルを実行できます。API キーは不要で、コンピュータから外部へデータが送信されることもありません。Griptape Nodes は、インストールされているモデルを動的に検出します。


前提条件

  1. ollama.com から Ollama をダウンロードしてインストールします。
  2. 少なくとも 1 つのモデルをプル(ダウンロード)します。例:

    ollama pull llama3.2
    
  3. Ollama が実行されており、モデルが利用可能であることを確認します:

    ollama list
    

    Griptape Nodes で Ollama を使用する際は、Ollama が常に起動している必要があります。


プロバイダーの追加

  1. Settings → Agent Settings を開きます。
  2. + Add Provider をクリックします。
  3. Ollama (local) を選択します。

設定項目を入力します:

  • Name — Ollama のままにするか、任意のわかりやすいカスタムラベルを入力します。
  • Base URL — デフォルトは http://localhost:11434/v1 です。更新ボタンをクリックして接続をテストします。
  • Ollama が起動している場合、緑色の文字で Connected — N models available と表示されます。
  • Model (optional) — デフォルトで使用するモデルを選択するか、チャット時に都度選択する場合は空欄のままにします。

Create Provider をクリックします。


接続テスト

作成後、ウィザードには確認画面が表示されます。モデルを選択し、テストメッセージを入力して、正常に応答が得られることを確認した上で Done をクリックします。


モデルの選択

ollama pull でプルしたモデルは、以下に自動的に表示されます:

  • エージェント の Model ドロップダウン(Ollama プロバイダー名の下にグループ表示)。
  • Agent ノード の provider を Ollama に設定した際の prompt model パラメータ。

さらにモデルを追加したい場合は、ターミナルで ollama pull <model-name> を実行すれば、即座にリストに反映されます。


関連リソース