コンテンツにスキップ

Groq プロンプトドライバ (Groq Prompt Driver)

Groq Prompt Driver ノードを使用すると、Griptape Nodes フレームワーク内で Groq の言語モデルを設定および利用できます。このノードにより、Groq の高性能推論エンジンおよびさまざまな言語モデルにアクセスできるようになります。

設定 (Configuration)

API キー

Groq Prompt Driver を使用するには、Groq API キーが必要です。Groq Console から API キーを取得できます。

利用可能なモデル (Available Models)

Groq Prompt Driver は以下のモデルをサポートしています:

本番向けモデル (Production Models)

プレビューモデル (Preview Models)

パラメータ一覧 (Parameters)

Groq Prompt Driver は以下の設定パラメータをサポートしています:

パラメータ名 型 デフォルト値 説明
model string gemma2-9b-it テキスト生成に使用する Groq モデル
temperature float 0.7 出力のランダム性を制御 (0.0 〜 1.0)
top_p float 0.9 核サンプリング(Nucleus Sampling)による多様性を制御 (0.0 〜 1.0)
max_tokens integer 2048 生成する最大トークン数
stream boolean false レスポンスをストリーミングするかどうか
max_attempts integer 3 リクエスト失敗時の最大再試行回数

使い方 (Usage)

  1. ワークフローに Groq Prompt Driver ノードを追加します
  2. Groq API Keys から API キーを取得していることを確認します
  3. Griptape の設定で GROQ_API_KEY を設定します
  4. 利用可能なオプションから目的のモデルを選択します
  5. 必要に応じて生成パラメータを調整します
  6. ワークフロー内の他のノードに接続します

補足事項 (Notes)

  • Groq Prompt Driver は https://api.groq.com/openai/v1 の OpenAI 互換 API エンドポイントを使用します
  • プレビューモデルは評価目的で提供されており、予告なしに提供が終了する場合があります
  • 本番運用環境には本番向けモデル (Production Models) の使用を推奨します
  • ノードはワークフロー実行前に API キーの有効性を自動的に検証します