ChatEvaluate

この機能には次が必要です:外部アカウント »

ChatEvaluate[chat,prompt]

ChatObject chatprompt とその補足を加える.

ChatEvaluate[prompt]

ChatObjectに適用可能なChatEvaluateの演算子形を表す.

詳細とオプション

  • ChatEvaluateChatObjectの会話を続けるために使われる.
  • ChatEvaluateは,外部サービスの認証,請求,インターネット接続を必要とする.
  • 次は,使用可能な prompt の値である.
  • "text"静的テキスト
    LLMPrompt["name"]リポジトリのプロンプト
    StringTemplate[]テンプレートのテキスト
    TemplateObject[]プロンプト作成用のテンプレート
    Image[]画像
    {prompt1,}プロンプトのリスト
  • TemplateObjectで作成したプロンプトには,テキストと画像を入れることができる.すべてのLLMが画像をサポートする訳ではない.
  • 次は,使用可能なオプションである.
  • Authentication Inherited明示的なユーザIDとAPIキー
    LLMEvaluator Inherited使用するLLMの設定
    ProgressReporting$ProgressReporting計算の進捗状況の報告方法
  • LLMEvaluatorInheritedに設定されているときは,chat で指定されたLLM設定が使われる.
  • LLMEvaluatorLLMConfigurationオブジェクトあるいは以下のキーの任意のものを持つ連想に設定することができる.
  • "MaxTokens"生成するトークンの最大数
    "Model"ベースモデル
    "PromptDelimiter"プロンプト間に挿入する文字列
    "Prompts"初期プロンプトまたはLLMPromptGeneratorオブジェクト
    "StopTokens"生成を止めるトークン
    "Temperature"サンプリング温度
    "ToolMethod"ツールの呼出しに使用するメソッド
    "Tools"使用可能にするLLMToolオブジェクトのリスト
    "TopProbabilities"サンプリングクラスのカットオフ
    "TotalProbabilityCutoff"サンプリング確率のカットオフ(核サンプリング)
  • 次は,"Model"の有効な形式である.
  • name名前付きのモデル
    {service,name}service からの名前付きのモデル
    <|"Service"service,"Name"name|>完全に指定されたモデル
  • "Prompts"で指定されたプロンプトは,ロールが"System"に設定された chat のメッセージの先頭に追加される.
  • 複数のプロンプトは"PromptDelimiter"特性で分離される.
  • 生成されたテキストは,配布物からサンプリングされる.サンプリングの詳細は,以下のLLMEvaluator特性で指定できる.
  • "Temperature"tAutomatic正の温度 t を使ったサンプリング
    "TopProbabilities"kAutomatic最もありそうな k 個のクラスからのサンプリング
    "TotalProbabilityCutoff"pAutomatic最低でも p の累積確率を持つ最もありそうな選択肢からのサンプリング(核サンプリング)
  • これらのパラメータがAutomaticのときは,指定された"Model"のデフォルトが使われる.
  • 次は,"ToolMethod"の可能な値である.
  • "Service"service のツールメカニズムに依存する
    "Textual"プロンプトベースのツール呼出しを使う
  • 次は,Authenticationの可能な値である.
  • Automatic認証スキームを自動選択する
    Inheritedchat から設定を継承する
    Environment環境変数のキーをチェックする
    SystemCredentialシステムキーチェーンのキーをチェックする
    ServiceObject[]サービスオブジェクトから認証を継承する
    assoc明示的なキーとユーザIDを与える
  • AuthenticationAutomaticのとき,関数はEnvironmentSystemCredentialの変数ToUpperCase[service]<>"_API_KEY"をチェックする.それ以外の場合はServiceConnect[service]が使われる.
  • Authenticationassocassoc は以下のキーを含むことができる.
  • "ID"ユーザID
    "APIKey"認証に使われるAPIキー
  • ChatEvaluateは機械学習を使う.含まれるメソッド,訓練集合,バイアスはWolfram言語のバージョンによって異なることがあり,与えられる結果も異なる可能性がある.

例題

すべて開くすべて閉じる

  (3)

新たなチャットを作成する:

会話にメッセージと応答を加える:

マルチモーダルモデルを指定してチャットを作成する:

これで,テキストと画像の両方が会話に使える:

ツールでチャットオブジェクトを作成する:

LLMの答をツールの呼出しステップとともに表示する:

スコープ  (3)

新たな会話を始める:

既存の会話を続ける:

関数を演算子として使う:

オプション  (10)

Authentication  (4)

APIの認証キーを与える:

システムのキーチェーン中にキーを探す:

キーの名前を指定する:

システム環境でキーを探す:

サービスオブジェクトを介して認証する:

LLMEvaluator  (6)

使用するサービスを指定して答を生成する:

サービスとモデルの両方を指定する:

デフォルトで,テキストの生成は中止トークンが生成されるまで続く:

生成されるサンプル(トークン)の数を制限する:

温度0でサンプリングが実行されるように指定する:

より多くのバリエーションが生成されるようにより高い温度を指定する:

分布を切り捨てる前に最大累積確率を指定する:

生成に使用するサービスとモデルを指定する:

自動的に挿入するプロンプトを指定する:

アプリケーション  (1)

ツールの呼出し  (1)

LLMが呼び出せるツールを定義する:

このツールでチャットオブジェクトのインスタンスを作成する:

このツールを使って正確な答が得られる質問を行う:

考えられる問題  (1)

特定のサービスでチャットセッションを評価すると,認証情報が埋め込まれる:

デフォルト設定のAuthenticationInheritedのときは,別のサービスの認証がうまくいかない:

AuthenticationAutomaticを使うか,新たなサービスに対する明示的な認証を与えるかして再接続する:

Wolfram Research (2023), ChatEvaluate, Wolfram言語関数, https://reference.wolfram.com/language/ref/ChatEvaluate.html.

テキスト

Wolfram Research (2023), ChatEvaluate, Wolfram言語関数, https://reference.wolfram.com/language/ref/ChatEvaluate.html.

CMS

Wolfram Language. 2023. "ChatEvaluate." Wolfram Language & System Documentation Center. Wolfram Research. https://reference.wolfram.com/language/ref/ChatEvaluate.html.

APA

Wolfram Language. (2023). ChatEvaluate. Wolfram Language & System Documentation Center. Retrieved from https://reference.wolfram.com/language/ref/ChatEvaluate.html

BibTeX

@misc{reference.wolfram_2024_chatevaluate, author="Wolfram Research", title="{ChatEvaluate}", year="2023", howpublished="\url{https://reference.wolfram.com/language/ref/ChatEvaluate.html}", note=[Accessed: 05-November-2024 ]}

BibLaTeX

@online{reference.wolfram_2024_chatevaluate, organization={Wolfram Research}, title={ChatEvaluate}, year={2023}, url={https://reference.wolfram.com/language/ref/ChatEvaluate.html}, note=[Accessed: 05-November-2024 ]}