"TogetherAI" (サービス接続)

このサービス接続には次が必要です：外部アカウント »

Wolfram言語でTogether AI APIを使う．

接続と認証

ServiceConnect["TogetherAI"]はTogether AI APIへの接続を確立する．それまでに保存された接続が見付かった場合は，それが使われる．それ以外の場合は，新たな認証リクエストが起動される．
この接続の使用には，インターネットのアクセスとTogether AIのアカウントが必要である．

リクエスト

ServiceExecute["TogetherAI","request",params]は，パラメータparams を使ってTogether AI APIにリクエストを送信する．次は可能なリクエストである．

Text

リクエスト：

"Completion" — 与えられたプロンプトに対するテキストを補完する

パラメータ：
  • "Prompt"（必須）補完を生成するプロンプト
    "MaxTokens"Automatic生成するトークンの最大数
    "Model"Automatic使用するモデルの名前
    "N"Automatic返す補完の数
    "SafetyModel"Automatic使用するモデレーションモデル．使用可能な値には"Meta-Llama/Llama-Guard-7b"がある
    "StopTokens"AutomaticAPIがトークンの生成を中止する文字列
    "Temperature"Automaticサンプリング温度
    "TotalProbabilityCutoff"Automatic温度によるサンプリングの代替で核サンプリングと呼ばれるもの．モデルは要求された確率質量を持つトークンの結果を考慮する
    • リクエスト：

    "Chat" — 与えられたチャットの会話に対する応答を作成する

    パラメータ：
  • "Messages"（必須）それぞれが"Role"キーと"Content"キーを持つ連想として与えられる，会話中のメッセージのリスト
    "MaxTokens"Automatic生成するトークンの最大数
    "Model"Automatic使用するモデルの名前
    "N"Automatic返す補完の数
    "SafetyModel"Automatic使用するモデレーションモデル．使用可能な値には"Meta-Llama/Llama-Guard-7b"がある
    "StopTokens"AutomaticAPIがトークンの生成を中止する文字列
    "Stream"False結果をサーバが送信したイベントとして返す
    "Temperature"Automaticサンプリング温度
    "ToolChoice"Automaticモデルが呼び出すツール（もしあれば）
    "Tools"Automaticモデルが使用可能な，一つまたは複数のLLMToolオブジェクト
    "TopProbabilities"Automatic最高確率の k クラスでのみサンプリングする
    "TotalProbabilityCutoff"Automatic温度によるサンプリングの代替で核サンプリングと呼ばれるもの．モデルは要求された確率質量を持つトークンの結果を考慮する
    • リクエスト：

    "Embedding" — 入力テキストを表す埋込みベクトルを作成する

    Optional パラメータ：
  • "Input"（必須）埋め込まれるテキストまたはテキストのリスト
    "Model"Automatic使用するモデルの名前

    • Image

    リクエスト：

    "ImageCreate" — 与えられたプロンプトに対して正方形の画像を作成する

    パラメータ：
  • "Prompt"（必須）希望する画像のテキストによる説明
    "Model"Automatic使用するモデルの名前
    "N"Automatic生成する画像数
    "Seed"Automatic画像生成のためのシード
    "Size"Automatic生成する画像のサイズ
    "Steps"Automatic反復回数

    • モデルリスト

    リクエスト：

    "ChatModelList" — "Chat"リクエストに使用可能なモデルをリストする

    リクエスト：

    "CompletionModelList" — "Completion"リクエストに使用可能なモデルをリストする

    リクエスト：

    "EmbeddingModelList" — "Embedding"リクエストに使用可能なモデルをリストする

    リクエスト：

    "ImageModelList" — "ImageCreate"リクエストに使用可能なモデルをリストする

    例題

    すべて開くすべて閉じる

    例  (1)

    新たな接続を作成する：

    テキストを補完する：

    チャットからの応答を生成する：

    文の埋込みを計算する：

    プロンプトからImageを生成する：

    スコープ  (7)

    テキスト  (5)

    Completion  (1)

    サンプリング温度を変える：

    返す文字数を多くする：

    Chat  (1)

    複数のメッセージを含むチャットに応答する：

    モデルがLLMToolを使用することを許可する：

    ChatModelList  (1)

    使用可能なチャットモデルのリストを検索する：

    CompletionModelList  (1)

    使用可能な補完モデルのリストを検索する：

    EmbeddingModelList  (1)

    使用可能な埋込みモデルのリストを検索する：

    画像  (2)

    複数の結果を返す：

    ImageModelList  (1)

    使用可能な画像生成モデルのリストを検索する：