"Groq" (服务连接)

连接该服务需要外部账户 »

使用 Wolfram 语言调用 Groq API.

连接与验证

ServiceConnect["Groq"] 创建与 Groq API 的连接. 如果可以找到以前保存的连接，则将使用该连接；否则，将启动新的身份验证请求.
使用此连接需要访问互联网和 Groq 帐户.

请求

ServiceExecute["Groq","request",params]使用参数 params 向 Groq API 发送请求. 以下给出了可能的请求.
请求：

"TestConnection" — 如果连接正常则返回 Success，否则返回 Failure

Text

请求：

"Chat" — 为给定的聊天对话创建回复

参数：
  • "Messages"(required)对话中的消息列表，每条消息都以 "Role" 和 "Content" 键的关联形式给出
    "FrequencyPenalty"Automatic根据令牌在目前文本中的现有频率对其进行惩罚（介于 -2 和 2 之间）
    "MaxTokens"Automatic生成的最大令牌数
    "Model"Automatic要使用的模型名称
    "N"Automatic要返回的补全数量
    "PresencePenalty"Automatic根据新令牌是否出现在目前文本中对其进行惩罚
    "StopTokens"AutomaticAPI 将停止生成更多令牌的字符串
    "Stream"False以服务器发送事件的形式返回结果
    "Temperature"Automatic采样温度
    "ToolChoice"Automatic模型调用了哪个工具（如果有）
    "Tools"Automatic一个或多个可供模型使用的 LLMTool 对象
    "TotalProbabilityCutoff"Automatic作为温度采样的替代方案，称为核采样，模型考虑具有所请求概率质量的令牌结果
    "User"Automatic代表最终用户的唯一标识符

    • 音频

    请求：

    "AudioTranscription" — 将音频录音转录为输入语言

    参数：
  • "Audio"(required)要转录的 Audio 对象
    "Language"Automatic输入音频的语言
    "Model"Automatic要使用的模型的名称
    "Prompt"None可选文本，用于指导模型的风格或继续上一个音频片段
    "Temperature"Automatic采样温度（介于 0 和 1 之间）
    "TimestampGranularities"Automatic转录的时间戳粒度（"word" 或 "segment"）
    • 请求：

    "AudioTranslation" —将音频录音翻译成英语

    参数：
  • "Audio"(required)要翻译的 Audio 对象
    "Model"Automatic要使用的模型的名称
    "Prompt"None可选文本，用于指导模型的风格或继续上一个音频片段
    "Temperature"Automatic采样温度（介于 0 和 1 之间）

    • 模型列表

    请求：

    "ChatModelList" — 列出可用于 "Chat" 请求的模型

    范例

    打开所有单元关闭所有单元

    基本范例  (1)

    创建新的连接：

    生成聊天的回复：

    范围  (5)

    连接  (1)

    测试连接：

    文本  (2)

    聊天  (1)

    回复包含多条消息的聊天：

    ChatModelList  (1)

    查找可用的聊天模型列表：

    音频  (2)

    AudioTranscription  (1)

    转录 Audio 对象：

    使用提示来提供转录的上下文：

    转录用不同语言制作的录音：

    提高用于采样的温度：

    AudioTranslation  (1)

    将 Audio 对象翻译成英语：

    使用提示提供翻译的上下文：

    提高用于采样的温度：