教程:函数调用

借助函数调用,您可以更轻松地从生成式模型获取结构化数据输出。然后,您可以使用这些输出来调用其他 API,并将相关响应数据返回给模型。换句话说,函数调用可帮助您将生成式模型连接到外部系统,以便生成的内容包含最新、最准确的信息。

您可以为 Gemini 模型提供函数说明。这些函数是使用应用所用语言编写的(即它们不是 Google Cloud Functions 函数)。模型可能会要求您调用函数并发回结果,以帮助模型处理您的查询。

如果您尚未了解,请参阅函数调用简介了解详情。

用于照明控制的 API 示例

假设您有一个带有应用编程接口 (API) 的基本照明控制系统,并且希望允许用户通过简单的文本请求控制灯具。您可以使用函数调用功能来解读用户发来的照明更改请求,并将其转换为 API 调用以设置照明值。通过这个假想的照明控制系统,您可以控制灯的亮度和色温,这两个参数定义如下:

参数 类型 是否必需 说明
brightness 数值 亮度级别,介于 0 到 100 之间。0 表示关闭,100 表示全亮度。
colorTemperature 字符串 灯具的色温,可以是 daylightcoolwarm

为简单起见,这个虚构的照明系统只有一个灯,因此用户无需指定房间或位置。以下是一个 JSON 请求示例,您可以将其发送到照明控制 API,以使用日光色温将亮度更改为 50%:

{
  "brightness": "50",
  "colorTemperature": "daylight"
}

本教程介绍了如何为 Gemini API 设置函数调用,以解读用户的照明请求并将其映射到 API 设置,从而控制灯具的亮度和色温值。

开始前须知:设置项目和 API 密钥

在调用 Gemini API 之前,您需要设置项目并配置 API 密钥。

定义 API 函数

创建用于发出 API 请求的函数。此函数应在应用代码中定义,但可以调用应用之外的服务或 API。Gemini API 不会直接调用此函数,因此您可以通过应用代码控制此函数的执行方式和时间。出于演示目的,本教程定义了一个模拟 API 函数,该函数只会返回请求的照明值:

async function setLightValues(brightness, colorTemp) {
  // This mock API returns the requested lighting values
  return {
    brightness: brightness,
    colorTemperature: colorTemp
  };
}

创建函数声明

创建要传递给生成式模型的函数声明。声明供模型使用的函数时,您应在函数和参数说明中尽可能提供详细信息。生成式模型会使用这些信息来确定要选择哪个函数,以及如何为函数调用中的参数提供值。以下代码展示了如何声明照明控制函数:

const controlLightFunctionDeclaration = {
  name: "controlLight",
  parameters: {
    type: "OBJECT",
    description: "Set the brightness and color temperature of a room light.",
    properties: {
      brightness: {
        type: "NUMBER",
        description: "Light level from 0 to 100. Zero is off and 100 is full brightness.",
      },
      colorTemperature: {
        type: "STRING",
        description: "Color temperature of the light fixture which can be `daylight`, `cool` or `warm`.",
      },
    },
    required: ["brightness", "colorTemperature"],
  },
};

// Executable function code. Put it in a map keyed by the function name
// so that you can call it once you get the name string from the model.
const functions = {
  controlLight: ({ brightness, colorTemperature }) => {
    return setLightValues( brightness, colorTemperature)
  }
};

在模型初始化期间声明函数

当您想将函数调用与模型搭配使用时,必须在初始化模型对象时提供函数声明。您可以通过设置模型的 tools 参数来声明函数:

const { GoogleGenerativeAI } = require("@google/generative-ai");

// Access your API key as an environment variable (see "Set up your API key" above)
const genAI = new GoogleGenerativeAI(process.env.API_KEY);

// ...

const generativeModel = genAI.getGenerativeModel({
  // Use a model that supports function calling, like a Gemini 1.5 model
  model: "gemini-1.5-flash",

  // Specify the function declaration.
  tools: {
    functionDeclarations: [controlLightFunctionDeclaration],
  },
});

生成函数调用

使用函数声明初始化模型后,您可以使用定义的函数提示模型。您应使用聊天提示 (sendMessage()) 进行函数调用,因为函数调用通常会受益于拥有先前提示和回答的上下文。

const chat = generativeModel.startChat();
const prompt = "Dim the lights so the room feels cozy and warm.";

// Send the message to the model.
const result = await chat.sendMessage(prompt);

// For simplicity, this uses the first function call found.
const call = result.response.functionCalls()[0];

if (call) {
  // Call the executable function named in the function call
  // with the arguments specified in the function call and
  // let it call the hypothetical API.
  const apiResponse = await functions[call.name](call.args);

  // Send the API response back to the model so it can generate
  // a text response that can be displayed to the user.
  const result2 = await chat.sendMessage([{functionResponse: {
    name: 'controlLight',
    response: apiResponse
  }}]);

  // Log the text response.
  console.log(result2.response.text());
}