监控滥用行为

Google 会监控 Gemini Enterprise Agent Platform 上的生成式 AI 流量,以检测可能违反《使用限制政策》(AUP) 和《使用限制政策》的行为。多租户应用和 API 转销商还可以传递匿名化 safety_identifier 标签,以便政策反馈针对特定最终用户,而不是整个项目。

未指定为“Google 前沿模型”或“高级 AI”的 Google 模型

如 Google Cloud Platform 服务条款第 4.3 节“生成式 AI 安全和滥用”中所述,Google 会在向客户提供生成式 AI 服务的过程中,使用以下流程来检测潜在的滥用行为以及违反其使用限制政策和禁止使用政策的行为。

  • 自动检测:Google 使用自动安全分类器来检测潜在的滥用行为和违规行为。

  • 提示日志记录和人工审核:如果自动化安全分类器检测到可疑活动,需要进一步调查客户是否违反了我们的政策,则 Google 可能会记录客户提示,其唯一目的是检查是否违反了 AUP 或《使用限制政策》。这些数据不会用于训练或微调任何 AI/机器学习模型。这些数据会安全地存储在客户为其项目选择的同一单区域或多区域中,最长存储期限为 90 天,并遵循诸如数据驻留、Access Transparency 和 VPC Service Controls 等 Google Cloud 保障措施。用于滥用行为监控的提示日志不会通过客户管理的加密密钥 (CMEK) 进行加密。

    • 操作:获得授权的 Google 员工可能会评估被标记的提示,并且可能会与客户联系以确认问题。如果未能解决此类行为(或者此类行为反复出现亦或属于严重滥用行为),可能会导致客户对 Gemini Enterprise Agent Platform 或 Google Cloud服务的访问权限被暂停或终止。

    • 适用服务:Google 的生成式 AI 服务。

    • 适用客户:只有使用 Google Cloud 受 Google Cloud Platform 服务条款约束的客户才需要记录提示以监控滥用行为。这意味着,默认情况下,拥有 Google Cloud 主协议的客户可以免于为此滥用行为监控进行提示日志记录。

Google 前沿模型

如服务专用条款第 34 条“Google 前沿模型”中所述,Google 在向客户提供生成式 AI 服务时,会使用以下流程来检测潜在的滥用行为和违反协议的行为,包括违反使用限制政策和使用限制政策的行为。

  • 用于滥用行为监控的提示和回答日志记录:Google 可能会记录客户提示和回答,目的仅在于确保安全使用 Google 前沿模型并遵守客户的 Google 协议(服务专用条款中规定的“目的”)。这包括自动处理,以创建匿名化 shingle 并分析使用模式,仅用于上述目的。这些数据不会用于训练或微调任何 AI/机器学习模型。这些日志会安全地存储在客户的环境中,最长可存储 30 天。用于监控滥用行为的提示日志不会通过 CMEK 进行加密。客户无需为此日志记录付费。

  • 针对签订了 Cloud 主协议的客户,符合 ZDR 要求的滥用行为日志记录:《服务专用条款》第 34 条“Google 前沿模型”未授予 Google 进行人工审核的权利。因此,对于签订了 Cloud 主协议的客户,这些日志符合 ZDR 标准,因为它们存储在客户的环境中,并且免于人工审核。

  • 对受 Google Cloud 在线条款约束的客户的滥用日志进行人工审核:如《Google Cloud Platform 服务条款》第 4.3 条“生成式 AI 安全和滥用”中所述,Google 可能会对被我们的滥用分类器标记的提示进行人工审核,其唯一目的是确定是否违反了 AUP 或《使用限制政策》。这些数据不会用于训练或微调任何 AI/机器学习模型。只有使用Google Cloud 受 Google Cloud Platform 服务条款约束的客户才需要进行人工审核。这意味着,默认情况下,签订了 Google Cloud 主协议的客户无需接受人工审核,即可进行滥用行为监控。

  • 适用模型:Gemini 4 Carbon(Google 前沿模型)、Gemini 4 Carbon for cyber(Google 前沿网络模型)、Gemini 4 Argon Cyber Permissive(Google 前沿网络模型)

  • 适用服务:Google 的生成式 AI 服务。

非 Google 高级 AI 模型

如高级 AI 安全附录中所述,Google Cloud 针对指定为“高级 AI”的模型实施了更严格的滥用监控系统。

  • 提示和回答日志记录:所有提示和回答都会被记录并安全存储最多 30 天,其唯一目的是监控滥用行为。这些数据不会用于训练或微调任何 AI/机器学习模型。 这些数据会存储在客户为其项目选择的同一单区域或多区域中,并遵循诸如数据驻留、Access Transparency 和 VPC Service Controls 等Google Cloud 保障措施。用于滥用行为监控的提示和回答日志不会由 CMEK 加密。使用某些高级 AI 功能时,可能无法选择退出提示-回答日志记录。如需澄清,请与您的客户支持团队联系。

  • 自动调查:Google 和模型提供商会部署自动化调查工具(包括安全分类器),以分析记录的数据并检测潜在的滥用行为和违规行为。

  • 操作:获得授权的 Google 员工可能会评估被标记的提示,并且可能会与客户联系以确认问题。如果未能解决此类行为(或者此类行为反复出现亦或属于严重滥用行为),可能会导致客户对 Gemini Enterprise Agent Platform 或 Google Cloud服务的访问权限被暂停或终止。

  • 适用服务:指定为“高级 AI”的模型和功能,包括:

    • Anthropic 模型:

      • Claude Mythos(所有版本)
      • Claude Fable(所有版本)
      • 当 advanced_ai_enabled 设置为 true 时,Claude Opus >=4.7 且 Sonnet >=5,可在 Anthropic 的网络验证计划 (CVP) 中使用。这些模型的所有其他用途均不在《高级 AI 安全附录》的范围内。如需为 Claude 模型注册并启用 CVP,请参阅适用于 Claude 的网络验证计划。
    • OpenAI 模型:

      • GPT Astra(所有版本)
      • GPT Sol(所有版本)
      • GPT Terra(所有版本)
      • GPT Luna(所有版本)
      • 平台上提供的所有其他 OpenAI 模型均未指定为“高级 AI”,也不受《高级 AI 安全附录》的约束。
  • 客户选择停用:部分模型提供商针对特定模型提供零数据保留 (ZDR) 功能,使获批项目免受《高级 AI 安全附录》的约束,但访问权限无法保证,且需要获得提供商的批准。请联系您的 Google Cloud 客户支持团队,根据您的需求了解详情。

每个项目都需要同意《高级 AI 安全附录》一次,然后才能在该项目中启用高级 AI 模型。在启用任何高级 AI 模型之前,您需要在 Google Cloud 控制台的 Model Garden 中表示同意。

同意的用户必须确认,他们代表其组织行事,并拥有必要的权限,可使客户受附录义务的约束。如需表示同意,用户必须具有 aiplatform.consents.update 权限,该权限包含在 aiplatform.admin 角色中。

管理《高级 AI 安全附录》

为防止用户同意此附录,管理员可以:

特定合作伙伴的条款

在 Gemini Enterprise Agent Platform 上使用合作伙伴模型时,须遵守合作伙伴的特定条款。

Anthropic

在 Gemini Enterprise Agent Platform 上使用 Anthropic 模型时,须遵守 Anthropic 的《商业服务条款》或与 Anthropic 签订的其他适用协议;使用 Anthropic Advanced AI 时,须遵守 Anthropic《服务专用条款》的 F 部分。本页所述的滥用监控系统用于确保遵守这些条款。

数据保留

对于 Google Cloud 上的 Anthropic Claude Fable 5 和 Mythos 5,提示和回答最多会保留 30 天。如需在 Google Cloud 和 Mythos 5 上使用 Anthropic 的 Claude Fable 5,您必须按照 Anthropic 的要求,启用与 Anthropic 共享这些数据的功能,以便进行滥用行为监控。

在 API 调用中传递最终用户安全标识符

API 转销商、模型聚合器和具有外部用户的应用可以在请求 labels 字段中传递唯一的 safety_identifier 键。附加每个用户的安全标识符有助于 Google 将违规行为归因于特定最终用户,并避免在整个项目范围内采取违规处置措施。

在 API 请求中传递 safety_identifier 时,请遵循以下要求:

  • 格式和长度:为每个最终用户分配一个长度为 1 到 63 个字符的唯一字符串,该字符串只能包含小写字母、数字、下划线 (_) 或连字符 (-)。如果值超过 63 个字符或包含大写字母或符号(例如 @ 或 .),则会失败并显示 HTTP 400 INVALID_ARGUMENT 错误。如果您使用 SHA-256 对用户 ID 进行哈希处理,请将小写十六进制摘要截断为 63 个字符或更少。
  • 隐私:请勿在 safety_identifier 值中包含个人身份信息 (PII),例如邮箱或全名。请改用匿名用户名或截断的哈希。
  • 支持的模型和端点:支持 Gemini generateContent 和 streamGenerateContent 请求(global、多区域和区域端点)以及 Veo predictLongRunning 请求(区域端点,例如 us-central1)。
  • 访问和结算:除了 aiplatform.endpoints.predict 预测权限之外,传递 labels 不需要额外的 IAM 权限,也不会产生额外的 API 费用。每个 Cloud Billing 账号具有超过 1,000 个唯一值的键可能会从费用报告中省略,而不会影响滥用归因。如需了解一般标签限制,请参阅标签要求。

以下示例在 labels 字段中传递最终用户 safety_identifier:

REST (Gemini)

在使用任何请求数据之前,请先进行以下替换:

  • PROJECT_ID:您的项目 ID。 。例如 my-genai-project。
  • 将 labels.safety_identifier 中的 user_session_001 替换为您的匿名化最终用户标识符(1 到 63 个小写字母、数字、下划线或连字符,不含任何个人身份信息)。

HTTP 方法和网址:

POST https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/gemini-3.5-flash:generateContent

请求 JSON 正文:

{
  "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "Summarize the key responsibilities of an API gateway."
        }
      ]
    }
  ],
  "labels": {
    "safety_identifier": "user_session_001"
  }
}

如需发送请求,请选择以下方式之一:

curl

以下命令将 gcloud auth print-access-token 与用户凭据搭配使用,以进行本地测试。在生产环境中,请将应用默认凭证 (ADC) 与关联的服务账号搭配使用。

将请求正文保存在名为 request.json 的文件中,然后执行以下命令:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/gemini-3.5-flash:generateContent"

PowerShell

以下命令将 gcloud auth print-access-token 与用户凭据搭配使用,以进行本地测试。在生产环境中,请将应用默认凭证 (ADC) 与关联的服务账号搭配使用。

将请求正文保存在名为 request.json 的文件中,然后执行以下命令:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/gemini-3.5-flash:generateContent" | Select-Object -Expand Content

成功的请求会返回 HTTP 200 OK JSON 响应,其中包含生成的 candidates 和 usageMetadata:

Python (Gemini)

使用 Google Gen AI SDK for Python (google-genai >= 1.0.0),将 PROJECT_ID 替换为您的 Google Cloud 项目 ID(例如 my-genai-project):

from google import genai
from google.genai import types

client = genai.Client(
    vertexai=True,
    project="PROJECT_ID",
    location="global",
)

response = client.models.generate_content(
    model="gemini-3.5-flash",
    contents="Summarize the key responsibilities of an API gateway.",
    config=types.GenerateContentConfig(
        labels={"safety_identifier": "user_session_001"},
    ),
)
print(response.text)

REST (Veo)

在使用任何请求数据之前,请先进行以下替换:

  • PROJECT_ID:您的项目 ID。 。例如 my-genai-project。
  • 将 labels.safety_identifier 中的 user_session_001 替换为您的匿名化最终用户标识符(1 到 63 个小写字母、数字、下划线或连字符,不含任何个人身份信息)。

HTTP 方法和网址:

POST https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/veo-3.1-generate-001:predictLongRunning

请求 JSON 正文:

{
  "instances": [
    {
      "prompt": "A slow aerial pan over a coastal lighthouse at sunrise."
    }
  ],
  "parameters": {
    "aspectRatio": "16:9",
    "sampleCount": 1
  },
  "labels": {
    "safety_identifier": "user_session_001"
  }
}

如需发送请求,请选择以下方式之一:

curl

以下命令将 gcloud auth print-access-token 与用户凭据搭配使用,以进行本地测试。在生产环境中,请将应用默认凭证 (ADC) 与关联的服务账号搭配使用。

将请求正文保存在名为 request.json 的文件中,然后执行以下命令:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/veo-3.1-generate-001:predictLongRunning"

PowerShell

以下命令将 gcloud auth print-access-token 与用户凭据搭配使用,以进行本地测试。在生产环境中,请将应用默认凭证 (ADC) 与关联的服务账号搭配使用。

将请求正文保存在名为 request.json 的文件中,然后执行以下命令:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/veo-3.1-generate-001:predictLongRunning" | Select-Object -Expand Content

成功的请求会返回一个 HTTP 200 OK JSON 响应,其中包含长时间运行的操作资源 name:

Python (Veo)

使用 Google Gen AI SDK for Python (google-genai >= 1.69.0),将 PROJECT_ID 替换为您的 Google Cloud 项目 ID(例如 my-genai-project):

from google import genai
from google.genai import types

client = genai.Client(
    vertexai=True,
    project="PROJECT_ID",
    location="us-central1",
)

operation = client.models.generate_videos(
    model="veo-3.1-generate-001",
    prompt="A slow aerial pan over a coastal lighthouse at sunrise.",
    config=types.GenerateVideosConfig(
        aspect_ratio="16:9",
        labels={"safety_identifier": "user_session_001"},
    ),
)
print(operation.name)

后续步骤