配額與限制

Gemini for Google Cloud 會使用配額和系統限制,確保資源分配公平、防止服務過載,並協助您管理資源用量。

配額和系統限制類似,但有以下差異:

  • 「配額」有預設值,但通常可以申請調整。
  • 「系統限制」是固定值,無法變更。

Google Cloud 使用配額來確保公平性,並減少資源使用量和可用性出現劇烈波動的情況。配額會限制 Google Cloud 專案可使用的Google Cloud 資源數量,配額適用多種資源類型,包括硬體、軟體和網路元件。舉例來說,配額可能會限制能向特定服務發出的 API 呼叫次數、專案可同時使用的負載平衡器數量,或是可建立的專案數量。配額機制可防止服務過載,保障Google Cloud 使用者社群的權益,同時也有助於您管理自己的 Google Cloud 資源。

Cloud Quotas 系統具備以下功能:

如果嘗試使用的資源量超過配額限制,系統通常會阻擋該資源的存取活動,您所執行的工作就會失敗。

配額的計算通常是以 Google Cloud 專案為基準。在某個專案中使用資源,不會影響另一個專案的可用配額。在同一個 Google Cloud 專案內,所有應用程式和 IP 位址會共用配額。

詳情請參閱「Cloud Quotas 總覽」。

Gemini for Google Cloud 資源也有系統限制。而且無法變更。

每秒要求數

Gemini for Google Cloud 會對專案中每位使用者每秒的要求數強制執行配額。

配額 值
每秒要求數 2

每日要求數

Gemini for Google Cloud 會強制執行配額,限制專案中每位使用者每日的要求總數。

配額 值
Gemini Code Assist 或 Gemini in BigQuery 程式碼要求 (例如程式碼生成和程式碼補全) 的每日要求數。 6000
每天可提出的要求數量,包括對話、視覺化、資料洞察表格掃描、中繼資料生成、資料準備,以及其他在 Google Cloud 控制台和 IDE 的「Cloud Assist」面板中顯示回覆的要求。 960

Gemini Code Assist 的配額

Gemini Code Assist 會對特定功能強制執行配額。

配額 值
本機程式碼集認知 1,000,000 個詞元的脈絡窗口
自訂程式碼存放區 20,000

代理模式和 Gemini CLI 的配額

Gemini Code Assist 代理模式和 Gemini CLI 的要求配額會合併計算。在代理模式或使用 Gemini CLI 時,一個提示可能會產生多個模型要求。要求數量設有每位使用者每分鐘的上限,且在需求量大時,會視服務可用性而定。這些每日要求上限,是根據您與 Gemini CLI 或代理模式中,任何模型版本或系列 (例如 Pro、Flash) 的所有互動匯總計算。達到每日要求數量上限後,就無法再透過這些介面向任何模型提出要求,直到配額重設為止。

配額 Gemini Code Assist 版本 值
每位使用者每日要求數量上限 標準 1500
Enterprise 2000

GitHub 專用 Gemini Code Assist 的配額

GitHub 專用 Gemini Code Assist 的用量不會計入 Gemini Code Assist 的一般配額。

  • Gemini Code Assist on GitHub 應用程式的安裝配額,每天至少可審查 100 項提取要求。

    • 確切的提取要求審查數量取決於程式碼集,以及完成每項程式碼審查所需的模型呼叫次數。因此,在某些情況下,配額可能會大幅超過 100。

GitHub 上的 Gemini Code Assist 配額會與Google Cloud 配額同步重設。

申請提高配額

如要調整大部分配額,請使用 Google Cloud 控制台。詳情請參閱「要求調整配額」。