Gemini for Google Cloud 會使用配額和系統限制,確保資源分配公平、防止服務過載,並協助您管理資源用量。
配額和系統限制類似,但有以下差異:
- 「配額」有預設值,但通常可以申請調整。
- 「系統限制」是固定值,無法變更。
Google Cloud 使用配額來確保公平性,並減少資源使用量和可用性出現劇烈波動的情況。配額會限制 Google Cloud 專案可使用的Google Cloud 資源數量,配額適用多種資源類型,包括硬體、軟體和網路元件。舉例來說,配額可能會限制能向特定服務發出的 API 呼叫次數、專案可同時使用的負載平衡器數量,或是可建立的專案數量。配額機制可防止服務過載,保障Google Cloud 使用者社群的權益,同時也有助於您管理自己的 Google Cloud 資源。
Cloud Quotas 系統具備以下功能:
如果嘗試使用的資源量超過配額限制,系統通常會阻擋該資源的存取活動,您所執行的工作就會失敗。
配額的計算通常是以 Google Cloud 專案為基準。在某個專案中使用資源,不會影響另一個專案的可用配額。在同一個 Google Cloud 專案內,所有應用程式和 IP 位址會共用配額。
詳情請參閱「Cloud Quotas 總覽」。
Gemini for Google Cloud 資源也有系統限制。而且無法變更。
每秒要求數
Gemini for Google Cloud 會對專案中每位使用者每秒的要求數強制執行配額。
| 配額 | 值 |
|---|---|
| 每秒要求數 | 2 |
每日要求數
Gemini for Google Cloud 會強制執行配額,限制專案中每位使用者每日的要求總數。
| 配額 | 值 |
|---|---|
| Gemini Code Assist 或 Gemini in BigQuery 程式碼要求 (例如程式碼生成和程式碼補全) 的每日要求數。 | 6000 |
| 每天可提出的要求數量,包括對話、視覺化、資料洞察表格掃描、中繼資料生成、資料準備,以及其他在 Google Cloud 控制台和 IDE 的「Cloud Assist」面板中顯示回覆的要求。 | 960 |
Gemini Code Assist 的配額
Gemini Code Assist 會對特定功能強制執行配額。
| 配額 | 值 |
|---|---|
| 本機程式碼集認知 | 1,000,000 個詞元的脈絡窗口 |
| 自訂程式碼存放區 | 20,000 |
代理模式和 Gemini CLI 的配額
Gemini Code Assist 代理模式和 Gemini CLI 的要求配額會合併計算。在代理模式或使用 Gemini CLI 時,一個提示可能會產生多個模型要求。要求數量設有每位使用者每分鐘的上限,且在需求量大時,會視服務可用性而定。這些每日要求上限,是根據您與 Gemini CLI 或代理模式中,任何模型版本或系列 (例如 Pro、Flash) 的所有互動匯總計算。達到每日要求數量上限後,就無法再透過這些介面向任何模型提出要求,直到配額重設為止。
| 配額 | Gemini Code Assist 版本 | 值 |
|---|---|---|
| 每位使用者每日要求數量上限 | 標準 | 1500 |
| Enterprise | 2000 |
GitHub 專用 Gemini Code Assist 的配額
GitHub 專用 Gemini Code Assist 的用量不會計入 Gemini Code Assist 的一般配額。
Gemini Code Assist on GitHub 應用程式的安裝配額,每天至少可審查 100 項提取要求。
- 確切的提取要求審查數量取決於程式碼集,以及完成每項程式碼審查所需的模型呼叫次數。因此,在某些情況下,配額可能會大幅超過 100。
GitHub 上的 Gemini Code Assist 配額會與Google Cloud 配額同步重設。
申請提高配額
如要調整大部分配額,請使用 Google Cloud 控制台。詳情請參閱「要求調整配額」。