Bereitstellungen und Endpunkte

Google- und Partnermodelle sowie generative KI-Funktionen in der Gemini Enterprise Agent Platform werden als bestimmte regionale Endpunkte und ein globaler Endpunkt bereitgestellt. Globale Endpunkte decken die ganze Welt ab und bieten eine höhere Verfügbarkeit und Zuverlässigkeit als einzelne Regionen.

Endpunkt angeben

Für standardmäßige regionale Endpunkte (z. B. us-central) und den globalen Endpunkt:

# google-cloud-aiplatform >= 1.79.0 is required
import vertexai
from vertexai.generative_models import GenerativeModel

vertexai.init(project='GOOGLE_CLOUD_PROJECT', location='GOOGLE_CLOUD_LOCATION')

client = genai.Client(
    enterprise=True,
    project='GOOGLE_CLOUD_PROJECT',
    location='GOOGLE_CLOUD_LOCATION'
)

GOOGLE_CLOUD_PROJECT="GOOGLE_CLOUD_PROJECT"
GOOGLE_CLOUD_LOCATION="GOOGLE_CLOUD_LOCATION"
MODEL_ID="MODEL_ID"

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://${GOOGLE_CLOUD_LOCATION}$-aiplatform.googleapis.com/v1/projects/${GOOGLE_CLOUD_PROJECT}/locations/${GOOGLE_CLOUD_LOCATION}/publishers/google/models/${MODEL_ID}:generateContent" \
  -d '{
    "contents": {
      "role": "user",
      "parts": {
        "text": "Explain how AI works in a few words."
      }
    }
  }'

Multiregionale Endpunkte

Mit multiregionalen Endpunkten können Sie dafür sorgen, dass die Verarbeitung von Kundendaten durch den Dienst für maschinelles Lernen innerhalb einer bestimmten Gerichtsbarkeit, z. B. den USA oder der Europäischen Union, erfolgt.

In der folgenden Tabelle sind die Hostnamen für Multiregionen-Endpunkte aufgeführt:

import vertexai
from google.adk.agents import Agent

# Set the multi-region location on the client
client = vertexai.Client(
    project='GOOGLE_CLOUD_PROJECT',
    location='GOOGLE_CLOUD_LOCATION'
)

# The agent will use this configuration
agent = Agent(
    model="gemini-2.5-flash",
    name='my_agent'
)

from google import genai

# location must be set to 'us' or 'eu' for multi-region routing
client = genai.Client(
    enterprise=True,
    project='GOOGLE_CLOUD_PROJECT',
    location='GOOGLE_CLOUD_LOCATION'
)

GOOGLE_CLOUD_PROJECT="GOOGLE_CLOUD_PROJECT"
MODEL_ID="MODEL_ID"
GOOGLE_CLOUD_LOCATION="GOOGLE_CLOUD_LOCATION" # Must be 'us' or 'eu'
# Explicitly use the .rep. hostname for multi-region endpoints
API_ENDPOINT="https://aiplatform.${GOOGLE_CLOUD_LOCATION}.rep.googleapis.com"

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "${API_ENDPOINT}/v1/projects/${GOOGLE_CLOUD_PROJECT}/locations/${GOOGLE_CLOUD_LOCATION}/publishers/google/models/${MODEL_ID}:generateContent" \
  -d '{
    "contents": {
      "role": "user",
      "parts": {
        "text": "Explain how AI works in a few words"
      }
    }
  }'

Globaler Endpunkt

Wenn Sie einen globalen Endpunkt für Ihre Anfragen auswählen, kann die Gesamtverfügbarkeit verbessert und die Anzahl der Fehler vom Typ „Ressourcen erschöpft“ (429) reduziert werden. Verwenden Sie den globalen Endpunkt nicht, wenn Sie Anforderungen an die Verarbeitung von ML-Daten haben, da Sie nicht steuern oder wissen können, an welche Region Ihre Anfragen zur Verarbeitung von ML-Daten gesendet werden, wenn eine Anfrage gestellt wird.

Unterstützte Modelle

Die Verwendung des globalen Endpunkts wird für die folgenden Google-Modelle in den angegebenen Regionen unterstützt. Details dazu, welche Modelle den globalen Endpunkt unterstützen, finden Sie in der Tabelle mit den Endpunktstandorten für Google-Modelle auf dem Tab Global.

• Gemini 3.5 Flash
• Gemini 3.1 Flash Lite
• Gemini 3.1 Flash Image (Vorabversion)
• Gemini 3.1 Pro (Vorabversion)
• Gemini 3 Flash (Vorabversion)
• Gemini 3 Pro Image (Vorabversion)
• Gemini 2.5 Pro
• Gemini 2.5 Flash (Vorabversion)
• Gemini 2.5 Flash Lite (Vorschau)
• Gemini 2.5 Flash Image
• Gemini 2.5 Flash
• Gemini 2.5 Flash Lite

Informationen zur globalen Endpunktverfügbarkeit für Partnermodelle finden Sie in der Google Cloud Tabelle mit Endpunktstandorten für Partnermodelle auf dem Tab Global.

Beschränkungen

Die folgenden Funktionen sind bei Verwendung des globalen Endpunkts nicht verfügbar:

• Abstimmung
• Batch-Vorhersage für Anthropic- und OpenMaaS-Modelle
• Retrieval-Augmented Generation (RAG)-Korpus (RAG-Anfragen werden unterstützt)

Die Verwendung des globalen Endpunkts mit bereitgestelltem Durchsatz ist nur für die folgenden Modelle verfügbar:

Standorte von Google-Modellendpunkten

Google-Modelle in der Gemini Enterprise Agent Platform sind für die folgenden Endpunkte verfügbar:

Google Cloud Partnermodell-Endpunktstandorte

Google bearbeitet Anfragen aus der von Ihnen angegebenen Region. Für einige Modelle bietet Google auch einen globalen Endpunkt an, um die allgemeine Verfügbarkeit zu verbessern und die Fehlerraten zu senken. Der globale Endpunkt kann ein separates Kontingent als der regionale Endpunkt haben und unterstützt keine Anforderungen an den Datenstandort. Weitere Informationen finden Sie im Abschnitt „Regionaler und globaler Endpunkt“ unter Partnermodelle für die Gemini Enterprise Agent Platform für MaaS.

Partnermodell-Endpunkte für die Agent Platform sind in den folgenden Regionen verfügbar:

Google Cloud Standorte von Open Model-Endpunkten

Google bearbeitet Anfragen aus der von Ihnen angegebenen Region. Für einige Modelle bietet Google auch einen globalen Endpunkt an, um die allgemeine Verfügbarkeit zu verbessern und die Fehlerraten zu senken. Der globale Endpunkt kann ein separates Kontingent als der regionale Endpunkt haben und unterstützt keine Anforderungen an den Datenstandort. Weitere Informationen finden Sie im Abschnitt „Regionaler und globaler Endpunkt“ unter Offene Modelle der Gemini Enterprise Agent Platform für MaaS.

Offene Modellendpunkte für die Agent Platform sind in den folgenden Regionen verfügbar: