本文提供高階架構,說明如何建構可信且有效的代理式 AI 系統,並以 Google 地圖平台和 Google 日曆的實際情境資料為基礎。系統會根據使用者在提示中指出的地點,規劃旅遊行程。這項計畫會考量使用者的行程、地點的地理位置、營業時間和路線距離。
這份文件適用於建構及管理代理式 AI 應用程式的 AI 架構師、開發人員和管理員。並假設讀者對 AI 和機器學習概念以及雲端架構已有基本認識。
本文的「部署」一節提供程式碼研究室的連結,您可藉此瞭解如何根據這個架構建構及測試實用的代理式 AI 系統。
架構
下圖顯示應用程式的架構,該應用程式使用多代理程式 AI 系統,為使用者想在一天內造訪的地點產生旅遊行程。使用者透過即時通訊介面與應用程式互動。Orchestrator 代理程式會叫用專用代理程式來收集必要資訊,然後建立日行程規劃。這些代理程式會在 Gemini Enterprise 中執行,並使用 Google Maps Platform 和 Google 日曆的真實世界資料,做為推論的依據。
上圖中的架構包含下列元件:
Gemini Enterprise:架構的核心元件。 這個系統會代管代理式 AI 系統,其中包含下列代理:
- 協調代理程式:透過對話介面接收使用者要求、解讀目標,然後與專業代理程式協調,以完成要求。
- 地點代理:處理與地點相關的任務,例如尋找地點及確認營業時間。
- 路線代理:處理路線和旅遊規劃工作,例如確保有足夠時間前往所需地點。
- 行程安排代理:管理行程安排和日曆相關工作,例如載入日曆和移動活動,以配合行程時間。
這個架構中的所有代理都是使用 Agent Development Kit (ADK) 建構而成。代理會在 Gemini Enterprise Agent Platform 的 Agent Runtime 中執行,並使用 Gemini 模型。
工具和資料:代理程式會使用下列工具取得所需資料:
- 運用 Google 地圖建立基準: 為 Places 和 Routes 代理程式提供 Google Maps Platform 的真實世界地理背景資訊。
- Places Insights: 提供 Google Maps Platform 深入的特定地點數據分析和資訊,協助服務專員根據會議類型建立適當的構件。
- 日曆:允許「安排」代理程式存取及管理日曆活動。
可觀測性:這個元件可監控及偵錯代理程式作業。
- 代理程式事件會記錄在 Cloud Logging 中,並發布至 Firestore 資料庫。
- 這個架構包含部署為 Cloud Run 服務的事件檢視器應用程式。管理員可以使用這個應用程式監控記錄的事件,並查看代理程式的思考流程和動作,例如驗證地點和路線。
使用的產品
這項架構使用下列 Google 產品和工具:
- Google Maps Platform:提供地圖、路線規劃和位置搜尋服務的平台。
- Google 日曆:團隊和個人可使用這項工具管理行程和活動。
- Gemini Enterprise:全代管安全平台,可在企業內部署及管理 AI 代理。
- Agent Development Kit (ADK):一套工具和程式庫,可開發、測試及部署 AI 代理程式。
- Cloud Logging:即時記錄管理系統,提供儲存、搜尋、分析和快訊功能。
- Firestore:專為自動調整資源配置、提供高效能及便利開發應用程式所建構的 NoSQL 文件資料庫。
- Cloud Run:無伺服器運算平台,可讓您在 Google 可擴充的基礎架構上直接執行容器。
用途
以下是這個架構的應用案例範例:
自動規劃公司出差行程:員工需要為客戶高峰會規劃行程。
- 旅行社尋找航班和飯店,並進行預訂。
- 客戶關係管理 (CRM) 服務專員會擷取高峰會地址和與會者名單。
- 行程安排代理程式會在旅客的日曆中安排會議。 最終輸出內容是完整的旅遊行程。
智慧型現場服務調度:客戶回報服務中斷。
- CRM 服務專員會找出客戶的合約和位置。
- 旅行社服務專員會找出最近的可用技術人員,並規劃最佳路線。
- 排程專員預約服務時間。
物流與供應鏈協調:物流經理需要因應天氣事件,重新安排貨物運送路線。
- 物流專員使用 Google Maps Platform 監控即時路況和天氣。
- 物流專員尋找替代路線和倉庫
- 客戶關係管理系統服務專員會通知顧客修訂後的出貨時間表。
設計須知
如要在正式環境中實作這項架構,請考慮採用下列建議:
- 安全性:採用零信任模型,只授予每個代理程式執行工作所需的最低權限。嚴格定義每個代理可存取的工具和資料。舉例來說,您可以設定「排程」代理程式,只讀取或寫入特定日曆。
- 可靠性:針對預訂不可退票的機票等重要工作,加入人機迴圈 (HITL) 驗證。使用 Logging 和 Pub/Sub 建立可觀測管道,為代理程式決策建立清楚的稽核追蹤記錄。
- 效能:這個架構中的模組化多代理程式協調器模式,可讓專用代理程式並行運作,進而提升效能。舉例來說,地點代理程式可以搜尋地點,而行程代理程式則同時檢查日曆衝突。
- 費用:嚴格限制每個代理程式的工作範圍,避免產生開放式或不必要的查詢,藉此控管費用。針對常用路線或熱門地點等經常要求的資料使用快取,減少 API 呼叫次數。
- 治理:為每位服務專員設定明確角色,並制定資料處理指南,建立完善的治理機制。採用反覆開發程序,包括持續監控。這個程序有助於修正代理的行為,確保行為符合業務需求。
設計代理式 AI 工作負載的架構時,請參考Google Cloud Well-Architected Framework:AI 和機器學習觀點中的最佳做法和建議。
部署作業
如要瞭解如何根據這個架構建構及測試實用的代理式 AI 系統,請按照程式碼研究室「使用 ADK 和 Google 地圖建立基準建構行程規劃代理程式」中的操作說明進行。本程式碼研究室會引導您完成整個部署程序,包括下列工作:
- 啟用必要的 Google Cloud 服務。
- 使用 ADK 建立代理程式。
- 設定代理,讓代理使用「利用 Google 地圖建立基準」功能,取得真實世界背景資訊。
- 透過網頁介面執行及測試代理程式。
後續步驟
- 進一步瞭解利用 Google 地圖建立基準。
- 進一步瞭解 Gemini Enterprise。
- 如要查看更多參考架構、圖表和最佳做法,請瀏覽 Cloud Architecture Center。
貢獻者
作者:Kenneth Nevarez | Google 地圖平台開發人員關係工程師
其他貢獻者:
- Caio Moreira | 開發人員體驗工程師
- Kumar Dhanagopal | 跨產品解決方案開發人員
- Mike Pegg | 開發人員關係經理