Configura el enrutamiento de modelos

En esta página, se describe cómo configurar, implementar y probar el enrutamiento de modelos en API Gateway con las especificaciones de OpenAPI 3.x.

Antes de comenzar

Antes de configurar el enrutamiento de modelos, verifica que tu entorno cumpla con los siguientes requisitos previos:

1. Verifica los permisos de IAM: Verifica que tengas acceso al plano de administración de API Gateway y a Vertex AI Model Garden. Debes tener el rol de administrador de API Gateway (roles/apigateway.admin) para crear configuraciones de API y puertas de enlace. Además, la cuenta de servicio que usa tu puerta de enlace de API (ya sea la cuenta de servicio predeterminada de Compute Engine o una cuenta de servicio administrada por el usuario especificada cuando se crea la configuración de la API) debe tener el rol de usuario de Vertex AI (roles/aiplatform.user) para acceder a los modelos de destino.
2. Verifica la disponibilidad del modelo y el acceso al extremo: Verifica que tus modelos enrutables sean modelos abiertos implementados previamente para el modelo como servicio (MaaS) en Vertex AI Model Garden. Todos los modelos a los que hace referencia un solo router deben compartir exactamente el mismo nombre de host. Elige el extremo global (aiplatform.googleapis.com) o un solo extremo regional (por ejemplo, us-central1-aiplatform.googleapis.com) para cada modelo al que se hace referencia dentro de ese router.
3. Verifica la elegibilidad de la implementación de la puerta de enlace: No puedes actualizar una puerta de enlace existente implementada sin enrutamiento de modelos para habilitar el enrutamiento de modelos, ni puedes actualizar una puerta de enlace implementada con enrutamiento de modelos para inhabilitar o quitar el enrutamiento de modelos. Para cambiar los modos de enrutamiento, debes crear e implementar una nueva configuración de API y una instancia de puerta de enlace.
4. Verifica los Controles del servicio de VPC y la compatibilidad de extremos: Las puertas de enlace de enrutamiento de modelos no admiten los Controles del servicio de VPC ni las configuraciones de extremos de Private Service Connect (PSC). Verifica que tu proyecto de destino y las instancias de API Gateway no estén restringidos por los perímetros de los Controles del servicio de VPC y que tus modelos usen extremos regionales o globales públicos.

Validación de la configuración

Cuando implementas una configuración de API, el plano de administración de API Gateway valida tu especificación de OpenAPI. El plano de administración rechaza las configuraciones no válidas durante la implementación con un error de validación informativo. El proceso de validación aplica las siguientes reglas:

Verificaciones estructurales y de ubicación

• La extensión x-google-api-management y sus bloques asociados (backends, ai.models.routing.routers, routers individuales y rules) deben estar bien formados. Las claves deben coincidir con sus tipos de datos esperados (mapa, lista o cadena). El plano de administración rechaza las discrepancias de tipo con un error