Consulta endpoints de modelos fundacionales
Consulta endpoints de modelos fundacionales de Databricks para acceder en producción a modelos alojados con gobernanza integrada de AI Gateway.
Crea con IA
- Copia el prompt siguiente
- Pégalo en Cursor, Claude Code, Codex o cualquier agente de programación
- Tu agente lo crea y te hace preguntas durante el proceso para que el resultado sea exactamente el que quieres
¿No conoces las plantillas? Más información aquí
Al terminar, tendrás:
- Un endpoint de serving de modelo fundacional configurado para la inferencia de chat en tu aplicación
- Un helper de query que usa el SDK de Databricks para interacciones estándar de solicitud/respuesta
- Una configuración opcional de streaming con el Vercel AI SDK para respuestas de chat en tiempo real
Prerequisites
Verifica que estas funcionalidades del workspace de Databricks estén habilitadas antes de comenzar. Si alguna comprobación falla, pide al administrador de tu workspace que habilite la funcionalidad.
- Endpoints de la Foundation Model API con gobernanza de AI Gateway. Los endpoints de modelos fundacionales alojados en Databricks vienen preconfigurados con las funcionalidades de AI Gateway (seguimiento de uso, límites de tasa, guardrails). Confirma su disponibilidad listando los endpoints y revisando la configuración:
databricks serving-endpoints list --profile <PROFILE>debería devolver al menos un endpoint de modelo fundacionaldatabricks-*, ydatabricks serving-endpoints get <endpoint-name> --profile <PROFILE> -o json | grep -q '"ai_gateway"' && echo okdebería imprimirok. La disponibilidad de los endpoints varía según el workspace y la región.
