Senior Ai Platform Engineer Llm Gateway
- Discuss this with your agent
- Open in Claude
- Open in ChatGPT
Prepare application
- Draft this with your agent
- Open in Claude
- Open in ChatGPT
Role details
Tech stack
+3 more
Job description
Senior AI Platform Engineer (LLM Gateway)Modalidad: TeletrabajoJornada: CompletaEl proyectoBBVA implanta una plataforma corporativa de LLM Gateway : un punto de acceso común, seguro, gobernado y observable a modelos fundacionales para las aplicaciones y agentes de IA del Grupo.Buscamos a alguien que industrialice la solución, no un perfil de simple consumo de APIs de IA.Qué harásImplementar y evolucionar el LLM Gateway según la arquitectura y los estándares de BBVA.Integrarlo con identidad y acceso corporativos (OAuth2, OIDC, JWT) y con la gestión de secretos.Configurar políticas de acceso, rate limiting, cuotas, guardrails y trazabilidad.Garantizar resiliencia y observabilidad (métricas, logs, trazas, alertas).Medir consumo y costes por aplicación, proyecto y modelo.Automatizar despliegues con Infraestructura como Código y CI/CD.Qué buscamos6+ años en ingeniería de plataforma, cloud engineering, API management o integración de sistemas distribuidos.1+ año integrando AI Gateways.Experiencia con AWS (identidad, secretos, networking), Python y Terraform, CloudFormation o CDK.Seguridad de APIs: OAuth2, OIDC, JWT.Experiencia en producción con APIs de IA generativa y alta concurrencia.Observabilidad y operación de servicios (SLI/SLO).Se valoraráAmazon Bedrock o AgentCore Gateway, enrutamiento multi-modelo, guardrails y protección frente a prompt injection, Kubernetes/EKS y experiencia en banca.#J-*****-Ljbffr
Requirements
Medir consumo y costes por aplicación, proyecto y modelo.Automatizar despliegues con Infraestructura como Código y CI/CD.Qué buscamos6+ años en ingeniería de plataforma, cloud engineering, API management o integración de sistemas distribuidos.1+ año integrando AI Gateways.Experiencia con AWS (identidad, secretos, networking), Python y Terraform, CloudFormation o CDK.Seguridad de APIs: OAuth2, OIDC, JWT.Experiencia en producción con APIs de IA generativa y alta concurrencia.Observabilidad y operación de servicios (SLI/SLO). Se valoraráAmazon Bedrock o AgentCore Gateway, enrutamiento multi-modelo, guardrails y protección frente a prompt injection, Kubernetes/EKS y experiencia en banca.
Apply for this position
This job is hosted externally. Click below to view the full posting and apply.
Prepare application
- Draft this with your agent
- Open in Claude
- Open in ChatGPT
Good distractions
Loading talks and stories from around this role…