Senior AI Platform Engineer - LLM Gateway

corporativa de LLM Gateway. La plataforma proporcionará un acceso común, seguro, gobernado y, observable a modelos fundacionales para los distintos casos de uso, aplicaciones y agentes de IA del, El objetivo del rol es contribuir a materializar e industrializar la solución, trabajando sobre la

arquitectura y los estándares corporativos definidos, y participando activamente en su evolución, Implementar y evolucionar las capacidades técnicas necesarias para que los consumidores

corporativos accedan a los modelos de IA generativa a través de un Gateway, evitando la gestión

distribuida de credenciales de proveedores y asegurando controles homogéneos de seguridad,

gobierno, observabilidad, resiliencia y costes.

Responsabilidades principales

• Implementar los componentes y configuraciones del LLM Gateway conforme a la

arquitectura, estándares y controles corporativos de BBVA.

• Diseño técnico de integraciones, patrones de consumo y evolución de capacidades de la

plataforma, aportando criterio de implementación y operabilidad.

• Integrar aplicaciones, agentes y servicios consumidores con el endpoint corporativo de

inferencia, facilitando patrones reutilizables de adopción.

• Integrar el LLM Gateway con los mecanismos corporativos existentes de identidad,

autenticación y autorización, aplicando los estándares definidos por BBVA para identidades

de workload, OAuth2/OIDC, JWT, audiencias, scopes y principio de mínimo privilegio.

• Configurar la gestión segura y centralizada de secretos y credenciales de proveedores,

incluida su segregación por entorno y su rotación.

• Implementar la configuración del Gateway necesaria para la conectividad con proveedores

de modelos y coordinar su validación con los equipos responsables de Redes y Seguridad,

incluyendo DNS, proxy, TLS, certificados y egress controlado.

• Configurar y evolucionar capacidades de gobierno y protección: políticas de acceso, rate

limiting, cuotas, enrutamiento, límites de consumo, filtrado/guardrails y trazabilidad.

• Implantar capacidades de resiliencia y calidad de servicio: timeouts, reintentos, circuit

breaking, manejo de errores, fallback cuando aplique y pruebas de carga.

• Instrumentar la plataforma para su operación: métricas, logs estructurados, trazas

distribuidas, alertas, cuadros de mando y soporte a auditoría.

• Habilitar la medición de consumo y costes por aplicación, agente, proyecto, entorno y

modelo, en coordinación con los equipos de control y FinOps.

• Automatizar despliegues, configuración y pruebas mediante Infraestructura como Código y

pipelines CI/CD.

• Elaborar documentación técnica, guías de integración, procedimientos operativos y material

de transferencia a los equipos de BBVA.

• Colaborar de forma estrecha con los equipos de Arquitectura, Ciberseguridad, IAM,

Cloud/Platform Engineering, Redes, SRE y equipos de desarrollo.

técnica. No se busca un perfil exclusivamente funcional ni de consumo de APIs de IA: se requiere

experiencia práctica en plataformas cloud empresariales, seguridad, integración, operación y

automatización., * Experiencia de al menos 6 años en ingeniería de plataforma, cloud engineering, integración

de sistemas distribuidos, API management o ámbitos equivalentes.

• Experiencia demostrable previa de al menos 1 año con integración de AI Gateways.
• Experiencia demostrable implantando y operando APIs, plataformas compartidas o servicios

transversales en entornos empresariales complejos.

• Experiencia práctica integrando APIs de inferencia y modelos de IA generativa en entornos

productivos con alta concurrencia, incluyendo autenticación, streaming, gestión de errores,

límites de consumo, latencia y uso de tokens.

• Experiencia con API Gateways, gestión de APIs o plataformas de integración equivalentes.
• Experiencia implementando capacidades de plataforma aplicadas a APIs: políticas de acceso,

rate limiting, cuotas, trazabilidad, observabilidad y gestión de errores.

• Conocimiento sólido de seguridad de APIs e integración con mecanismos corporativos

existentes de identidad y control de acceso: OAuth2, OIDC, JWT, gestión de secretos,

scopes, audiencias y principio de mínimo privilegio.

• Experiencia con AWS, especialmente en capacidades de identidad, gestión de secretos,

observabilidad, networking e Infraestructura como Código.

• Conocimiento de redes y seguridad cloud: VPC, egress controlado, proxy, DNS, TLS,

certificados y conectividad con servicios externos.

• Experiencia implementando observabilidad y operación de servicios: métricas, logs

estructurados, trazas distribuidas, alertas, SLI/SLO y diagnóstico de incidencias.

• Experiencia de desarrollo y automatización con Python, incluyendo implementación de APIs,

integraciones, middlewares o componentes de plataforma.

• Experiencia con Terraform, CloudFormation o CDK, CI/CD y gestión de configuración

versionada.

• Capacidad para trabajar coordinadamente con equipos de Arquitectura, IAM,

Ciberseguridad, Redes, Cloud/Platform Engineering y desarrollo en un entorno corporativo

regulado.

• Autonomía en identificación de problemas ante incidentes o problemas complejos tales

como cuellos de botella, problemas de integración, etc.

Conocimientos valorables

• Experiencia específica con AWS AgentCore Gateway, Amazon Bedrock u otras capacidades

AWS orientadas a IA generativa.

• Experiencia previa en la implantación de un LLM Gateway o plataforma de acceso

gobernado a modelos fundacionales.

• Integración con OpenAI y otros proveedores de modelos, así como con APIs compatibles con

OpenAI.

• Experiencia con patrones multi-modelo o multi-proveedor, enrutamiento de modelos,

fallback y mecanismos de resiliencia.

• Implementación de guardrails, filtrado de contenido, protección frente a prompt injection,

DLP y clasificación de datos.

• Conocimientos de FinOps aplicado a IA generativa, incluyendo medición, imputación y

optimización de costes por consumidor o caso de uso.

• Experiencia con Kubernetes/EKS, service mesh y prácticas SRE avanzadas.
• Experiencia previa en banca u otros sectores con elevados requisitos de seguridad,

trazabilidad, segregación y cumplimiento normativo.