Logo for Grupo TECDATA Engineering

Senior AI Platform Engineer LLM Gateway

Role overview

Qualifications

  • 6+ years in platform engineering, cloud engineering, API management or distributed systems integration
  • 1+ year integrating AI Gateways
  • Experience with AWS, Python, and Terraform, CloudFormation or CDK
  • API Security: OAuth2, OIDC, JWT

Responsibilities

  • Implement and evolve the LLM Gateway according to BBVA's architecture and standards
  • Integrate with corporate identity and access (OAuth2, OIDC, JWT) and secret management
  • Configure access policies, rate limiting, quotas, guardrails, and traceability
  • Ensure resilience and observability (metrics, logs, traces, alerts)

Key facts

Hard skills

Other skills

  • Problem Solving
  • Teamwork

About the company

Grupo TECDATA Engineering logo

Grupo TECDATA Engineering

  • IT Services & Consulting
  • Scaleup
  • 201–500
TECDATA , es una dinámica compañía de servicios en Tecnologías de la Información con infraestructura propia en España , ofreciendo servicios profesionales y soluciones tecnológicas para nuestros clientes. Aportamos mucha experiencia y muy focalizada en tecnologías específicas que nos hace diferentes , el cliente es la clave de nuestra estrategia, y centramos nuestros esfuerzos en comprender sus necesidades para incrementar su productividad y optimizar su negocio.

Your match analysis

See how your profile stacks up against this role.

We compared the job requirements to your profile to show where you're strong and where you fall short.

Job description

Senior AI Platform Engineer (LLM Gateway)

Modalidad: Teletrabajo · Jornada: Completa

El proyecto

BBVA implanta una plataforma corporativa de LLM Gateway: un punto de acceso común, seguro, gobernado y observable a modelos fundacionales para las aplicaciones y agentes de IA del Grupo. Buscamos a alguien que industrialice la solución, no un perfil de simple consumo de APIs de IA.

Qué harás

  • Implementar y evolucionar el LLM Gateway según la arquitectura y los estándares de BBVA.

  • Integrarlo con identidad y acceso corporativos (OAuth2, OIDC, JWT) y con la gestión de secretos.

  • Configurar políticas de acceso, rate limiting, cuotas, guardrails y trazabilidad.

  • Garantizar resiliencia y observabilidad (métricas, logs, trazas, alertas).

  • Medir consumo y costes por aplicación, proyecto y modelo.

  • Automatizar despliegues con Infraestructura como Código y CI/CD.

Qué buscamos

  • 6+ años en ingeniería de plataforma, cloud engineering, API management o integración de sistemas distribuidos.

  • 1+ año integrando AI Gateways.

  • Experiencia con AWS (identidad, secretos, networking), Python y Terraform, CloudFormation o CDK.

  • Seguridad de APIs: OAuth2, OIDC, JWT.

  • Experiencia en producción con APIs de IA generativa y alta concurrencia.

  • Observabilidad y operación de servicios (SLI/SLO).

Se valorará

Amazon Bedrock o AgentCore Gateway, enrutamiento multi-modelo, guardrails y protección frente a prompt injection, Kubernetes/EKS y experiencia en banca.

Related jobs

See all Platform Engineer jobs

Other jobs at Grupo TECDATA Engineering