Logo for Grupo TECDATA Engineering

Senior AI Platform Engineer – LLM Gateway

Role overview

Qualifications

  • 6 or more years of experience in Platform Engineering, Cloud Engineering, distributed systems integration, API Management or similar areas
  • At least 1 year of demonstrable experience with AI Gateways
  • Experience implementing and operating APIs in enterprise environments
  • Practical experience with AWS, especially IAM, secret management, networking, observability, and infrastructure as code

Responsibilities

  • Implement and evolve the technical components of the LLM Gateway following corporate architecture and standards
  • Integrate applications, services, and agents with corporate inference endpoints
  • Configure authentication and authorization mechanisms using OAuth2, OIDC, and JWT
  • Automate deployments, configurations, and testing using Terraform or other IaC tools and CI/CD pipelines

Key facts

Hard skills

Other skills

  • Problem Solving
  • Collaboration

About the company

Grupo TECDATA Engineering logo

Grupo TECDATA Engineering

  • IT Services & Consulting
  • Scaleup
  • 201–500
TECDATA , es una dinámica compañía de servicios en Tecnologías de la Información con infraestructura propia en España , ofreciendo servicios profesionales y soluciones tecnológicas para nuestros clientes. Aportamos mucha experiencia y muy focalizada en tecnologías específicas que nos hace diferentes , el cliente es la clave de nuestra estrategia, y centramos nuestros esfuerzos en comprender sus necesidades para incrementar su productividad y optimizar su negocio.

Your match analysis

See how your profile stacks up against this role.

We compared the job requirements to your profile to show where you're strong and where you fall short.

Job description

🏢 Cliente: BBVA
🤝 Consultora: Minsait
💰 Salario: 45.000 € brutos anuales
🏡 Modalidad: 100 % remoto
🎯 Prioridad: Alta

🚀 El reto

Buscamos un/a Senior AI Platform Engineer para participar en la implantación y evolución de una plataforma corporativa de LLM Gateway para BBVA.

El objetivo es proporcionar un acceso común, seguro, gobernado y observable a modelos de IA generativa, facilitando su integración con aplicaciones, servicios y agentes de IA del Grupo.

Buscamos un perfil técnico con experiencia práctica en plataformas cloud, integración de APIs, seguridad, automatización y operación en entornos empresariales. No es una posición exclusivamente funcional ni centrada únicamente en consumir APIs de IA.

🎯 Responsabilidades

  • Implementar y evolucionar los componentes técnicos del LLM Gateway siguiendo la arquitectura y los estándares corporativos.

  • Integrar aplicaciones, servicios y agentes con endpoints corporativos de inferencia.

  • Configurar mecanismos de autenticación y autorización mediante OAuth2, OIDC y JWT.

  • Gestionar secretos, credenciales, permisos y controles de acceso con criterios de seguridad y mínimo privilegio.

  • Implementar políticas de API Gateway: rate limiting, cuotas, enrutamiento, guardrails y trazabilidad.

  • Configurar conectividad segura con proveedores de modelos: DNS, proxy, TLS, certificados y control de salida de red.

  • Desarrollar capacidades de resiliencia, incluyendo timeouts, reintentos, circuit breaking, fallback y pruebas de carga.

  • Implantar observabilidad mediante métricas, logs estructurados, trazas distribuidas, alertas y cuadros de mando.

  • Automatizar despliegues, configuraciones y pruebas mediante Terraform u otras herramientas de IaC y pipelines CI/CD.

  • Facilitar la medición y optimización de costes por aplicación, agente, proyecto y modelo.

  • Colaborar con los equipos de Arquitectura, IAM, Ciberseguridad, Redes, Cloud, SRE y desarrollo.

🛠️ Requisitos imprescindibles

  • 6 o más años de experiencia en Platform Engineering, Cloud Engineering, integración de sistemas distribuidos, API Management o áreas similares.

  • Al menos 1 año de experiencia demostrable con AI Gateways.

  • Experiencia implantando y operando APIs, plataformas compartidas o servicios transversales en entornos empresariales.

  • Experiencia integrando APIs de inferencia y modelos de IA generativa en producción, incluyendo streaming, concurrencia, latencia, tokens y gestión de errores.

  • Conocimientos sólidos de API Gateways, políticas de acceso, cuotas, rate limiting y observabilidad.

  • Experiencia en seguridad de APIs: OAuth2, OIDC, JWT, gestión de secretos, scopes y audiencias.

  • Experiencia práctica con AWS, especialmente IAM, gestión de secretos, networking, observabilidad e infraestructura como código.

  • Conocimientos de redes y seguridad cloud: VPC, proxy, DNS, TLS, certificados y egress controlado.

  • Experiencia con observabilidad, métricas, logs, trazas, alertas y prácticas SRE.

  • Desarrollo y automatización con Python, incluyendo APIs, integraciones, middlewares o componentes de plataforma.

  • Experiencia con Terraform, CloudFormation o CDK, CI/CD y configuración versionada.

  • Autonomía para diagnosticar y resolver incidencias técnicas complejas.

⭐ Se valorará especialmente

  • AWS AgentCore Gateway, Amazon Bedrock u otras soluciones de IA generativa en AWS.

  • Implantación de LLM Gateways y plataformas de acceso gobernado a modelos fundacionales.

  • Integración con OpenAI y otros proveedores, incluidas APIs compatibles con OpenAI.

  • Arquitecturas multi-modelo, enrutamiento inteligente y mecanismos de fallback.

  • Guardrails, protección frente a prompt injection, DLP y clasificación de datos.

  • FinOps aplicado a IA generativa y optimización del consumo de tokens.

  • Kubernetes/EKS, service mesh y prácticas SRE avanzadas.

  • Experiencia en banca o sectores con elevados requisitos de seguridad, auditoría y cumplimiento normativo.

Related jobs

See all Platform Engineer jobs

Other jobs at Grupo TECDATA Engineering