Gielle Informatica Srl, società di consulenza informatica da oltre 40 anni, che vanta una lunga esperienza nella ricerca e nella selezione di personale ICT, ricerca per proprio cliente un/una
AI Infrastructure Engineer
Full remote
La risorsa sarà responsabile dell'
installazione, configurazione e gestione dell'infrastruttura Azure e on-premises
per l'esecuzione di modelli
Mistral e altri LLM
, occupandosi di GPU server, Linux, Docker, Kubernetes, networking, security, Azure AI Foundry, model serving, vector database, monitoring, backup e automazione tramite Infrastructure as Code.
Competenze richieste
Infrastructure Administration
Azure Infrastructure:
subscriptions, resource groups, networking, subnets, NSGs, private endpoints, managed identities, RBAC e Azure Monitor;
Azure AI Foundry:
configurazione di environments, endpoints, model connections, accessi, logging e monitoring;
GPU machines:
selezione e configurazione di VM/server, gestione VRAM, NVIDIA drivers, CUDA, cuDNN e utilizzo GPU;
Linux:
amministrazione avanzata, networking, storage, processi, permissions, systemd, troubleshooting e hardening;
Docker:
creazione e gestione di container per modelli, API, vector database e monitoring tools;
Kubernetes:
preferibilmente AKS e Kubernetes on-premises; deployment, Helm, ingress, secrets, autoscaling, persistent volumes e GPU scheduling;
Serving LLMs:
installazione e gestione di strumenti quali vLLM, Hugging Face TGI, Ollama o framework equivalenti;
Mistral on-premises:
download e gestione dei modelli, quantisation, inference configuration, updates, rollbacks e resource management;
Vector storage e database:
Azure AI Search, pgvector, Qdrant, Milvus o tecnologie simili;
Infrastructure as Code:
Terraform, Bicep o Ansible;
CI/CD:
Azure DevOps per il deployment di infrastruttura, repository e configurazioni;
Monitoring e logging:
metriche GPU e CPU, memory, latency, throughput, errors, queues,



token usage e service availability;
Backup e Disaster Recovery:
recovery procedures, redundancy, data management e regular testing.
Security
È richiesta esperienza nella gestione di:
Secrets tramite
Azure Key Vault
o sistemi equivalenti;
TLS certificates e key management;
Identities, roles e principio del
least privilege
;
Network segmentation;
Private access ai servizi Azure;
Hardening dei server Linux;
Scanning delle Docker images;
Patching e aggiornamento dei componenti;
Auditing e access logging;
Protezione di documenti e prompt contenenti dati confidenziali.
Attività
Il candidato dovrà essere in grado di:
Configurare da zero un
GPU server on-premises
;
Configurare NVIDIA drivers, CUDA e container runtimes;
Eseguire
Mistral tramite un inference server
;
Esporre il modello tramite API sicure;
Installare e configurare un vector database;
Configurare ambienti separati di development, testing e production;
Monitorare performance e availability;
Effettuare troubleshooting e supportare gli utenti;
Diagnosticare problematiche relative a GPU memory, latency, networking e storage;
Automatizzare il provisioning tramite Terraform, Bicep o Ansible;
Definire procedure di updates, rollbacks e disaster recovery.
Certificazioni
Costituiscono titolo preferenziale:
AZ-104 – Azure Administrator
AI-300 – Machine Learning Operations Engineering Associate
Tipologia di collaborazione:
Partita IVA
Tariffa:
sarà concordata in base all'esperienza e competenze del candidato.
Ai sensi del D.Lgs. ****** e dell'art. 13 del GDPR (Regolamento UE ********), i candidati sono invitati a prendere visione dell'informativa sul trattamento dei dati personali.
La ricerca è rivolta a candidati di entrambi i sessi (L.****** e L.******), nonché a persone di tutte le età e nazionalità, ai sensi dei D.Lgs. ****** e ******.
Gli interessati sono invitati a inviare il proprio CV aggiornato e citando il riferimento:ANN******

📌 Ai Infrastructure Engineer (Milano)
🏢 Gielle Informatica Recruiting
📍 Milano