Stiamo sviluppando una piattaforma di Intelligenza Artificiale generativa basata su modelli LLM open-weight eseguiti su infrastruttura proprietaria.

Cerchiamo un
LLM Systems Engineer

che progetti e realizzi l’infrastruttura AI alla base della piattaforma.

Responsabilità
- Deploy e gestione di modelli LLM open-weight
- Progettazione dell’architettura di inferenza
- Sviluppo dell’infrastruttura di serving ad alte prestazioni
- Implementazione di sistemi di memoria e orchestrazione
- Ottimizzazione di latenza, throughput e utilizzo delle GPU
- Sviluppo di pipeline di valutazione e monitoraggio

Requisiti

Esperienza concreta con la maggior parte delle seguenti tecnologie:
- Python
- FastAPI
- Docker
- Kubernetes
- PostgreSQL
- Redis
- vLLM,



SGLang o TensorRT-LLM
- llama.cpp
- Hugging Face Transformers
- CUDA
- Quantizzazione e ottimizzazione dell’inferenza su GPU

È richiesta esperienza nella messa in produzione di sistemi basati su LLM.

Costituiscono titolo preferenziale
- Inferenza multi-GPU
- Architetture ad agenti
- Sistemi di memoria persistente
- Contributi a progetti open source

Candidatura

Inviare:
- CV
- Profilo GitHub
- Profilo LinkedIn
- Eventuali contributi open source rilevanti

Sede:

remoto (full remote)

📌 LLM Systems Engineer (Milano)
🏢 Iumob
📍 Milano