PhD in Communication-Optimized Inference in Large Language Models

De Technische Universiteit Eindhoven zoekt een promovendus voor het project Communication-Optimized Inference in Large Language Models. De kandidaat onderzoekt hoe communicatienetwerken tussen GPU’s de snelheid en het energiegebruik van systemen voor grote taalmodellen beïnvloeden. Het onderzoek combineert wiskundige modellering, optimalisatie, softwareontwikkeling en experimenten. Je ontwikkelt analytische modellen met Network Calculus om onder meer communicatielatentie, buffercapaciteit en energieverbruik te ramen. Ook analyseer je de invloed van netwerkarchitectuur, bandbreedte en parallelisatiestrategieën en onderzoek je runtimekeuzes zoals routering, prioritering en de plaatsing van workloads. Experimentele validatie vormt een belangrijk onderdeel. Daarvoor werk je met AI-infrastructuur, programmeerbare netwerktestbeds, P4-switches en SmartNICs.

De resultaten worden onder meer getest op bestaande infrastructuur in samenwerking met SURF. Je werkt binnen het Network Modeling and Design-lab van de faculteit Electrical Engineering, met verbindingen naar onderzoeksgroepen in Computer Science en de Technische Universiteit München. Voor het project staat een verblijf van minimaal zes maanden in München vermeld. Voor deze functie is een masterdiploma vereist in Electrical Engineering, Computer Science, Computer Engineering, Applied Mathematics of een verwant vakgebied, naast een sterke wiskundige basis en goede programmeervaardigheden. Er wordt ook interesse gevraagd in high-performance networking en AI-infrastructuur, analytisch vermogen en goede Engelse communicatie. Als voorwaarden staan een fulltime aanstelling van vier jaar, minimaal 10% onderwijstaken en een salarisindicatie van €3.204 tot €4.051 bruto per maand op fulltimebasis vermeld.