Van AI-hardware naar AI-platform: AI Lab bouwt een op NVIDIA H200 aangedreven privé AI-stack
/
Van AI-hardware naar AI-platform: AI Lab bouwt een op NVIDIA H200 aangedreven privé AI-stack
Binnen het Howest AI Lab werken onderzoekers samen met bedrijven aantoegepaste AI-onderzoek. Voor die samenwerking is eeninfrastructuur nodigdie meerdere projecten gelijktijdig en reproduceerbaar kan ondersteunen, en dieflexibelgenoege is om uiteenlopende onderzoeksvragen te bedienen. Daarom bouwden we eenPrivate AI Stackbased on akrachtige GPU-server met NVIDIA H200-technologie. Deze infrastructuur werd mede gerealiseerd dankzij hetInterreg Art‑IEproject en deVLAIO infrastructuurcall.
Het doel van het platform is niet om infrastructuur als product te bouwen, maar om een omgeving te creëren waarin AI-toepassingen efficiënt en betrouwbaar ontwikkeld, getest en gevalideerd kunnen worden. De combinatie vanKubernetes, Kubeflowen moderne GPU-technologie vormt daarbij de kern.
Main section
Een flexibele en betrouwbare AI-infrastructuur voor toegepast onderzoek
Kubernetes als fundament voor parallelle en reproduceerbare AI-workloads
Kubernetes vormt de basis van onze Private AI Stack. Het bepaalt hoewerkbelastingen worden uitgerold, opgeschaalden van elkaargeïsoleerdIn a research context where multiple projects run simultaneously, Kubernetes ensures that containers, compute settings, networks, and storage are managed uniformly. This makes experiments reliably repeatable and allows for variants to be tested side by side or for long-running processes to be safely executed.
Kubeflow voor self-service toegang tot GPU's
Kubeflow bouwt verder op deze fundamentlaag en biedt een intuïtieve workflow die onderzoekers directe toegang geeft tot rekenkracht. Notebooks, ontwikkelomgevingen en containergebaseerde AI-tools kunnen eenvoudig worden opgestart.zonder dat gebruikers zich met infrastructuurdetails hoeven bezig te houdenHet platform ondersteunt uiteenlopende AI-toepassingen, waaronder generatieve modellen, embeddings, multimodale systemen en inferentieworkflows.
Efficiënte inzet van GPU's met MIG, tijdslicing en GPU-operator
De beschikbare GPU-hardware wordtflexibel ingezetdankzij de combinatie van MIG-profielen en time slicing. MIG verdeelt een GPU in fysiek geïsoleerde instanties voor zware workloads, terwijl time slicing lichtere taken beurtelings toegang geeft tot dezelfde GPU. De NVIDIA GPU Operator beheert automatisch drivers en runtimes, waardoor de omgeving stabiel en voorspelbaar blijft.
Consistente en veilige configuraties met Kyverno
Kyverno ensures that workloads run automatically with the correct settings. The platform enforces correct GPU runtime classes, resource limits, and security policies, so users do not need infrastructure knowledge to work safely and consistently.
Ondersteuning voor toegepast onderzoek met industriële partners
Door deze combinatie van orchestratie,zelfbedieningsgereedschapEn efficiënt GPU-beheer creëert een krachtige AI-omgeving die ideaal is voor toegepast onderzoek. Bedrijven kunnen Proof-of-Concepts ontwikkelen, bestaande modellen valideren of nieuwe AI-methoden verkennen in een representatieve, goed beheerde infrastructuur. Het platform biedt voldoende capaciteit en flexibiliteit om diverse projecten parallel te ondersteunen.
Bottom section
Een AI-omgeving die innovatie in bedrijven versnelt
De NVIDIA H200‑aangedreven Private AI Stack van Howest biedt bedrijven een krachtige en controleerbare omgeving om nieuwe AI‑ideeën te verkennen. Organisaties kunnen Proof‑of‑Concepts uitvoeren, modellen testen of AI‑pijplijnen verfijnen zonder zelf complexe infrastructuur te moeten opzetten. Dankzij de combinatie van self‑service compute, betrouwbare orchestratie en gedeelde GPU‑capaciteit kunnen bedrijven met vertrouwen experimenteren in een omgeving die stabiliteit, reproduceerbaarheid en schaalbaarheid centraal stelt.
Het Howest AI Lab ondersteunt deze trajecten actief en helpt partners om onderzoeksvragen te vertalen naar concrete, uitvoerbare experimenten die aansluiten bij hedendaagse industriële AI-praktijken.
Contributors
Authors
/
Esli Heyvaert, Lecturer data engineering & infrastructure engineering
Want to know more about our team?
Visit the team page