Van AI-Hardware tot AI-Platform: AI-Lab bouwt een NVIDIA H200-powered Private AI Stack
/
Van AI-Hardware tot AI-Platform: AI-Lab bouwt een NVIDIA H200-powered Private AI Stack
Binnen het Howest AI Lab werken onderzoekers samen met bedrijven aan toegepast AI‑onderzoek. Voor die samenwerking is een infrastructuur nodig die meerdere projecten gelijktijdig en reproduceerbaar kan ondersteunen, en die flexibel genoeg is om uiteenlopende onderzoeksvragen te bedienen. Daarom bouwden we een Private AI Stack op basis van een krachtige GPU‑server met NVIDIA H200‑technologie. Deze infrastructuur werd mede gerealiseerd dankzij het Interreg Art‑IE project en de VLAIO infrastructuurcall.
Het doel van het platform is niet om infrastructuur als product te bouwen, maar om een omgeving te creëren waarin AI‑toepassingen efficiënt en betrouwbaar ontwikkeld, getest en gevalideerd kunnen worden. De combinatie van Kubernetes, Kubeflow en moderne GPU‑technologie vormt daarbij de kern.
Main section
Quick facts
/
Self-service AI compute met directe toegang tot GPU’s.
/
Kubernetes-orchestratie voor veilige en consistente experimenten.
/
Gedeelde high-performance GPU-infrastructuur voor toegepast onderzoek.
Een flexibele en betrouwbare AI-infrastructuur voor toegepast onderzoek
Kubernetes als fundament voor parallelle en reproduceerbare AI-workloads
Kubernetes vormt de basis van onze Private AI Stack. Het bepaalt hoe workloads worden uitgerold, opgeschaald en van elkaar geïsoleerd. In een onderzoekscontext waar meerdere projecten gelijktijdig draaien, zorgt Kubernetes ervoor dat containers, compute‑instellingen, netwerken en opslag uniform worden beheerd. Dit maakt experimenten betrouwbaar herhaalbaar en laat toe varianten naast elkaar te testen of langdurige processen veilig te laten doorlopen.
Kubeflow voor self-service toegang tot GPU’s
Kubeflow bouwt verder op deze fundamentlaag en biedt een intuïtieve workflow die onderzoekers directe toegang geeft tot rekenkracht. Notebooks, ontwikkelomgevingen en containergebaseerde AI‑tools kunnen eenvoudig worden opgestart zonder dat gebruikers zich met infrastructuurdetails hoeven bezig te houden. Het platform ondersteunt uiteenlopende AI‑toepassingen, waaronder generatieve modellen, embeddings, multimodale systemen en inferentieworkflows.
Efficiënte inzet van GPU’s met MIG, time slicing en GPU Operator
De beschikbare GPU‑hardware wordt flexibel ingezet dankzij de combinatie van MIG‑profielen en time slicing. MIG verdeelt een GPU in fysiek geïsoleerde instanties voor zware workloads, terwijl time slicing lichtere taken beurtelings toegang geeft tot dezelfde GPU. De NVIDIA GPU Operator beheert automatisch drivers en runtimes, waardoor de omgeving stabiel en voorspelbaar blijft.
Consistente en veilige configuraties met Kyverno
Kyverno zorgt ervoor dat workloads automatisch met de juiste instellingen draaien. Het platform dwingt correcte GPU‑runtimeclasses, resourcegrenzen en beveiligingsregels af, zodat gebruikers geen infrastructuurkennis nodig hebben om veilig en consistent te werken.
Ondersteuning voor toegepast onderzoek met industriële partners
Door deze combinatie van orchestratie, self‑service tooling en efficiënt GPU‑beheer ontstaat een krachtige AI‑omgeving die ideaal is voor toegepast onderzoek. Bedrijven kunnen Proof‑of‑Concepts ontwikkelen, bestaande modellen valideren of nieuwe AI‑methoden verkennen in een representatieve, goed beheerde infrastructuur. Het platform biedt voldoende capaciteit en flexibiliteit om diverse projecten parallel te ondersteunen.
Bottom section
Een AI-omgeving die innovatie bij bedrijven versnelt
De NVIDIA H200‑powered Private AI Stack van Howest biedt bedrijven een krachtige en controleerbare omgeving om nieuwe AI‑ideeën te verkennen. Organisaties kunnen Proof‑of‑Concepts uitvoeren, modellen testen of AI‑pijplijnen verfijnen zonder zelf complexe infrastructuur te moeten opzetten. Dankzij de combinatie van self‑service compute, betrouwbare orchestratie en gedeelde GPU‑capaciteit kunnen bedrijven met vertrouwen experimenteren in een omgeving die stabiliteit, reproduceerbaarheid en schaalbaarheid centraal stelt.
Het Howest AI Lab ondersteunt deze trajecten actief en helpt partners om onderzoeksvragen te vertalen naar concrete, uitvoerbare experimenten die aansluiten bij hedendaagse industriële AI‑praktijken.
Contributors
Authors
/
Esli Heyvaert, Lecturer data engineering & infrastructure engineering
Want to know more about our team?
Visit the team page