Bouw je eigen AI-datacenter

Een praktische ervaring Opbouwend waar de laatste sessie is geëindigd, gaat deze presentatie van plannen naar doen. Ehsan neemt je stap voor stap mee in het opzetten van een thuis AI-server: het installeren en configureren van het besturingssysteem, het verkrijgen van GPU-stuurprogramma's en het werkend krijgen van de CUDA-stack, het opzetten van een runtime zoals Ollama of vLLM, en het downloaden en serveren van je eerste lokale model. Onderweg behandelt hij de details die mensen meestal in de problemen brengen, waaronder containerisatie, het toegankelijk maken van de server op je thuisnetwerk, en ervoor zorgen dat alles blijft werken na een herstart. Dit is een praktische sessie, dus breng je machine mee en volg mee. Aan het einde heb je een duidelijk, herhaalbaar pad van een lege doos naar een werkende model-eindpunt dat je vanaf elk apparaat in het huis kunt bereiken. Spreker: Ehsan J — https://www.linkedin.com/in/ehsanj/