Construa seu próprio datacenter de IA

Uma experiência práticaContinuando de onde a última sessão parou, esta palestra passa do planejamento para a ação. Ehsan passa por todas as etapas para configurar um servidor de IA em casa: instalando e configurando o sistema operacional, instalando drivers de GPU e configurando a pilha CUDA, configurando um tempo de execução como Ollama ou vLLM, e baixando e servindo seu primeiro modelo local. Ao longo do caminho, ele aborda os detalhes que geralmente confundem as pessoas, incluindo contêinerização, expondo o servidor na sua rede doméstica e mantendo as coisas funcionando após uma reinicialização.Esta é uma sessão prática, então traga sua máquina e acompanhe. Ao final, você terá um caminho claro e repetível, desde uma caixa vazia até um ponto de extremidade de modelo funcional que você pode acessar de qualquer dispositivo da casa. palestrante: Ehsan J — https://www.linkedin.com/in/ehsanj/