Создайте свой собственный ИИ дата-центр

Практический опыт Продолжая с того места, где закончилась последняя сессия, этот доклад переходит от планирования к выполнению. Эхсан пошагово объясняет, как настроить домашний AI-сервер: установка и конфигурация операционной системы, настройка драйверов GPU и стека CUDA, установка среды выполнения, такой как Ollama или vLLM, и загрузка и обслуживание вашей первой локальной модели. В процессе он рассказывает о деталях, которые обычно ставят людей в трудное положение, включая контейнеризацию, открытие сервера в вашей домашней сети и обеспечение работы после перезагрузки. Это практическая сессия, так что приносите свой компьютер и следуйте за мной. К концу сессии у вас будет ясный, повторяемый путь от голого сервера до работающего конечного пункта модели, к которому вы можете обратиться с любого устройства в доме. Докладчик: Эхсан Дж — https://www.linkedin.com/in/ehsanj/