Bauen Sie Ihr eigenes AI-Rechenzentrum
Beschreibung
Eine praktische Erfahrung Anknüpfend an die letzte Sitzung geht es in diesem Vortrag vom Planen zum Handeln. Ehsan erklärt Schritt für Schritt, wie man einen heimischen AI-Server aufsetzt: Installation und Konfiguration des Betriebssystems, GPU-Treiber und das CUDA-Framework zum Laufen bringen, ein Runtime wie Ollama oder vLLM einrichten und Ihr erstes lokales Modell herunterladen und bereitstellen. Dabei behandelt er die Details, die die meisten Menschen häufig stolpern lassen, einschließlich Containerisierung, das Bereitstellen des Servers im Heimnetzwerk und wie man alles nach einem Neustart am Laufen hält. Dies ist eine praktische Sitzung, also bringen Sie Ihren Computer mit und folgen Sie mit. Am Ende haben Sie einen klaren, wiederholbaren Weg von der nackten Maschine zu einem funktionierenden Modell-Endpunkt, den Sie von jedem Gerät im Haus erreichen können. Referent: Ehsan J — https://www.linkedin.com/in/ehsanj/
Veranstaltungsort
Lassen Sie Ihr Netzwerk wissen, dass Sie dabei sind
Teilen Sie diese Veranstaltung, um Gespräche zu beginnen, Kollegen einzuladen und sich vorab zu vernetzen.