Коли RAG не може помилитися

Będziemy mieli niezapomnianą rozmowę po portugalsku z Alexem, inżynierem AI prosto z Frankfurtu! Przedstawi praktyczny eksperyment i odpowie na fundamentalne pytanie dla tych, którzy budują systemy AI: Czy możliwe jest porzucenie drogich komercyjnych AI do złożonych zadań i migracja pipeline'u na lokalny sprzęt?📌 Co zobaczysz w prezentacji:Rzeczywisty przypadek: Jak wzięliśmy Marcusa (prototyp RAG z agentami do badań prawnych w Ameryce Łacińskiej, pierwotnie stworzony z Gemini i Claude) i przetestowaliśmy jego możliwości, klonując go na Gemma 4 za pomocą Zestawu Narzędzi do Rozwoju Agenta (ADK).Infrastruktura: Uruchamianie wszystkiego na GPU do użytku osobistego (RTX 4070 Ti Super 16GB).Inżynieria w praktyce: Strukturyzacja promptów, optymalizacja budżetu tokenów i lokalna ewaluacja, aby zbliżyć otwarte modele do głównych komercyjnych API.Wyniki i wyzwania: Przeszkody w formatowaniu logicznym, prawdziwe lekcje i wyraźna mapa drogowa dla tych, którzy chcą migrować prototypy agentów do środowisk z otwartymi wagami.