כאשר RAG לא יכול לטעות

נהיה בשיחה שלא תרצו לפספס בפורטוגזית עם אלכס, מהנדס AI ישירות מ-frankfurt! הוא יציג ניסוי מעשי ויענה על שאלה יסודית עבור בוני מערכות AI: האם אפשר abandon קוד אוטומטי יקר עבור משימות מורכבות ולעבור את הצנרת לחומרה מקומית?📌 מה שתראו בשיחה:מקרה בוחן אמיתי: איך לקחנו את מרקוס (פרוטוטיפ RAG עם סוכנים למחקר משפטי באמריקה הלטינית, שנעשה במקור עם ג'מיני וקלוד) ובדקנו את הגבולות שלו על ידי שכפול שלו על ג'מה 4 באמצעות ערכת ה-PD (ADK).תשתיות: הרצת הכל על GPU לשימוש אישי (RTX 4070 Ti Super 16GB).הנדסה מעשית: מבנה הבקשות, אופטימיזציה של תקציב הטוקן, וההערכה המקומית כדי לקרב מודלים פתוחים ל-APIs מסחריים גדולים.תוצאות ואתגרים: מכשולים בפורמט הלוגי, למידות אמיתיות, ומפת דרכים ברורה עבור מי שמעוניין לעבור מפרוטוטיפים של סוכנים לסביבות עם משקלות פתוחים.