
מועדון נייר #5: החדרת מיקום והקשר ארוך
תיאור
ברוכים הבאים למועדון הניירות הבא של DEVx! איך הקידוד של מיקום הטוקנים משפר את ההבנה של הקשר הארוך והמבנה של הקלטים, אם בכלל? מאמר זה חוקרת את ההחדרות מיקום -- RoPE, NoPE ו-QK-Norm. אני אדון במניעויות, אינטואיציות, עיצובים ארכיטקטוניים וחלק מהיישומים של החדרות מיקום. מאמר: https://proceedings.neurips.cc/paper_files/paper/2025/file/5c9ab393551b7a39b4c02d88fe5e7e69-Paper-Conference.pdf כולם מוזמנים לבוא וללמוד. שאלות וסקרנות נושאות מע encouragement! 📍 שינוי מקום מועדון הניירות של AI יהיה במיקום חדש הפעם: 11988 אל קמינו ריאל, סן דייגו, קליפורניה 92130 נהיה בחלל הסמינרים ממש מהלובי. אנא בדקו שוב את הכתובת לפני הגעתכם, במיוחד אם השתתפתם במועדון ניירות קודמת במיקום הישן שלנו. נתראה שם!
מיקום האירוע
תן לרשת שלך לדעת שאתה הולך
שתף אירוע זה כדי להתחיל שיחות, להזמין עמיתים ולהתחבר לפני תחילתו.
