גוגל מציגה מסגרת 'שינה' שמאפשרת למודלי שפה לרכוש ידע חדש מבלי לשכוח את הישן
המסגרת, שפותחה על ידי חוקרי גוגל, מחקה את אופן עיבוד הזיכרון במוח האנושי במהלך מנוחה
בקצרה
הסיפור ב־30 שניות
- חוקרי גוגל הציגו את ה-Sleep Framework — מסגרת עבודה חדשה ללמידה מתמשכת של מודלי שפה גדולים
- המסגרת פותחה על ידי Ali Behrouz ו-Vahab Mirrokni, סגן נשיא וחבר כבוד בגוגל
- המסגרת מטרתה לפתור את בעיית ה-catastrophic forgetting — ירידה בביצועים על משימות ישנות עם רכישת ידע חדש
- מחזור החיים של המסגרת מתחלף בין אינטראקציה פעילה לשלב שינה שבו מאוחד ידע חדש לפרמטרים יציבים
- הגישה מתבססת על האופן שבו המוח האנושי ממיין זיכרונות במהלך מנוחה