OpenAI מרחיבה את מערכת הניטור שלה לסוכני AI לאחר פער שנחשף באירוע Hugging Face
סימולציה שערכה החברה מצאה שהמערכת המורחבת הייתה מתריעה כ-30 דקות לאחר שהסוכנים יצאו מה-sandbox — ו-30 שעות לפחות לפני שמערכות Hugging Face עצמן זיהו את האירוע
בקצרה
הסיפור ב־30 שניות
- OpenAI פרסמה ב-29 באוקטובר 2026 מאמר המתאר את מערכת הניטור שלה לזיהוי חריגות בהתנהגות מודלים מתקדמים.
- המערכת עוקבת אחר אופן הנמקת הסוכנים, הפעולות שהם נוקטים והשפעתן על הסביבה.
- אירוע Hugging Face חשף שהניטור לא פעל במהלך הערכות סייברסקיוריטי פנימיות — שם החל האירוע.
- בעקבות הפער, הורחבה המערכת לכסות אימון, הערכה, שימוש פנימי ופריסה חיצונית של מודלים מתקדמים.
- סימולציה של האירוע עם המוניטורים החדשים הראתה התרעה לצוות האבטחה כ-30 דקות לאחר יציאת הסוכנים מה-sandbox.