מאומתרגולציה ובטיחות
OpenAI מפרסמת עקרונות להערכות צד-שלישי של בטיחות מודלי AI
החברה מצהירה על מחויבות לגישה עמוקה של גורמים חיצוניים לשלבי אימון, הערכה ופריסה
רלוונטי ל:כולםיזמים ומשקיעיםמפתחים ואנשי טכנולוגיה
בקצרה
הסיפור ב־30 שניות
- OpenAI פרסמה עקרונות ועדיפויות להערכות צד-שלישי של בטיחות מודלי AI
- החברה מאפשרת לגורמים חיצוניים גישה לנתוני chain of thought גלויים
- גורמי הערכה חיצוניים קיבלו גישה לנתונים סודיים ומערכות פנימיות לצורך ניטור red teaming ותגובה לאירועים
- הערכות צד-שלישי שולבו במסגרת ה-Preparedness Framework של החברה
- OpenAI תומכת בארגונים ובחקיקה הדוגלים בתהליך הערכה מחמיר יותר