המדען הראשי של OpenAI: קצב התקדמות ה-AI עשוי להוביל לשיפור עצמי רקורסיבי
יעקוב פאחוצקי מתאר תוצאות שהגבירו את הביטחון באימון מודלי היסק בקנה מידה גדול, לצד סיכוני אבטחה חדשים.
בקצרה
הסיפור ב־30 שניות
- פאחוצקי מעריך שהמשך קצב ההתקדמות עשוי להוביל לשיפור עצמי רקורסיבי.
- לדבריו, תוצאות מפרויקט RLSlow באמצע 2023 הגבירו את הביטחון בהרחבת אימון מודלי היסק.
- הוא מתאר מודלים שמפעילים מחשבים ומבצעים מחקר, ומזהיר מסיכוני אבטחה חדשים.
העובדות
מה קרה?
יעקוב פאחוצקי, המדען הראשי של OpenAI, מעריך שקצב ההתקדמות הנוכחי עשוי להימשך עד לשיפור עצמי רקורסיבי של מערכות AI. לדבריו, תוצאות מפרויקט RLSlow באמצע 2023 הגבירו את הביטחון ביכולת להרחיב את אימון מודלי ההיסק. הוא מציין שמודלים כבר מסוגלים להפעיל מחשבים וממשקים גרפיים ולבצע פרויקטי מחקר, ומזהיר מסכנות חדשות באבטחת מחשבים.