OpenAI חושפת את הארכיטקטורה הטכנית של מערכת הפרסומות של ChatGPT
מודל LLM נפרד, מכרז פנימי וסשנים שמורים בין שיחות — כך בנויה המערכת שנועדה להציג מודעות מבלי להשפיע על התשובות
בקצרה
הסיפור ב־30 שניות
- מערכת הפרסומות פועלת על מודל LLM מותאם-אישי שעבר אימון נוסף, שונה ממודל יצירת התשובות של ChatGPT
- המודל מבצע קריאות כלים לשליפה, דירוג, בדיקת רלוונטיות וניהול מכרז לבחירת מודעה סופית
- המערכת פועלת בשירות נפרד כדי שהמודעות לא ישפיעו על תוכן התשובות
- המערכת שומרת מידע בין תורות ובין שיחות שונות — מה שמכונה סשנים שמורים
- הפרסום נכתב על-ידי Ritendra Datta ו-Karthik Gopalratnam מהצוות הטכני של OpenAI