10 תובנות מהראיון של Ilya Sutskever מנכ"ל SSI ומייסד OpenAI
- Omer Mayost
- 9 בדצמ׳ 2025
- זמן קריאה 2 דקות
משתף איתכם 10 תובנות מהראיון המרתק הזה עם Ilya Sutskever מנכ"ל SSI ומייסד OpenAI
כשהוא מדבר, אני עוצר הכל ומקשיב!!
אלה התובנות שתפסו אותי
1. למה הבינה של היום נשמעת חכמה אבל לא יודעת לייצר כסף?
המודלים שאנחנו רואים היום מצטיינים בלרצות את מדדי ההשוואה במעבדה ולא בעולם האמיתי.
2. מה קורה במבחן המציאות?
ביוזקייסים הפרקטיים הם פשוט לא עומדים, ככל שהדומיין המקצועי עמוק יותר הם מאבדים אחיזה.
3. מה שהכי מעניין בעייני,
זה הפרדוקס של אימון המודלים, לימוד על כמה שיותר דאטה פשוט מייצר בינוניות בקצה.
קחו את NotebookLM שמשתמש באותן יכולות הסקה וחשיבה אבל על הדאטה המדוייק שלכם.
התוצרים מעולים ומדוייקים מאוד. כך יקרה בעתיד בבינה הכללית שתתמקד בוורטיקלים.
זה משהו שאני גם מכיר מנסיון - כשלא מנקים נכון את הדאטה שנכנס למודל יוצא זבל בקצה השני של התהליך.
4. תחשבו על זה 🙄
בסוף זה הגיוני, אם המודל לומד על דאטה איכותי ודאטה גרוע בממוצע הוא ישאר סביר ולא מצויין.
יכול להיות שדאטה מסויים מצויין לנושא ספציפי אחד ובנושא אחר הוא הרסני.
זה שהמודלים של היום מאומנים על כל הדאטה שקיים, הופך אותם לכלליים מידי .
ולכן כשמתמקדים ביוזקייס ספציפי הם פשוט מייצרים תוצאות של מי שיש לו ידע כללי נרחב
אבל אין לו שליטה בדומיין ובפרקטיקה עצמה.
5. אנלוגיה ממש מעניינת 🤓
הוא מקביל את זה למי שלמד 10,000 שעות תיאוריה על נושא מסויים אבל בפועל מי שמנוסה בו יכול בהרבה פחות שעות למידה להגיע לתוצאה טובה יותר מבחינה פרקטית.
דמיינו ביצועים על הכביש של מי שלמד תיאורייה על נהיגה אלפי שעות לעומת מי שנהג ברכב במשך כמה ימים רצופים.
6. בני האדם מצטיינים כל אחד בתחומו ומסוגלים להעמיק בלמידה מעשית הרבה מעבר למה שהמכונות מצליחות לייצר.
זו הסיבה שכשהמודל ינסה לפתור באג הוא יכול לפגוע בחלק אחר בקוד, הוא מנותק מהפרקטיקה ומהשטח במהות שלו.
7. מכאן החשיבות הרבה לקונטקסט - אבל זה לא מספיק כי זה רק סוג של קביים שעוזרות לו להתקדם עוד כמה צעדים.
8. כמויות הדאטה החדש נגמרות
אם כבר המודלים אומנו על כל הדאטה שקיים, הדאטה שנוצר מאז מבחינה כמותית, מייצר תפוקה שולית נמוכה מאוד.
9. כדי לקדם את המודלים והביצועים לרמה הבאה כנראה שנצטרך לעבור מלמידה כללית ללמידה וורטיקלית עמוקה בגישות אחרות.
10. במילים אחרות, חזרה לשלב המחקר.
הוא מאמין שבהמשך המצב שבו אנחנו נמצאים יביא את החברות הגדולות לפתוח מחדש את המנועים ולהבין שצריך לפרק ולהרכיב מחדש.
ליצור תשתית שלא רק מתבססת על כל הידע אלא יודעת להתאים את עצמה ללמידה מתמשכת לצד בני האדם וללמוד בצורה שבה אנחנו לומדים.
כדי להשאר מעודכנים בכל המידע הכי חם על AI
🛎️ תעקבו אחרי 💡Omer Mayost
תגובות