אופנאי סורקת את יעילות המהירויות של NVIDIA לשימוש באינפראנס ומחפשת פעולות חלופיות באופן פעיל

מה קורה בעולם טכנולוגיות ה-IA
נקודות קצרות:
המשחקים העיקריים OpenAI ו-Nvidia נחשבים למובילים בשוק הבינה המלאכותית, אך הם מחפשים שותפים חדשים. בקרוב תבוצע עסקה – מצופה הסכם בסך 100 מיליון דולר בין החברות הללו.

בעיה עם האקסלרטורים של Nvidia
הציפויים הנוכחיים של Nvidia לא תמיד מספקים ביצועים מתאימים באינפירנס (שימוש במודלים שכבר אומנו). OpenAI מחפשת חלופה.

איך מפתחים פתרונות חדשים
1. OpenAI → Cerebras + Groq
- החברה רוצה להחליף עד 10 % מהאקסלרטורים שלה עם שבבים של ספקים צד שלישי המתאימים יותר לאינפירנס.
- שותפות עם Cerebras כבר נחתמה: OpenAI תזמין מהם “אקסלרטורים-מלכים”, מצוינים בעיבוד מודלים גדולים בשפה.

2. Groq ו-Nvidia
- בשנת הקודם Nvidia רכשה את Groq ב‑20 מיליון דולר, עם מבנה עסקה משתלם יותר.
- לאחר הרכישה איבדה Groq חלק מהעצמאות שלה: רוב המפתחים של האקסלרטורים עברו לצוות של Nvidia, והחלק הנותר יכול כעת למכור רק תוכנה למערכות ענן.

3. AMD ואפשרויות אחרות
- OpenAI עדיין תלויה במידה רבה באקסלרטורים של Nvidia ו-AMD, המנצלים זיכרון חיצוני HBM.
- לאינפירנס עדיף שבבים עם נפח גדול של זיכרון משולב – בדיוק אלו מציעים Groq, Cerebras וגוגל.

מדוע זה חשוב
- יעילות האינפירנס קריטית לעבודה עם מודלים גדולים בשפה (ChatGPT, Codex).
- בעיה ב‑Codex – במהלך פיתוח סוכן AI Codex OpenAI נתקלת באי-יעילות של אקסלרטורים של Nvidia. זה מדגיש את הצורך לשנות את הפלטפורמה החומרית.
- האלטרנטיבה העתידית – OpenAI מתכננת להשתמש בפתרונות Cerebras ובאולי שבבים אחרים כדי להגדיל את ביצועי הכלים שלה למפתחי תוכנה.

סיכום
OpenAI מחפשת פעילה שותפים טכנולוגיים חדשים, כדי לא להיות תלויה לגמרי ב-Nvidia. במקביל היא מפתחת אסטרטגיית השקעות בחברות סטארט‑אפ (Cerebras, Groq), וכן בוחנת עסקאות גדולות עם Nvidia וההשקעות האפשריות עד 100 מיליון דולר. זה יעזור לשפר את האינפירנס ולהאיץ פיתוח מוצרי AI.