כאשר אנליסט פיננסי של OpenAI נדרש בשנה שעברה להשוות הכנסות בין אזורים גיאוגרפיים וקבוצות לקוחות, המשימה שאבה ממנו שעות ארוכות של עבודה סיזיפית. הוא נאלץ לנבור בתוך 70,000 מאגרי נתונים, לכתוב שאילתות SQL מורכבות ולאמת סכמות של טבלאות באופן ידני. היום התמונה שונה לחלוטין. אותו אנליסט מקליד שאלה פשוטה באנגלית לתוך חלון ה-Slack, ותוך דקות ספורות מקבל תרשים מנותח ומוכן.
הכלי שעומד מאחורי הטרנספורמציה הזו נבנה על ידי שני מהנדסים בלבד בפרק זמן של שלושה חודשים. באופן מעורר השתאות, 70% מהקוד שלו נכתב על ידי מודלי שפה. כעת, המערכת הזו משרתת אלפי עובדים בחברה מדי יום, מה שהופך אותה לאחת ההטמעות האגרסיביות והנרחבות ביותר של סוכן נתונים מבוסס AI בארגון כלשהו. אמה טאנג, ראש תחום תשתיות הנתונים ב-OpenAI, חשפה כי הסוכן משמש כמעט כל צוות בחברה לביצוע מגוון רחב של ניתוחים מורכבים, ומספק הצצה נדירה לאופן שבו התעשייה כולה עתידה להתמודד עם צווארי בקבוק ארגוניים.
ניהול נתונים בקנה מידה חסר תקדים
כדי להבין את הצורך הדוחק במערכת כזו, מספיק להעיף מבט על היקף המידע האדיר של החברה. פלטפורמת הנתונים של OpenAI משתרעת על פני יותר מ-600 פטה-בייט. איתור הטבלה הנכונה מתוך האוקיינוס הזה הוא האתגר הטכני הגדול ביותר, וזה לבדו יכול לגזול שעות יקרות של מדעני נתונים. מתוך 5,000 עובדי החברה כיום, מעל ל-4,000 משתמשים בכלים שצוות תשתיות הנתונים מספק.
הסוכן הפנימי, המתבסס על מודל GPT-5.2, נגיש מכל פלטפורמת עבודה קיימת – החל מ-Slack, דרך סביבות פיתוח וממשקי אינטרנט, ועד לאפליקציית ה-ChatGPT הפנימית. הוא מנתח בקשות שפה טבעית ומפיק דוחות מעמיקים ולוחות בקרה, תוך חיסכון מוערך של שעתיים עד ארבע שעות לכל שאילתה. עובדים ללא רקע טכני עמוק יכולים כעת להפיק תובנות, בין אם מדובר באבחון תקלות ביצועים וזמני תגובה של מהנדסים, או בהבנת דפוסי אימוץ פיצ'רים על ידי מנהלי מוצר. יכולתו המרשימה ביותר של הסוכן היא היכולת לחצות גבולות ארגוניים ולשלב, למשל, נתוני מכירות עם מדדי הנדסה בשאילתה אחת.
כאן בדיוק נכנס לתמונה Codex, סוכן קידוד הבינה המלאכותית של החברה. משתמשים ניגשים לסוכן הנתונים דרך ממשק שורת הפקודה (CLI) של Codex, והוא למעשה זה שכתב את רוב הקוד של המערכת עצמה. אלא שההישגים המרשימים האלה והפעלת מוצרים שמשווקים באגרסיביות כמו Codex דורשים כוח מחשוב אדיר. ספציפית, הם דורשים יכולות "הסקה" (Inference) – התהליך שבו המודל שולף מידע ומגיב בזמן אמת לבקשות. בנקודה קריטית זו, חזון ההתרחבות של OpenAI נתקל במכשול חומרה משמעותי שמאיים על פעילותה.
המתיחות מאחורי הקלעים של שוק השבבים
הביקוש העצום לשבבי הסקה, שאמורים להוות בעתיד כ-10% מכלל צרכי המחשוב של החברה, יצר קרע דרמטי מול השותפה המרכזית שלה לייצור חומרה. חרף דיווחים קודמים שטענו כי ענקית השבבים אנבידיה (Nvidia) מהססת לממש השקעת ענק ב-OpenAI, מסתבר כי התמונה כנראה הפוכה. שמונה מקורות שונים המעורבים בנושא חושפים כי מפתחת ה-ChatGPT היא זו שמעכבת עסקת השקעה בהיקף של 100 מיליארד דולר, שהייתה אמורה להיסגר כבר לפני שבועות, ובמקביל מחפשת בשקט חלופות טכנולוגיות.
שורש העיכוב נובע מחוסר שביעות רצון מובהק מחלק משבבי הבינה המלאכותית החדשים של אנבידיה. בעוד שזירת התחרות המרכזית בתעשיית ה-AI עוברת להתמקד בזירוז תהליכי הסקה, אנבידיה עדיין שומרת על הדומיננטיות שלה בעיקר בתחום אימון המודלים. פעולת ההסקה דורשת משאבי זיכרון רחבים בהרבה מאימון, שכן השבב מקדיש זמן רב יותר לשליפת נתונים מהירה מאשר לחישובים מתמטיים טהורים. טכנולוגיית ה-GPU של אנבידיה נשענת על זיכרון חיצוני, פשרה ארכיטקטונית שמוסיפה זמן עיבוד מיותר ומאיטה את מהירות התגובה של הצ'אטבוטים.
לשם השוואה, שירותים מתחרים כמו "קלוד" של אנת'רופיק ו"ג'מיני" של גוגל נהנים מיתרון מובנה. הם רצים על שבבי TPU שגוגל מייצרת בעצמה, אשר תוכננו מראש והותאמו בצורה אופטימלית לדרישות ההסקה. כדי לסגור את הפער הטכנולוגי ולהבטיח את המשך תפקודם החלק של מוצרים כמו Codex, החלה OpenAI לנהל מגעים חשאיים עם סטארטאפים שמפתחים שבבים מתחרים, ביניהם Groq ו-Cerebras, בניסיון לבסס עצמאות מחשובית.
קרב בלימה ומסכי עשן
המהלכים השקטים של OpenAI לא נעלמו מעיניה של הנהלת אנבידיה. ברגע שהבינו שם את עומק התסכול, מיהרו לפנות בעצמם ל-Cerebras ול-Groq עם הצעות רכישה נגדיות במטרה לבלום את התחרות. Cerebras דחתה את ההצעה על הסף, ובמקום זאת חתמה על הסכם מסחרי ישיר מול OpenAI שהוכרז בחודש שעבר. Groq, מצידה, הסכימה למכור לאנבידיה אך ורק את הטכנולוגיה שלה במסגרת עסקה שאינה בלעדית, ואנבידיה מיהרה לקלוט לשורותיה את מעצבי השבבים של הסטארטאפ. בינתיים, שיחות ההשקעה הגורליות בין שתי ענקיות הטכנולוגיה ממשיכות להיגרר כבר חודשים ארוכים, כשהמתח מתחת לפני השטח רק גובר.
כלפי חוץ, מנהלי החברות עושים מאמצים כבירים לשדר עסקים כרגיל. מנכ"ל אנבידיה, ג'נסן הואנג, התייחס בשבת האחרונה לפרסומים בנושא וביטל את הדיווחים על משבר כ"שטויות". במקביל, מערך הדוברות של OpenAI דואג לפזר הצהרות לפיהן אנבידיה עדיין מספקת להם את הביצועים הטובים ביותר שקיימים בשוק ההסקה. מנכ"ל OpenAI, סם אלטמן, הגדיל לעשות ופרסם פוסט פומבי ברשת X, בו החמיא לאנבידיה על כך שהיא מייצרת את השבבים הטובים בעולם, והצהיר כי הוא מקווה שישארו לקוחות ענק שלהם לעוד זמן רב. הפער החד בין חילופי המחמאות הפומביים לבין מאבקי השליטה מאחורי הקלעים מוכיח שמרוץ החימוש של הבינה המלאכותית נמצא רק בתחילתו.
