איור 1: יתרונות מרכזיים של שיתוף פעולה ארוזה (DWDMCPO) של חלוקת אורך גל צפופה. (קרדיט תמונה: Scintil Photonics)
יש אמירה בתחום עיצוב מרכזי הנתונים: "השתמש בכבלי נחושת בכל מקום אפשרי, ופנה לטכנולוגיה אופטית רק כאשר סיבים נחוצים לחלוטין". במשך שנים, הגישה הפרגמטית של התעשייה הייתה לתעדף-כבלי נחושת בעלות נמוכה עד שחוקי הפיזיקה מאלצים שדרוג טכנולוגי. אבל היום, כשאשכולות מחשוב של בינה מלאכותית (AI) מתקדמים לקראת קנה המידה של "מפעלי כוח מחשוב" הפורסים מיליוני יחידות עיבוד גרפיות (GPU), ויעילות עלות-מרכזי הנתונים עומדת בפני לחץ עצום, אנשים מגלים ש"אין-אף אחד{4}}אופטיקה-הגיעה לנקודת חילוף טכנולוגית במהרה.
אדריכלי רשת כבר מזמן מודעים לכך שלכבלים נחושת יש מגבלות משמעותיות במרחק השידור בתרחישי מהירות- גבוהה, אך מעטים ניתחו את הסיבות הבסיסיות מנקודת מבט פיזית בסיסית. למרות שמהנדסי רשת דחפו את הגבולות של מרחק העברת כבלי נחושת ורוחב הפס עד הקצה עם המומחיות שלהם, לא ניתן להתגבר על אילוצי חוקי הפיזיקה; אפילו העיצובים ההנדסיים הגאונים ביותר נאבקים להתגבר על המגבלות הטבועות של כבלי נחושת. הבנה זו מסבירה מדוע התעשייה עוברת בדחיפות לעבר טכנולוגיית Co-Packed Optics (CPO).
ככל שתדירות האותות החשמליים המועברים דרך כבלי נחושת גבוהה יותר, כך קצב הסמלים ורוחב הפס גבוהים יותר, וכך הם יכולים לשאת יותר מידע. הבעיה היא שככל שתדירות האות עולה, מרחק השידור יורד באופן משמעותי. ישנם שני גורמים עיקריים לאובדן אות: אפקט העור ואובדן דיאלקטרי.
אפקט העור: "ריכוז פני השטח" של זרם
כאשר אות AC עובר דרך כבל נחושת, השדה המגנטי המשתנה גורם לזרמי מערבולת בתוך המוליך. השדה המגנטי שנוצר על ידי זרמי מערבולת אלו מבטל את השדה המגנטי של האות במרכז הכבל. ככל שהשדה המגנטי של האות משתנה מהר יותר-כלומר, ככל שהתדירות גבוהה יותר-כך אפקט הביטול הזה מתחזק.
התוצאה הישירה היא שהזרם "נסחט" לתוך שכבת משטח דקה במיוחד של המוליך; העובי של שכבה זו ידוע בשם עומק העור. העברת אותות נוכחית במרכזי נתונים בינה מלאכותית משתמשת בדרך כלל בתדרים סביב 53 גיגה-הרץ. בתדר זה, עומק העור של כבלי נחושת הוא 0.3 מיקרומטר בלבד. שכבת שידור דקה כזו מנצלת פחות מ-1% משטח החתך-של המוליך, מה שגורם להתנגדות הכבל להרקיע שחקים-אפילו עולה על התנגדות DC ביותר מפי 100.
הפסד דיאלקטרי: "פיזור אנרגיה" בשכבת הבידוד
אשם מרכזי נוסף מאחורי הנחתת האות בכבלי נחושת הוא אובדן דיאלקטרי. בתרחישי-תדר גבוה ברמת ג'יגה-הרץ, המולקולות בתוך הדיאלקטרי המבודד של הכבל אינן יכולות לעמוד בקצב התנודות המהירות של השדה החשמלי. ההשהיה בין התנודות המהירות של השדה החשמלי לבין תגובת הפיגור של המולקולות ממירה את האנרגיה האלקטרומגנטית של האות לאנרגיה תרמית, וכתוצאה מכך לאובדן אנרגיה.
הפסדים כפולים: החולשה הקטלנית של כבלי נחושת
כאשר אפקט העור והאובדן הדיאלקטרי פועלים במקביל, אובדן האות בכבלי נחושת גדל באופן אקספוננציאלי ככל שהתדר עולה.
כדי להמחיש זאת בבירור: בתדר של 50 גיגה-הרץ, אפילו עם כבלי נחושת- באיכות גבוהה, ההפסד המשולב משתי ההשפעות הללו יצרוך למעלה מ-90% מתקציב הספק האות במרחק שידור של 2 מטרים. התכונות הפיזיקליות של כבלי נחושת מכתיבות סתירת ליבה בלתי ניתנת להתאמה: לא ניתן להשיג רוחב פס ומרחק שידור בו-זמנית.
אופטיקה ארוזה (DWDMCPO) בחלוקת אורך גל צפופה-
כיום, צוואר הבקבוק של הביצועים עבור אשכולות אימון בינה מלאכותית עבר מפעולות -נקודה צפה בשנייה (FLOPS) לדרישות רוחב פס.
ברשתות הניתנות להרחבה עם זיכרון עקבי, נדרש דור חדש של טכנולוגיית רשת כדי לעמוד בדרישות מרובות:
|כאשר צריכת החשמל הופכת לגורם מגביל בפריסות מרכזי נתונים, נדרשת צריכת חשמל נמוכה יותר לכל סיביות;
| מכיוון שפעולות נקודה צפה- אינן עוד צוואר הבקבוק, יש לספק רוחב פס גדול יותר עבור כל מעבד;
| ככל שהמרחב הפיזי לפריסת סיבים הופך מוגבל, יש להשיג צפיפות אינטגרציה גבוהה יותר;
| כדי לאפשר קנה מידה אופקי- חוצה, יש לתמוך במרחקי שידור ארוכים יותר;
| כדי לשמור על עקביות תחום הזיכרון ולשפר את ניצול ה-GPU, נדרשת השהיית זנב נמוכה במיוחד-;
| אמינות גבוהה וקלות תחזוקה הם גם חיוניים.
כאשר השהיית זנב הופכת לאילוץ ליבה, עמידה בדרישות שלעיל תגביר משמעותית את ניצול ה-GPU (כמה הערכות מודלים מצביעות על כך שהניצול יכול יותר מפי שניים), תפחית משמעותית את צריכת החשמל של הרשת, ותשפר את ביצועי המודל מקצה ל-קצה. נכון לעכשיו, DWDMCPO היא הגישה הטכנית היחידה המסוגלת לעמוד בו זמנית בדרישות המחמירות הללו, והיא תביא-טרנספורמציות מרחיקות לכת בעלות-תועלת למפעילי מרכזי נתונים בקנה מידה גדול.
על ידי העברת אורכי גל מרובים של אור על סיב בודד, טכנולוגיית DWDMCPO מספקת לכל GPU מספר ערוצים רחבים ומהירות-נמוכה. על ידי שינוי קנה המידה של מספר אורכי הגל המשודרים מ-1 ל-8, 16, או אפילו יותר, דפוס קנה המידה הגיאומטרי הזה עשוי לחולל מהפכה ברשתות AI, בדיוק כפי שטכנולוגיית DWDM חוללה מהפכה בעמוד השדרה של האינטרנט לפני 25 שנה.
קצב השידור של-הערוצים היחיד של DWDM הוא כ-50-64 Gbit/s, שנכלל בקטגוריית מהירות השידור-הנמוכה. מאפיין זה מאפשר למהנדסים לפשט את ערכת קידוד הנתונים מ-PAM4 ל-NRZ. הפשטות זו מבטלת מספר רב של שלבי עיבוד אותות יקרים ועתירי אנרגיה-, תוך השגת הפחתות כפולות בצריכת החשמל והשהייה על ידי ייעול נתיב העברת האות.
חביון זנב הוא "הרוצח השקט" השוחק את החזר ה-ROI של מרכז הנתונים. כאשר אשכולות GPU מעבדים אסימוני נתונים, הם דורשים קלט סיביות רציף וניתן לחיזוי. אם ביט בודד חווה עיכוב שידור, שאר האשכול הופך ללא שימוש, מה שמפחית משמעותית את ניצול המעבד. ככל שמספר המעבדים באשכול גדל, ההסתברות להשהיית סיביות זנב ברמת p999 עולה משמעותית, והשימוש במעבד יורד בהתאם.
ללא טכנולוגיית DWDMCPO-נמוכה,-הספק-נמוך וטווח ארוך, יכולת ההרחבה של רשתות תהיה מוגבלת, וכתוצאה מכך הביצועים של מודלים של שפות גדולות (LLMs) יוגבלו. רשתות הניתנות להרחבה ב-קנה מידה גדול יותר, שטוח יותר,-נמוך -יכולות לתמוך במטמוני מפתח- גדולים יותר, ולהגדיל ישירות את גודל חלון ההקשר של המודל ורלוונטיות התוכן, ובכך להרחיב למעשה את זיכרון העבודה האפקטיבי של ה-LLM. רוחב פס מוגבר- נמוך טומן בחובו גם את הפוטנציאל להגדיל את מספר שכבות השנאים, מה שמאפשר למודלים להחזיק ביכולות חשיבה והיגיון עמוקות יותר. בקיצור: פריצת אילוצי התקשורת בין שבבים מאפשרת ל-LLMs לאחסן יותר מידע בזיכרון העבודה ולהשלים שלבי חשיבה נוספים מבלי לגמגם.
כבלי נחושת היו ללא ספק טכנולוגיה מצוינת בימיו, אך המגבלות הפיזיות הטמונות בה יצרו צורך דחוף בטכנולוגיות רשת מתקדמות יותר כדי לשפר משמעותית את ההחזר על ההשקעה עבור מרכזי נתונים בקנה מידה גדול ולהרחיב את היכולות של LLMs.
בעוד כמה שנים, מרכזי נתונים בינה מלאכותית הבנויים לחלוטין על כבלי נחושת יהפכו לבלתי נתפסים כמו חיבורי אינטרנט-ארוכים המסתמכים על נחושת בלבד.
מפעילים של מרכזי נתונים בקנה מידה גדול, משקיעים, מפתחי LLM ובעלי עניין אחרים בתשתית AI חייבים להתייחס ברצינות למגמה טכנולוגית זו: היא לא רק תעצב מחדש את נוף העלות האפקטיביות-של מרכזי הנתונים, אלא גם תרחיב את גבולות יכולות הבינה המלאכותית. ארגונים שיאמצו תחילה את טכנולוגיית DWDMCPO יבססו יתרונות ארכיטקטוניים במונחים של עלות, צריכת חשמל וביצועים; היתרונות הללו ימשיכו להתגבר ככל שתשתית הבינה המלאכותית תגדל.
