מיקרון הציגה את זיכרון ה־LPDDR‑SOCAMM2 הראשון בעולם בנפח של 256 GB, מושלם ל-AI.

מיקרון משיקה סוג חדש של זיכרון למרכזי נתונים

החברה מיקרון הציגה בעולם את המודול הראשון של זיכרון LPDRAM SOCAMM2 בנפח 256 GB, שנוצר במיוחד עבור מרכזי עיבוד נתונים בעלי ביצועים גבוהים ומשימות בינה מלאכותית.

מה חדש?
פרמטר זיכרון מסורתי LPDRAM SOCAMM2
צריכת אנרגיה - פי שלוש נמוך יותר
גודל המודול - קומפקטי, בנוי מקריסטלים מונוליטים 32 Gb
תעבור נתונים - משופר עבור תהליך inference ב-AI
זמן תגובה - מצטמצם משמעותית

במשק עבודה עם מעבד בעל שמונה ערוצים ו-2 TB של זיכרון כולל, מהירות הפעלת מודלי AI (זמן עד הטוקן הראשון) עולה יותר מ־שתי וחצי פעמים.

למי זה מתאים?
המודול מיועד ל:

* השקת מודלים שפה גדולים;
* כל עומסי עבודה שבהם קריטיים נפח הזיכרון, תעבור נתונים וזמן תגובה;
* סצנות שבהן ניתן להעביר חלק מה-KV cache מזיכרון הווידאו לזיכרון מערכת חסכוני יותר ללא אובדן ביצועים.

פורמט ושיתוף פעולה
SOCAMM2 – גרסה קומפקטית של פורמט RDIMM, אך עם צריכת אנרגיה נמוכה יותר. פיתוח הזיכרון בוצע בשיתוף עם Nvidia, מה שמדגיש את התאמתו לאקסלרטור GPU עבור AI.

כך מיקרון מציעה פתרון יעיל למרכזי נתונים, המאפשר לצמצם עלויות אנרגיה ומרחב, תוך שיפור ביצועי עומסי AI.