CoreTech

زنگ خطر برای آمریکایی‌ها! هواوی از Atlas 960E و نقشه‌ی راه Ascend پرده برداشت

ابوالفضل | ۲۰ ساعت پیش

هواوی نقشه‌راه جدید شتاب‌دهنده‌های هوش مصنوعی خود را معرفی کرده و قرار است خانواده Ascend 960 را از سال ۲۰۲۷ وارد مرحله جدیدی کند. این شرکت در ادامه، Ascend 970 را برای ۲۰۲۸ و Ascend 980 را برای ۲۰۲۹ در نظر گرفته است. تمرکز اصلی این نسل‌ها بر افزایش توان استنتاج، ظرفیت و پهنای باند حافظه و سرعت ارتباط میان شتاب‌دهنده‌ها خواهد بود.

نخستین عضو این مسیر، Ascend 960DT است که به‌عنوان جانشین Ascend 950 با معماری SIMD/SIMT عرضه می‌شود و از قالب‌های FP32، HF32، FP16، BF16، FP8، MXFP8، HiF8، MXFP4 و HiF4 پشتیبانی می‌کند. طبق توضیحات هواوی، قالب‌های H هم‌زمان دقت و دامنه دینامیکی را در نظر می‌گیرند و می‌توانند جایگزین دو قالب استاندارد ممیز شناور با یک قالب واحد استاندارد شوند.

Ascend 960DT قرار است در سه‌ماهه نخست ۲۰۲۷ عرضه شود؛ یعنی طبق نقشه‌راه اعلام‌شده، سه فصل زودتر از زمان مورد انتظار. این تراشه تا ۲ پتافلاپس توان محاسباتی FP8 و ۴ پتافلاپس FP4 ارائه می‌دهد و به ۲۸۸ گیگابایت حافظه HBM با پهنای باند ۹.۶ ترابایت‌برثانیه مجهز خواهد بود؛ رقمی که نسبت به سری Ascend 950 افزایش ۲.۴ برابری دارد. پهنای باند ارتباط داخلی نیز ۲.۲ ترابایت‌برثانیه است.

پس از آن، Ascend 960PR در سه‌ماهه سوم ۲۰۲۷ عرضه خواهد شد و زمان‌بندی آن یک فصل جلوتر از برآورد قبلی است. هواوی برای این نسخه روی استنتاج سریع‌تر تمرکز کرده و توان FP4 را به ۸ پتافلاپس رسانده است. در مقابل، ظرفیت حافظه HBM به ۱۹۲ گیگابایت کاهش می‌یابد و پهنای باند حافظه ۲.۴ ترابایت‌برثانیه خواهد بود؛ پهنای باند ارتباط داخلی همچنان ۲.۲ ترابایت‌برثانیه است.

برای ۲۰۲۸، هواوی Ascend 970 را به‌عنوان گام معماری بعدی معرفی می‌کند و این تراشه طبق ارقام درج‌شده در اسلایدهای شرکت، تا ۳.۶ پتافلاپس FP8 و ۱۴ پتافلاپس FP4 توان محاسباتی خواهد داشت. ظرفیت HBM برابر ۲۸۸ گیگابایت باقی می‌ماند، اما پهنای باند آن به ۱۴.۴ ترابایت‌برثانیه می‌رسد؛ موضوعی که به استانداردی جدیدتر از HBM3/E اشاره دارد. پهنای باند ارتباط داخلی نیز دو برابر شده و به ۴.۴ ترابایت‌برثانیه خواهد رسید.

Ascend 980 که برنامه عرضه آن برای ۲۰۲۹ اعلام شده، مسیر نسل‌های قبلی را ادامه می‌دهد و توان محاسباتی را به ۷.۲ پتافلاپس در FP8 و ۲۸ پتافلاپس در FP4 می‌رساند. این تراشه به ۳۸۴ گیگابایت حافظه HBM با پهنای باند ۳۸.۴ ترابایت‌برثانیه و ارتباط داخلی ۸ ترابایت‌برثانیه مجهز خواهد شد. با این حال، هواوی تأکید کرده مشخصات ۹۸۰ هنوز احتمال اولیه هستند و ممکن است تا نزدیک عرضه تغییر کنند.

در کنار تراشه‌ها، هواوی Atlas 960E SuperPoD را برای سه‌ماهه سوم ۲۰۲۷ معرفی کرده است؛ سامانه‌ای که نخستین راهکار این شرکت با فناوری NPO یا Near-Package Optics محسوب می‌شود و از موتور نوری Hi-ONE با سرعت انتقال ۷.۲ ترافی‌برثانیه برای هر موتور استفاده می‌کند. این سامانه با خنک‌سازی مایع، ۴۰۹۶ NPU، آدرس‌دهی یکپارچه حافظه و توان ۸ اگزافلاپس FP8 یا ۱۶ اگزافلاپس FP4 طراحی شده است.

Atlas 960E از UnifiedBus برای اتصال داخلی استفاده می‌کند و در محیط D2D در کل دامنه، تأخیر رفت‌وبرگشت ۲ میکروثانیه‌ای دارد. حدود ۵۵۰۰ ماژول Hi-ONE جایگزین ده‌ها هزار ماژول نوری 800G می‌شوند و هواوی کاهش بیش از ۵۵۰ کیلوواتی مصرف انرژی و دسترس‌پذیری ۹۹.۸ درصدی را اعلام کرده است. برخی گزارش‌های رسمی ظرفیت HBM را حدود ۱ پتابایت ذکر می‌کنند، در حالی که حافظه یکپارچه ۲۵۶ ترابایتی نیز مطرح شده است.

هواوی می‌گوید Atlas 960E در مدل‌های ۱۰ تریلیون‌پارامتری، نسبت به Atlas 950 حدود ۲.۳ برابر توان عملیاتی در آموزش با طول توالی ۱۶ هزار و ۲.۵ برابر توان عملیاتی در استنتاج با طول زمینه ۲۵۶ هزار ارائه می‌کند، همچنین تأخیر استنتاج تا ۷۰ درصد کاهش می‌یابد. چند SuperPoD نیز می‌توانند از طریق RoCE یا Lingqu به یکدیگر متصل شوند و در معماری چندمسیره به ۵۱۲ هزار شتاب‌دهنده یا یک میلیون شتاب‌دهنده برسند.

هواوی برای مدیریت رشد نیازهای KV Cache نیز OceanStor M900 را معرفی کرده است؛ راهکاری برای حافظه و ذخیره‌سازی هوش مصنوعی که با شبکه Lingqu، کش گلوبال چندسطحی در مقیاس پتابایت را با دسترسی مستقیم یک‌پرش ایجاد می‌کند. این سامانه KV Cache را از VRAM و حافظه اصلی به SSD گسترش می‌دهد. کلاستر می‌تواند ۶۴ پتابایت ظرفیت داشته و ظرفیت KV Cache هر NPU از گیگابایت به ترابایت افزایش یابد.

OceanStor M900 با ترکیب CPU، شبکه و کنترلر دیسک، امکان دسترسی مستقیم یک‌پرش NPU به SSD را فراهم می‌کند و نیاز به تبدیل پروتکل یا عبور داده از CPU را از میان برمی‌دارد. هواوی می‌گوید تأخیر دسترسی از چند میلی‌ثانیه به ۶۰ میکروثانیه کاهش یافته که معادل ۹۰ درصد افت است. ظرفیت دسترسی تجمیعی یک کلاستر نیز ۴۰ ترابایت‌برثانیه اعلام شده که به گفته شرکت، ۱.۵ برابر استانداردهای صنعت است.

منبع

ابوالفضل | ۲۰ ساعت پیش

دیدگاهتان را بنویسید