CoreTech

AMD Helios rack

رک هوش‌مصنوعی Helios معرفی شد؛ مقایسه با نسل قبل و رقابت با انویدیا به کمک گرافیک ۴۳۲ گیگابایتی

ابوالفضل | ۱۰ ساعت پیش

ای‌ام‌دی با انتشار جزئیات کامل رک هوش مصنوعی Helios، از راهکار نسل بعدی خود برای مراکز داده پرده برداشت؛ پلتفرمی که با ترکیب شتاب‌دهنده‌های AMD Instinct MI455X، پردازنده‌های نسل ششم EPYC Venice و فناوری شبکه Pensando طراحی شده است. این محصول به‌طور مستقیم بازار هوش مصنوعی پیشرفته (Frontier AI) و رایانش حاکمیتی (Sovereign Computing) را هدف گرفته و تلاش می‌کند جایگاه رک‌های هوش مصنوعی انویدیا را به چالش بکشد. AMD همچنین Helios را نخستین راهکار کامل خود در سطح رک معرفی می‌کند که بر پایه استانداردهای باز توسعه یافته و وابستگی به یک فروشنده خاص را کاهش می‌دهد.

روند معرفی Helios از رویداد Advancing AI 2025 آغاز شد؛ جایی که AMD نخستین بار این معماری رک‌اسکیل را برای پاسخ به نیازهای نسل جدید هوش مصنوعی عامل‌ها (Agentic AI) به نمایش گذاشت. پس از آن نمونه‌های اولیه در OCP 2025 به نمایش درآمدند و نسخه کامل نیز در نمایشگاه Computex روی صحنه رفت. هرچند عرضه رسمی Helios برای رویداد Advancing AI 2026 برنامه‌ریزی شده، اما AMD اکنون تقریباً تمام مشخصات سخت‌افزاری و معماری آن را منتشر کرده است و از همین حالا Helios را رقیب مستقیم رک‌های Oberon و Kyber انویدیا می‌داند.

بخش اصلی قدرت Helios را خانواده شتاب‌دهنده‌های AMD Instinct MI400 تشکیل می‌دهد؛ محصولاتی که بر پایه معماری CDNA 5 توسعه یافته‌اند. این معماری سه تغییر اساسی را نسبت به نسل قبل به همراه دارد و نخست افزایش قابل‌توجه ظرفیت و پهنای باند حافظه HBM4، دوم پشتیبانی از قالب‌های جدید و عریض‌تر پردازش هوش مصنوعی با توان عملیاتی بالاتر و سوم فراهم کردن شبکه‌سازی مقیاس‌پذیر در سطح رک بر پایه استانداردهای باز UALoE، UAL و UEC تا ارتباط میان پردازنده‌های گرافیکی با تأخیر کمتر و انعطاف بیشتر انجام شود.

Helios Rack

خانواده MI400 از سه مدل اصلی تشکیل شده، دو مدل MI455X و MI450X برای آموزش و استنتاج مدل‌های هوش مصنوعی در مقیاس بسیار بزرگ طراحی شده‌اند و در میان آن‌ها، MI455X به‌عنوان پردازنده گرافیکی اصلی رک Helios به کار گرفته می‌شود. در مقابل، مدل MI430X بیشتر برای رایانش با کارایی بالا (HPC) و پروژه‌های هوش مصنوعی حاکمیتی در نظر گرفته شده و علاوه بر پشتیبانی از حافظه HBM4، بالاترین توان پردازش FP64 و قابلیت اجرای بارهای کاری ترکیبی CPU و GPU را ارائه می‌دهد.

در میان اعضای این خانواده، Instinct MI455X مهم‌ترین محصول AMD محسوب می‌شود. این شتاب‌دهنده در دقت FP4 به توان پردازشی ۴۰ پتافلاپس و در دقت FP8 به ۲۰ پتافلاپس دست پیدا می‌کند که نسبت به سری MI350 حدود دو برابر افزایش عملکرد را نشان می‌دهد. برای مقایسه پردازنده گرافیکی NVIDIA Rubin در دقت FP4 توان ۵۰ پتافلاپس و در FP8 توان ۱۷.۵ پتافلاپس ارائه می‌دهد؛ موضوعی که نشان می‌دهد AMD در FP8 برتری عددی دارد، اما در FP4 همچنان Rubin توان خام بیشتری در اختیار می‌گذارد.

AMD در بخش حافظه نیز ارتقای قابل‌توجهی ایجاد کرده و ظرفیت حافظه MI455X از ۲۸۸ گیگابایت HBM3e در نسل قبل به ۴۳۲ گیگابایت HBM4 رسیده که افزایشی ۵۰ درصدی محسوب می‌شود. پهنای باند حافظه نیز از ۸ ترابایت‌برثانیه در سری MI350 به ۱۹.۶ ترابایت‌برثانیه افزایش یافته و بیش از دو برابر شده است. در سوی مقابل، پردازنده NVIDIA Rubin به ۲۸۸ گیگابایت HBM4 با پهنای باند ۲۲ ترابایت‌برثانیه مجهز است؛ بنابراین انویدیا پهنای باند بیشتری ارائه می‌دهد، اما AMD ظرفیت حافظه بالاتری در اختیار کاربران قرار می‌دهد.

براساس اطلاعات منتشرشده، خانواده MI400 از معماری CDNA 5 استفاده می‌کند و با فناوری ساخت ترکیبی ۲ و ۳ نانومتری تولید می‌شود. این خانواده از طراحی MCM هشت‌چیپلتی بهره می‌برد و مدل MI455X از حافظه ۴۳۲ گیگابایتی HBM4 استفاده می‌کند. توان پردازشی آن در دقت FP16 به ۱۰ پتافلاپس می‌رسد و نسبت به MI350 که ۲.۵ پتافلاپس ارائه می‌داد، چهار برابر افزایش یافته است. همچنین حداکثر توان مصرفی این خانواده هنوز به‌صورت رسمی اعلام نشده، اما AMD تأیید کرده است که نسخه‌های رک‌محور با خنک‌کننده غیرفعال و سامانه خنک‌کننده مایع عرضه خواهند شد.

مقایسه نسل‌های مختلف شتاب‌دهنده‌های Instinct نشان می‌دهد روند افزایش توان پردازشی طی چند سال اخیر بسیار چشمگیر بوده است، مدل MI350X که بر پایه معماری CDNA 4 و فناوری ساخت ۳ نانومتری توسعه یافته، از طراحی هشت‌چیپلتی بهره می‌برد و ۱۶۳۸۴ هسته پردازشی، فرکانس ۲۴۰۰ مگاهرتز، توان ۵۲۰۰ تاپس در پردازش INT8، توان ۲۰ پتافلاپس FP4، پنج پتافلاپس FP8، حدود ۲.۵ پتافلاپس FP16، توان ۱۵۷.۳ ترافلاپس FP32 و ۷۸.۶ ترافلاپس FP64 را ارائه می‌دهد. این مدل همچنین به ۲۸۸ گیگابایت HBM3e، کش ۲۵۶ مگابایت Infinity Cache، گذرگاه ۸۱۹۲ بیتی، پهنای باند ۸ ترابایت‌برثانیه و توان مصرفی ۱۴۰۰ وات در نسخه MI355X مجهز شده است.

یک پله پایین‌تر MI325X و MI300X قرار دارند که هر دو بر پایه معماری Aqua Vanjaram (CDNA 3) و فناوری ساخت ترکیبی ۵ و ۶ نانومتری تولید شده‌اند. هر دو پردازنده از طراحی هشت‌چیپلتی، ۱۹۴۵۶ هسته پردازشی، فرکانس ۲۱۰۰ مگاهرتز، توان ۲۶۱۴ تاپس INT8، حدود ۲.۶ پتافلاپس FP8، توان ۱.۳ پتافلاپس FP16، مقدار ۱۶۳.۴ ترافلاپس در FP32، توان ۸۱.۷ ترافلاپس FP64، ظرفیت ۲۵۶ مگابایت Infinity Cache و گذرگاه ۸۱۹۲ بیتی بهره می‌برند. تفاوت اصلی آن‌ها در حافظه است؛ MI325X به ۲۵۶ گیگابایت HBM3e با پهنای باند ۶ ترابایت‌برثانیه و توان ۱۰۰۰ وات مجهز شده، در حالی که MI300X از ۱۹۲ گیگابایت HBM3 با پهنای باند ۵.۳ ترابایت‌برثانیه و توان ۷۵۰ وات استفاده می‌کند.

قدیمی‌ترین عضو حاضر در این مقایسه، Instinct MI250X با معماری Aldebaran (CDNA 2) و فناوری ساخت ۶ نانومتری است، این پردازنده از دو چیپلت پردازشی، ۱۴۰۸۰ هسته، فرکانس ۱۷۰۰ مگاهرتز، توان ۳۸۳ تاپس INT8، حدود ۳۸۳ ترافلاپس FP16، عدد ۹۵.۷ ترافلاپس FP32 و ۴۷.۹ ترافلاپس FP64 بهره می‌برد. همچنین ۱۲۸ گیگابایت حافظه HBM2e با پهنای باند ۳.۲ ترابایت‌برثانیه، گذرگاه ۸۱۹۲ بیتی و توان مصرفی ۵۶۰ وات از دیگر مشخصات آن هستند. AMD علاوه بر این، در جدول خود نسل آینده MI500 را نیز فهرست کرده که قرار است با معماری CDNA 6، فناوری ساخت ۲ نانومتری و حافظه HBM4E عرضه شود، اما بیشتر مشخصات فنی آن هنوز اعلام نشده است.

پردازنده میزبان رک Helios، نسل ششم AMD EPYC Venice با معماری Zen 6 است؛ تراشه‌ای که به گفته AMD نخستین پردازنده رده HPC محسوب می‌شود که با فناوری ساخت ۲ نانومتری TSMC وارد تولید انبوه خواهد شد. این نسل با استفاده از ترانزیستورهای Nanosheet یا GAA به‌جای FinFET توسعه یافته است؛ تغییری که طبق اعلام TSMC می‌تواند در توان مصرفی یکسان، ۱۰ تا ۱۵ درصد عملکرد بیشتر ارائه دهد یا در عملکرد برابر، ۲۵ تا ۳۰ درصد مصرف انرژی را کاهش دهد، همچنین تراکم ترانزیستورها نیز تا ۱۵ درصد افزایش پیدا می‌کند.

AMD اعلام کرده پردازنده‌های EPYC Venice در پیکربندی کامل می‌توانند تا ۲۵۶ هسته و ۵۱۲ رشته پردازشی را در قالب ۸ دای پردازشی (CCD) و ۲ دای ورودی و خروجی (IOD) در اختیار مراکز داده قرار دهند. این شرکت از بیش از ۷۰ درصد افزایش عملکرد و بهره‌وری نسبت به نسل قبل و همچنین بیش از ۳۰ درصد افزایش تراکم رشته‌ها خبر داده است. AMD معتقد است با گسترش هوش مصنوعی عامل‌ها، نقش پردازنده مرکزی نسبت به گذشته چندین برابر مهم‌تر شده و دیگر تنها پردازنده گرافیکی تعیین‌کننده عملکرد سامانه نیست.

به گفته AMD، رقیب مستقیم Venice در این بخش پردازنده NVIDIA Vera با هسته‌های Arm است. این شرکت ادعا می‌کند بنچمارک‌های اولیه نشان می‌دهند نه‌تنها پردازنده‌های نسل پنجم Turin، بلکه نسل ششم Venice نیز در عملکرد تک‌هسته‌ای، توان پردازش مداوم و هزینه کلی مالکیت (TCO) برتری محسوسی نسبت به Vera دارند؛ هرچند هنوز جزئیات کامل این آزمون‌ها منتشر نشده است.

AMD در جدول تحول پردازنده‌های EPYC، نسل آینده EPYC Verano را نیز معرفی کرده که برای سال ۲۰۲۷ برنامه‌ریزی شده است. این خانواده با برند EPYC 9007، معماری Zen 7، سوکت SP7 و فناوری ساخت نامشخص عرضه خواهد شد و هنوز اطلاعاتی درباره تعداد هسته‌ها، رشته‌ها، کش، گذرگاه PCIe یا توان مصرفی آن منتشر نشده است.

نسل EPYC Venice با برند EPYC 9006 در سال ۲۰۲۶ عرضه می‌شود و از سوکت SP7 استفاده خواهد کرد. اگرچه جدول AMD در بخش تعداد هسته، ۹۶ هسته و ۱۹۲ رشته را ثبت کرده، اما این شرکت در توضیحات رسمی خود به پیکربندی‌هایی تا ۲۵۶ هسته و ۵۱۲ رشته نیز اشاره کرده است. این خانواده از حافظه DDR5-12800، شانزده کانال حافظه، ۱۲۸ تا ۱۹۲ مسیر PCIe 6 و توان مصرفی حدود ۶۰۰ وات پشتیبانی می‌کند و طراحی آن نیز به‌صورت هشت CCD و دو IOD ذکر شده است.

در نسل فعلی خانواده EPYC Turin با برند EPYC 9005 در چند نسخه مختلف عرضه می‌شود، مدل Turin-X که در سال ۲۰۲۵ معرفی می‌شود، از معماری Zen 5، فناوری ساخت ۴ نانومتری TSMC، سوکت SP5 و LGA 6096 بهره می‌برد. این پردازنده تا ۱۲۸ هسته، ۲۵۶ رشته، ۱۵۳۶ مگابایت کش L3، طراحی شانزده CCD و یک IOD، حافظه DDR5-6000، دوازده کانال حافظه و توان مصرفی ۵۰۰ وات را ارائه می‌دهد.

مدل Turin Dense نیز در سال ۲۰۲۵ با معماری Zen 5C و فناوری ساخت ۳ نانومتری معرفی می‌شود. این پردازنده حداکثر ۱۹۲ هسته و ۳۸۴ رشته، ۳۸۴ مگابایت کش L3، طراحی دوازده CCD و یک IOD، حافظه DDR5-6400، دوازده کانال حافظه، ۱۲۸ مسیر PCIe 5 و توان مصرفی ۵۰۰ وات را در اختیار کاربران قرار می‌دهد. نسخه استاندارد Turin که در سال ۲۰۲۴ عرضه شده نیز از ۱۲۸ هسته، ۲۵۶ رشته، ۳۸۴ مگابایت کش L3 و توان مصرفی ۴۰۰ وات بهره می‌برد.

در نسل EPYC 9004 نیز چند خانواده مختلف حضور دارند که Siena با معماری Zen 4 و سوکت SP6 تا ۶۴ هسته و ۱۲۸ رشته، ۲۵۶ مگابایت کش L3، شش کانال حافظه DDR5-5200، ۹۶ مسیر PCIe 5 و توان مصرفی ۷۰ تا ۲۲۵ وات را ارائه می‌دهد. Bergamo با معماری Zen 4C دارای ۱۲۸ هسته، ۲۵۶ رشته، ۲۵۶ مگابایت کش، ۱۲ کانال DDR5-5600 و توان ۳۲۰ وات است. Genoa-X نیز با ۹۶ هسته، ۱۹۲ رشته، ۱۱۵۲ مگابایت کش L3 و توان ۴۰۰ وات عرضه شده و نسخه استاندارد Genoa نیز از ۹۶ هسته، ۱۹۲ رشته، ۳۸۴ مگابایت کش L3 و همان توان مصرفی استفاده می‌کند.

پس از بخش پردازشی، AMD به زیرساخت ارتباطی Helios می‌رسد؛ جایی که دو تراشه اختصاصی Pensando Vulcano 800 AI NIC و Pensando Salina DPU وظیفه مدیریت ارتباطات را بر عهده دارند. این دو محصول برای رقابت مستقیم با ConnectX-8 و BlueField-3 و BlueField-4 انویدیا توسعه یافته‌اند و قرار است مقیاس‌پذیری افقی و عمودی رک Helios را افزایش دهند.

کارت شبکه Pensando Vulcano 800 AI NIC از اتصال ۸۰۰ گیگابیت‌برثانیه‌ای اترنت پشتیبانی می‌کند و برای هر پردازنده گرافیکی تا ۲.۴ ترابیت‌برثانیه پهنای باند Scale-out فراهم می‌سازد که AMD آن را تا هشت برابر بیشتر از نسل‌های قبلی توصیف می‌کند. این کارت از رابط UAL و PCIe Gen6 برای ارتباط کم‌تأخیر با پردازنده‌های گرافیکی استفاده می‌کند، از استاندارد UEC و فناوری RDMA Ethernet پشتیبانی دارد و گذرگاه UALink over Ethernet (UALoE) نیز امکان اتصال یکپارچه حداکثر ۷۲ پردازنده گرافیکی را در سطح یک رک فراهم می‌کند.

تراشه Pensando Salina DPU نیز مسئول مدیریت ارتباط میان سرورهای هوش مصنوعی و شبکه‌های سازمانی است و بارهای مربوط به شبکه، امنیت و ذخیره‌سازی را از دوش پردازنده مرکزی برمی‌دارد. این DPU به ۱۶ هسته Arm N1 مجهز شده و AMD اعلام می‌کند نسبت به اجرای مستقیم این وظایف توسط CPU حدود ۴۰ درصد عملکرد بهتر دارد، دو برابر سریع‌تر از نسل قبلی DPUهای این شرکت عمل می‌کند و حدود ۴۰ درصد نیز از NVIDIA BlueField-3 سریع‌تر است.

رک AMD Helios بر پایه استاندارد Meta Open Rack Wide که در پروژه OCP (Open Compute Project) ارائه شده، طراحی شده است. این سامانه به‌طور کامل از خنک‌کننده مایع استفاده می‌کند و تمامی ۷۲ پردازنده گرافیکی آن به صفحات مسی خنک‌کننده مایع مجهز هستند. ساختار داخلی رک شامل ۱۸ سینی پردازشی (Compute Tray) و ۶ سوئیچ است که هر سینی چهار شتاب‌دهنده Instinct MI455X، یک پردازنده EPYC Venice، یک Pensando Salina DPU و یک Pensando Vulcano 800 AI NIC را در خود جای می‌دهد.

در مجموع رک Helios از ۷۲ پردازنده گرافیکی و ۱۸ پردازنده مرکزی بهره می‌برد، هر پردازنده EPYC Venice می‌تواند تا ۲۵۶ هسته را در اختیار قرار دهد؛ بنابراین مجموع هسته‌های پردازشی CPUها در بالاترین پیکربندی به حدود ۴۶۰۸ هسته می‌رسد. این رک همچنین در مجموع بیش از ۱۸ هزار هسته پردازشی گرافیکی را در اختیار مراکز داده قرار می‌دهد تا اجرای مدل‌های بزرگ هوش مصنوعی در مقیاس رک امکان‌پذیر شود.

از نظر ابعاد و مصرف انرژی نیز Helios در دسته بزرگ‌ترین سامانه‌های هوش مصنوعی قرار می‌گیرد. وزن این رک حدود ۵۰۰۰ پوند، معادل تقریباً ۲۲۶۸ کیلوگرم است و توان مصرفی آن بین ۲۲۵ تا ۲۴۵ کیلووات اعلام شده است. توان محاسباتی کل سامانه به ۲.۹ اگزافلاپس در دقت FP4 و ۱.۴ اگزافلاپس در FP8 می‌رسد. علاوه بر این، رک از ۳۱ ترابایت حافظه HBM4، پهنای باند حافظه ۱.۴ پتابایت‌برثانیه، ۴۳ ترابایت‌برثانیه پهنای باند Scale-out و ۲۶۰ ترابایت‌برثانیه پهنای باند ارتباط داخلی Scale-up بهره می‌برد.

طبق گزارش منتشرشده، قیمت هر رک Helios حدود ۵ تا ۵.۵ میلیون دلار برآورد شده است، AMD این محصول را برای آموزش و استنتاج مدل‌های بسیار بزرگ هوش مصنوعی، رایانش حاکمیتی و مراکز داده‌ای طراحی کرده که به ظرفیت حافظه بالا، ارتباطات پرسرعت و مقیاس‌پذیری گسترده نیاز دارند. این شرکت معتقد است ترکیب پردازنده‌های جدید، شبکه Pensando و استانداردهای باز می‌تواند هزینه کلی مالکیت را در مقایسه با راهکارهای سنتی کاهش دهد.

Helios Rack

Helios در مقایسه مستقیم با NVIDIA Vera Rubin NVL72 (Oberon) هر دو رک از ۷۲ پردازنده گرافیکی استفاده می‌کنند، اما Helios به شتاب‌دهنده‌های Instinct MI455X با معماری CDNA 5 مجهز است؛ در حالی که رقیب از پردازنده‌های NVIDIA Rubin بهره می‌برد. ظرفیت حافظه هر پردازنده گرافیکی در Helios برابر ۴۳۲ گیگابایت HBM4 است، اما Rubin تنها ۲۸۸ گیگابایت HBM4 در اختیار دارد. به همین دلیل مجموع حافظه رک AMD به ۳۱ ترابایت می‌رسد، در حالی که این رقم در رک انویدیا ۲۰.۷ ترابایت است.

در مقابل انویدیا همچنان در پهنای باند حافظه برتری دارد و هر پردازنده Rubin به ۲۲ ترابایت‌برثانیه پهنای باند دسترسی دارد، در حالی که این مقدار برای MI455X برابر ۱۹.۶ ترابایت‌برثانیه است. در نتیجه مجموع پهنای باند حافظه رک Oberon به حدود ۱۵۸۰ ترابایت‌برثانیه می‌رسد و Helios حدود ۱۴۱۱ ترابایت‌برثانیه پهنای باند تجمیعی ارائه می‌دهد. بنابراین AMD با Helios ظرفیت حافظه بیشتری فراهم می‌کند، اما انویدیا در سرعت دسترسی به حافظه همچنان دست بالاتر را دارد.

در بخش توان پردازشی نیز تفاوت‌هایی دیده می‌شود و Helios در دقت FP4 به ۲.۹ اگزافلاپس و در FP8 به ۱.۴ اگزافلاپس می‌رسد. در مقابل رک Vera Rubin NVL72 توان ۳.۶ اگزافلاپس را در قالب NVFP4 برای استنتاج و ۲.۵۲ اگزافلاپس را برای آموزش مدل‌ها ارائه می‌دهد. از نظر پردازنده مرکزی نیز AMD از ۱۸ پردازنده EPYC Venice با پشتیبانی از حداکثر ۲۵۶ هسته در هر پردازنده استفاده می‌کند، اما انویدیا ۳۶ پردازنده Vera مبتنی بر هسته‌های Arm Olympus با مجموع ۳۱۶۸ هسته را در رک خود قرار داده است.

در بخش ارتباطات داخلی هر دو پلتفرم Helios و رقیبش پهنای باند ۲۶۰ ترابایت‌برثانیه را برای ارتباط Scale-up ارائه می‌دهند، اما فناوری مورد استفاده آن‌ها متفاوت است. AMD از UALink over Ethernet (UALoE) بهره می‌گیرد، در حالی که انویدیا از NVLink 6 استفاده می‌کند. در ارتباطات Scale-out نیز Helios با ۴۳ ترابایت‌برثانیه مبتنی بر Pensando Vulcano 800G و Salina DPU در برابر ۲۸.۸ ترابایت‌برثانیه مبتنی بر ConnectX-9 SuperNIC و BlueField-4 DPU در رک انویدیا قرار می‌گیرد.

هر دو سامانه از خنک‌کننده مایع استفاده می‌کنند، اما AMD طراحی خود را بر پایه استانداردهای OCP و مانیفولدهای اتصال سریع توسعه داده است؛ در حالی که انویدیا از طراحی ماژولار MGX بدون کابل استفاده می‌کند. تفاوت مهم دیگر در اکوسیستم نرم‌افزاری دیده می‌شود؛ AMD در Helios بر ROCm و استانداردهای باز تکیه دارد و پشتیبانی بومی از PyTorch، JAX، ONNX، vLLM و Triton را ارائه می‌دهد، اما انویدیا همچنان از اکوسیستم اختصاصی CUDA و مجموعه AI Enterprise استفاده می‌کند.

مهم‌ترین مزیت رقابتی Helios نسبت به رقیب، ظرفیت بسیار بیشتر حافظه HBM4، پهنای باند بالاتر در ارتباطات Scale-out و استفاده از استانداردهای کاملاً باز مانند OCP، UEC و UALink است که وابستگی کاربران به یک فروشنده را کاهش می‌دهد. در مقابل انویدیا همچنان در برخی قالب‌های پردازش کم‌دقت، توان خام بیشتری ارائه می‌کند و از اکوسیستم نرم‌افزاری بالغ‌تر CUDA بهره می‌برد. طبق برنامه اعلام‌شده، هر دو پلتفرم قرار است طی سال ۲۰۲۶ به‌صورت گسترده وارد بازار شوند و عرضه انبوه Helios نیز برای نیمه دوم همین سال هدف‌گذاری شده است.

AMD هم‌زمان نسخه ۷.۱۴ از پلتفرم نرم‌افزاری ROCm را نیز معرفی کرده است؛ بستری که به‌عنوان رقیب مستقیم CUDA شناخته می‌شود و هدف آن ساده‌تر کردن توسعه و استقرار بارهای کاری هوش مصنوعی روی سخت‌افزارهای AMD است. این نسخه از همان روز نخست به‌صورت بومی از PyTorch، TensorFlow، JAX، Hugging Face، ONNX و OpenXLA پشتیبانی می‌کند تا توسعه‌دهندگان بدون نیاز به ابزارهای واسطه بتوانند پروژه‌های خود را اجرا کنند.

علاوه بر فریم‌ورک‌های اصلی، ROCm 7.14 از موتورهای استنتاج و بهینه‌سازی متعددی نیز پشتیبانی می‌کند که شامل vLLM، SGLang، DeepSpeed، SGL، llm-d، MLID و Llama Stack هستند. AMD اعلام کرده است که این پشتیبانی از همان روز عرضه در دسترس خواهد بود و هدف آن کاهش پیچیدگی یکپارچه‌سازی نرم‌افزار با سخت‌افزار و توسعه اکوسیستم باز برای پروژه‌های هوش مصنوعی در مقیاس بزرگ است.

مایکروسافت یکی از نخستین شرکای تجاری AMD برای استفاده از Helios خواهد بود و سه سرویس جدید مبتنی بر این فناوری را در Azure ارائه می‌کند. نخستین نمونه Azure HDv2 است که بر پردازنده‌های نسل ششم EPYC تمرکز دارد و نزدیک به ۵۰۰ هسته پردازشی، حدود ۴ ترابایت حافظه رم، ۳۲ ترابایت فضای ذخیره‌سازی NVMe و شبکه Azure Boost با سرعت ۴۰۰ گیگابیت‌برثانیه را در اختیار کاربران قرار می‌دهد.

دومین سرویس با نام Azure HXv2 برای بارهای کاری هوش مصنوعی عامل‌ها طراحی شده است. این نمونه از ۱۷۶ هسته پردازشی EPYC Venice در هر ماشین مجازی استفاده می‌کند و به پردازنده‌هایی با 3D V-Cache، فرکانس بیش از ۵ گیگاهرتز و ۵۰ درصد کش بیشتر مجهز است. همچنین کاربران به ۲ تا ۴ ترابایت حافظه رم و شبکه InfiniBand با سرعت ۸۰۰ گیگابیت‌برثانیه دسترسی خواهند داشت.

سومین نمونه با نام ND MI455X v7 در واقع یک رک کامل Helios را در اختیار مشتریان Azure قرار می‌دهد و شامل ۷۲ پردازنده گرافیکی Instinct MI455X به همراه پردازنده‌های نسل ششم EPYC Venice است. AMD اعلام کرده علاوه بر مایکروسافت، شرکت‌ها و سازمان‌هایی مانند OpenAI، Meta، Oracle، HPE، TCS، Celestica، Nutanix و همچنین وزارت انرژی ایالات متحده نیز استفاده از رک Helios، پردازنده‌های EPYC Venice یا شتاب‌دهنده‌های سری MI450 را تأیید کرده‌اند.

منبع ۱، منبع ۲

ابوالفضل | ۱۰ ساعت پیش

دیدگاهتان را بنویسید