CoreTech

تراشه Gelix 1 استارتاپ سنگاپوری با ادعای اجرای مدل‌های ۱۰۰ میلیارد پارامتری معرفی شد

ابوالفضل | ۱ ساعت پیش

استارتاپ سنگاپوری Acrab از تراشه هوش مصنوعی Gelix 1 رونمایی کرده که به گفته این شرکت، توانایی اجرای مدل‌های زبانی بزرگ تا سقف ۱۰۰ میلیارد پارامتر را دارد. این تراشه با بهره‌گیری از پردازنده آرم ۲۰ هسته‌ای، فرایند ساخت ۵ نانومتری و معماری حافظه یکپارچه، به‌عنوان رقیبی برای Mac mini مجهز به تراشه M4 Pro معرفی شده و ادعا می‌شود در پردازش استنتاج هوش مصنوعی عملکرد بالاتری ارائه می‌دهد.

یکی از مهم‌ترین ادعاهای Acrab به نتایج بنچمارک Gelix 1 مربوط می‌شود و این شرکت اعلام کرده است که تراشه جدیدش هنگام اجرای مدل Gemma 26B با پنجره زمینه ۴۰ هزار توکنی، به نرخ چشمگیر Pre-fill برابر با ۱۴۱۶ توکن بر ثانیه رسیده است. در مقابل، مک مینی مجهز به M4 Pro در همان آزمون تنها ۱۸۸ توکن بر ثانیه ثبت کرده است؛ هرچند این ارقام هنوز به‌صورت مستقل تأیید نشده‌اند.

به گفته Acrab، توان پردازش استنتاج Gelix 1 علاوه بر پردازنده مرکزی، به واحد پردازش عصبی چند هسته‌ای آن نیز متکی است. این تراشه از معماری حافظه یکپارچه استفاده می‌کند و پهنای باند آن به ۲۷۳ گیگابایت بر ثانیه می‌رسد؛ رقمی که با پهنای باند M4 Pro برابری می‌کند. همچنین Gelix 1 همانند Mac mini برای استفاده در یک محفظه کوچک طراحی شده و قرار است بدون محدودیت عملکرد یا حرارتی فعالیت کند.

با وجود این ادعاها هنوز پرسش‌های مهمی درباره مشخصات واقعی Gelix 1 مطرح است. برای نمونه، اجرای یک مدل زبانی ۱۰۰ میلیارد پارامتری به حدود ۱۲۸ گیگابایت حافظه یکپارچه نیاز دارد، در حالی که Mac mini مجهز به M4 Pro حداکثر از ۴۸ گیگابایت حافظه یکپارچه پشتیبانی می‌کند و اجرای مدل‌های حدود ۳۵ میلیارد پارامتری برای آن امکان‌پذیر است. احتمال داده می‌شود نسخه مجهزتر Gelix 1 به ۱۲۸ گیگابایت حافظه یکپارچه مجهز باشد.

پردازنده ARM بیست هسته‌ای Gelix 1 نیز توجه بسیاری را جلب کرده، زیرا مشخصات آن شباهت قابل‌توجهی به پردازنده‌های به‌کاررفته در NVIDIA DGX Spark و RTX Spark دارد. به همین دلیل احتمال استفاده از همان پردازنده توسعه‌یافته توسط MediaTek مطرح شده است، اما تاکنون هیچ تأیید رسمی در این زمینه منتشر نشده است. از سوی دیگر، قیمت و زمان عرضه Gelix 1 نیز همچنان نامشخص است و اجرای محلی مدل‌های ۱۰۰ میلیارد پارامتری احتمالاً به پیکربندی ارزان‌قیمتی منتهی نخواهد شد.

منبع

ابوالفضل | ۱ ساعت پیش

دیدگاهتان را بنویسید