ادعای سنگین اپل: مک استودیو برای اجرای مدلهای ۱.۶ تریلیون پارامتری آماده است
اپل در نموداری، ظرفیت دستگاههایش برای اجرای مدلهای زبانی بزرگ بهصورت محلی را تشریح کرده و مدعی شده است سختافزار این شرکت، از مدلهای ۱۴ میلیارد پارامتر فعال در دستگاههای کوچکتر تا مدلهای بیش از ۱.۶ تریلیون پارامتری در خوشهای از مک استودیوها را پوشش میدهد. اپل این توان را به حافظههای سریعتر و استفاده از دو موتور عصبی نسبت میدهد؛ بااینحال، در بخش آیفون یک ابهام مهم وجود دارد.
اپل برای کوچکترین مدل، یعنی مدل ۱۴ میلیارد پارامتری با پارامترهای فعال، آیفون یا آیپد دارای ۱۶ گیگابایت حافظه یکپارچه را توصیه کرده است. این عبارت نباید بهعنوان وجود آیفون ۱۶ گیگابایتی تعبیر شود؛ چنین پیکربندیای در آیفونهای فعلی وجود ندارد. اپل همچنین پهنای باند ۷۶ گیگابایتبرثانیه را برای استنتاج محلی ذکر کرده، درحالیکه A20 Pro به ۱۱۵.۲ گیگابایتبرثانیه میرسد و از مقدار اعلامشده عبور میکند.
در رده مکبوک ایر و مک مینی، اپل اجرای مدلهایی تا ۷۰ میلیارد پارامتر فعال را مطرح کرده است. این دستگاهها میتوانند حداکثر ۶۴ گیگابایت حافظه یکپارچه داشته باشند و پهنای باند حافظه آنها به ۳۰۷ گیگابایتبرثانیه میرسد. مکبوک پروهای ردهبالا نیز با حداکثر ۱۲۸ گیگابایت حافظه یکپارچه، برای مدلهای ۱۲۰ میلیارد پارامتری معرفی شدهاند؛ ظرفیتی که لپتاپهای RTX Spark با همین مقدار رم نیز ارائه میکنند.
در بالاترین سطح، مک استودیو مجهز به M5 اولترا قرار دارد، این تراشه پهنای باند حافظه ۱.۲ ترابایتبرثانیه دارد و دستگاه میتواند حداکثر ۵۱۲ گیگابایت حافظه یکپارچه داشته باشد؛ ظرفیتی که طبق ادعای اپل برای نگهداری مدلهایی با حدود ۴۸۰ میلیارد پارامتر کافی است. اجرای محلی این مدلها میتواند برای کاربرانی مطرح باشد که نمیخواهند بابت سرویسهای اشتراکی هوش مصنوعی مانند Claude و Gemini هزینه ماهانه بپردازند.
در مقیاس بزرگتر، چهار مک استودیو میتوانند مجموعاً تا ۲ ترابایت حافظه یکپارچه داشته باشند و طبق اطلاعات منتشرشده، برای اجرای مدلهای ۱.۶ تریلیون پارامتری به کار گرفته شوند. بااینحال، دسترسی به این مک استودیو ساده نیست چرا که فروشگاه آنلاین اپل هم اکنون تنها نسخه ۲۵۶ گیگابایتی حافظه را عرضه میکند.
قیمت این راهکار نیز به شدت زیاد است و نسخه M5 Ultra با پردازنده ۳۶ هستهای، پردازنده گرافیکی ۸۰ هستهای، موتور عصبی ۳۲ هستهای و حافظه ذخیرهسازی یک ترابایتی، ۱۰۷۰۰ دلار قیمت دارد. خرید چهار دستگاه برای تشکیل خوشه مورد بحث، هزینه را به ۴۳۱۹۶ دلار میرساند، درحالیکه این پیکربندی حتی یک ترابایت حافظه یکپارچه در اختیار کاربر نمیگذارد.
برای اجرای مدلهای یک تریلیون پارامتری، گزارش به پیکربندی هشتدستگاهی مک استودیو اشاره میکند که هزینه آن به ۸۶۳۹۲ دلار میرسد. چنین هزینهای برای اجرای مدلهای متنباز بسیار بزرگ، سرمایهگذاری سنگینی محسوب میشود و ارزش اقتصادی استفاده از این روش را زیر سؤال میبرد. البته این ارقام به هزینه خرید سختافزار مربوطاند و گزارش درباره هزینههای دیگری مانند برق یا نگهداری، اطلاعاتی ارائه نکرده است.
