CoreTech

تیینی AI از Pocket Lab با توانایی اجرای مدل های هوش مصنوعی پیشرفته رونمایی کرد

ابوالفضل | ۱ ماه پیش

استارتاپ آمریکایی تیینی AI مینی‌پی‌سی جدیدی با نام Pocket Lab معرفی کرده که هدف اصلی آن فراهم‌کردن اجرای محلی مدل‌های زبانی بزرگ در اندازه‌ای کوچک و قابل‌حمل است. این دستگاه بسیار جمع‌وجور از یک پردازنده ARM به همراه یک NPU قدرتمند بهره می‌برد و به ۸۰ گیگابایت حافظه LPDDR5X مجهز شده تا اجرای LLMهای سنگین ممکن شود.

تیینی لب که در آمریکا فعالیت دارد، در زمینه توسعه سخت‌افزارهای مخصوص اجرای محلی LLMهای شخصی تخصص یافته و Pocket Lab نخستین ورود جدی آن به حوزه مینی‌پی‌سی‌ها محسوب می‌شود. این دستگاه با وجود ابعاد کوچک، به سخت‌افزاری مجهز است که طبق ادعای شرکت قادر به اجرای مدل‌هایی تا سقف ۱۲۰ میلیارد پارامتر است؛ ادعایی که با توجه به اندازه دستگاه چشمگیر و غیرمعمول محسوب می‌شود.

این شرکت اعلام کرده Pocket Lab عنوان کوچک‌ترین مینی‌پی‌سی جهان را در دسته بسیار خاص اجرای محلی LLMهای ۱۰۰ میلیاردی از گینس دریافت کرده است؛ عنوانی که دامنه محدودی دارد، اما نشان می‌دهد دستگاه تا چه حد کوچک طراحی شده است. ابعاد آن تنها ۱۴.۲ در ۸ در ۲.۵ سانتی‌متر معادل ۵.۶×۳.۱۵×۱ اینچ بوده و وزن ۳۰۰ گرم آن، محصول را به گزینه‌ای بسیار سبک تبدیل می‌کند.

سازنده‌ اعلام کرده که نصب یک‌کلیکی برای مدل‌های متن‌باز شناخته‌شده مانند Llama، Qwen، DeepSeek، Mistral، Phi و OpenAI GPT-OSS روی تینی AI پاکت لب پشتیبانی می‌شود و به‌روزرسانی‌های OTA نیز به‌صورت منظم ارائه خواهند شد. با این حال، میزان تحقق این وعده‌ها هنوز مشخص نیست. در بخش سخت‌افزار، Pocket Lab ویژگی‌هایی مانند پردازنده ARMv9.2، NPU 160 TOPS، رم ۸۰ گیگ، SSD یک ترابایتی و توان ۶۵ واتی دارد.

به ادعای تیینی AI، پاکت لب توانایی اجرای مدل‌های زبانی با حداکثر ۱۲۰ میلیارد پارامتر را دارد، هرچند سطح کوانتیزه‌سازی اعلام نشده است. قیمت دستگاه نیز هنوز مشخص نیست، اما قطعاً ارزان نخواهد بود. حتی با کوانتیزه‌سازی ۴ بیتی، اجرای چنین مدلی روی سیستمی با ۸۰ گیگابایت حافظه چالش‌برانگیز و تا حدی غیرواقعی به‌نظر می‌رسد، هرچند عملکرد واقعی دستگاه باید پس از عرضه مشخص شود.

منبع

ابوالفضل | ۱ ماه پیش

دیدگاهتان را بنویسید