تنسنت Hy4 preview با ۷۷۰ میلیارد پارامتر معرفی شد؛ حتی قوی‌تر از بزرگترین مدل وزن‌باز

تنسنت از مدل هوش مصنوعی Hy4 preview رونمایی کرد؛ مدلی با ۷۷۰ میلیارد پارامتر که ۴۹ میلیارد پارامتر فعال دارد و از پنجره زمینه یک میلیون توکنی بهره می‌برد. این مدل جدید با تمرکز بر وظایف پیچیده و طولانی، به‌ویژه مهندسی نرم‌افزار، کارهای اداری مبتنی بر اسناد و پژوهش علمی توسعه یافته و به‌گفته Tencent، بزرگ‌ترین جهش نسلی اندازه‌گیری‌شده این شرکت را رقم زده است.

Hy4 preview با افزایش هم‌زمان اندازه مدل، طول پنجره زمینه و حجم داده‌های آموزشی توسعه یافته است و Tencent می‌گوید پیش‌آموزش قوی‌تر در کنار دوره پساآموزش بسیار گسترده‌تر، توانایی مدل را به سطح تازه‌ای رسانده و آن را در مرز مدل‌های متن‌باز قرار داده است. برای آموزش نیز از تجربه کارشناسان داخلی شرکت، از جمله مهندسان نرم‌افزار، توسعه‌دهندگان بازی، تحلیلگران مالی و متخصصان امنیت، استفاده شده است.

در حوزه مهندسی نرم‌افزار، Hy4 preview در درک، برنامه‌ریزی، اشکال‌زدایی و راستی‌آزمایی پروژه‌های طولانی‌مدت عملکرد بهتری دارد و Tencent همچنین از پیشرفت در سلیقه بصری و کیفیت تعامل در توسعه فرانت‌اند خبر می‌دهد. در کارهای اداری و تحلیلی نیز مدل می‌تواند اطلاعات نامرتب و پراکنده میان فایل‌های متعدد را به اسناد، صفحات گسترده و ارائه‌های قابل اشتراک‌گذاری تبدیل کند و در تحلیل داده، معادلات و مدل‌های مالی دقت بیشتری داشته باشد.

مدل وزن باز Hy4 preview در توسعه بازی نیز برای تبدیل یک پرامپت واحد به نمونه اولیه قابل بازی طراحی شده و با موتورهای بازی تعامل روانی دارد؛ قابلیتی که امکان ادامه توسعه پروژه‌های پیچیده در چند نوبت را فراهم می‌کند. در پژوهش علمی نیز مدل درک و استدلال قوی‌تری برای مسائل دشوار ارائه می‌دهد و در حوزه‌هایی مانند پژوهش هوش مصنوعی، دینامیک مولکولی، فیزیک ماده چگال و ریاضیات محض پیشرفت کرده است.

نتایج بنچمارک و مقایسه Hy4 Preview با رقبا:

تنسنت برای سنجش عملکرد Hy4 preview، یک ارزیابی دوسوکور انجام داد که در آن ۱۶۳ کارشناس داخلی، خروجی مدل‌ها را در ۲۰۳ وظیفه مهندسی بررسی کردند. Hy4 preview در مقایسه با GLM 5.3 امتیاز میانگین ۲.۹۹ در برابر ۲.۹۲ گرفت؛ سهم پیروزی آن ۴۶.۸ درصد، تساوی ۱۲.۸ درصد و شکست ۴۰.۴ درصد بود. در برابر Kimi K3 نیز امتیاز ۲.۹۹ در برابر ۲.۹۴ ثبت شد.

در مقایسه با کیمی K3، تنسنت Hy4 preview در ۵۱.۲ درصد ارزیابی‌ها برنده شد، ۷.۹ درصد به تساوی رسید و در ۴۰.۹ درصد موارد شکست خورد. این مدل اکنون به‌صورت وزن‌باز در Tencent Cloud و OpenRouter عرضه شده و در محصولات Tencent از جمله CodeBuddy، WorkBuddy، Yuanbao و ima نیز قابل استفاده است. Tencent تأکید دارد که مدل‌ها باید باز و مقرون‌به‌صرفه باشند تا پیشرفت‌های هوش مصنوعی به افراد بیشتری برسد.

هزینه استفاده از API مدل Hy4 preview به‌ازای هر یک میلیون توکن، برای ورودی کش‌شده ۰.۰۴۲ دلار، ورودی ۰.۸۳۴ دلار و خروجی ۲.۵۰۱ دلار تعیین شده است. Tencent این نسخه را همچنان یک نسخه اولیه می‌داند و می‌گوید ظرفیت قابل‌توجهی برای بهبود پیش‌آموزش و پساآموزش وجود دارد. مدل در حال حاضر گاهی برای وظایف پیچیده بیش از زمان لازم استدلال می‌کند و تمایل دارد خروجی خود را بیش از حد راستی‌آزمایی کند.

Tencent اعلام کرده است این مشکلات شناخته‌شده را در ادامه توسعه Hy4 preview برطرف خواهد کرد و روند بهبود مدل را با سرعت ادامه می‌دهد. این شرکت رویکرد مشابهی را در توسعه Hy3 preview دنبال کرده بود؛ یعنی عرضه زودهنگام برای دریافت بازخورد درباره مشکلات و استفاده از آن برای بهبود نسخه‌های بعدی. همکاری با محصولات Tencent و کارشناسان داخلی نیز برای گسترش توانایی مدل و مقرون‌به‌صرفه‌تر شدن هوش مصنوعی ادامه خواهد داشت.

منبع