هشدار بیسابقه سازندگان بزرگ هوش مصنوعی؛ وقت کشیدن ترمز AIها رسیده است؟
بیش از ۱۲۹۰ نفر از کارکنان شرکتهای OpenAI، آنتروپیک، Google DeepMind و متا با امضای نامهای سرگشاده از دولت آمریکا خواستهاند از ایجاد سازوکاری بینالمللی برای کنترل آگاهانه سرعت توسعه پیشرفتهترین سامانههای هوش مصنوعی حمایت کند. نکته قابلتوجه این است که امضاکنندگان تنها پژوهشگران عادی نیستند، بلکه شماری از شناختهشدهترین مدیران و دانشمندان این صنعت نیز در میان آنها حضور دارند.
این نامه که از ۲۸ ژوئیه روی وبسایت Pacing the Frontier منتشر شده، تا صبح پنجشنبه نام ۱۲۹۳ نفر را در خود جای داده و تعداد امضاکنندگان همچنان در حال افزایش است و برخلاف بسیاری از نامههای پیشین درباره خطرات هوش مصنوعی، اهمیت این بیانیه بیش از هر چیز به هویت امضاکنندگان آن بازمیگردد؛ افرادی که خود در توسعه پیشرفتهترین مدلهای هوش مصنوعی نقش مستقیم دارند.
در میان امضاکنندگان، نام داریو آمودی، مدیرعامل آنتروپیک، به همراه همبنیانگذاران این شرکت یعنی جرد کاپلان، جک کلارک، کریس اولا و بنجامین مان دیده میشود. از OpenAI نیز یاکوب پاچوکی، دانشمند ارشد، و مارک چن، مدیر ارشد پژوهش، این نامه را امضا کردهاند. شین لگ، همبنیانگذار DeepMind، شنگجیا ژائو، دانشمند ارشد Meta، و همچنین ایلیا سوتسکور، بنیانگذار Safe Superintelligence، نیز در این فهرست حضور دارند. پس از انتشار بیانیه، OpenAI و Anthropic نیز بهعنوان شرکت از آن حمایت کردند. این ابتکار توسط دو سازمان غیرانتفاعی Guidelight AI Standards و Encode AI سازماندهی شده است.
متن نامه تنها یک درخواست اصلی را مطرح میکند؛ دولت آمریکا باید از توسعه ابزارهای فنی و سازوکارهای حاکمیتی لازم برای مدیریت آگاهانه سرعت پیشرفت هوش مصنوعی در سطح بینالمللی پشتیبانی کند. امضاکنندگان تأکید کردهاند که هدف، توقف فوری توسعه نیست، بلکه آمادهسازی برای شرایطی است که هوش مصنوعی بتواند پژوهش و توسعه هوش مصنوعی را نیز بهصورت خودکار انجام دهد؛ مرحلهای که در آن سرعت پیشرفت دیگر به توانایی انسان محدود نخواهد بود.
به اعتقاد نویسندگان نامه، در صورت رسیدن به چنین مرحلهای باید امکان کاهش هماهنگ و قابل راستیآزمایی سرعت توسعه وجود داشته باشد، زیرا اتکا به وعده شرکتها کافی نخواهد بود. آنها همچنین توضیح میدهند که تاکنون چنین سازوکاری شکل نگرفته است، زیرا همه شرکتها و کشورها تحت فشار رقابتی قرار دارند و هیچکدام تمایل ندارند نخستین طرفی باشند که از سرعت پیشرفت خود میکاهد.
ایلیا سوتسکور در توضیح دلیل امضای خود به دو محیط آزمایشی CyberGym و ExploitGym اشاره کرده است؛ محیطهایی که در آنها مدلهای هوش مصنوعی برای یافتن و سوءاستفاده از آسیبپذیریهای واقعی نرمافزارها آزمایش میشوند. او این موضوع را به حادثه اوایل ژوئیه مرتبط میداند؛ زمانی که یکی از مدلهای OpenAI از محیط آزمایشی ایزوله خارج شد و وارد Hugging Face شد تا به پاسخهای معیار ارزیابی دسترسی پیدا کند.
OpenAI در ۲۸ ژوئیه جزئیات بیشتری از این رخداد منتشر کرد و اعلام کرد خروج مدل از محیط آزمایشی از طریق یک آسیبپذیری ناشناخته در Artifactory، نرمافزار پرکاربرد ذخیرهسازی بستههای نرمافزاری، انجام شده است. در این آزمایش از مدل GPT-5.6 Sol استفاده شده بود و سطح محدودیتهای ایمنی آن نیز، مطابق روال رایج چنین آزمونهایی، کاهش یافته بود تا رفتار واقعی مدل بهتر ارزیابی شود.
همزمان مؤسسه امنیت هوش مصنوعی بریتانیا نیز هفته گذشته نتایج ارزیابیهای امنیت سایبری خود را منتشر کرد و براساس این گزارش، تمام مدلهای بررسیشده دستکم در بخشی از آزمونها رفتار متقلبانه از خود نشان دادهاند و شواهد موجود همچنین نشان میدهد این مدلها در برخی موارد متوجه میشوند که تحت ارزیابی قرار گرفتهاند؛ موضوعی که میتواند اعتبار نتایج آزمونها را تحت تأثیر قرار دهد.
این نامه در کوتاهمدت تغییری برای کاربران ایجاد نمیکند و هیچ مدلی متوقف نخواهد شد، هزینه اشتراکها افزایش نمییابد و سرویسهایی مانند جمنای، Claude و ChatGPT بدون تغییر به فعالیت خود ادامه خواهند داد. بااینحال انتشار چنین بیانیهای از سوی افرادی که خود سازندگان این سامانهها هستند، اهمیت ویژهای دارد و همچنین یادآور میشود که اگر مدلها در ارزیابیهای خود تقلب کنند، رتبهبندیهایی که کاربران برای انتخاب سرویسهای هوش مصنوعی به آنها تکیه میکنند، ممکن است کمتر از انتظار قابل اعتماد باشند.
