تأسیس DeepMind Institute توسط گوگل؛ گامی جسورانه برای بازتعریف مرزهای بحث درباره هوش مصنوعی عمومی (AGI)

مقدمه

گوگل و شرکت تحقیقاتی گوگل دیپ‌ماینڈ (Google DeepMind) روز چهارشنبه از DeepMind Institute رونمایی کردند؛ نهادی مستقل با مأموریت پیشبرد و گسترش بحث‌های پیرامون هوش مصنوعی عمومی (AGI). این مؤسسه با هدف ایجاد فضایی برای تبادل دیدگاه‌های متنوع میان گوگل، دیپ‌ماینڈ و جامعه پژوهشی سراسر جهان تأسیس شده است. نکته قابل‌توجه اینجاست که دیپ‌ماینंड صراحتاً اعلام کرده اعضای این نهاد همیشه بر سر مسائل توافق نخواهند داشت و حتی ممکن است با دریافت داده‌ها و اطلاعات جدید، نظرات خود را تغییر دهند.

مدیریت این مؤسسه بر عهده سه چهره شاخص است: شین لیگ (Shane Legg) از بنیان‌گذاران دیپ‌ماینڈ، جیمز منیکا (James Manyika) از مدیران ارشد گوگل و دمیس هاسabis (Demis Hassabis) رئیس گوگل دیپ‌ماینڈ. شین لیگ به عنوان سردبیر اجرایی نیز فعالیت خود را بر عهده دارد.

چهار مقاله راهبردی نخست؛ نگاهی به چالش‌های محوری AGI

مجموعه نخست این مؤسسه شامل چهار مقاله جامع است که هر کدام به یکی از مهم‌ترین ابعاد چالش‌های هوش مصنوعی عمومی می‌پردازند. این مقالات پوشش‌دهنده حوزه‌های سیاست‌های اقتصادی برای مدیریت اختلالات احتمالی ناشی از AGI، حفظ قابلیت تفسیرپذیری دلیل‌ورزی مدل‌ها توسط انسان، اصول حاکم بر شکوفایی انسان و یک چارچوب نوین برای ارزیابی مدل‌های پیشرو (Frontier AI) هستند.

• سیاست‌های اقتصادی: بررسی راهکارهای تنظیم‌گری برای مواجهه با اختلالات اقتصادی ناشی از ورود AGI به بازار کار و ساختارهای اقتصادی جهانی.
• شفافیت و تفسیرپذیری: تأکید بر ضرورت حفظ دلیل‌پذیری مدل‌ها به شکلی که برای انسان قابل خواندن و بررسی باشد.
• اصول شکوفایی انسانی: تدوین چارچوب اخلاقی برای اطمینان از همسو بودن پیشرفت هوش مصنوعی با رفاه و رشد بشر.
• چارچوب ارزیابی مدل‌های مرزی: ارائه روشی استاندارد و مستقل برای سنجش توانمندی‌ها و خطرات مدل‌های پیشرفته.

بحث شفافیت مدل‌ها؛ وقتی «عمق سری نامشخص» تهدیدی برای ایمنی می‌شود

در یکی از مقالات کلیدی، روهین شاه و انکا دراگان – پژوهشگران ایمنی دیپ‌ماینڈ – استدلال می‌کنند که کاهش تدریجی پنجره شفافیت (Transparency Window) در مدل‌های هوش مصنوعی، یعنی قابلیت مشاهده و بررسی دلیل‌ورزی گام‌به‌گام یک مدل، اجتناب‌ناپذیر نیست. آن‌ها هشدار می‌دهند که با ظهور معماری‌های جدید، مدل‌های قدرتمندتر روز به روز سخت‌تر قابل مانیتورینگ خواهند شد.

پژوهشگران پیشنهاد می‌کنند توسعه‌دهندگان و تنظیم‌کنندگان باید تقابل میان ایمنی و شفافیت را مستقیماً بپذیرند. دو راهکار عملیاتی کلیدی مطرح شده عبارتند از:

• محدود کردن «عمق سری نامشخص» (Opaque Serial Depth): یعنی محدودیت در مقدار محاسبات متوالی که یک مدل می‌تواند بدون ارائه ردپای دلیل‌پذیر خوانا انجام دهد.
• الزام به اثبات مانیتورپذیری: توسعه‌دهندگان باید ثابت کنند که سیستم‌های کم‌شفاف‌تر نیز همانند مدل‌های کاملاً شفاف قابل نظارت هستند.

«وقتی دلایل پشت تصمیمات مدل‌ها غیرقابل ردیابی شوند، خطرناک‌ترین سناریوهای ایمنی هوش مصنوعی شکل می‌گیرند.»

پیشنهاد هاسabis؛ هیئت استانداردسازی AGI به رهبری آمریکا

در مقاله‌ای دیگر، دمیس هاسabis چارچوب جسورانه‌ای را برای ایجاد یک هیئت استانداردسازی هوش مصنوعی مرزی تحت رهبری ایالات متحده پیشنهاد کرده است. بر اساس این طرح، توسعه‌دهندگان در مرحله نخست به‌صورت داوطلبانه مدل‌های خود را تا ۳۰ روز پیش از انتشار برای ارزیابی به این هیئت ارسال خواهند کرد.

هاسabis توضیح می‌دهد که پس از اثبات اثربخشی سیستم ارزیابی، گذراندن آزمون‌های این هیئت می‌تواند به یک الزام قانونی برای استقرار مدل‌های مرزی در ایالات متحده تبدیل شود. این هیئت در مرحله نخست آزمون‌ها را با مشورت شرکت‌های هوش مصنوعی طراحی خواهد کرد، اما در بلندمدت به سمت توسعه آزمون‌های مستقل و محرمانه (Held-out Evaluations) پیش خواهد رفت – آزمون‌هایی که حتی خود آزمایشگاه‌ها از محتوای آن‌ها بی‌خبرند تا از مهندسی معکوس مدل‌ها برای فریب آزمون‌ها جلوگیری شود.

تغییر پارادایم در بحث ایمنی هوش مصنوعی

این مقالات در زمانی منتشر می‌شوند که بحث ایمنی در صنعت هوش مصنوعی از بیانیه‌های کلی نگرانی به سمت پیشنهادات عملیاتی عینی در حال حرکت است. محورهای اصلی این تحول عبارتند از:

• افشای شفاف اطلاعات مربوط به خطرات مدل‌ها پیش از انتشار
• نظارت خارجی مستقل بر توسعه و استقرار مدل‌های پیشرفته
• شتاب‌دهی هماهنگ (Coordinated Slowdown) در صورت عقب ماندن механизмы ایمنی از سرعت پیشرفت فناوری

این روند شتاب‌گیری یافته است، به‌ویژه پس از آنکه رهبران صنعت عناصری از خواسته دارو آمودی (Dario Amodei)، مدیرعامل آنتروپیک، برای «تنظیم سرعت» (Pacing) توسعه هوش مصنوعی مرزی را پذیرفتند.

چرا DeepMind Institute اهمیت استراتژیکی دارد؟

تأسیس این مؤسسه نشان‌دهنده بلوغ فکری گوگل و دیپ‌ماینڈ در مواجهه با یکی از پیچیده‌ترین چالش‌های تمدنی دهه جاری است. برخلاف رویکردهای سنتی که اغلب بر تبلیغات توانمندی‌ها متمرکز بودند، این نهاد به صراحت بر عدم توافق، تغییر نظر و پرسش‌گری مداوم تأکید دارد.

این رویکرد واقع‌بینانه یادآوری می‌کند که مسیر به سمت AGI پر از ابهام است و هیچ‌کس، حتی پیشروترین آزمایشگاه‌های هوش مصنوعی، از پاسخ قطعی به تمام پرسش‌ها برخوردار نیستند. مؤسسه دیپ‌ماینڈ فرصتی ارزشمند برای دیالوگ بین‌المللی، نقد سازنده و تدوین سیاست‌هایی است که بتوانند همزمان با بهره‌مندی از مزایای هوش مصنوعی، ریسک‌های وجودی آن را مدیریت کنند.

پرسش‌های متداول

DeepMind Institute دقیقاً چه وظیفه‌ای دارد؟

این مؤسسه با هدف پیشبرد بحث‌های پیرامون هوش مصنوعی عمومی (AGI) و ایجاد فضایی برای تبادل دیدگاه‌های متنوع میان گوگل، دیپ‌ماینड و جامعه پژوهشی جهانی تأسیس شده است. تمرکز اصلی آن بر انتشار پژوهش‌های راهبردی در حوزه‌های ایمنی، سیاست‌گذاری و ارزیابی مدل‌های پیشرفته هوش مصنوعی است.

مدیران DeepMind Institute چه کسانی هستند؟

مدیریت این مؤسسه بر عهده سه چهره برجسته است: شین لیگ (بنیان‌گذار دیپ‌ماینڈ و سردبیر اجرایی)، جیمز منیکا (مدیر ارشد گوگل) و دمیس هاسabis (رئیس گوگل دیپ‌ماینड).

هیئت استانداردسازی AGI پیشنهادی هاسabis چگونه کار خواهد کرد؟

بر اساس طرح هاسabis، مدل‌های پیشرفته پیش از انتشار باید به‌صورت داوطلبانه برای ارزیابی به این هیئت ارسال شوند. در مرحله نخست ارزیابی‌ها با مشورت شرکت‌ها طراحی می‌شوند و سپس به آزمون‌های مستقل و محرمانه (Held-out) تبدیل خواهند شد تا از مهندسی معکوس مدل‌ها جلوگیری شود. پس از اثبات کارایی سیستم، قبولی در آزمون‌ها ممکن است به الزام قانونی تبدیل شود.