طرح آمانودی برای نظارت بر هوش مصنوعی

ماجرا چیست؟

به گزارش TechCrunch AI، یک هفته پس از آنکه هشدار یک پژوهشگر Anthropic درباره فاجعه‌های احتمالی هوش مصنوعی فضای این صنعت را تحت تأثیر قرار داد، داریو آمانودی، مدیرعامل این شرکت، طرح خود را برای «همگام‌سازی مرز» (pace the frontier) توسعه هوش مصنوعی ارائه کرده است. این طرح بر دو پایه اصلی استوار است: استفاده از ارزیاب‌های مستقل ایمنی و هماهنگی میان آزمایشگاه‌های هوش مصنوعی در کشورهای دموکراتیک.

بر اساس این گزارش، پیشنهاد آمانودی در همان ابتدا توانسته بخشی از حمایت‌های صنعتی را جلب کند، اما با انتقاد تند جنسن هوانگ، مدیرعامل Nvidia، نیز روبه‌رو شده است. جزئیات دقیق‌تر این انتقاد در گزارش منبع تشریح نشده است.

این موضوع در یکی از قسمت‌های پادکست Equity شبکه TechCrunch بررسی شده است؛ جایی که کیرستن کوروسک، آنتونی ها و شان اوکین به این پرسش پرداخته‌اند که آیا شرکت‌ها می‌توانند بر سر معنای «کند کردن» به توافق برسند و چه کسی حق نظارت بر آن را دارد. در همین قسمت، موضوع دیگری نیز مطرح شده: کودتای ۳۳ ساعته در هیئت‌مدیره Automattic، شرکت مادر WordPress، و بسته‌های مالی که در جریان برکناری مت مولنوگ به او پرداخت شد. به گزارش منبع، این ماجرا ممکن است کنترل او را بر فناوری‌ای که بخش بزرگی از وب را پیش می‌برد، حتی بیشتر کند.

دو معامله بزرگ دیگر نیز در این قسمت بررسی شده‌اند: برنامه SPAC شرکت May Mobility برای جذب بیش از ۳۰۰ میلیون دلار سرمایه احتمالی و شرایطی که «شرکت عمومی روبوتاکسی» شدن به همراه دارد، و سرمایه‌گذاری ۴۲۵ میلیون دلاری DoorDash در Wonder و رقابت برای خودکارسازی فرآیند غذا از سفارش تا تحویل.

جزئیات فنی به زبان ساده

برای درک بهتر این خبر، باید چند مفهوم را ساده کرد. «مرز» (frontier) در ادبیات هوش مصنوعی به پیشرفته‌ترین مدل‌هایی گفته می‌شود که در هر مقطع زمانی در حال توسعه هستند؛ مدل‌هایی که توانایی‌هایشان از نسل‌های قبلی فراتر می‌رود. «همگام‌سازی مرز» به این معناست که سرعت پیشرفت این مدل‌ها با سرعت ساخت ابزارهای ایمنی و نظارتی هماهنگ شود، نه اینکه توسعه متوقف شود.

«ارزیاب مستقل ایمنی» (independent safety evaluator) به نهادی گفته می‌شود که خارج از شرکت سازنده، عملکرد و خطرات یک مدل را بررسی می‌کند. این ارزیاب‌ها می‌توانند آزمایشگاه‌های تخصصی، نهادهای دانشگاهی یا سازمان‌های تنظیم‌گر باشند. ایده اصلی این است که شرکت‌ها خودشان درباره ایمنی محصولشان قضاوت نکنند.

بخش دوم طرح، هماهنگی میان آزمایشگاه‌های هوش مصنوعی در کشورهای دموکراتیک است. این هماهنگی می‌تواند شکل توافق‌نامه‌های داوطلبانه، استانداردهای مشترک یا سازوکارهای گزارش‌دهی متقابل داشته باشد. نکته مهم این است که چنین هماهنگی‌ای در سطح بین‌المللی و میان شرکت‌های رقیب، به‌سادگی به دست نمی‌آید؛ چون هر آزمایشگاه نگران است که محدودیت‌های ایمنی، مزیت رقابتی‌اش را از بین ببرد.

چرا این اتفاق مهم است؟

اهمیت این خبر در زمان‌بندی آن است. هشدار یک پژوهشگر Anthropic درباره خطرات هوش مصنوعی، بحث‌های عمومی درباره ایمنی این فناوری را داغ کرده بود. حالا مدیرعامل همان شرکت با یک طرح مشخص وارد میدان شده است. این حرکت می‌تواند دو پیام داشته باشد: نخست اینکه Anthropic می‌خواهد خود را پیشرو در بحث ایمنی معرفی کند، و دوم اینکه فشار افکار عمومی و نهادهای قانون‌گذار، شرکت‌ها را به سمت ارائه راهکارهای داوطلبانه سوق داده است.

واکنش جنسن هوانگ نیز نشان می‌دهد که این طرح در صنعت اجماع ایجاد نکرده است. Nvidia به‌عنوان تأمین‌کننده اصلی تراشه‌های هوش مصنوعی، منافع اقتصادی بزرگی در سرعت توسعه این فناوری دارد. هر طرحی که بخواهد سرعت را کند یا مشروط کند، به‌طور طبیعی با مقاومت بازیگرانی روبه‌رو می‌شود که از شتاب فعلی سود می‌برند.

در سطح کلان‌تر، این بحث به یک پرسش قدیمی برمی‌گردد: آیا صنعتی که خودش را تنظیم می‌کند، می‌تواند منافع عمومی را در نظر بگیرد؟ منتقدان می‌گویند خودتنظیمی (self-regulation) در عمل به تأخیر انداختن قوانین سخت‌گیرانه تبدیل می‌شود. موافقان اما معتقدند که قوانین دولتی در فناوری‌ای که این‌قدر سریع تغییر می‌کند، خیلی زود از رده خارج می‌شوند. این جدال، مشابه بحث‌هایی است که پیش‌تر درباره مقررات هوش مصنوعی و اختلاف مدیران مطرح شده بود.

این خبر برای کاربران چه کاربردی دارد؟

برای کاربران عادی، این طرح در کوتاه‌مدت تغییر محسوسی در محصولات ایجاد نمی‌کند. اگر ارزیاب‌های مستقل ایمنی واقعاً فعال شوند، ممکن است برخی قابلیت‌های مدل‌های هوش مصنوعی با تأخیر یا با محدودیت بیشتری عرضه شوند. در مقابل، کاربران می‌توانند انتظار داشته باشند که محصولات ایمن‌تر و شفاف‌تر باشند.

نکته مهم این است که در گزارش منبع به جزئیات اجرایی این طرح، زمان‌بندی، یا تأثیر آن بر دسترسی کاربران در کشورهای مختلف اشاره نشده است. بنابراین نمی‌توان درباره پیامدهای عملی آن برای کاربران ایرانی اظهارنظر قطعی کرد. آنچه مشخص است این است که بحث نظارت بر هوش مصنوعی به‌تدریج از مرحله شعار به مرحله ارائه طرح‌های مشخص وارد می‌شود و این روند در ماه‌های آینده ادامه خواهد داشت.

تحلیل: بعد از این چه می‌شود؟

به‌نظر می‌رسد طرح آمانودی بیش از آنکه یک سازوکار الزام‌آور باشد، یک چارچوب پیشنهادی برای گفت‌وگو است. با توجه به واکنش‌های متفاوتی که برانگیخته، احتمالاً در ماه‌های آینده شاهد نسخه‌های اصلاح‌شده یا رقابتی این طرح از سوی شرکت‌های دیگر خواهیم بود. ممکن است هر آزمایشگاه بزرگ، چارچوب ایمنی خودش را ارائه کند و در نهایت نوعی استاندارد غیررسمی در صنعت شکل بگیرد.

از سوی دیگر، بعید به‌نظر می‌رسد که هماهنگی میان آزمایشگاه‌های کشورهای دموکراتیک به‌سرعت محقق شود. رقابت تجاری، فشار سرمایه‌گذاران و مسابقه با شرکت‌های چینی، موانع جدی‌ای بر سر این هماهنگی هستند. تجربه سال‌های گذشته نشان داده که توافق‌های داوطلبانه در صنعت فناوری، وقتی پای منافع اقتصادی در میان باشد، شکننده‌اند.

با این حال، نمی‌توان این حرکت را بی‌اثر دانست. حتی اگر طرح آمانودی به نتیجه کامل نرسد، می‌تواند بحث عمومی را به سمت مشخص‌تری هدایت کند و فضای لازم برای ورود قانون‌گذاران را فراهم کند. برای پیگیری تحولات این حوزه، می‌توانید آخرین اخبار Claude و Anthropic را دنبال کنید و برای درک بهتر روند تحلیل‌ها، تحلیل خبر با هوش مصنوعی را ببینید.