نیوزوم و کلید خاموشی هوش مصنوعی در کالیفرنیا

ماجرا چیست؟

به گزارش The Verge AI، گاوین نیوزوم، فرماندار دموکرات کالیفرنیا، روز جمعه یک فرمان اجرایی امضا کرد که بر اساس آن، ایالت می‌خواهد در نظارت بر هوش مصنوعی پیشتاز شود. یکی از محورهای این فرمان، امکان الزام شرکت‌ها به تعبیه یک «کلید خاموشی» (kill switch) برای مدل‌های پیشرو است؛ سازوکاری که به‌طور دوره‌ای اثربخشی‌اش راستی‌آزمایی شود.

بر پایه این گزارش، فرمان نیوزوم به ایالت دستور می‌دهد گروهی از متخصصان را گرد هم آورد تا ظرف دو ماه توصیه‌هایی برای تقویت تدابیر ایمنی هوش مصنوعی در قانون ایالتی ارائه کنند. نیوزوم از این گروه می‌خواهد بررسی کند که ایالت چگونه می‌تواند شرکت‌های هوش مصنوعی را ملزم کند گروه‌های راستی‌آزمایی مستقل را به‌صورت حضوری در محل خود مستقر کنند تا حسابرسی‌های منظم انجام شود، گزارش‌های شفافیت و ارزیابی ریسک‌شان تابع استانداردهای حسابرسان مستقل باشد، کلید خاموشی داشته باشند که به‌طور مرتب کارآمدی‌اش بررسی شود، و رویدادهایی مانند «از دست رفتن کنترل» را به‌عنوان رخداد ایمنی حیاتی گزارش کنند.

در همین بخش از گزارش به نمونه‌ای اشاره شده که در آن، حمله‌ای از سوی OpenAI به Hugging Face به‌عنوان مصداق «از دست رفتن کنترل» مطرح شده است. همچنین فرمان اجرایی، یک نهاد ایالتی را موظف می‌کند اجرای دو قانون اخیراً امضاشده را سرعت ببخشد؛ قوانینی که چارچوبی برای راستی‌آزماهای مستقل جهت ارزیابی ایمنی هوش مصنوعی و یک فهرست ایالتی از حسابرسان هوش مصنوعی ایجاد می‌کنند.

زمینه‌ی سیاسی این حرکت، نبود اقدام مؤثر در سطح فدرال است. به گزارش The Verge AI، پس از یادداشت هشدارآمیز جیکوب کاکسون، پژوهشگر پیشین Anthropic، درباره احتمال بیش از ۱۰ درصدی اینکه هوش مصنوعی ظرف یک دهه «بتواند همه انسان‌ها را از بین ببرد»، بحث بر سر طرح‌های قانونی در کنگره بالا گرفته است. اما امیدی در واشینگتن به تصویب زودهنگام یک قانون محتوایی وجود ندارد؛ مجلس نمایندگان تا نوامبر در تعطیلات است و نزدیکی به انتخابات میاندوره‌ای، تحرک قانون‌گذاری مهم در سنا را نیز بعید می‌کند. در همین حال، دونالد ترامپ تأکید کرده که به باور او تنها کنترل یا «نرده محافظ» موردنیاز هوش مصنوعی، یک رئیس‌جمهور قوی و باهوش است و آمریکا چنین چیزی را به‌وفور دارد.

نیوزوم در این فرمان، کنگره و ترامپ را به «بازبینی و پذیرش چارچوب ایالتی» فراخوانده است. او در بیانیه‌ای گفته که شکست آشکار دولت فدرال در ایجاد هرگونه نظارت یا پاسخگویی معنادار بر هوش مصنوعی باید هر آمریکایی را نگران کند، به‌ویژه وقتی خود مدیران شرکت‌های هوش مصنوعی هم خواستار مقررات‌گذاری‌اند. به گفته او، کالیفرنیا منتظر نمی‌ماند و کار بر نظارت جدی و مسئولانه را با سرعت پیش می‌برد، هرچند با دقت و تأمل، چون به‌زعم او ریسک‌ها آن‌قدر بالا هستند که تأخیر جایز نیست.

این نخستین واکنش کالیفرنیا در این مسیر نیست و احتمالاً آخرین هم نخواهد بود. بر اساس گزارش، نیوزوم روز چهارشنبه در مصاحبه‌ای با Politico احتمال فراخواندن قانون‌گذاران ایالتی برای یک نشست ویژه قانون‌گذاری درباره هوش مصنوعی را در کنار اقدام اجرایی ممکن مطرح کرده بود. او مشخصاً این فرمان را الگویی برای اقدام فدرال معرفی می‌کند و از کنگره و ترامپ می‌خواهد چارچوب ایالت را بپذیرند یا دست‌کم مقررات پیشروی کالیفرنیا را به‌عنوان کف، نه سقف، در نظر بگیرند.

جزئیات فنی به زبان ساده

«کلید خاموشی» در این زمینه به سازوکاری گفته می‌شود که به کمک آن بتوان یک مدل هوش مصنوعی را در شرایط بحرانی متوقف یا از کار انداخت. تصور عمومی این است که چنین چیزی شبیه یک دکمه است، اما در عمل موضوع پیچیده‌تر است: مدل‌های پیشرو روی زیرساخت‌های توزیع‌شده اجرا می‌شوند، ممکن است نسخه‌های متعددی از آن‌ها در گردش باشد و بخشی از توان محاسباتی‌شان بیرون از کنترل یک شرکت واحد قرار داشته باشد. به همین دلیل، فرمان نیوزوم بر «راستی‌آزمایی دوره‌ای اثربخشی» تأکید می‌کند؛ یعنی صرفِ وجود یک سازوکار کافی نیست و باید مرتب آزمایش شود که واقعاً کار می‌کند.

«راستی‌آزماهای مستقل» (independent verifiers) هم نهادهایی هستند که بیرون از شرکت سازنده‌ی مدل، ایمنی و ریسک‌های آن را بررسی می‌کنند. ایده‌ی استقرار حضوری این گروه‌ها در محل شرکت، تلاشی است برای اینکه حسابرسی به بازبینی اسناد محدود نشود و ناظران به جریان واقعی کار دسترسی داشته باشند. «گزارش شفافیت» و «ارزیابی ریسک» هم اسنادی‌اند که در آن‌ها شرکت توضیح می‌دهد مدل چه قابلیت‌هایی دارد، چه خطرهایی را شناسایی کرده و چه تدابیری برای مهار آن‌ها اندیشیده است. اینکه این اسناد تابع استاندارد حسابرسان مستقل شوند، یعنی ادعاهای شرکت باید قابل بررسی و سنجش با معیارهای مشترک باشد، نه صرفاً خوداظهاری.

نکته‌ی مهم دیگر، تعریف «رخداد از دست رفتن کنترل» است. در گزارش به حمله‌ای از سوی OpenAI به Hugging Face به‌عنوان نمونه اشاره شده، اما جزئیات بیشتر این رخداد در متن منبع نیامده است. به‌طور کلی، چنین دسته‌بندی‌ای اهمیت دارد چون تعیین می‌کند چه چیزی باید گزارش شود و چه چیزی می‌تواند نادیده بماند؛ و همین تعریف، میدان اصلی چانه‌زنی میان regulatorها و شرکت‌ها خواهد بود.

چرا این اتفاق مهم است؟

کالیفرنیا خانه‌ی بخش بزرگی از شرکت‌های پیشرو هوش مصنوعی است و به همین دلیل، قوانین این ایالت عملاً می‌تواند به استانداردی غیررسمی برای کل صنعت تبدیل شود؛ الگویی که در حوزه‌هایی مثل حریم خصوصی داده هم سابقه دارد. وقتی نظارت فدرال معطل می‌ماند، ایالت‌ها میدان را پر می‌کنند و این می‌تواند شکافی ایجاد کند که شرکت‌ها ناچار شوند با سخت‌گیرانه‌ترین مقررات هم‌راستا شوند.

از منظر رقابت، فرمان اجرایی فعلاً الزام قانونی تازه‌ای ایجاد نمی‌کند؛ بلکه مسیر توصیه‌سازی و تسریع اجرای دو قانون قبلی را هموار می‌کند. با این حال، همین حرکت می‌تواند فشار سیاسی بر کنگره را افزایش دهد و بحث نظارت بر هوش مصنوعی را از سطح گفت‌وگوی دانشگاهی به سطح قانون‌گذاری عملی بکشاند. برای شرکت‌ها، معنای اصلی احتمالاً افزایش بار گزارش‌دهی و حسابرسی است؛ چیزی که می‌تواند هزینه‌ی انطباق را بالا ببرد و در عین حال، برای بازیگران کوچک‌تر مانع ورود ایجاد کند.

در سطح کاربران، این تحولات به‌طور غیرمستقیم اثر می‌گذارد. استانداردهای سخت‌گیرانه‌تر می‌تواند به شفافیت بیشتر درباره‌ی توانمندی‌ها و محدودیت‌های مدل‌ها منجر شود، اما ممکن است سرعت عرضه‌ی برخی قابلیت‌ها را هم کاهش دهد. برای پیگیری روند کلی این تغییرات، مرور آخرین اخبار صنعت و سیاست‌گذاری و تحلیل خبر با هوش مصنوعی می‌تواند تصویر روشن‌تری بدهد.

این خبر برای کاربران چه کاربردی دارد؟

در کوتاه‌مدت، کاربران تغییر محسوسی در محصولات احساس نمی‌کنند؛ چون فرمان اجرایی بیشتر بر فرایند توصیه‌سازی و تسریع اجرای قوانین موجود متمرکز است و هنوز به الزام قانونی جدیدی درباره کلید خاموشی نرسیده. اما در میان‌مدت، اگر توصیه‌های این گروه به قانون تبدیل شود، ممکن است شاهد گزارش‌های شفافیت عمومی‌تر، مستندسازی بهتر رخدادهای ایمنی و در نتیجه اطلاعات بیشتر برای انتخاب ابزارهای هوش مصنوعی باشیم.

برای کاربران ایرانی، در گزارش منبع به دسترسی یا قیمت‌گذاری در ایران اشاره‌ای نشده و نمی‌توان درباره‌ی اثر مستقیم این فرمان بر دسترسی داخلی حرف قطعی زد. آنچه قابل توجه است، جهت‌گیری کلی مقررات‌گذاری است که در بلندمدت می‌تواند روی سیاست‌های شرکت‌های ارائه‌دهنده‌ی خدمات هم اثر بگذارد.

تحلیل: بعد از این چه می‌شود؟

به‌نظر می‌رسد کالیفرنیا می‌خواهد نقش «آزمایشگاه مقررات‌گذاری» را برای هوش مصنوعی بازی کند؛ همان نقشی که پیش‌تر در حوزه‌ی حریم خصوصی و انتشار گازهای گلخانه‌ای ایفا کرد. با این حال، فاصله‌ی میان یک فرمان اجرایی و قانونی الزام‌آور قابل توجه است. گروه کارشناسی باید ظرف دو ماه توصیه‌هایش را ارائه کند و بعد از آن، مسیر تصویب در مجلس ایالتی و مقاومت‌های احتمالی صنعت آغاز می‌شود.

ممکن است بخش‌هایی از این چارچوب، مثل راستی‌آزمایی مستقل و گزارش‌دهی رخدادهای ایمنی، راحت‌تر از ایده‌ی کلید خاموشی به نتیجه برسند؛ چون تعریف فنی و اجرایی کلید خاموشی برای مدل‌های پیشرو هنوز محل اختلاف است. همچنین بعید نیست شرکت‌ها ترجیح دهند به‌جای مقررات تکه‌تکه‌ی ایالتی، از یک چارچوب فدرال واحد حمایت کنند؛ حتی اگر آن چارچوب سخت‌گیرانه باشد. در نهایت، اگر کنگره تا پس از انتخابات میاندوره‌ای اقدامی نکند، احتمالاً شاهد موج بعدی اقدام‌های ایالتی خواهیم بود و کالیفرنیا در مرکز آن قرار می‌گیرد.