نگاه شرکت‌های بزرگ هوش مصنوعی به «لایحه کالیفرنیا» چگونه است؟
لایحه پیشنهادی یک سناتور آمریکایی درباره شرکت‌های هوش مصنوعی با عنوان «لایحه کالیفرنیا» خواهان اِعمال استاندارد‌هایی قبل از توسعه مدل‌های هوش مصنوعی قدرتمند است.
به گزارش
خبرگزاری صداوسیما، لایحه نوآوری ایمن برای مدل‌های هوش مصنوعی پیشرفته یا SB 1047 (موسوم به لایحه کالیفرنیا) که توسط سناتور دموکرات «اسکات وینر» ارائه شده، آزمایش ایمنی پیشرفته‌ترین مدل‌های هوش مصنوعی را الزامی می‌کند تا از مقابله با خطرهای احتمالی، اطمینان حاصل کند. این آزمایشات، شامل ارزیابی‌های دقیق و اِعمال شیوه‌نامه‌های ایمنی است که می‌تواند از بروز مشکلات جدی در این زمینه جلوگیری کند.
«اسکات وینر» معتقد است که همه ایالت‌ها حق دارند از کسب‌و‌کار‌های مرتبط با هوش مصنوعی منطقه خود بخواهند تا قبل از انتشار خدمات مبتنی‌بر هوش مصنوعی، اطمینان حاصل کنند که فناوری‌شان در آینده منجر به یک بحران بزرگ نمی‌شود.
به گفته «وینر» این قانون برای محافظت از مردم قبل از اینکه پیشرفت‌های هوش مصنوعی غیرقابل کنترل شود، ضروری است.
بر اساس این لایحه، توسعه‌دهندگان نرم‌افزار‌های هوش مصنوعی که در ایالت کالیفرنیا فعالیت می‌کنند، باید روش‌هایی را برای غیرفعال‌کردن مدل‌های هوش مصنوعی در صورت خرابی، ترسیم کنند. لایحه کالیفرنیا همچنین به دادستان کل ایالت، این اختیار را می‌دهد که در صورت تمکین‌نکردن شرکت‌های توسعه‌دهنده نرم‌افزار‌های هوش مصنوعی، از آنها شکایت کند.
طرفداران SB 1047 می‌گویند این لایحه، شرکت‌های هوش مصنوعی را به انجام برخی اقدامات پیشگیرانه مانند آزمایش امنیت مدل‌ها قبل از استقرار ملزم می‌کند، در آزمایشگاه‌های هوش مصنوعی از افشاگران محافظت می‌کند و در نهایت خواستار ایجاد یک «خوشه رایانه ابری عمومی» می‌شود.
چرا لایحه کالیفرنیا مهم است؟
این لایحه در ابتدا با مقاومت شرکت‌های پیشرو هوش مصنوعی مانند «آنتروپیک» و برخی قانونگذاران آمریکایی از جمله «نانسی پلوسی» مواجه شد.
با افزایش فشار‌ها و انتقادات، سناتور «اسکات وینر» برای جلب رضایت قانونگذاران و نیز شرکت‌های فناوری و با تکیه بر نظرات شرکت هوش مصنوعی «آنتروپیک» در این لایحه تجدید نظر کرد.
«وینر» بعد از اعمال اصلاحات در این لایحه گفت: تغییرات درخواستی شرکت «آنتروپیک» ۱۰۰ درصد در لایحه جدید منعکس نشده، اما ما تعدادی از اصلاحات منطقی پیشنهادی را پذیرفتیم و به نگرانی‌های اصلی بسیاری از بازیگران فعال در صنعت پرداختیم.
شرکت هوش مصنوعی «آنتروپیک» هم بعد از اصلاحاتِ انجام‌شده، اعلام کرد که مزایای لایحه کالیفرنیا که به دنبال تنظیم چگونگی توسعه و استقرار هوش مصنوعی در این ایالت است، احتمالاً بیشتر از هزینه‌های آن خواهد بود.
بر اساس ارزیابی رویترز نیز لایحه اصلاح‌شده به طور قابل توجهی بهبود یافته و به نظر می‌رسد که مزایای آن بیشتر از هزینه‌هایش است.
با این حال همچنان بسیاری از شرکت‌های فناوری در زمینه توسعه هوش مصنوعی با این لایحه مخالند و اعلام کرده‌اند که هنوز برخی از جنبه‌های این لایحه وجود دارد که نگران‌کننده یا مبهم است.
مثلاً شرکت‌های گوگل و متا در نامه‌هایی به سناتور «وینر» نگرانی‌های خود را درباره این لایحه ابراز کرده‌اند. متا گفته که لایحه کالیفرنیا زمینه را برای توسعه و پیشرفت هوش مصنوعی از بین می‌برد و کار را برای صنعت فناوری سخت‌تر می‌کند.
شرکت «اوپن اِی آی» هم اعلام کرده که هوش مصنوعی باید توسط دولت فدرال تنظیم شود و لایحه کالیفرنیا، یک فضای قانونی نامشخص در این زمینه ایجاد می‌کند و باعث می‌شود شرکت‌ها ایالت کالیفرنیا را تَرک کنند.
این لایحه حامیان شناخته‌شده‌ای هم دارد؛ مثل «جفری هینتون» که به عنوان پدرخوانده هوش مصنوعی شناخته می‌شود و اعلام کرده که از این لایحه حمایت می‌کند. یا دو عضو سابق شرکت هوش مصنوعی «اوپن اِی آی» که امسال به دلیل نگرانی‌های ایمنی از آن استعفا دادند، می‌گویند از تصمیم این شرکت برای مخالفت با لایحه کالیفرنیا تعجب نکرده‌اند، اما بسیار ناامید شده‌اند.
«دانیل کوکوتاجلو» و «ویلیام ساندرز» اعلام کرده‌اند که «اوپن اِی آی» در یک رقابت بی‌پروا و بی‌باکانه برای تسلط بر حوزه هوش مصنوعی است.
به نوشته این دو مهندس، «سام آلتمن» رئیس سابقشان بار‌ها خواستار تنظیم مقررات هوش مصنوعی شده، اما اکنون که مقررات واقعی روی میز است، با آن مخالف است.
این دو ابراز امیدواری کردند که با تدوین مقررات مناسب، «اوپن اِی آی» بتواند به ماموریت خود در ساخت AGI (Artificial general intelligence یا همان هوش مصنوعی عمومی) ایمن عمل کند.
سخنگوی «اوپن اِی آی» در پاسخ به اظهارات این دو کارمند سابق این شرکت، گفت که به‌شدت با توصیف نادرست موضع این شرکت درباره لایحه کالیفرنیا مخالف است.
این سخنگو به لوایح هوش مصنوعیِ مطرح‌شده در کنگره که «اوپن اِی آی» تاییدشان کرده، اشاره و خاطرنشان کرد که مقررات ایمنی هوش مصنوعی باید در سطح فدرال اجرا شود، زیرا پیامد‌های متعددی برای امنیت ملی و رقابت‌پذیری دارد.
لایحه SB 1047 پیش از این با ۳۲ رای به سنای ایالت رسیده است. این لایحه اگر تا پایان جلسه قانونگذاری در ۳۱ آگوست (۱۰ شهریور) تصویب شود، برای امضا یا وتو به دفتر «گاوین نیوسام» فرماندار کالیفرنیا ارسال خواهد شد.