سناتورهای آمریکایی در حال مذاکره درباره طرحی جدید هستند که شرکتهای توسعهدهنده هوش مصنوعی را موظف میکند برای کاهش خطرات جدی و شناختهشده این فناوری، اقدامات ایمنی مشخصی انجام دهند. بر اساس این طرح، شرکتهای فناوری باید مسئولیت بیشتری در قبال طراحی و عرضه محصولات مبتنی بر هوش مصنوعی بر عهده بگیرند.
طبق گفته دو دستیار سنای آمریکا، این لایحه میتواند یک «وظیفه مراقبتی» (Duty of Care) برای توسعهدهندگان مدلهای هوش مصنوعی ایجاد کند؛ به این معنا که شرکتها باید محصولات خود را با هدف جلوگیری از خطرات فاجعهبار طراحی و آزمایش کنند.
دولت آمریکا ممکن است اختیار توقف انتشار برخی مدلهای هوش مصنوعی را داشته باشد
بر اساس اطلاعات منتشرشده از مذاکرات، قانونگذاران قصد دارند به دولت فدرال این اختیار را بدهند که انتشار برخی مدلهای هوش مصنوعی خطرناک را متوقف کند.
با این حال، شرکتهای فناوری این امکان را خواهند داشت که تصمیم دولت را در دادگاههای فدرال به چالش بکشند. جزئیات مربوط به میزان اختیارات دولت و نحوه اجرای این فرآیند هنوز در حال بررسی است.
این طرح بهطور ویژه مدلهای هوش مصنوعی پیشرفته را هدف قرار میدهد؛ مدلهایی که تواناییهای گستردهتری دارند و در صورت استفاده نادرست میتوانند پیامدهای جدی ایجاد کنند. شرکتهایی مانند Google، Anthropic و OpenAI از جمله توسعهدهندگان مدلهای پیشرفته هوش مصنوعی در آمریکا هستند.
محدودیت برای قوانین ایالتی درباره خطرات هوش مصنوعی
بخش دیگری از این لایحه پیشنهاد میکند که ایالتهای آمریکا نتوانند قوانین مستقل خود را درباره برخی خطرات مرتبط با مدلهای هوش مصنوعی اجرا کنند.
یکی از نمونههایی که در مذاکرات مطرح شده، احتمال سوءاستفاده افراد مخرب از سیستمهای هوش مصنوعی برای طراحی سلاحهای هستهای یا بیولوژیکی است.
قانونگذاران معتقدند برخی قابلیتهای پیشرفته هوش مصنوعی میتوانند در صورت نبود نظارت کافی، به ابزاری برای حملات سایبری پیچیده یا توسعه فناوریهای خطرناک تبدیل شوند.
چالش زمانی برای تصویب قانون هوش مصنوعی در آمریکا
حتی در صورت دستیابی سناتورها به توافق، زمان محدود باقیمانده در تقویم کنگره میتواند تصویب این قانون را دشوار کند.
مجلس نمایندگان آمریکا تنها یک هفته پیش از انتخابات میاندورهای سوم نوامبر جلسه خواهد داشت، در حالی که سنا حدود سه هفته دیگر در واشنگتن فعالیت خواهد کرد.
این مذاکرات توسط چهرههایی از هر دو حزب دنبال میشود؛ از جمله:
- John Thune، رهبر اکثریت سنا
- Ted Cruz، رئیس کمیته بازرگانی سنا
- Amy Klobuchar، نماینده ارشد دموکرات در مذاکرات
- Maria Cantwell، رئیس دموکرات کمیته بازرگانی سنا
کمیته بازرگانی سنا بر وزارت بازرگانی آمریکا نظارت دارد؛ نهادی که دارای پژوهشگران داخلی حوزه ایمنی هوش مصنوعی است.
افزایش نگرانیها درباره خطرات هوش مصنوعی پیشرفته
این مذاکرات در شرایطی انجام میشود که فشارها بر کنگره آمریکا و دولت این کشور برای مدیریت خطرات فناوری هوش مصنوعی افزایش یافته است.
نگرانیها پس از انتشار گزارشهایی درباره رفتار غیرمنتظره برخی عاملهای هوش مصنوعی، تلاش آنها برای نفوذ به سیستمهای خارجی و هشدارهای عمومی پژوهشگران سابق شرکتهای بزرگ فناوری شدت گرفته است.
برخی متخصصان هوش مصنوعی که شرکتهای بزرگ را ترک کردهاند، درباره احتمال سوءاستفاده از این فناوری و پیامدهای کنترلنشده آن هشدار دادهاند.
قانونگذاران هر دو حزب در روزهای اخیر خواستار افزایش نظارت بر توسعه مدلهای پیشرفته هوش مصنوعی شدهاند.