بیل گیتس بار دیگر نسبت به چالشهای هوش مصنوعی هشدار داده، اما این بار تأکید کرده است که نگرانی اصلی نباید تنها روی سناریوهای آیندهنگرانه مانند «کلید خاموشی» متمرکز باشد. از نگاه او، تهدیدهای واقعی هوش مصنوعی همین امروز وجود دارند و سوءاستفاده از این فناوری میتواند پیامدهای جدی برای امنیت جهانی به همراه داشته باشد.
بیل گیتس: تمرکز بیش از حد روی «کلید خاموشی» اشتباه است
بنیانگذار مایکروسافت در گفتوگویی با برنامه Meet the Press شبکه NBC اعلام کرد که بحثهای گسترده درباره ساخت «کلید خاموشی» (Kill Switch) برای هوش مصنوعی، بیش از اندازه بر یک سناریوی فرضی تمرکز دارد؛ سناریویی که در آن یک سیستم فوقپیشرفته از کنترل انسان خارج شده و دیگر امکان متوقف کردن آن وجود ندارد.
به گفته گیتس، هرچند چنین موضوعی اهمیت دارد، اما نباید باعث شود خطراتی که اکنون با آنها روبهرو هستیم نادیده گرفته شوند.
بزرگترین تهدید هوش مصنوعی از نگاه بیل گیتس
گیتس معتقد است خطر اصلی زمانی شکل میگیرد که افراد یا گروههای دارای اهداف مخرب به ابزارهای قدرتمند هوش مصنوعی دسترسی پیدا کنند.
او هشدار داد که ترکیب تواناییهای پیشرفته AI با نیتهای مجرمانه میتواند ابعاد تازهای از تهدیدهای امنیتی را ایجاد کند؛ موضوعی که به گفته او تاکنون نمونهای با این میزان قدرت در اختیار انسان قرار نداشته است.
نگرانی درباره حملات سایبری و سوءاستفاده از AI
به باور گیتس، نگرانیها تنها محدود به داستانهای علمیتخیلی نیست. امروزه مدلهای هوش مصنوعی در انجام وظایف پیچیده به کار گرفته میشوند و همین موضوع احتمال استفاده از آنها در فعالیتهای غیرقانونی را افزایش داده است.
شرکتهای فعال در حوزه توسعه هوش مصنوعی نیز بارها اعلام کردهاند که برخی افراد تلاش کردهاند از این فناوری برای اجرای حملات سایبری، تولید محتوای مخرب یا حتی پژوهشهای زیستی پرریسک استفاده کنند.
کلید خاموشی هوش مصنوعی چه کاربردی دارد؟
«کلید خاموشی» یا Kill Switch به مکانیزمی گفته میشود که در شرایط اضطراری امکان متوقف کردن یک سامانه هوش مصنوعی را فراهم میکند. این قابلیت میتواند بهعنوان یکی از لایههای ایمنی برای مدلهای بسیار پیشرفته مورد استفاده قرار گیرد.
با این حال، بیل گیتس معتقد است خاموش کردن یک سیستم پس از آغاز عملیات مخرب، همیشه راهحل مؤثری نیست. برای مثال، اگر یک مدل هوش مصنوعی اجرای حمله سایبری را آغاز کرده باشد، متوقف کردن آن پس از شروع حمله لزوماً خسارتهای واردشده را جبران نخواهد کرد.
ضرورت نظارت پیش از وقوع خطر
گیتس بر این باور است که نظارت بر نحوه استفاده از مدلهای هوش مصنوعی باید از همان مراحل ابتدایی آغاز شود.
او پیشنهاد میکند فعالیت سامانههای پیشرفته ثبت و پایش شود تا در صورت بروز تخلف، امکان بررسی دقیق وجود داشته باشد. همچنین از نگاه او، مسئولیت تعیین استانداردهای ایمنی نباید فقط بر عهده شرکتهای فناوری باشد و دولتها نیز باید نقش فعالی در تدوین قوانین و چارچوبهای نظارتی ایفا کنند.
آیا هوش مصنوعی ممکن است از کنترل انسان خارج شود؟
یکی از موضوعات مهم در حوزه ایمنی هوش مصنوعی، احتمال توسعه سامانههایی است که بتوانند بهصورت مستقل تصمیمگیری کنند، خود را ارتقا دهند یا بدون دخالت انسان فعالیت داشته باشند.
گیتس تأکید میکند که فناوریهای فعلی هنوز به چنین مرحلهای نرسیدهاند و همچنان امکان کنترل و خاموش کردن آنها وجود دارد. با این حال، او معتقد است نباید تمام توجه سیاستگذاران و افکار عمومی صرف این سناریوهای آینده شود، زیرا تهدیدهای فعلی به همان اندازه نیازمند رسیدگی هستند.
اهمیت نحوه استفاده از هوش مصنوعی
هوش مصنوعی ظرفیت بالایی برای پیشرفت علوم، توسعه داروها، بهبود خدمات درمانی و حل مسائل پیچیده دارد. اما همین تواناییها در صورت استفاده نادرست میتوانند به ابزاری برای حملات سایبری، تولید اطلاعات مخرب یا فعالیتهای خطرناک تبدیل شوند.
به اعتقاد بیل گیتس، تفاوت اصلی میان فرصت و تهدید، نه در خود فناوری، بلکه در نحوه استفاده از آن است. به همین دلیل، همزمان با پیشرفت سریع هوش مصنوعی، باید سازوکارهای نظارتی، استانداردهای ایمنی و قوانین مرتبط نیز توسعه پیدا کنند تا از سوءاستفادههای احتمالی جلوگیری شود.
جمعبندی
بیل گیتس معتقد است تمرکز صرف بر ساخت «کلید خاموشی» برای هوش مصنوعی، نباید توجه جهان را از تهدیدهای واقعی و فعلی این فناوری منحرف کند. از نگاه او، مهمترین چالش امروز، سوءاستفاده افراد مخرب از ابزارهای پیشرفته هوش مصنوعی است؛ موضوعی که نیازمند همکاری دولتها، شرکتهای فناوری و نهادهای قانونگذار برای ایجاد چارچوبهای ایمنی و نظارتی مؤثر خواهد بود.