شفقنا – تنها یک روز پس از آنکه سه پژوهشگر شرکت آنتروپیک هشدار دادند که هوش مصنوعی می‌تواند ظرف یک دهه بشریت را از بین ببرد، قانونگذاران آمریکایی حملات لفظی خود را درباره خطرات این فناوری رو به گسترش آغاز کرده‌اند.
به گزارش سرویس ترجمه شفقنا، تد کروز، سناتور جمهوری‌خواه ایالت تگزاس، در مصاحبه‌ای با ای‌بی‌سی گفت که هوش مصنوعی یک «خطر فاجعه‌بار» ایجاد می‌کند.
«من تمام آن رشته‌توییتی را که آن توسعه‌دهنده منتشر کرده بود خواندم. واقعاً بسیار نگران‌کننده بود.»
کروز افزود: این موضوع من را یاد سال گذشته انداخت که ایلان ماسک را به پادکستم دعوت کرده بودم… یکی از سؤالاتی که از او پرسیدم این بود: «خب، احتمال اینکه هوش مصنوعی بشریت را نابود کند چقدر است؟» او به من نگاه کرد و گفت: «۱۰ تا ۲۰ درصد». و من با خودم گفتم: «وای خدای من!»»
در سوی کاملاً مخالف طیف سیاسی، برنی سندرز، سناتور مستقل ایالت ورمونت، گفت: یک نظرسنجی اخیر نشان می‌دهد که مردم آمریکا با اکثریتی قاطع خواهان ممنوعیت ابرهوش مصنوعی و توقف توسعه هوش مصنوعی تا زمانی هستند که استانداردهای ایمنی روشنی تعیین کنیم.
این موج خشم پس از آن آغاز شد که جیکوب کاکسون، یکی از کارکنان آنتروپیک، روز سه‌شنبه در شبکه‌های اجتماعی اعلام کرد که از این شرکت استعفا می‌دهد. او گفت هوش مصنوعی به‌زودی به «سامانه‌هایی فراتر از توانایی‌های انسانی» تبدیل خواهد شد که می‌توانند تا سال ۲۰۳۰ باعث انقراض انسان شوند.
کاکسون نوشت: من سه سال گذشته را صرف پژوهش درباره پیش‌آموزش [مدل‌های هوش مصنوعی] در هر دو شرکت اوپن‌اِی‌آی و آنتروپیک کرده‌ام. هیچ‌کدام از این دو شرکت مسئولانه عمل نمی‌کنند. آنها با سرعت تمام به سمت ابرهوشیِ خودبهبوددهنده پیش می‌روند و با جان ما قمار می‌کنند.
پس از انتشار پست کاکسون، دست‌کم دو کارمند دیگر آنتروپیک نیز در حمایت از این پیش‌بینی‌ها واکنش نشان دادند. یکی از آنها گفت: ما واقعاً و از صمیم قلب معتقدیم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد!
کروز و سندرز هر دو در حال کار روی قوانینی هستند که برای هوش مصنوعی محدودیت‌ها و سازوکارهای حفاظتی تعیین کند و روز چهارشنبه نیز همین نگرانی را تکرار کردند. قانونگذاران دیگری نیز از کنگره خواستند دست به اقدام بزند.
تد لیو، نماینده دموکرات ایالت کالیفرنیا، گفت پست کاکسون «نمونه شماره ۷۳۹ از دلایلی است که نشان می‌دهد چرا باید هرچه سریع‌تر لایحه دوحزبی “کلید خاموش هوش مصنوعی” را تصویب کنیم».
لوری ترهان، نماینده دموکرات ایالت ماساچوست، نیز گفت: مدت‌هاست زمان آن رسیده که کنگره از زیر سایه بیرون بیاید و وظیفه خود را انجام دهد.
«پژوهشگران حوزه ایمنی استعفا می‌دهند، مدل‌های قدرتمند هوش مصنوعی از آزمایشگاه‌هایشان خارج می‌شوند و شرکت‌ها با این حال همچنان با سرعت به پیش می‌روند.»
این موج خشم پس از آن شکل گرفت که هر دو شرکت اوپن‌اِی‌آی و آنتروپیک فاش کردند برخی از عوامل هوش مصنوعی آنها طی یکی دو ماه گذشته در جریان عملیات هک، از کنترل خارج شده و دست به اقدامات خودسرانه زده‌اند.
مدیران این شرکت‌ها قدرت فناوری خود را مورد تأکید قرار داده و درباره ظرفیت‌های بالقوه آن هشدار داده‌اند، اما در پیش‌بینی‌هایی مانند اظهارات کاکسون تا این حد پیش نرفته‌اند.
آنتروپیک روز چهارشنبه گزارشی مفصل درباره حوادث امنیت سایبری مرتبط با این موارد منتشر کرد. این شرکت گفت صدها میلیون متن مکالمات و گزارش‌ها را برای یافتن حوادث احتمالی بیشتر بررسی کرده و «هیچ مورد دیگری با شدت مشابه یا شدیدتر» پیدا نکرده است.
آنتروپیک تأکید کرد که اگرچه اقدامات این عامل هوش مصنوعی «با اهداف مورد نظر همسو نبود»، اما همچنان «در محدوده‌ای محدود» باقی ماند.
سخنگوی آنتروپیک در بیانیه‌ای گفت: ما همواره شفاف بوده‌ایم که هوش مصنوعی هم مزایای عظیم و هم خطرات بی‌سابقه‌ای به همراه خواهد داشت. برای مقابله با این خطرات، ما همچنان در حال ساخت مدل‌هایی با برخی از قوی‌ترین سازوکارهای حفاظتی در صنعت هستیم.
این سخنگو افزود که صنعت فناوری باید با یکدیگر همکاری کند «تا سرعت و نحوه عرضه مدل‌های قدرتمند را مدیریت کنیم».
این خبر را اینجا ببینید.