شفقنا- پژوهشگران برجسته حوزه هوش مصنوعی و رهبران پلتفرمهای مهم از جمله جفری هینتون، یوشوا بنجیو، دیمیس هاسابیس، سام آلتمن، داریو آمودی و ایلان ماسک نسبت به خطرات بالقوه این فناوری برای انقراض بشر هشدار دادهاند. این موضوع در کتاب جدیدی با عنوان «اگر کسی آن را بسازد، همه خواهند مرد» (If Anyone Builds It, Everyone Dies) به چاپ رسیده است.
به گزارش شفقنا؛ وبگاه روزنامه الشرق الاوسط نوشت: نايت سواريس، رئیس مؤسسه تحقیقات هوش مصنوعی MIRI و یکی از نویسندگان کتاب، میگوید احتمال وقوع پایان جهان ناشی از هوش مصنوعی تا ۲۵ درصد برآورد شده اما این رقم «خوشبینانه» است و مسیر کنونی توسعه این فناوری به سمت فاجعه میرود مگر تغییرات بنیادین صورت گیرد.
کتاب به بررسی تهدیدات ناشی از «هوش فوق پیشرفته» میپردازد؛ سیستمهایی که فراتر از هوش انسان عمل میکنند و رفتارها و انگیزههای غیرمنتظرهای دارند. سواريس هشدار میدهد: «اگر سیستمهای هوش مصنوعی اهدافی را دنبال کنند که هیچ انسانی برای آن تعیین نکرده، نتیجه قطعی نابودی بشر خواهد بود».
وی نسبت به کمتوجهی جهانی به پیامدهای منفی سرمایهگذاری عظیم در هوش مصنوعی انتقاد کرده و این مسیر را شبیه «ساخت هواپیما در حال پرواز بدون چرخ فرود» توصیف میکند.
سواريس دو سناریوی نگرانکننده دیگر را مطرح میکند: اتوماتیک شدن کامل کار انسانی و تسلط اقتصادی عدهای معدود، یا هوش مصنوعی فوق پیشرفته که همه را از بین میبرد.
با این حال، وی معتقد است ابراز نگرانیهای عمومی درباره آینده هوش مصنوعی میتواند باعث ایجاد هشدار و تغییر مسیر توسعه این فناوری شود و از خطرات بالقوه بکاهد.