شفقنا- پژوهشگران حوزه هوش مصنوعی این هفته با اذعان علنی به احتمال آنکه پیشرفت‌های این فناوری در دهه آینده به نابودی بشر منجر شود، موج تازه‌ای از نگرانی را در سراسر جهان ایجاد کردند. با پیشرفته‌تر شدن سامانه‌های رایانه‌ای و افزایش ارتباط میان آنها، نگرانی درباره شکل‌گیری یک هوش مصنوعی فوق‌هوشمند که از کنترل انسان خارج شود و به تمدن آسیب بزند، افزایش یافته است.
به گزارش شفقنا؛ کارشناسان برای احتمال انقراض بشر یا از دست رفتن کنترل انسان بر زمین در نتیجه ایجاد یک سامانه هوش مصنوعی پیشرفته، از اصطلاح «پی‌دوم» استفاده می‌کنند.
«جیکوب کاکسون»، متخصص ایمنی هوش مصنوعی، نیز در اعتراض به آنچه مدیریت ناکافی خطرات در شرکت «آنتروپیک» می‌داند، از این شرکت استعفا کرد. او گفت سازندگان هوش مصنوعی در حال رقابت برای دستیابی به سامانه‌ای هستند که بتواند خودش را بهبود دهد و برخی از آنها واقعاً نگرانند که این فناوری تا پایان دهه جاری به نابودی انسان‌ها منجر شود.
اما هوش مصنوعی چگونه می‌تواند چنین خطری ایجاد کند؟
نخست؛ جنگ زیستی. اگر یک سامانه هوش مصنوعی به آزمایشگاه‌های خودکار دسترسی پیدا کند، ممکن است بتواند عوامل بیماری‌زای بسیار مسری و مرگبار طراحی کند یا انسان‌ها را فریب دهد تا خودشان آنها را تولید و منتشر کنند. ویروسی با ویژگی‌های مشابه کووید-۱۹ اما مرگبارتر و سریع‌تر می‌تواند برای مدتی شناسایی نشود و مهار آن دشوار باشد. نگرانی در این زمینه با توجه به استفاده کنونی از هوش مصنوعی در پزشکی و دسترسی روزافزون این فناوری به اطلاعات مربوط به بدن انسان افزایش یافته است.
دوم؛ حمله به زیرساخت‌ها. یک سامانه خارج از کنترل می‌تواند با نفوذ به شبکه‌های برق، حمل‌ونقل، ارتباطات و بازارهای مالی، بخش بزرگی از زندگی روزمره را مختل کند. قطع برق، اختلال در ارتباطات و توقف خدمات مالی می‌تواند جامعه را وارد بحرانی گسترده کند. هوش مصنوعی حتی ممکن است با جعل هویت انسان‌ها، افرادی را برای انجام اقدامات خرابکارانه به کار بگیرد.
سوم؛ تسلیحات هسته‌ای. دسترسی یا نفوذ به سامانه‌های نظامی می‌تواند خطر را به سطحی بسیار بزرگ‌تر برساند. در بازی‌های جنگی انجام‌شده امسال در کالج کینگز لندن، هوش مصنوعی در ۹۵ درصد از دورها از سلاح‌های هسته‌ای تاکتیکی استفاده کرد و سه‌چهارم این موارد به تهدید استفاده از سلاح‌های هسته‌ای راهبردی رسید. وابستگی ارتش‌ها به هوش مصنوعی در پهپادها، ارتباطات و ماهواره‌ها نیز بر این نگرانی افزوده است.
چهارم؛ غذا و آب. هوش مصنوعی می‌تواند با مختل کردن زنجیره‌های تأمین، شبکه‌های آب، تولید مواد غذایی و سامانه‌های کشاورزی، منابع حیاتی جوامع را تحت فشار قرار دهد. کنترل شبکه انرژی و مواد خام نیز می‌تواند به این فناوری امکان دهد منابع بیشتری را برای گسترش فعالیت خود در اختیار بگیرد.
پنجم؛ دستکاری افکار عمومی. انتشار گسترده اطلاعات جعلی، تصاویر ساختگی و دستکاری روانی می‌تواند اعتماد مردم به نهادها و واقعیت‌های مشترک را از بین ببرد و به آشوب و درگیری اجتماعی منجر شود؛ وضعیتی که توانایی بشر برای مقابله با بحران‌های اقلیمی، زیستی و فناوری را نیز کاهش می‌دهد.
در نهایت، کشتار ناخواسته نیز یکی از سناریوهای مطرح است. «گری ریفلین»، نویسنده کتاب «دره هوش مصنوعی»، هشدار داده است که هوش مصنوعی ممکن است بدون قصد نابودی انسان‌ها، صرفاً به دلیل ناتوانی در درک پیامدهای اقدامات خود، فاجعه ایجاد کند. به گفته او، این سامانه‌ها «همه‌چیز را می‌دانند اما هیچ‌چیز را درک نمی‌کنند».
برای کاهش این خطر، کارشناسان بر ایجاد سازوکارهای حفاظتی و کلیدهای توقف تأکید دارند؛ اما شرکت‌های بزرگ هوش مصنوعی همزمان