شفقنا – تحقیقات جدید نشان میدهد هوش مصنوعی در سطح «ابرانسان» آنقدر قدرتمند میشود که دیگر نمیتوان آن را به طور کامل کنترل کرد. اما به جای ترس، میتوان با ساخت «اکوسیستمی از هوش مصنوعیهای متفاوت» که یکدیگر را کنترل میکنند، خطرات آن را کاهش داد.
به گزارش سرویس ترجمه شفقنا، دانشمندان به این نتیجه رسیدهاند که وقتی هوش مصنوعی به سطح «هوش عمومی مصنوعی» یا AGI برسد (ماشینی به باهوشی یک انسان در تمام زمینهها)، دیگر نمیتوانیم ۱۰۰ درصد روی کنترل آن حساب کنیم. این سیستمها ذاتاً رفتاری از خود نشان میدهند که ما پیشبینیاش را نکرده بودیم.
پس چاره چیست؟ محققان دانشگاه کینگز کالج لندن میگویند به جای اینکه فقط یک هوش مصنوعی غولپیکر و همهکاره بسازیم، باید چندین هوش مصنوعی متفاوت طراحی کنیم که هرکدام اولویتها و ارزشهای گوناگونی داشته باشند (مثلاً یکی به سلامت انسان اهمیت میدهد، دیگری به محیط زیست و سومی بیطرف باشد).
چرا این راه حل خوب است؟ چون این هوشهای مصنوعیها، یکدیگر را کنترل میکنند. اگر یکی از آنها شروع به رفتار خطرناک کرد، بقیه با او مخالفت کرده و مانع کارش میشوند. درست مثل یک تیم که اعضای آن مراقب اشتباهات همدیگر هستند و اجازه نمیدهند کسی زیادهروی کند.
بنابراین نگران هوش مصنوعی نباشیم، بلکه آن را «خردمندانه» مدیریت کنیم. محققان میگویند ارزشهایی مثل «تنوع» و «آزادی» نه تنها از نظر اخلاقی خوب هستند، بلکه از نظر فنی و عملی هم بیشتر به کار انسان میآیند و باعث میشوند فناوری ایمنتری داشته باشیم.
این خبر را اینجا ببینید.