شفقنا – با وجود پتانسیل عظیم هوش مصنوعی در تسریع کشف دارو و پروتئینها، یک خطر جدی در حال ظهور است: همان ابزارهای هوش مصنوعی میتوانند برای توسعه پاتوژنها و سموم خطرناک جدیدی استفاده شوند که پروتکلهای امنیتی کنونی را دور میزنند.
به گزارش سرویس ترجمه شفقنا، در یک مطالعه جدید، محققان مایکروسافت با استفاده از یک تست شبیهسازی هکرها نشان دادند که توالیهای ژنتیکی تولیدشده توسط هوش مصنوعی میتوانند از نرمافزارهای امنیتی مورد استفاده توسط تولیدکنندگان DNA فرار کنند.
هنگامی که شرکتهای بیوتکنولوژی برای محققان DNA تولید میکنند، از نرمافزار غربالگری زیستامنیتی (BSS) استفاده میکنند تا توالیهای جدید را با پایگاه دادهای از تهدیدات شناختهشده مقایسه کنند. نقطه ضعف این سیستم آن است که تنها میتواند تهدیدات موجود در پایگاه داده را تشخیص دهد.
محققان مایکروسافت برای آزمایش این شکاف امنیتی، مراحل زیر را طی کردند:
طراحی سموم جدید: آنها از برنامههای هوش مصنوعی عمومی برای ایجاد بیش از ۷۶,۰۰۰ توالی مصنوعی از انواع خطرناک پروتئینهای شناختهشده، از جمله ریسین (ricin)، استفاده کردند. (توجه: آنها پروتئینها را تولید نکردند، بلکه دستورالعملهای ژنتیکی را طراحی کردند.)
غربالگری: سپس این توالیها را از طریق چهار نرمافزار غربالگری مختلف عبور دادند.
نتیجه شوکهکننده: درصد قابلتوجهی از این توالیهای طراحیشده توسط هوش مصنوعی به راحتی از سد بازرسی عبور کردند.
پس از کشف این نقاط ضعف، تیم مایکروسافت با ارائهدهندگان نرمافزار BSS همکاری کرد تا پچهایی را توسعه دهند. این اقدامات شامل بهروزرسانی پایگاه داده تهدیدات و تنظیم دقیق نرمافزار غربالگری بود.
در یک آزمایش مجدد، ابزارهای تقویتشده توانستند ۹۷ درصد از خطرناکترین توالیها را تشخیص دهند. با این حال، حتی با این بهروزرسانیها، ۳ درصد از توالیهای بالقوه خطرناک همچنان از دید سیستم پنهان ماندند، که نشان میدهد سیستم کاملاً ضد خطا نیست.
این تحقیق یک هشدار واضح است، برای ساخت دفاعی قوی در برابر تکنیکهای هوش مصنوعی که روزبهروز پیچیدهتر میشوند، تلاش بیشتری لازم خواهد بود. یک رقابت تسلیحاتی تکاملی مداوم اجتنابناپذیر است؛ درست مانند نیاز به بهروزرسانی واکسنها در برابر جهشهای ویروسی، ابزارهای غربالگری زیستامنیتی نیز باید دائماً برای مقابله با تهدیدات تولیدشده توسط هوش مصنوعی بهروزرسانی شوند.
این خبر را اینجا ببینید.
