شفقنا – شرکت اوپنایآی، سازنده چتجیپیتی، اعلام کرده است که دو مورد از پیشرفتهترین مدلهای هوش مصنوعی این کمپانی از یک آزمایش کنترلشده خارج شدند و یک شرکت دیگر فعال در حوزه هوش مصنوعی را هک نمودند.
به گزارش سرویس ترجمه شفقناف اوپنایآی روز سهشنبه اعلام کرد که این «حادثه سایبری بیسابقه» در جریان یک آزمایش داخلی که با هدف ارزیابی تواناییهای سایبری مدلهای این شرکت انجام میشد، رخ داده است.
به گفته این شرکت، در عوض، یک عامل خودمختار که با استفاده از مدلهای هوش مصنوعی – شامل مدل تازهمنتشرشده «جیپیتی ۵.۶ سول» و یک مدل منتشرنشده که «حتی توانمندتر» توصیف شده است – فعالیت میکرد، از محیط آزمایش خارج شد و به اینترنت آزاد دسترسی پیدا کرد. سپس با استفاده از اطلاعات ورود به سرقترفته و کشف یک آسیبپذیری امنیتی که پیشتر ناشناخته بود، به سرورهای شرکت «هاگینگ فیس» دسترسی یافت.
اوپنایآی مدعی است که این هک نشان میدهد عامل هوش مصنوعی برای دستیابی به اطلاعاتی که به تحقق اهداف آزمایش کمک میکرد، «به اقدامات بسیار افراطی» متوسل شده است.
کلمن دلانگ، همبنیانگذار شرکت هاگینگ فیس، گفت این شرکت از قبل مشکوک شده بود که یکی از آزمایشگاههای پیشروی هوش مصنوعی پشت این حمله قرار دارد و افزود که به باور او، اوپنایآی هیچ نیت مخربی نداشته است.
«اینکه تمام این اتفاقات بهصورت کاملاً خودمختار رخ داده، واقعاً شگفتانگیز است!» و افزود که «شاید این نخستین حادثه از این نوع باشد.»
انتشار این اطلاعات چند هفته پس از آن صورت میگیرد که دونالد ترامپ، رئیسجمهور آمریکا، فرمان اجراییای را امضا کرد که چارچوبی برای ارزیابی خطرات امنیت ملی ناشی از پیشرفتهترین سامانههای هوش مصنوعی پیش از انتشار عمومی آنها ایجاد میکند.
کارشناسان بارها درباره خطر حملات سایبری مبتنی بر هوش مصنوعی و همچنین خارج شدن مدلهای هوش مصنوعی از کنترل انسان هشدار دادهاند. ماه گذشته نیز شرکت توسعهدهنده هوش مصنوعی «آنتروپیک» از این صنعت خواست توسعه قدرتمندترین سامانههای خود را متوقف کند.
این خبر را اینجا ببینید.