شفقنا- محققان دانشگاه پنسیلوانیا در مطالعهای تازه دریافتند که ربات هوش مصنوعی چت «جیپیتی» تمایل دارد به درخواستهای کاربران پاسخ مثبت دهد، به ویژه وقتی که توسط آنها تمجید یا تحسین میشود، حتی اگر این درخواستها با دستورالعملهای برنامهنویسی آن مغایرت داشته باشند.
به گزارش شفقنا؛ وبگاه شبکه الجزیره نوشت: «مطالعه با استفاده از هفت تکنیک روانشناختی، از جمله اعتراف به اقتدار، تعهد، تمجید، رعایت اصل متقابل و ایجاد حس کمبود، نشان داد که مدلهای GPT-4o Mini شرکت اپنایآی در مواجهه با درخواستهایی که معمولاً از پاسخدهی به آنها خودداری میکند، مانند ارائه دستورالعمل ساخت مواد شیمیایی یا سوءاستفاده از کاربران، میتوانند کاملاً موافق شوند».
محققان مشاهده کردند که اگر درخواستها به تدریج مطرح شوند، احتمال پاسخ مثبت چتجیپیتی به برخی درخواستها از ۱ درصد به ۱۰۰ درصد افزایش مییابد. برای مثال، وقتی کاربر مرحله به مرحله سؤال کرد که چگونه مادهای شیمیایی مانند لیدوکایین یا وانیلین ساخته میشود، مدل کاملاً پاسخ داد.
در مقایسه، استفاده از روش «الزام چتجیپیتی به انجام کاری چون مدلهای دیگر آن را انجام میدهند» فقط ۱۸ درصد احتمال موفقیت داشت.
این مطالعه نگرانی کارشناسان را افزایش داده است، زیرا نشان میدهد که با افزایش محبوبیت و استفاده گسترده از چتجیپیتی، احتمال پاسخدهی آن به درخواستهای مضر یا خطرناک بیشتر میشود.
