به گزارش شفقنا رسانه از ایرنا، چتجیپیتی، محصول شرکت اوپن ایآی، برای بسیاری از کاربران حکم دستیاری دیجیتال را دارد که میتواند متن بنویسد، کد تصحیح کند، نتایج پزشکی را تحلیل کند یا حتی کمک کند کودکی را بخوابانند. اما در پشت این پاسخهای صمیمی، الگوریتمهایی قرار دارند که از هر تعامل چیزهایی میآموزند.
در طول این سالها چتجیپیتی نه تنها یاد گرفته که برای مثال شما عاشق تخممرغ هستید و کمردرد دارید، بلکه جزئیاتی بسیار شخصیتر را نیز به خاطر سپرده است.
در واقع ابزارهایی مانند چتجیپیتی با هدف شخصیسازی پاسخها و بهبود عملکرد آتی خودشان جزئیات فردی بسیاری را، از وضعیت جسمی کاربران گرفته تا برخی مسائل بسیار خصوصی، به حافظه میسپارند.
اگرچه کاربران میتوانند این قابلیت را از طریق تنظیمات غیرفعال کنند، با این حال از آنجا که شمار زیادی از افراد در این باره بیتفاوت هستند اطلاعات بسیار زیادی میتواند در اختیار چت جیپیتی گذاشته شود. اما چه چیزی را نباید گفت؟ و چرا؟
بر اساس هشدارهای کارشناسان، پنج نوع اطلاعات وجود دارد که نباید در گفت وگو با چتباتها وارد شوند چرا که ممکن است این اطلاعات در فرآیند آموزش مدلها، اشتباهات سیستمی و یا حتی در حملات سایبری مورد سوءاستفاده قرار بگیرند.
این اطلاعات عبارتند از:
۱. اطلاعات هویتی: مانند شمارهی شناسنامه، گواهینامه، گذرنامه، آدرس، شماره تلفن و تاریخ تولد. برخی چتباتها تلاش میکنند این موارد را سانسور کنند، اما تضمینی وجود ندارد.
۲. نتایج آزمایشات پزشکی: چتباتها مشمول قوانین سختگیرانه محافظت از دادههای درمانی نیستند. در صورت نیاز، فقط نتایج آزمایشات را بدون اطلاعات هویتی بارگذاری کنید.
۳. اطلاعات مالی: مانند شماره حسابهای بانکی یا سرمایهگذاری، که در صورت افشای ناخواسته میتوانند تبعات جدی داشته باشند.
۴. اطلاعات محرمانه سازمانی: بسیاری از کاربران در حین کار از چتباتها برای نوشتن ایمیل یا بررسی کد استفاده میکنند، اما همین کار میتواند اطلاعات حساس کاری یا کدهای محرمانه را فاش کند.
۵. رمزهای عبور و نام کاربری: چتباتها فضای امن برای ذخیرهی رمز یا گاوصندوق دیجیتال نیستند. این اطلاعات باید در نرمافزارهای مدیریت رمز عبور نگهداری شوند.
شرکتهای بزرگی چون اوپن ایآی، گوگل و مایکروسافت از مکالمات کاربران برای بهبود مدلهای خود استفاده میکنند. اگرچه کاربران میتوانند در تنظیمات گزینه عدم استفاده از دادهها برای آموزش را فعال کنند، اما بسیاری از افراد از این قابلیت بیخبر هستند.
