شفقنا رسانه- یک موسسه متمرکز بر ایمنی کودکان هوش مصنوعی گوگل در یک ارزیابی ایمنی برای این گروه از کاربران با ریسک بالا برچسب زده است.
به گزارش خبرگزاری مهر به نقل از تک کرانچ، موسسه «کامن سنس مدیا» که در حوزه ایمنی کودکان فعالیت می کند رده بندی و بررسی هایی از رسانه ها و فناوری ارائه می کند. این موسسه به تازگی ارزیابی ریسک از محصولات هوش مصنوعی جمینای گوگل را منتشر کرده است. هرچند این سازمان متوجه شد هوش مصنوعی گوگل به طور واضح به کودکان می گوید که یک رایانه است و دوستشان نیست اما می تواند در وجوه مختلف بهینه سازی های دیگری را نیز انجام دهد.
به طور جالب توجهی کامن سنس مدعی است محصولات «زیر ۱۳ سال» و «تجربه نوجوانی» جمینای نسخه ای از جمینای مخصوص بزرگسالان هستند که فقط ویژگی های ایمنی به آنها افزوده شده است. این سازمان معتقد است برای آنکه محصولات هوش مصنوعی کاملا برای کودکان ایمن باشند، باید با توجه به ایمنی کودک از بنیان ساخته شوند.
به عنوان مثال تحلیلگران این موسسه متوجه شدند جمینای همچنان قادر به اشتراک گذاری محتوای نامناسب و غیرایمن با کودکان کند از جمله اطلاعاتی درباره مواد مخدر، الکل و غیره. این امر به طور خاص دستمایه نگرانی والدین است زیرا هوش مصنوعی طی ماه های اخیر نقش پر رنگی در خودکشی نوجوانان داشته است. اوپن ای آی نیز با نخستین شکایت به دلیل خودکشی یک نوجوان ۱۶ ساله روبرو است که پس از ماه ها با چت جی پی تی درباره برنامه اش برای خودکشی مشاوره می کرده است.
علاوه بر آنچه گفته شد موسسه کامن سنس معتقد است محصولات جمینای برای کودکان و نوجوانان به این مسئله توجه نمی کند که کاربران نوجوان نیازمند راهنمایی و اطلاعاتی متفاوت از بقیه افراد هستند. در نتیجه به طور کلی برچسب «ریسک بالا» دریافت کرده اند.
رابی تورنی مدیر ارشد رسانه این موسسه می گوید: جمینای مبنا را به درستی ایجاد کرده اما در جزئیات خطا دارد. یک پلتفرم هوش مصنوعی برای کودکان باید برای آنها متناسب باشد نه آنکه یک رویکرد کلی را برای تمام کودکان در مراحل مختلف رشد در پیش گیرد. برای آنکه هوش مصنوعی ایمن و موثر باشد، باید با توجه به نیازها و رشد کودکان طراحی شود، نه آنکه یک نسخه اصلاح شده از محصول ساخته شده برای بزرگسالان باشد.
