شفقنا- فلوریدا به عنوان اولین ایالت در آمریکا، از شرکت OpenAI به دلیل خطرات ایمنی کودکان شکایت میکند.
به گزارش سرویس ترجمه شفقنا؛ رویترز نوشت: ایالت فلوریدا از شرکت OpenAI و مدیرعامل آن، سم آلتمن، شکایت کرد و این شرکت را به ارائه اطلاعات نادرست در مورد ایمنی پلتفرم ChatGPT متهم نمود. در این شکایت آمده است که این پلتفرم با ارائه اطلاعات به تیراندازان و مهاجمان و نیز ارائه راهنمایی در مورد خودآزاری و اعتیاد به کاربران جوان، به کودکان آسیب رسانده است.
در این شکایت به تیراندازی در دانشگاه تالاهاسی در سال گذشته و تعدادی از رویدادهای دیگر در ایالتها اشاره شده است که در آنها ظاهراً ChatGPT اطلاعاتی را در اختیار افرادی قرار داده است که در نهایت مرتکب خشونت شدهاند.
دادستان ایالت گفته است: ایالت شخصاً از آلتمن نام برده است زیرا او در پیشبرد برخی از ویژگیهای ChatGPT که به گفته اوتمایر مضرترین بودهاند، «نقش بسیار محوری» داشته است. او به خبرنگاران گفت: «مردم آسیب میبینند، والدین فریب میخورند و باید هزینه آن را بپردازند. این دادخواست به دنبال غرامت تا سقف میلیاردها دلار است، به علاوه حکم دادگاه که شرکت را ملزم به تغییر نحوه تعامل با کاربران جوان میکند.
شرکت OpenAI در این مورد خاص گفته است: مدلهای خود را آموزش میدهد تا درخواستهایی را که میتوانند «به طور معناداری خشونت را فعال کنند» رد کرده و هنگامی که مکالمات حاکی از «خطر قریبالوقوع و معتبر آسیب به دیگران» باشد، به مجریان قانون اطلاع دهند و متخصصان سلامت روان به ارزیابی موارد مرزی کمک میکنند. با این حال شرکتهای هوش مصنوعی مدتها است به تلاش برای کسب درآمد بدون توجه به عواقب فناوری خود متهم هستند.
این خبر را در رویترز ببینید