شفقنا – شرکت xAI متعلق به ایلان ماسک از مردی اهل ایالت کارولینای جنوبی آمریکا که اوایل امسال به اتهام سوءاستفاده جنسی از افراد زیر سن قانونی بازداشت شده بود، شکایت کرده است. این کمپانی مدعی است که او از ابزار هوش مصنوعی این شرکت برای تولید محتوای جنسی صریح با محوریت یک کودک سوءاستفاده کرده است.
به گزارش سرویس ترجمه شفقنا، این شکایت که روز سهشنبه در دادگاه فدرال ایالت تگزاس ثبت شد، ادعا میکند که تری هاروود آگاهانه شرایط استفاده از خدمات شرکت را نقض کرده تا این محتوا را تولید کند.
در متن شکایت ۱۲ صفحهای آمده است: متهم با استفاده از هویتهای جعلی، چندین حساب کاربری در xAI ایجاد کرد. با وجود اینکه صراحتاً پذیرفته بود به شرایط استفاده از خدمات و سیاست استفاده قابل قبول xAI پایبند باشد، او با طراحی دستورهای گمراهکننده تلاش کرد از سازوکارهای حفاظتی داخلی گروک (Grok) عبور کند و سپس از این ابزار برای تبدیل عکسهای غیرجنسی به تصاویر دارای محتوای جنسی صریح، بدون اطلاع یا رضایت صاحبان تصاویر، سوءاستفاده کرد.
در این شکایت همچنین ادعا شده است که هاروود تصاویر بزرگسالان و همچنین افراد زیر سن قانونی را که ماهیت جنسی نداشتند، بارگذاری کرده و سپس تلاش کرده است نسخههای موسوم به دیپفیک از آنها تولید کند که دارای محتوای جنسی باشند.
«بررسی حسابهای کاربری xAI متعلق به متهم همچنین نشان میدهد که وی در موارد متعدد طی دوره مورد نظر، دستورهایی را به گروک ارائه کرده تا این تصاویر را به شکلی تغییر دهد که افراد موجود در آنها جنسیسازی شوند؛ اما گروک در پاسخ، از اجرای این درخواستها خودداری کرده، زیرا این نوع محتوا با ضوابط نظارت بر محتوای این سامانه مغایرت داشته است.»
در ادامه افزوده شده است: در واکنش به این موضوع، متهم بارها دستورهای دیگری را با تغییراتی ارسال کرد تا از سازوکارهای نظارتی گروک عبور کند.
شرکت xAI علاوه بر درخواست دریافت غرامت مالی ــ که میزان دقیق آن در پرونده مشخص نشده است ــ از دادگاه خواسته است حکمی صادر کند که بر اساس آن، هاروود برای همیشه از استفاده از این پلتفرم، که بیش از ۲ میلیون و ۶۰۰ هزار کاربر دارد، محروم شود.
این نخستین پرونده قضایی است که یک شرکت فعال در حوزه هوش مصنوعی علیه یکی از کاربران خود مطرح میکند. این شکایت در شرایطی مطرح شده که xAI در سراسر جهان به دلیل فراهم کردن امکان تولید چنین محتوایی در این پلتفرم، با نظارت و انتقادهای گسترده روبهرو است.
گروک در واشنگتن زیر ذرهبین قرار گرفته، هدف بررسی و اقدامات نهادهای نظارتی اتحادیه اروپا بوده و به دلیل امکان تولید محتوای جنسی صریح، در هر دو کشور مالزی و اندونزی با ممنوعیت مواجه شده است.
اوایل امسال، ایلان ماسک ادعاها مبنی بر اینکه گروک تصاویر جنسی تولیدشده با هوش مصنوعی از کودکان، بهویژه تصاویر برهنه، تولید کرده است را رد کرد.
ماسک در ماه ژانویه در شبکه اجتماعی ایکس نوشت: من از تولید هیچ تصویر برهنهای از افراد زیر سن قانونی توسط گروک اطلاعی ندارم. واقعاً هیچ.
در شکایت xAI آمده است که این شرکت «قوانین خود را در قبال متخلفان از طریق تعلیق حسابهای کاربری، مسدودسازی دائمی حسابها و همچنین گزارش موارد مشکوک به سوءاستفاده جنسی از کودکان به مرکز ملی کودکان گمشده و مورد سوءاستفاده اجرا میکند».
در این شکایت همچنین اشاره شده است که این پلتفرم تاکنون بیش از ۵۲ هزار حساب کاربری را تعلیق کرده و بیش از ۷۳ هزار گزارش به این سازمان ارائه داده است؛ گزارشهایی که تنها در سال ۲۰۲۶ به نزدیک ۲۵۰ مورد بازداشت منجر شدهاند.
این خبر را اینجا ببینید.